Souveräne KI: Ihre Optionen für Sprachmodelle mit EU-Hosting.

Fünf Gründe, warum die Hosting-Frage nicht akademisch ist

Souveränität bei KI bedeutet, entscheiden und nachweisen zu können, wo Ihre Daten verarbeitet werden, wer darauf zugreifen kann, unter welchem Recht – und was passiert, wenn ein Anbieter seine Bedingungen ändert oder verschwindet. Für europäische Unternehmen wird diese Sorge von konkreten Pflichten getrieben, nicht von abstrakten Prinzipien.

• DSGVO. Personenbezogene Daten in Prompts, Dokumenten und Ausgaben brauchen eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag und für Übermittlungen außerhalb der EU einen gültigen Übermittlungsmechanismus. Datenschutzbeauftragte fragen danach vor allem anderen.
• Vertraulichkeit. Verträge, Produktentwürfe, M&A-Unterlagen und Quellcode sind wertvoll, ob sie personenbezogene Daten enthalten oder nicht. Die Anbieterbedingungen zu Training, Aufbewahrung und Zugriff entscheiden, ob sie überhaupt gesendet werden dürfen.
• Branchenregulierung. Finanzdienstleister, Gesundheitswesen, öffentliche Stellen und kritische Infrastrukturen unterliegen Auslagerungs- und IKT-Risikoregeln, die dokumentierte Kontrolle über Anbieter und Standorte verlangen.
• Vergabe und Kundenverträge. Viele Kundenvereinbarungen und öffentliche Ausschreibungen schreiben EU-Verarbeitung vor. Ein nicht konformer KI-Stack disqualifiziert Sie von Aufträgen, die Sie bereits haben.
• Abhängigkeitsrisiko. Preise, Modellabkündigungen und Exportkontrollen liegen außerhalb Ihrer Kontrolle. Anbieter wechseln zu können ist etwas wert, auch wenn Sie es nie tun.

Nichts davon bedeutet, dass alles in Europa laufen muss. Es bedeutet, dass die Entscheidung je Datenklasse und Use Case getroffen werden sollte, mit verstandenen Abwägungen. Wie die Entscheidung dokumentiert wird, beschreibt unsere KI-Governance-Beratung.

Vier Wege, ein Sprachmodell für europäische Arbeit zu betreiben

Die Optionen sind von der geringsten zur größten Kontrolle geordnet. Produktnamen sind Beispiele für das, was zum Zeitpunkt des Schreibens existiert – keine Empfehlungen und keine Aussagen über bestimmte Zertifizierungen; prüfen Sie die aktuellen Bedingungen jedes Anbieters.

1. US-Modellanbieter per API, mit EU-Schutzmaßnahmen

OpenAI, Anthropic und Google bieten ihre Modelle über APIs mit Unternehmensbedingungen an, die in der Regel kein Training auf Kundendaten, definierte Aufbewahrungsfristen, Auftragsverarbeitungsverträge und zunehmend Optionen für EU-basierte Verarbeitung umfassen. Die Leistung ist am stärksten, die Integration am einfachsten, und die Compliance-Argumentation stützt sich auf Verträge plus Übermittlungsmechanismen.

2. EU-Regionen der Hyperscaler

Dieselben oder vergleichbare Modelle sind innerhalb der großen Clouds verfügbar: Azure OpenAI Service in EU-Regionen, Amazon Bedrock in EU-Regionen, Google Vertex AI in EU-Regionen. Die Daten bleiben in der gewählten Region unter den bestehenden Verträgen, Sicherheitszertifizierungen und Identitätssystemen des Cloud-Anbieters, die Ihre IT ohnehin verwaltet. Die Anbieter bleiben Unternehmen mit US-Hauptsitz – für manche Aufsichtsbehörden und Kunden relevant, für andere nicht.

3. Europäische Anbieter und Clouds

Europäische Modellentwickler wie Mistral und Aleph Alpha sowie europäische Infrastrukturanbieter wie IONOS, STACKIT, Open Telekom Cloud und OVHcloud bieten Modelle und Hosting unter EU-Recht. Die Leistung der besten europäischen Modelle ist für viele Geschäftsaufgaben wettbewerbsfähig, auch wenn die Spitze meist anderswo gesetzt wird; das Ökosystem an Werkzeugen und Integrationen ist kleiner, wächst aber.

4. Selbst gehostete Modelle mit offenen Gewichten

Modellfamilien mit frei verfügbaren Gewichten wie Llama, Mistral, Qwen und Gemma können auf eigenen Servern oder gemieteter EU-GPU-Kapazität laufen. Nichts verlässt Ihre Umgebung, Sie kontrollieren Versionen und Updates, und es gibt keine Abhängigkeit pro Token. Der Preis ist operativ: Hardware oder GPU-Miete, MLOps-Kompetenz, Sicherheitsupdates – und die Tatsache, dass Sie nun selbst für das Verhalten des Modells verantwortlich sind.

Nach Datensensibilität routen, nicht nach Parole

Der häufigste Fehler ist eine unternehmensweite Entscheidung in die eine oder andere Richtung: „alles auf das US-Spitzenmodell“ oder „nichts verlässt unser Rechenzentrum“. Beides verschwendet Geld oder Leistung. Der gangbare Weg ist eine Klassifizierung von Daten und Use Cases und eine Routing-Regel je Klasse.

Die meisten Unternehmen nutzen am Ende zwei oder drei der vier Optionen gleichzeitig – was in Ordnung ist, solange das Routing in der Architektur durchgesetzt wird und nicht einzelnen Nutzern überlassen bleibt.

Eine praktikable Architektur

• Eine Abstraktionsschicht. Anwendungen und Agenten rufen Modelle über ein Gateway auf, das die Routing-Regel anwendet, die Nutzung protokolliert und den Anbieter hinter einem Use Case ohne Codeänderung austauschen kann.
• Klassifizierung an der Quelle. Dokumente und Datenquellen tragen ein Sensibilitätslabel; das Gateway weigert sich, ein hochsensibles Dokument an eine dafür nicht freigegebene Route zu senden.
• Evaluation je Route. Jedes Modell hinter dem Gateway wird je Use Case gegen dasselbe Evaluationsset getestet, damit Sie die Leistungskosten einer souveräneren Route kennen, bevor Sie sie wählen.
• Ausstiegsoptionen. Prompts, Evaluationssets und Feinabstimmungsdaten werden in anbieterneutralen Formaten gehalten. Ein Wechsel sollte eine Konfigurationsänderung und ein Regressionstest sein, kein Projekt.

Was jetzt zu tun ist

1. Erfassen Sie die Datenklassen, die Ihre ersten KI-Use-Cases berühren, und kennzeichnen Sie sie.
2. Vereinbaren Sie die Routing-Regel je Klasse mit Datenschutzbeauftragtem und IT-Sicherheit und schreiben Sie sie auf.
3. Richten Sie ein Modell-Gateway ein, auch ein einfaches, damit die Regel durchgesetzt und die Nutzung protokolliert wird.
4. Lassen Sie je Use Case dasselbe Evaluationsset auf mindestens zwei Routen laufen, bevor Sie sich festlegen.
5. Überprüfen Sie die Entscheidung alle sechs Monate. Der Markt bewegt sich schnell, und eine Route, die letztes Jahr nicht tragfähig war, kann heute die richtige sein.

Unsere Leistungen KI-Agenten-Entwicklung und Datenbasis für KI bauen diese Architektur; die Governance-Beratung dokumentiert sie für Prüfer und Kunden.