KI hybrid nutzen: externe Modelle wie Claude für einzelne Gruppen, sensible Daten im geschützten Rahmen

Was heißt „KI hybrid nutzen“?

Viele Häuser wollen beides: Für Patienten-, Bürger- oder Personaldaten soll die KI in einem geschützten Rahmen laufen, in der EU, ohne Training mit den Daten. Gleichzeitig möchten einzelne Teams die großen Modelle der bekannten Anbieter nutzen, etwa Claude von Anthropic, ChatGPT von OpenAI oder Gemini von Google, zum Beispiel für Programmierung, Texte für die Öffentlichkeit oder Recherche.

„Hybrid“ meint in diesem Fall: ein KI-Modell für alle im geschützten Rahmen und zusätzlich externe Modelle für ausgewählte Gruppen, auf einer Plattform, mit einer Anmeldung und einem Protokoll. Mit dem Hybrid-Betrieb, bei dem das Modell für alle an einem anderen Ort rechnet, hat das nur den Namen gemein.

Wie trennt man externe Modelle und sensible Daten?

Die Trennung gelingt über drei Stellschrauben, die zusammenwirken:

Stellschraube	Was sie regelt
Modell je App	Das externe Modell hängt an einer eigenen App, nicht am allgemeinen Chat.
Gruppen je App	Nur ausgewählte Personen und Gruppen sehen und nutzen diese App.
Daten je App	Die App bekommt nur die Dokumente und Konnektoren, die für ihre Aufgabe gedacht sind.

Ein Beispiel: Die Pressestelle bekommt eine App „Texte für die Website“ mit einem externen Modell und den Leitfäden für Sprache und Gestaltung. Die Personalabteilung arbeitet weiter mit Apps, die das Modell im geschützten Rahmen nutzen und auf die Personalakten zugreifen dürfen. Die Pressestelle sieht diese Apps nicht, die Personalabteilung die App der Pressestelle nicht, wenn sie sie nicht braucht.

Was gilt es zu bedenken?

• Eingaben gehen zum Anbieter: Was Personen in eine App mit externem Modell eingeben oder hochladen, verarbeitet der externe Anbieter. Auch mit klaren Regeln landet dort im Alltag einmal etwas, das nicht dorthin gehört, etwa ein kopierter Absatz aus einer Akte. Hilfreich sind ein kurzer Hinweis in der App, eine Regel in der KI-Richtlinie für Mitarbeitende und die Auswahl der Gruppen mit Bedacht.
• Speicherung und Training: Anbieter speichern Eingaben unterschiedlich lang, manche gar nicht. Prüfen Sie für jeden Anbieter, ob er Eingaben speichert, protokolliert oder zum Training nutzt; mehr dazu in Zero Data Retention.
• Ort und Recht: Verarbeitet ein Anbieter mit Sitz in den USA, kann der US Cloud Act gelten, auch bei Rechenzentren in der EU. Der Anbieter gehört in die Liste der Unterauftragsverarbeiter und in das Verzeichnis von Verarbeitungstätigkeiten.
• Kosten: Externe Modelle werden nach Verbrauch abgerechnet. Wer viel damit arbeitet, verursacht mehr Kosten; ein Budget je Gruppe oder ein vereinbarter Umfang hält das planbar.
• Netz: Läuft die Plattform im eigenen Haus, muss die Firewall die Verbindung zum Anbieter freigeben.

Wie ist das bei basebox?

Alle arbeiten mit dem KI-Modell in basebox, in unserer Cloud auf unseren Servern im Rechenzentrum München-Ost oder auf Ihrem Server. Ihre Daten trainieren kein Modell.

Zusätzlich richten wir Apps mit einem externen Modell ein, etwa von Anthropic, OpenAI oder Google; wir nutzen dafür Google Vertex in Frankfurt. Ihr Administrator legt fest, welche Personen und Gruppen eine solche App nutzen, und gibt jeder App eigene Dokumente und Konnektoren. Es gilt: Wer eine App teilt, teilt nie Daten. Jede Person sieht nur, was sie ohnehin sehen darf, und jeder Aufruf eines Konnektors steht im Audit-Log.

Das geht in der Cloud und beim Server, wenn Ihre Firewall die Verbindung zum Anbieter freigibt. Die Nutzung externer Modelle können Sie in der Lizenz mitbestellen; dann sind die Kosten im vereinbarten Umfang enthalten, die Konditionen stehen in Ihrem Angebot. Was sich beim Datenschutz ändert, zeigt der Vergleich auf Sicherheit.

Keine Rechtsberatung: Ob Sie bestimmte Daten an einen externen Anbieter geben dürfen, hängt von Datenart, Vertrag und Landesrecht ab. Klären Sie das mit Ihrem Datenschutzbeauftragten. Stand der Angaben: 15. Oktober 2026.