Kontextverlust durch Anonymisierung: Warum KI-Antworten schlechter werden können

Warum kann Anonymisierung die KI-Antwort verschlechtern?

Ein KI-Modell antwortet aus dem Text, den es bekommt. Ein Pseudonymisierungs-Werkzeug (oft als Proxy vor einem externen Modell) ersetzt vor dem Versand Namen, Daten, Orte oder Kennnummern durch Platzhalter und setzt die echten Angaben in der Antwort wieder ein. Das schützt die Person, nimmt dem Modell aber auch Information. Gehört die ersetzte Angabe zum Inhalt der Aufgabe, fehlt sie für die Antwort.

Drei Beispiele, alle frei erfunden:

Aufgabe	Was ersetzt wird	Was dem Modell dann fehlt
Arztbrief zusammenfassen	Alter, Aufnahmedatum, Wohnort	Ob ein Laborwert für eine 43-Jährige oder einen 85-Jährigen auffällig ist; wie lange der Aufenthalt dauerte
Bürgeranfrage beantworten	Straße, Ortsteil	Welches Amt, welcher Bebauungsplan, welche Satzung gilt
Entlassbrief für Angehörige	Namen von Patientin, Tochter, Hausarzt	Wer wem was mitteilt, wenn alle drei als PERSON_1 bis PERSON_3 erscheinen

Was zeigen Studien zum Qualitätsverlust?

Die Forschung ist jung, die Richtung aber einheitlich:

• Qualität sinkt meist, je nach Aufgabe. Eine Studie von Deußer und anderen (September 2026) hat fünf Sprachmodelle mit elf Testreihen geprüft, jeweils mit Originaltext und pseudonymisiertem Text. Ergebnis: Die Leistung fällt in der Regel, Aufgaben mit Nachschlagen in Texten deutlich. Ein Test auf wahrheitsgemäße Antworten verbesserte sich dagegen bei den meisten Modellen.
• Leistungsstarke Modelle verlieren am meisten. Nach derselben Studie fielen die leistungsfähigsten Modelle am stärksten ab, vermutlich weil sie die konkreten Angaben am besten nutzen.
• Umkehrbare Platzhalter schlagen Schwärzen. Verfahren, die Personen und Orte unterscheidbar lassen (Platzhalter oder zufällige Ersatzwerte), schnitten deutlich besser ab als Schwärzen oder Verallgemeinern.
• Ein Hinweis an das Modell hilft nicht. Dem Modell mitzuteilen, dass der Text pseudonymisiert ist, brachte keinen messbaren Vorteil.
• Schon 2023 zeigten Yermilov und andere für Textklassifikation und Zusammenfassung eine Lücke zwischen Original und pseudonymisiertem Text, abhängig vom Verfahren.

Die Studien prüfen allgemeine Testaufgaben, keine deutschen Arztbriefe oder Bescheide. Wie groß der Verlust bei Ihren Texten ist, zeigt nur ein Test mit eigenen Beispielen.

Wo entstehen die typischen Fehler?

• Zahlen und Zeit: Werden Geburts- und Aufnahmedatum ersetzt, kann das Modell kein Alter, keine Dauer und keine Frist berechnen.
• Ort: Zuständigkeit, Rechtsgrundlage und Ansprechpartner hängen in Verwaltung und Gesundheitswesen oft am Ort.
• Beziehungen: Mehrere Personen in einem Text (Patientin, Angehörige, Ärztin) verschwimmen, wenn Platzhalter keine Rolle erkennen lassen.
• Rückzuordnung: Fasst das Modell Platzhalter zusammen, übersetzt oder verändert sie, setzt das Werkzeug die echten Angaben falsch oder gar nicht wieder ein.
• Überschießende Erkennung: Erkennt das Werkzeug Fachbegriffe, Medikamente oder Abkürzungen fälschlich als Namen, fehlen auch diese.

Wie lässt sich der Verlust verringern?

• Nur ersetzen, was identifiziert. Statt des Alters eine Altersgruppe, statt der Straße die Region, statt des Datums ein einheitlich verschobenes Datum, damit Abstände erhalten bleiben.
• Rollen erhalten. Platzhalter wie „Patientin“, „Tochter“, „Hausarzt“ statt PERSON_1 bis PERSON_3.
• Mit eigenen Fällen testen. Dieselben zehn bis zwanzig typischen Aufgaben einmal mit und einmal ohne Ersetzung beantworten lassen und die Antworten fachlich vergleichen, ohne echte Daten an das externe Modell zu geben (etwa mit erfundenen Fällen).
• Rückzuordnung prüfen. Stichproben, ob alle Angaben richtig zurückkommen.

Jede Angabe, die Sie stehen lassen, erhöht das Risiko, dass die Person erkennbar bleibt. Qualität und Schutz stehen hier gegeneinander; die Abwägung trifft Ihre Organisation mit dem Datenschutzbeauftragten. Warum Kombinationen aus Alter, Ort und seltener Diagnose eine Person erkennbar machen können, steht im Ratgeber Re-Identifikationsrisiko.

Gibt es einen Weg ohne Kontextverlust?

Ja: Das KI-Modell läuft dort, wo die Daten verarbeitet werden dürfen, und bekommt den vollständigen Text. Dann muss nichts ersetzt werden. Welche Lösung passt, hängt von Daten und Aufgabe ab; für weniger sensible Texte kann ein Proxy eine sinnvolle Wahl sein. Die Abwägung beider Wege steht im Ratgeber Anonymisierung oder eigene KI-Infrastruktur.

Wie geht das mit basebox?

Bei basebox laufen Plattform und KI-Modell in Ihrer Umgebung: auf einem Server nur für Sie, auf Wunsch ohne Internetverbindung, oder in einer eigenen, von anderen Kunden getrennten Umgebung in unserer Cloud im Rechenzentrum München-Ost. basebox schickt Ihre Daten standardmäßig an kein KI-Modell eines anderen Anbieters. Deshalb dürfen Patientendaten hinein, ohne dass Sie sie vorher anonymisieren, und das Modell sieht den vollständigen Text. Ein externes Modell gibt es nur als eigene App, die Sie ausdrücklich einrichten lassen; ob Sie sie für personenbezogene Daten freigeben, entscheiden Sie mit Ihrem Datenschutzbeauftragten (Einzelheiten). Die Wege im Vergleich stehen im Ratgeber Anonymisierung oder eigene KI-Infrastruktur.