Recht und DatenschutzStand 1. Oktober 2026René HerzerMit KI erstellt

Nachvollziehbare KI: Audit-Log, Quellen und die Grenzen von Explainable AI

Nachprüfbar sind zwei verschiedene Dinge: was Menschen mit der KI getan haben, und worauf eine Antwort beruht. Das Erste löst das Audit-Log vollständig. Das Zweite löst die Quellenangabe, nicht die Selbsterklärung des Modells.

1FrageEine Ärztin fragt in einer App.
2baseboxsucht in den für sie freigegebenen Dokumenten.
3Modellerzeugt die Antwort.
4Antwortmit nummerierten Quellen und zitierter Textstelle.

Wer entscheidet: die FachpersonSie prüft an der Quelle und verantwortet die Verwendung. Schreibende Aktionen von Agenten nur nach Freigabe.

Was getan wurde: Audit-LogWer, wann, welche App, welcher Konnektor.

Wie es zustande kam: Modell und DenkwegModell und Version sind dokumentiert, der Denkweg lässt sich aufklappen.

Worauf es beruht: QuellenJede Aussage aus Dokumenten zeigt ihre Quelle mit der zitierten Textstelle.

Grenze: Warum ein Modell intern so rechnet, hängt vom Modell und seinem Training ab. Auch ein angezeigter Denkweg kann falsch sein. Maßstab ist deshalb die Quelle, nicht die Begründung des Modells.

Was steht im Audit-Log?

Anmeldungen, Änderungen an Rechten, Aufrufe von Konnektoren und Websuche, Exporte. Auf Wunsch auch Fragen und Antworten; dann sehen alle Personen einen deutlichen Hinweis. Export als CSV oder über die Schnittstelle, auf Anfrage für Ihr SIEM.

Was ist Explainable AI?

Die Frage, warum ein Modell intern so rechnet. Das hängt vom Modell und seinem Training ab. Ein aufgeklappter Denkweg ist eine Erklärung des Modells, keine Garantie. Deshalb ist die Prüfung an der Quelle der Kern.

Was ist mit Agenten?

Schreibende Zugriffe sind standardmäßig aus. Aktionen werden vor der Ausführung bestätigt, und jede Aktion steht im Audit-Log.

Audit-Log und Protokoll

Dieser Artikel wurde mit Unterstützung von KI erstellt, auf Grundlage der genannten Quellen. Verantwortlich für den Inhalt: basebox GmbH. Keine Rechtsberatung. Geprüft am 1. Oktober 2026.