Werden wir durch eigene KI-Apps zum Anbieter nach der KI-Verordnung?
Meist nicht im Sinne der Hochrisiko-Pflichten. Wer auf einer KI-Plattform Apps für interne Aufgaben baut, etwa Entwürfe, Zusammenfassungen oder Fragen an Dokumente, setzt KI als Betreiber ein. Anbieter eines Hochrisiko-Systems werden Sie nach Art. 25 Abs. 1 Buchst. c, wenn Sie eine App für einen Zweck aus Anhang III bauen, etwa Bewerbungen bewerten. Für Chatbots nach außen können Anbieterpflichten nach Art. 50 entstehen.
Wer ist Anbieter, wer Betreiber?
- Anbieter (Art. 3 Nr. 3) ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich. Auch die Inbetriebnahme für den eigenen Gebrauch zählt (Art. 3 Nr. 11).
- Betreiber (Art. 3 Nr. 4) ist, wer ein KI-System in eigener Verantwortung beruflich verwendet.
Eine KI-Plattform mit einem Chat-Assistenten setzen Sie als Betreiber ein. Offen ist, wann eine selbst gebaute App ein eigenes KI-System wird. Für die Pflichten kommt es aber vor allem auf zwei Fragen an: Verfolgt die App einen Hochrisiko-Zweck, und interagiert sie mit Menschen außerhalb Ihrer Organisation?
Wann werden Sie Anbieter eines Hochrisiko-Systems?
Art. 25 Abs. 1 nennt drei Fälle, in denen ein Betreiber oder ein anderer Dritter als Anbieter eines Hochrisiko-Systems gilt:
| Buchstabe | Fall | Beispiel |
|---|---|---|
| a | Sie versehen ein Hochrisiko-System, das schon auf dem Markt ist, mit Ihrem Namen oder Ihrer Marke | ein zugekauftes Bewerbungstool erscheint als Ihr Produkt |
| b | Sie ändern ein Hochrisiko-System wesentlich, und es bleibt Hochrisiko | eigene Änderungen an einem Triage-System |
| c | Sie ändern den Zweck eines Systems, das kein Hochrisiko ist, so, dass es Hochrisiko wird, auch bei KI mit allgemeinem Verwendungszweck | Sie bauen auf einem allgemeinen Assistenten eine App, die Bewerbungen bewertet oder über Leistungen entscheidet |
Fall c ist für Plattformen der wichtigste. Eine App, die Bewerbungen vorsortiert, Leistungsansprüche bewertet oder Notrufe einstuft, kann Ihre Organisation zum Anbieter machen, mit allen Pflichten nach Art. 16. Ob eine Ausnahme nach Art. 6 Abs. 3 greift, etwa weil die App nur vorbereitet, prüfen Sie vorher. Siehe Hochrisiko-KI erkennen.
Der bisherige Anbieter gilt dann nicht mehr als Anbieter dieses Systems. Nach dem neu gefassten Art. 25 Abs. 2 muss er aber mitwirken: technische Dokumentation, bekannte Grenzen und Fehlerbilder, gezielter technischer Zugang. Das gilt nicht, wenn er ausdrücklich festgelegt hat, dass sein System nicht in ein Hochrisiko-System umgewandelt werden darf. Fragen Sie Ihren Anbieter, ob sein Vertrag eine solche Festlegung enthält.
Was gilt für Chatbots nach außen?
Bauen Sie eine App, mit der Bürgerinnen, Patienten oder Kunden schreiben, und stellen sie unter Ihrem Namen bereit, können Sie Anbieter im Sinne von Art. 50 Abs. 1 sein: Die Menschen müssen erkennen, dass sie mit einer KI sprechen. Die Leitlinien der Kommission ordnen die Pflichten entlang der Lieferkette zu. Einzelheiten im Ratgeber Kennzeichnungspflicht nach Art. 50.
Und bei medizinischen Apps?
Hat eine App eine medizinische Zweckbestimmung, etwa einen Diagnosevorschlag, kann sie ein Medizinprodukt sein. Dann sind Sie Hersteller nach der Medizinprodukteverordnung, und die KI-Verordnung behandelt sie über Anhang I als Hochrisiko (ab 2. August 2028). Mehr dazu: Ist KI ein Medizinprodukt?
Wie geht das mit basebox?
basebox ist eine Plattform, kein Hochrisikosystem; welche Pflichten Sie haben, hängt vom Einsatz ab. Eine App besteht in basebox aus einer Anweisung, Dokumenten und Verbindungen zu Ihren Systemen und entsteht ohne Programmieren. Ihre Mitarbeitenden können nur nutzen, was Ihr Administrator freigeschaltet hat: Apps, Verbindungen zu Systemen und KI-Modelle. Wer eine App baut, gibt sie für Gruppen oder Personen frei, zum Nutzen oder zum Bearbeiten. Nutzungsrichtlinien und Systemvorgaben stellt Ihr Administrator zentral ein, sie gelten für alle Apps. Das Audit-Log hält fest, wer welchen Assistenten und welchen Konnektor genutzt hat, und Entwickler, Version und Lizenz jedes Modells stehen im Modellregister. basebox ist nicht dafür gebaut, Personen einzuschätzen oder Profiling zu betreiben. Mehr unter Funktionen und Sicherheit.
Keine Rechtsberatung: Stand 11. Oktober 2026. Wann eine konfigurierte App als eigenes KI-System gilt, ist nicht durch Rechtsprechung geklärt. Lassen Sie geplante Einsätze in Hochrisiko-Bereichen vorab rechtlich prüfen.
Häufige Fragen
Ist eine App mit Anweisung und Dokumenten schon ein eigenes KI-System?
Das ist rechtlich nicht abschließend geklärt. Für die Praxis entscheidend ist der Zweck: Solange die App keinen Zweck aus Anhang III verfolgt und keine Menschen außerhalb Ihrer Organisation mit ihr sprechen, ergeben sich aus der Anbieterrolle kaum zusätzliche Pflichten.
Was müssen wir als Anbieter eines Hochrisiko-Systems leisten?
Die Pflichten nach Art. 16: unter anderem Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Gebrauchsanweisung, menschliche Aufsicht, Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung und Registrierung. Für die meisten Organisationen ist das ein eigenes Projekt.
Wie verhindern wir, dass jemand im Haus eine Hochrisiko-App baut?
Mit klaren Regeln: welche Zwecke erlaubt sind, wer Apps für andere freigeben darf, und eine Prüfung vor der Freigabe. Halten Sie die Regeln in Ihrer KI-Richtlinie fest und schulen Sie die Personen, die Apps bauen (Art. 4).
Quellen
Dieser Artikel wurde mit Unterstützung von KI erstellt, auf Grundlage der genannten Quellen. Verantwortlich für den Inhalt: basebox GmbH. Keine Rechtsberatung, keine Haftung. Stand der Recherche: 11. Oktober 2026.