Proof of Concept für KI: in sechs Wochen zu einer belastbaren Entscheidung

Welche Frage soll der Proof of Concept beantworten?

Ein Proof of Concept (PoC) ist kein kleiner Rollout. Er beantwortet eine Entscheidungsfrage, etwa: „Entlastet eine KI-Plattform unser Sekretariat und unsere Sachbearbeitung so, dass sich die Einführung lohnt?“ oder „Welches von zwei Angeboten löst unsere Aufgaben besser?“. Schreiben Sie die Frage auf, bevor Sie anfangen, und legen Sie fest, wer am Ende entscheidet.

Typische Fehler sind ein PoC ohne Ziel, der monatelang weiterläuft, und ein Test mit Aufgaben, die niemand im Alltag hat.

Wie bauen Sie den PoC auf?

Phase	Dauer	Ergebnis
Vorbereiten	1 bis 2 Wochen	Frage, Aufgaben, Erfolgskriterien, Testgruppe, Datenfreigabe, Information des Personal- oder Betriebsrats
Einrichten und schulen	1 Woche	Zugänge, Gruppen, Beispieldokumente, kurze Schulung
Testen	3 bis 4 Wochen	Aufgaben im Alltag, Messung, wöchentliche Rückmeldung
Auswerten	1 Woche	Bericht mit Messwerten und Empfehlung

Sechs bis acht Wochen reichen für die meisten Fragen. Planen Sie lieber eine zweite, gezielte Runde, als den ersten Test zu verlängern.

Welche Aufgaben eignen sich?

Wählen Sie drei bis fünf Aufgaben, die häufig vorkommen, Zeit kosten und deren Ergebnis eine Fachperson schnell prüfen kann:

• Fragen an interne Regelwerke, Dienstanweisungen oder Leitlinien beantworten, mit Quelle
• Briefe, Bescheide oder Berichte aus Stichpunkten entwerfen
• Lange Dokumente oder Protokolle zusammenfassen
• E-Mails sortieren und Antworten vorschlagen
• Texte in Einfache Sprache übertragen

Ungeeignet für einen ersten Test sind Aufgaben, die erst nach der Anbindung eines Fachverfahrens funktionieren, und Aufgaben, bei denen die KI über Menschen entscheidet. Bewertung von Beschäftigten oder Bürgerinnen gehört nicht in einen PoC; dafür gelten nach der KI-Verordnung strenge Pflichten.

Wie messen Sie den Erfolg?

Legen Sie die Kriterien vorab fest und messen Sie vor und während des Tests gleich:

• Zeit: Wie lange dauert die Aufgabe ohne und mit KI? Stichproben genügen.
• Qualität: Wie viele Antworten sind nach Prüfung durch die Fachperson verwendbar, mit kleinen Änderungen oder gar nicht?
• Nachvollziehbarkeit: Führt jede Aussage zu einer Quelle?
• Rechte: Bekommt eine Person ohne Zugriff auf ein Dokument eine Antwort daraus? Das sollte nie passieren.
• Akzeptanz: Würden die Testpersonen weiterarbeiten wollen?

Wie aus gemessener Zeit eine Wirtschaftlichkeitsrechnung wird, zeigt der Ratgeber ROI von KI-Projekten berechnen. Für einen Vergleich mehrerer Anbieter übernehmen Sie die Kriterien in die Teststellung; Vorschläge im Ratgeber Kriterienkatalog zur Anbieterbewertung.

Mit welchen Daten testen Sie?

Solange kein Vertrag zur Auftragsverarbeitung besteht, testen Sie mit erfundenen, öffentlichen oder nicht personenbezogenen Dokumenten: Satzungen, Leitlinien, Dienstanweisungen, Musterschreiben. Das reicht für die meisten Fragen. Echte personenbezogene Daten erst, wenn AVV, Rechtsgrundlage und gegebenenfalls eine Datenschutz-Folgenabschätzung geklärt sind und der Datenschutzbeauftragte zugestimmt hat. Für Gesundheits- und Sozialdaten gilt das besonders.

Wer muss beteiligt werden?

• Personal- oder Betriebsrat: Eine KI-Plattform ist in der Regel eine technische Einrichtung, die Verhalten oder Leistung überwachen könnte (§ 87 Abs. 1 Nr. 6 BetrVG und Personalvertretungsrecht). Informieren Sie früh und vereinbaren Sie für den Test, was protokolliert wird und wofür die Daten nicht verwendet werden. Mehr im Ratgeber Muster-Dienstvereinbarung für KI.
• Datenschutz und Informationssicherheit: von Anfang an, nicht erst bei der Auswertung.
• Testpersonen: kurz schulen; das zählt zugleich zur KI-Kompetenz nach Art. 4 KI-Verordnung.

Was gilt vergaberechtlich?

Ein kostenloser Test eines Anbieters ist als Markterkundung erlaubt (§ 28 VgV, § 24 BVergG 2018, Art. 14 Abs. 3 BöB). Er darf aber nicht zur Vorentscheidung werden: Wer an der Vorbereitung der Ausschreibung mitwirkt, darf nur mitbieten, wenn der Vorsprung ausgeglichen wird (§ 7 VgV). Testen Sie deshalb möglichst mehrere Anbieter mit denselben Aufgaben und dokumentieren Sie, was Sie jedem gezeigt haben.

Ein bezahlter PoC ist selbst ein Auftrag. Bleibt sein Wert unter der Grenze für Direktaufträge Ihres Landes, ist er schnell vergeben; ein Anspruch auf den Folgeauftrag entsteht daraus nicht. Soll eine Lösung erst entwickelt werden, die es auf dem Markt nicht gibt, kommt die Innovationspartnerschaft in Betracht (§ 19 VgV). Für eine KI-Plattform, die es fertig zu kaufen gibt, ist das selten der Fall.

Keine Rechtsberatung: Mitbestimmung, Datenschutz und Vergaberecht prüfen Ihre Fachstellen im Einzelfall. Stand der Recherche: 11.10.2026.

Wie geht das mit basebox?

Für einen ersten Eindruck registrieren Sie sich mit Ihrer dienstlichen E-Mail-Adresse und arbeiten mit 1 Mio. Tokens, ohne zeitliche Begrenzung. Neue Konten starten in unserer Startumgebung; dort kommen die KI-Modelle von Google Vertex in Frankfurt. Testen Sie dort deshalb mit Beispieldaten. Für Gesundheitsdaten und andere besondere Kategorien empfehlen wir Ihre eigene Umgebung in der Cloud oder den Server in Ihrem Haus; was in der Startumgebung gilt, steht auf Sicherheit. Apps, Wissensdatenbanken und Einstellungen bleiben erhalten, wenn Sie die Lizenz buchen. Auf Wunsch zeigen wir basebox in einem Termin mit Ihren eigenen Beispieldokumenten.