Wie kommt ein KI-Modell zu seinem Wissen?
Ein KI-Sprachmodell lernt in zwei Schritten. Im Vortraining liest es sehr große Mengen Text und lernt dabei, das jeweils nächste Wort vorherzusagen; so entstehen Sprache, Allgemeinwissen und Muster des Schlussfolgerns. In der Feinabstimmung lernt es mit Beispielen und Bewertungen von Menschen, Fragen zu beantworten und Anweisungen zu folgen. Danach ist sein Wissen eingefroren. Aktuelles und Wissen aus Ihrem Haus bekommt es nur, wenn man es ihm bei der Frage mitgibt.
Was lernt ein Modell im Vortraining?
Im Vortraining bekommt das Modell sehr große Mengen Text: Bücher, Fachartikel, öffentliche Websites, Programmcode. Seine einzige Aufgabe ist, das jeweils nächste Wort vorherzusagen. Liegt es falsch, werden seine Milliarden interner Gewichte ein kleines Stück angepasst. Das wiederholt sich unvorstellbar oft.
Um gut vorherzusagen, muss das Modell vieles nebenbei lernen: Grammatik, Fakten, Fachsprache, wie Argumente aufgebaut sind, wie man rechnet und übersetzt. Das ist die „Intelligenz“, die man später erlebt. Sie steckt nicht als Datenbank im Modell, sondern als Muster in seinen Gewichten.
Wie lernt es, Fragen zu beantworten?
Nach dem Vortraining kann ein Modell Text fortsetzen, aber noch nicht gut antworten. In der Feinabstimmung zeigt der Hersteller ihm Beispiele für gute Antworten, und Menschen bewerten, welche von mehreren Antworten hilfreicher, richtiger und sicherer ist. Daraus lernt das Modell, Anweisungen zu folgen, nachzufragen und schädliche Antworten abzulehnen.
Beides, Vortraining und Feinabstimmung, macht der Hersteller des Modells einmal, mit großem Rechenaufwand. Danach ist das Modell fertig und verändert sich nicht mehr.
Warum weiß das Modell nicht alles?
- Wissensstand: Was nach dem Training geschah, kennt das Modell nicht.
- Kein Wissen über Ihr Haus: Ihre Verträge, Leitlinien und Abläufe waren nie Teil des Trainings.
- Kein Nachschlagen: Das Modell erzeugt Text, der wahrscheinlich passt. Fehlt ihm Wissen, kann eine Antwort überzeugend klingen und trotzdem falsch sein.
Wie kommt aktuelles und hauseigenes Wissen in die Antwort?
Man gibt es dem Modell bei der Frage mit. Die Plattform sucht in Ihren Dokumenten die passenden Stellen und legt sie dem Modell zusammen mit der Frage vor. Das Modell antwortet auf dieser Grundlage und nennt die Quellen, sodass Sie nachprüfen können. Für Aktuelles aus dem Internet gibt es die Websuche. Das Modell selbst lernt dabei nichts dazu: Bei der nächsten Frage ohne diese Unterlagen weiß es wieder nur, was es im Training gelernt hat.
Wer muss offenlegen, womit ein Modell trainiert wurde?
Die KI-Verordnung der EU verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck unter anderem, eine Zusammenfassung der Trainingsinhalte zu veröffentlichen und das Modell technisch zu dokumentieren (Art. 53). Wer ein solches Modell nur einsetzt, ist nicht dessen Anbieter.
Wie geht das mit basebox?
basebox entwickelt und trainiert keine eigenen Modelle. Wir betreiben Open-Source-Modelle selbst, in unserer Cloud in Deutschland oder auf Ihrem Server, und wählen die besten Modelle, die zur Hardware passen. Welche Modelle das sind, steht im Modellregister. Ein neues Modell kommt per Update.
Ihre Daten trainieren kein Modell. Hauseigenes Wissen kommt bei jeder Frage aus den Dokumenten Ihrer Apps dazu, mit Quellenangabe; Aktuelles über die Websuche, wenn Ihre Organisation sie freischaltet. Was das KI-Modell in basebox kann
Häufige Fragen
Woher hat das KI-Modell in basebox sein Wissen?
Aus dem Training durch seinen Hersteller. basebox entwickelt und trainiert keine eigenen Modelle, sondern betreibt Open-Source-Modelle selbst, in unserer Cloud in Deutschland oder auf Ihrem Server. Ihr hauseigenes Wissen kommt bei jeder Frage aus den Dokumenten Ihrer Apps dazu, mit Quellenangabe.
Lernt das Modell aus unseren Fragen und Dokumenten?
Nein. Ihre Eingaben und Dokumente verändern das Modell nicht, und basebox trainiert kein Modell mit Ihren Daten. Das Modell liest Ihre Dokumente nur für die jeweilige Antwort.
Warum kennt das Modell aktuelle Ereignisse nicht?
Sein Wissen endet mit dem Stand seines Trainings. Für Aktuelles gibt es die Websuche, die Ihre Organisation freischalten kann; dann holt sich das Modell öffentliche Informationen aus dem Internet.
Warum erfindet ein Modell manchmal etwas?
Weil es Text erzeugt, der wahrscheinlich passt, und nicht in einer Datenbank nachschlägt. Fehlt ihm Wissen, kann eine Antwort plausibel klingen und trotzdem falsch sein. Antworten mit Quellen aus Ihren Dokumenten lassen sich nachprüfen.
Quellen
- Brown u. a. (2020): Language Models are Few-Shot Learners, arXiv ↗
- Ouyang u. a. (2022): Training language models to follow instructions with human feedback, arXiv ↗
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 53: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, EUR-Lex ↗
- basebox: Modellregister ↗
Dieser Artikel wurde mit Unterstützung von KI erstellt, auf Grundlage der genannten Quellen. Verantwortlich für den Inhalt: basebox GmbH. Keine Rechtsberatung, keine Haftung. Stand der Recherche: 16. November 2026.