basebox und Ollama im Vergleich: KI-Modell lokal ausführen oder Plattform für das ganze Haus

Merkmal	basebox	Ollama und lokale Server
Art	Fertige KI-Plattform mit Lizenz, Support und Updates	Software, die KI-Modelle auf einem Rechner ausführt; Hardware und alles Weitere stellt das Haus
Herausgeber	basebox GmbH, Deutschland	Ollama Inc., USA (Recht des Staates Kalifornien)
Hardware	Unsere Cloud, Server Klasse 1 bis 3 von unserem Hardware-Partner FAST LTA oder Hardware Ihrer Wahl	Beliebig: Laptop, Mac mini, Server mit Grafikprozessoren
KI-Modell	KI-Modell in basebox, von uns ausgewählt und geprüft, Wechsel per Update	Frei wählbar aus der Bibliothek von Ollama oder eigenen Dateien; Auswahl und Wechsel macht das Haus
Anmeldung und Rechte	Benutzerverwaltung über LDAP, OIDC oder SAML; Gruppen, Freigaben für Apps und Modelle	Für den lokalen Server beschreibt die Dokumentation keine Anmeldung von Personen und keine Rechte
Oberfläche und Apps	Chat, Apps, die man teilt, ohne Daten zu teilen; Konnektoren zu Fachsystemen	Eigene App für den Rechner; im Haus meist mit einer zusätzlichen Oberfläche wie Open WebUI
Protokoll und Nachweise	Audit-Log; ISO 27001 zertifiziert, BSI C5 Typ 1 für die Cloud in Arbeit; AVV, Vereinbarung nach § 203 StGB	Sache des Betreibers
Quellcode	Nicht Open Source	MIT-Lizenz
Kosten	Öffentliche Listenpreise	Software lokal kostenlos; Hardware, Strom und Arbeitszeit trägt das Haus

Angaben zu Ollama nach der Website und Dokumentation des Anbieters, Stand 11.10.2026.

Was ist Ollama?

Ollama ist eine Software, die KI-Modelle auf dem eigenen Rechner ausführt. Sie läuft auf macOS, Windows und Linux sowie als Docker-Container, steht unter der MIT-Lizenz und hat auf GitHub über 180.000 Sterne. Andere Programme sprechen Ollama über eine Schnittstelle an; sie unterstützt laut Dokumentation einen Teil der OpenAI-Schnittstelle, so dass viele Werkzeuge ohne Anpassung damit arbeiten.

Ab Werk ist Ollama nur auf dem Rechner selbst erreichbar. Wer es im Netz des Hauses anbieten will, ändert die Adresse in den Einstellungen und legt fest, wie viele Anfragen ein Modell gleichzeitig bearbeitet. Weitere Anfragen stellt Ollama in eine Warteschlange. Herausgeber ist die Ollama Inc. aus der San Francisco Bay Area.

Ollama bietet zusätzlich Cloud-Modelle an, die auf Rechnern des Anbieters laufen: kostenlos mit Startguthaben, im Abo ab 20 US-Dollar im Monat oder nach Verbrauch. Gehostet wird laut Ollama vor allem in den USA, bei Bedarf auch in Europa; Fragen und Antworten werden laut Anbieter weder protokolliert noch zum Training verwendet.

Was heißt „lokale Server“?

Gemeint ist der Selbstbau: ein Rechner im eigenen Haus, auf dem ein Open-Source-Modell läuft. Das reicht vom Mac mini auf dem Schreibtisch bis zum Server mit mehreren Grafikprozessoren im Rechenzentrum. Für viele Personen gleichzeitig setzen Häuser statt Ollama oft vLLM ein, eine Open-Source-Software unter Apache-2.0-Lizenz, die Modelle auf Grafikprozessoren für viele Anfragen gleichzeitig ausführt. basebox nutzt vLLM ebenfalls.

Wie groß ein Modell sein darf, hängt vor allem am Speicher. Eine überschlägige Rechnung: Ein Modell mit 70 Milliarden Parametern braucht in einer verkleinerten Fassung mit 4 Bit je Parameter rund 35 bis 40 GB nur für die Gewichte, dazu Speicher für laufende Gespräche. Ein Mac mini hat laut Apple höchstens 64 GB gemeinsamen Arbeitsspeicher (Stand Oktober 2026). Der Server Klasse 1 von basebox hat drei Grafikprozessoren mit je 96 GB.

Was muss ein Haus dazubauen?

Ollama liefert das Modell. Für den Einsatz im ganzen Haus braucht es mehr:

• Oberfläche: eine Chat-Oberfläche für Mitarbeitende, etwa Open WebUI, die selbst betrieben und aktualisiert wird.
• Anmeldung und Rechte: Anbindung an die Benutzerverwaltung, Gruppen, wer welches Modell und welche Dokumente nutzen darf.
• Anbindung der Fachsysteme: Verbindungen zu Dokumentenablage, E-Mail oder Fachverfahren, so dass jede Person nur sieht, was sie dort sehen darf.
• Protokoll und Nachweise: wer was wann getan hat, dazu Unterlagen für Datenschutz, Personal- oder Betriebsrat und IT-Sicherheit.
• Betrieb: Updates, Sicherheitslücken verfolgen, Sicherung, Auswahl und Test neuer Modelle, Ansprechpartner bei Störungen.

Wie viel Arbeitszeit das bindet, rechnet der Ratgeber KI selbst betreiben oder Plattform kaufen durch; was beim Wachsen passiert, steht in Ollama und Open WebUI skalieren.

Wo laufen Plattform und KI-Modell?

Bei Ollama bestimmt der Betreiber den Ort: auf dem eigenen Rechner, auf einem Server im Haus oder bei einem Dienstleister. Ohne Cloud-Modelle bleibt alles im eigenen Netz.

Bei basebox läuft die Plattform in einer eigenen Umgebung je Organisation in unserem Rechenzentrum in Deutschland oder auf einem Server nur für Sie, bei Ihnen und auf Wunsch ohne Internetverbindung. In der Cloud läuft das KI-Modell auf unseren Servern im Rechenzentrum München-Ost. Der Server baut ab Werk keine Verbindung nach außen auf: keine Telemetrie, keine Lizenzprüfung, kein Update-Abruf. basebox läuft auch auf Hardware, die Ihr Haus schon hat; ob sie reicht, prüfen wir vorher kostenlos.

Was kostet es?

Ollama kostet lokal nichts. Die Kosten liegen bei Hardware, Strom und der Arbeitszeit Ihrer IT für Einrichtung, Oberfläche, Rechte, Anbindungen, Updates und Support. Cloud-Modelle von Ollama kosten im Abo ab 20 US-Dollar im Monat oder nach Verbrauch.

basebox in der Cloud kostet 490 € pro Person und Jahr bei 5 Personen, 240 € bei 200 Personen und 203 € bei 1.000 Personen. Mit Server Klasse 1 (etwa 200 bis 500 Personen) zahlen Sie einmal 109.643 € für den Server, dazu 21.569 € Lizenz und 9.868 € Servicevertrag im Jahr; anmelden darf sich jeder. Strom beim Server: rund 5.700 bis 10.000 € im Jahr, gerechnet mit Volllast. Auf eigener Hardware richtet sich die Lizenz nach den Grafikprozessoren. Listenpreise netto; jede andere Konfiguration rechnet der Rechner.

Was Ollama mitbringt, was basebox nicht hat

• Keine Lizenzkosten für den lokalen Betrieb.
• Frei verfügbarer Quellcode unter MIT-Lizenz: prüfen, anpassen, weitergeben. basebox ist nicht Open Source; wird basebox insolvent, veröffentlichen wir den Code als Open Source, damit Kunden weiterarbeiten können.
• Läuft auf fast jedem Rechner, auch auf einem Laptop oder Mac mini. basebox bietet kleine Geräte nicht an.
• Freie Wahl jedes Modells aus einer großen Bibliothek, sofort nach Erscheinen.
• Start in Minuten für eine einzelne Person, ohne Vertrag.

Für wen passt was?

• Ollama passt zum Ausprobieren, für Entwicklerinnen und Entwickler und für kleine Teams mit eigener Technik, die Modelle vergleichen oder ohne Internet testen wollen.
• Ein selbst gebauter Server passt zu Häusern mit einem Team, das Hardware, Modelle, Oberfläche, Rechte und Nachweise dauerhaft selbst betreibt.
• basebox passt zu Häusern, die KI im ganzen Haus mit Rechten, Apps, Konnektoren, Protokoll, AVV, Updates und Support wollen, in unserer Cloud oder auf einem Server im eigenen Haus, auch auf vorhandener Hardware. Mehr dazu auf Server.