Programmieren mit KI, wenn Cloud-Werkzeuge verboten sind

Wie gut sind offene Programmiermodelle?

Die besten offenen Modelle liegen nach Messungen von Epoch AI etwa vier Monate hinter den geschlossenen Spitzenmodellen. Viele stehen unter freien Lizenzen wie Apache 2.0 oder MIT, einige unter eigenen Lizenzen mit Auflagen für sehr große Anbieter; die Lizenzdatei gehört vor dem Einsatz geprüft. Vorsicht bei Ranglisten: Der bekannteste Test, SWE-bench Verified, gilt als ausgereizt, und Herstellerwerte liegen oft deutlich über unabhängigen Messungen. Belastbar ist ein Test mit Aufgaben aus Ihrem eigenen Code.

Was auf welche Hardware passt

Grafikprozessoren	Grafikspeicher	Programmiermodell	Daneben
3× RTX PRO 6000	288 GB	bis etwa 80 Mrd. Parameter auf zwei Karten	dritte Karte für Vorschläge beim Tippen und Code-Suche
2× H200	282 GB	bis etwa 80 Mrd. mit viel Platz für lange Sitzungen, knapp 300 Mrd. möglich	–
2× H200 + 1× RTX PRO 6000	378 GB	wie 2× H200	eigene Karte für Vorschläge beim Tippen und Code-Suche
8× H200	1.128 GB	die besten offenen Modelle	genug für mehrere Modelle

Allgemeine Schätzung nach Modellkarten, Rezepten der Inferenz-Software und veröffentlichten Messungen, Stand Oktober 2026, keine Zusage für eine bestimmte Konfiguration. Gemeint sind Mixture-of-Experts-Modelle in 8 Bit.

Wie viele Entwickler können gleichzeitig arbeiten?

Das hängt vom Modell und davon ab, wie lang die Sitzungen werden. Ein Programmier-Agent schickt bei jedem Schritt den ganzen bisherigen Verlauf mit; der Server muss also vor allem viel Text schnell einlesen. Als grobe Größenordnung: Auf zwei H200 oder drei RTX PRO 6000 laufen mit einem Modell der 80-Mrd.-Klasse 15 bis 40 Agenten-Anfragen gleichzeitig. Da in einem Team nie alle zugleich arbeiten, reicht das für einige Dutzend Entwickler. Die Werte für Fragen im Chat lassen sich nicht übertragen, Agenten belasten den Server um ein Vielfaches mehr. Belastbar ist nur eine Messung mit Ihren Aufgaben.

Welche Werkzeuge funktionieren ohne Cloud?

Die meisten offenen Werkzeuge lassen sich auf eine eigene, OpenAI-kompatible Schnittstelle umstellen. Bei einigen bekannten Produkten laufen Teile weiter über den Hersteller.

Werkzeug	Ohne Cloud
Cline, Kilo Code (VS Code)	ja
Aider, OpenHands, Codex CLI	ja
Claude Code	ja, über die Anthropic-Schnittstelle der Inferenz-Software; Telemetrie abschalten
Zed	Agent ja; Vorschläge beim Tippen prüfen
GitHub Copilot	eingeschränkt: Chat und Agent ja (seit VS Code 1.122); Vorschläge beim Tippen brauchen GitHub
JetBrains AI Assistant	eingeschränkt: eigene Modelle ja; Betrieb ohne Verbindung zu JetBrains klären
Cursor	nein, Anfragen laufen über die Server von Cursor
Continue, Roo Code	nicht mehr gepflegt

Was muss die Schnittstelle können?

Programmier-Agenten lesen Dateien und führen Befehle über Werkzeugaufrufe aus. Die Schnittstelle braucht dafür Werkzeugaufrufe (Tool Calling), Streaming, lange Kontexte und das Zwischenspeichern wiederholter Eingaben, sonst bricht die Leistung ein. Für Vorschläge beim Tippen gehört ein eigenes kleines Modell dazu (1,5 bis 7 Mrd. Parameter): Es antwortet in Sekundenbruchteilen und ist darin sogar besser als große Modelle. Für die Suche im Code kommt ein Modell für Embeddings dazu. Den Inferenz-Server dafür richtig einzustellen ist Fachaufgabe.

Wie viel verbraucht Programmieren mit KI?

Agenten verbrauchen um Größenordnungen mehr als ein Chat: Eine Studie misst bei agentischen Aufgaben rund tausendmal mehr Tokens als bei Fragen zum Code. Anthropic nennt für sein eigenes Werkzeug im Mittel etwa 13 US-Dollar je Entwickler und Arbeitstag, das sind zig Millionen Tokens, die meisten davon aus dem Zwischenspeicher. Auf einem Server im eigenen Haus zählt deshalb nicht die Menge, sondern wie viele Anfragen gleichzeitig laufen. Kontingente pro Person, wie sie Cloud-Lizenzen haben, reichen für Fragen zum Code, nicht für Agenten.

Was schlechter geht als mit Cloud-Werkzeugen

• Lange Aufgaben: Bei Aufgaben über viele Schritte ist der Abstand zu den Spitzenmodellen größer als bei kurzen.
• Tempo: Unter Last liefert ein Server im eigenen Haus oft 10 bis 30 Wörter pro Sekunde und Anfrage, Cloud-Dienste das Mehrfache.
• Sehr große Projekte: Der Agent sucht im Code, statt alles zu lesen. Lange Sitzungen kosten Speicher und damit Gleichzeitigkeit.
• Einrichtung: Ein falsch eingestelltes Format für Werkzeugaufrufe ist die häufigste Fehlerquelle.

Ist der Code auf dem Server im eigenen Haus sicher?

Vor dem Abfluss an KI-Anbieter ja. Gegen manipulierte Anweisungen in Code, Dokumentation oder Abhängigkeiten schützt der Server allein nicht: Für bekannte Programmier-Werkzeuge sind zahlreiche Sicherheitslücken dieser Art veröffentlicht. Agenten gehören deshalb in eine abgeschottete Umgebung, ohne automatische Freigabe für Befehle, mit begrenztem Netzzugang und ohne Zugriff auf Zugangsdaten für Produktivsysteme. Die Telemetrie der Werkzeuge ist ein eigener Weg nach außen und gehört abgeschaltet.

Wem gehört der Code, den die KI schreibt?

In Deutschland schützt das Urheberrecht nur persönliche geistige Schöpfungen (§ 2 Abs. 2, § 69a Abs. 3 UrhG). Rein maschinell erzeugter Code ist in der Regel nicht geschützt; je mehr der Mensch gestaltet, desto eher entsteht Schutz. Ein Risiko bleibt, dass ein Modell fremden Code mit Lizenzpflichten wörtlich wiedergibt. In den USA hat ein Berufungsgericht im September 2026 Ansprüche dazu nach dem Urheberrecht abgewiesen, Ansprüche aus Open-Source-Lizenzen laufen weiter. Ein Lizenz-Scanner in der Build-Pipeline hilft. Die Lizenz des Modells regelt übrigens nur das Modell, nicht den erzeugten Code.

Was verlangt die KI-Verordnung?

Programmier-Werkzeuge sind in aller Regel keine Hochrisiko-Systeme. Art. 4 gilt trotzdem: Wer Entwicklern KI-Werkzeuge gibt, muss Maßnahmen ergreifen, die ihre KI-Kompetenz fördern, etwa zu Grenzen der Modelle, manipulierten Anweisungen und der Prüfung erzeugten Codes. KI-Kompetenz: Schulung nach Art. 4 →

Wie geht das mit basebox?

Auf dem Server: Neben dem KI-Modell für das ganze Haus läuft ein Programmiermodell auf Ihren Grafikprozessoren. Wir spielen die besten, leistungsfähigsten Modelle auf, die zu Ihrer Hardware passen. Ihre Entwickler behalten ihre Werkzeuge und verbinden sie über die OpenAI-kompatible Schnittstelle von basebox, jede Person mit eigenem Zugang. Wie viele Entwickler gleichzeitig arbeiten können, rechnen wir mit Ihnen durch.

Keine Rechtsberatung, keine Haftung: Dieser Ratgeber gibt den Stand unserer Recherche am angegebenen Datum wieder. Modelle, Werkzeuge und Lizenzen ändern sich schnell. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr und keine Haftung.