Kostenmanagement für Unternehmens-KI - silicon.de

• August 15, 2026
• technology  

Sinkende Token-Preise bremsen die KI-Ausgaben nicht, warnt Gastautor Jon Knisley von ABBYY.

KI hat Software von einem Lizenzmodell mit Fixkosten in einen verbrauchsabhängig abgerechneten Dienst verwandelt. Jeder Prompt, jeder Datenabruf und jede Verarbeitungsschleife fließen in die Abrechnung ein. Daher steigen die Ausgaben mit der Nutzung. Der eigentliche Kostensprung ist jedoch auf die Architektur zurückzuführen. Der Wechsel von einem Chatbot zu einem Agenten erhöht den Token-Verbrauch pro Aufgabe um das Zehn- bis Hundertfache. Zudem ermöglichen neue Modelle komplexere Abläufe, die mehr Werkzeuge, Aufrufe und Tokens erfordern.

Es geht dabei nicht um die Modellkosten. Der am häufigsten unterschätzte Hebel liegt in der Aufbereitung der Eingaben und der Orchestrierung. Kürzere Prompts, Zwischenspeicherung und die Wahl des Modells bringen begrenzte Einsparungen. Ein großer Teil der Kosten entsteht jedoch durch unnötig generierte Tokens.

Bei agentenbasierten Anwendungen entfallen oft nur 5 bis 15 Prozent der verbrauchten Tokens auf die eigentliche Ausgabe. Der Rest ist kontextbedingter Mehraufwand. PDF-Dateien sind dafür ein anschauliches Beispiel. Sie wurden für die Darstellung entwickelt, nicht für das inhaltliche Verständnis. Jede PDF-Datei in einer Verarbeitungskette zwingt das Modell, zunächst unter hohem Token-Einsatz das Layout zu rekonstruieren. Erst anschließend kann es die Fakten extrahieren. Damit wird ein Reasoning-Modell für eine Formatierungsaufgabe bezahlt.

Der größte versteckte Kostenfaktor entsteht, wenn Unternehmen die Token-Rechnung statt der Kosten eines erfolgreichen Ergebnisses messen. In die Bezugsgröße muss auch die Arbeitszeit einfließen, die Menschen für Spezifikation, Prüfung, Korrektur und Freigabe benötigen. Die Prüfung einer Agentenausgabe durch einen Analysten kostet pro Stunde häufig mehr als der Agent, der sie erstellt hat. Wer Token-Kosten senkt und zugleich den Prüfaufwand erhöht, spart daher kein Geld. Die Kosten verlagern sich lediglich auf eine teurere Position.

Die meisten übrigen versteckten Kosten entstehen durch selbst verursachten Governance-Aufwand. Freigabeprozesse, nutzerbezogene Obergrenzen und manuelle Prüfungen werden nachträglich ergänzt, weil sich entsprechende Lösungen leicht einkaufen lassen. Sie belasten jedoch jede Interaktion, ohne die eigentlichen Kostentreiber zu beeinflussen. Diese liegen in der Architektur.

Governance wird noch teurer, wenn Herkunfts- und Compliance-Metadaten beim Durchlaufen der Verarbeitungskette verloren gehen. Jeder Ablauf muss dann Angaben rekonstruieren, die er eigentlich hätte übernehmen sollen. Diese Metadaten müssen mit dem Dokument verknüpft bleiben. So begleitet die Governance die Daten, statt jedes Mal neu aufgebaut zu werden.

Ja, allerdings ist der Effekt geringer, als viele erwarten. In einer neuen Untersuchung wurden die Aufgaben konstant gehalten und ausschließlich die technische Umgebung rund um das Modell ausgetauscht. Der Token-Verbrauch sank bei vergleichbarer Qualität um 38 Prozent. Die Kosten pro Aufgabe gingen um 41 Prozent und die Ausführungszeit um 44 Prozent zurück. Der Wechsel vom teuersten zum günstigsten Modell brachte dagegen Einsparungen von rund 36 Prozent. Die Optimierung des Modellaufrufs kann somit größere Einsparungen erzielen als ein Modellwechsel.

Günstigere und Open-Source-Modelle werden zunehmend praxistauglich. Das gilt besonders, wenn sie saubere, strukturierte Eingaben erhalten, die Mehrdeutigkeiten beseitigen. Nachhaltig ist es, die Wirtschaftlichkeit nicht von einem einzelnen Modell abhängig zu machen. Offene Standards auf Dokumentenebene ermöglichen einen Modellwechsel, ohne dass dafür ein Neuaufbau erforderlich ist.

AI Value Management bedeutet, die Kosten je erfolgreiches Ergebnis zu messen, statt den Token-Verbrauch zu minimieren. Dabei werden sowohl die Kosten der maschinellen Verarbeitung als auch der menschliche Aufwand für ein nutzbares Ergebnis berücksichtigt. Unternehmen sollten Token-Ausgaben nicht länger als reine Verbrauchskosten budgetieren, sondern wie ein Portfolio steuern.

Dafür müssen sie die Ausgaben danach bewerten, welchen Wert sie schaffen. Tokens zum Aufbau wiederverwendbarer Fähigkeiten entsprechen Investitionsausgaben. Tokens für interne Abläufe zählen zu den Betriebsausgaben. Tokens in einem kundenorientierten Produkt gehören zu den Umsatzkosten. Sind jedem Prozess ein Verantwortlicher und ein Ergebnis zugeordnet, wird sichtbar, wo KI ihren Wert vervielfacht und wo lediglich Kosten versickern.

Sie setzen direkt an der Ursache der Kosten an. Am günstigsten ist ein Token, der gar nicht erst übertragen wird. Unaufbereitete PDF-Dateien zwingen ein Modell, zunächst die Struktur abzuleiten, bevor es die Inhalte auswerten kann. Dadurch steigen Token-Verbrauch, Latenz und Halluzinationsrisiko gleichzeitig. Wird das Dokument vorab in ein KI-natives Format überführt, enthält es bereits seine Struktur und Bedeutung. Das Modell kann dann Schlussfolgerungen ziehen, statt das Dokument zu rekonstruieren.

Unsere ersten DocLang-Benchmarks zeigen je nach Modell eine Senkung der Token-Kosten um den Faktor vier bis über dreißig. Gerade bessere Eingaben ermöglichen es einem kleineren und günstigeren Modell, mit einem Frontier-Modell gleichzuziehen. Die strukturierte Dokumentenaufbereitung bietet innerhalb dieser Umgebung den höchsten ROI, weil sie deterministisch erfolgt. Fakten, die bereits in einem Dokument enthalten sind, lassen sich nahezu ohne Token-Kosten extrahieren. Das teure Reasoning-Modell bleibt dadurch dem Schritt vorbehalten, der tatsächlich eine anspruchsvolle Beurteilung erfordert. Die meisten Teams verfahren umgekehrt. Sie bezahlen ein Frontier-Modell dafür, eine Tabelle auszulesen, die es nie hätte erhalten sollen.

Die Kosten von Unternehmens-KI sind ein Architekturproblem im Gewand der Modellwahl. Die Branche optimiert weiterhin den in der Preisübersicht ausgewiesenen Betrag pro Token. Dieser sinkt zwar von Quartal zu Quartal, dennoch steigen die Rechnungen im Produktivbetrieb. Nicht das Modell bestimmt, was eine Aufgabe tatsächlich kostet. Entscheidend ist die technische Umgebung rund um das Modell. Sie stellt den Kontext zusammen, strukturiert Dokumente und leitet Aufgaben weiter. Das Modell trägt nur rund 10 Prozent dazu bei, dass ein Agent gut arbeitet. Den Rest leistet die technische Umgebung.

Das zugrunde liegende Fehlermuster bezeichnen Forscher als „Tokenmaxxing“. Unternehmen erkaufen zusätzliche Leistungsfähigkeit durch einen höheren Token-Einsatz. Dadurch wächst der Token-Verbrauch pro Aufgabe schneller als deren Wert. Sinkende Preise pro Token verdecken das Problem, bis es bei einer Skalierung sichtbar wird. Deshalb erwartet Gartner, dass bis Ende 2027 mehr als 40 Prozent der Projekte mit agentenbasierter KI ausgesetzt werden. Gründe dafür seien steigende Kosten, ein unklarer Nutzen und unzureichende Kontrollen.

Besonders erfolgreiche Unternehmen erledigen die unspektakulären Aufgaben. Sie strukturieren Dokumente und extrahieren deterministische Fakten nahezu kostenlos. Nur echte Beurteilungsaufgaben übergeben sie an ein Sprachmodell. Sie mieten das Modell, verfügen aber über eine eigene technische Umgebung für dessen Einsatz.

Jon Knisley

ist Head of AI Enablement and Value beim Technologieanbieter ABBYY.