Billige Tokens, teure Agenten – warum die KI-Rechnung im Mittelstand trotzdem steigt

Wer KI-Agenten einführt, sollte nicht mit sinkenden, sondern mit steigenden KI-Kosten planen – auch wenn der Preis pro Token weiter fällt. Gartner bezeichnet dieses Phänomen als „Inference Paradox“ und erwartet, dass die Inferenzkosten pro agentischem Workflow bis 2028 um mehr als das Fünffache steigen. Für mittelständische Unternehmen im DACH-Raum, die gerade vom Chatbot-Pilotprojekt zu ersten Agenten-Anwendungen übergehen, ist das eine entscheidende Planungsgröße. Wer sie ignoriert, erlebt die Budgetüberraschung im zweiten Projektjahr.

Warum Agenten so viel mehr verbrauchen als Chatbots

Ein Agent verbraucht für dieselbe Aufgabe ein Vielfaches der Rechenleistung eines einfachen Chatbots. Laut Gartner benötigen Agenten das 5- bis 30-Fache an Tokens. Der Grund liegt in der Arbeitsweise: Ein Chatbot beantwortet eine Frage in einem Durchgang. Ein Agent plant, ruft Werkzeuge auf, prüft Zwischenergebnisse, korrigiert sich und liest dabei immer wieder den gesamten bisherigen Kontext neu ein.

Ein Beispiel aus der Praxis: Ein Maschinenbauer lässt eingehende Kundenanfragen von einem Chatbot vorsortieren – wenige Cent pro Vorgang. Wird daraus ein Agent, der die Anfrage liest, im ERP den Lagerbestand prüft, eine Preiskalkulation anstößt, ein Angebot entwirft und es gegen die Rabattrichtlinie abgleicht, entstehen pro Vorgang schnell zwanzig oder mehr Modellaufrufe. Der Nutzen steigt deutlich, die Kosten aber auch.

Warum sinkende Tokenpreise das Problem nicht lösen

Günstigere Tokens gelten vor allem für ältere Modellgenerationen, während die leistungsstärksten Modelle eher teurer werden. Die KI-Anbieter investieren Effizienzgewinne in die nächste, rechenintensivere Modellgeneration, statt sie als Preissenkung weiterzugeben. Hinzu kommen zwei Effekte, die jeder Controller kennt: Wird etwas billiger, wird mehr davon genutzt – und der Wettbewerb zwingt dazu, anspruchsvollere Anwendungsfälle umzusetzen. Gartner erwartet zudem keine gleichmäßige Entwicklung, sondern Ausgabenwellen bei jedem großen Modellsprung.

Was das für den DACH-Mittelstand bedeutet

Für mittelständische Unternehmen wird Kostentransparenz bei KI zur Führungsaufgabe, nicht zum IT-Detail. Drei Besonderheiten verstärken das Thema in Deutschland, Österreich und der Schweiz:

• —Budgetlogik: Viele Mittelständler planen IT-Budgets jährlich und mit festen Lizenzkosten. Verbrauchsabhängige KI-Kosten passen schlecht in dieses Raster und fallen oft erst bei der Kreditkartenabrechnung auf.
• —Fehlende Kontrollmechanismen: In einer VentureBeat-Umfrage vom September gaben 21 Prozent der Unternehmen mit Orchestrierungsplattform an, keinerlei automatische Ausgabengrenze für Agenten zu haben. In kleineren Organisationen ohne FinOps-Team dürfte dieser Anteil eher höher liegen.
• —Abhängigkeit von US-Anbietern: Preisänderungen der großen Modellanbieter schlagen ungefiltert durch. Wer keine Alternativen vorbereitet hat, hat keine Verhandlungsposition.

Fünf Hebel, mit denen Sie Agentenkosten steuern

Kostenkontrolle bei Agenten beginnt mit Messbarkeit und endet mit klaren Regeln, welches Modell wofür eingesetzt wird. Bewährt haben sich fünf Maßnahmen:

1. 01Kosten pro Vorgang messen, nicht pro Monat. Erfassen Sie für jeden Agenten die Kosten je bearbeiteter Anfrage, je erstelltem Angebot oder je geklärtem Fall. Nur so lässt sich der Nutzen ehrlich gegenüberstellen.
2. 02Modell-Staffelung einführen. Routineaufgaben wie Klassifizieren, Extrahieren oder Zusammenfassen gehören auf kleine, günstige Modelle. Das teuerste Spitzenmodell darf nicht der Standard sein, sondern die begründete Ausnahme. Laut VentureBeat-Umfrage nutzen bisher nur 31 Prozent der Unternehmen diese Staffelung gezielt.
3. 03Harte Ausgabengrenzen setzen. Hinterlegen Sie Budgetlimits pro Agent, pro Abteilung und pro Tag. Ein Agent, der sich in einer Schleife verfängt, darf nicht unbemerkt das Monatsbudget aufbrauchen.
4. 04Wirtschaftlichkeit vor dem Go-live testen. Rechnen Sie jeden Anwendungsfall mit einer Bandbreite durch: Was passiert, wenn sich die Tokenpreise verdoppeln oder der Verbrauch dreimal so hoch ist wie im Pilot? Trägt der Fall auch dann noch?
5. 05Leistungsschwache Workflows konsequent abschalten. Definieren Sie vorab Erfolgskriterien und prüfen Sie quartalsweise. Ein Agent, der seine Kosten nicht einspielt, wird überarbeitet oder beendet.

Typische Stolperfallen

Die häufigste Kostenfalle ist ein Pilot, der mit dem teuersten Modell und wenigen Testfällen glänzt und dann ungeprüft in den Volllastbetrieb geht. Ebenso riskant sind Agenten, die bei jedem Schritt das komplette Dokumentenarchiv in den Kontext laden, statt gezielt relevante Ausschnitte abzurufen. Und schließlich: Wenn niemand im Unternehmen für die KI-Kosten verantwortlich ist, fühlt sich auch niemand für sie zuständig.

Gerade hier lohnt ein strukturierter Blick von außen. Bei der KI-Prozessautomatisierung von AI Infusion steht deshalb nicht nur die Frage, was sich automatisieren lässt, sondern auch, mit welchem Modell und zu welchen Kosten pro Vorgang es sich rechnet. Zur KI-Prozessautomatisierung →

Fazit

KI-Agenten können im Mittelstand erhebliche Produktivitätsgewinne bringen, sind aber kein Selbstläufer in der Kostenentwicklung. Unternehmen, die jetzt Messbarkeit, Modell-Staffelung und Ausgabengrenzen etablieren, behalten die Kontrolle – auch wenn die nächste Modellgeneration die Preise wieder nach oben treibt. KI-Potenzial besprechen →