Zum Inhalt springen

Blog

KI & Machine Learning

Was kostet der Betrieb eines KI-Agenten? Tokens, Tools und die versteckten Kostenpositionen

Die Betriebskosten eines KI-Agenten bestehen aus Modell-Tokens in jedem Schritt sowie Wiederholungen, Tool- und Suchgebühren, Hosting, Monitoring und menschlicher Prüfung. Budgetieren Sie pro Aufgabe, nicht pro Token.

6 Min. Lesezeit
Gerasterte Illustration einer Marmorhand, die das Gehäuse einer Tischuhr öffnet und ein dichtes verborgenes Uhrwerk zeigt, in dessen Tiefe ein kleines Zahnrad rot leuchtet.
Facebook-Logo
X-Logo
LinkedIn-Logo
Reddit-Logo
Telegram-Logo

Der Betrieb eines KI-Agenten kostet Modell-Tokens für jeden einzelnen Schritt, dazu Wiederholungen, Tool- und Suchgebühren, Hosting, Monitoring und die Zeit, die Mitarbeitende für die Prüfung seiner Arbeit aufwenden. Die Modellrechnung ist meist der Teil, den Sie am wenigsten sicher vorhersagen können. Kalkulieren Sie pro erledigter Aufgabe des Agenten, mit schriftlich festgehaltenen Annahmen, und gleichen Sie diese nach dem ersten Monat mit echten Logs ab.

Stellen Sie sich einen Operations-Leiter vor, dessen Support-Triage-Agent gerade freigegeben wurde. Der Pilot kostete wenige Dollar pro Tag, also steht im Budget „API-Kosten: gering“. Drei Monate später fragt das Controlling, warum sich die Rechnung verdreifacht hat, woher eine nie eingeplante Suchrechnung kommt und warum zwei Personen noch immer ihre Vormittage damit verbringen, die Antworten des Agenten zu kontrollieren. Nichts davon war absichtlich versteckt. Es stand nur nirgends geschrieben.

Woraus setzen sich die Kosten für den Betrieb eines KI-Agenten zusammen?

Die laufenden Kosten eines KI-Agenten sind alles, was Sie jeden Monat dafür bezahlen, dass er Aufgaben erledigt: Modellaufrufe, Wiederholungen, Tools, Infrastruktur und menschliche Aufsicht. Ein KI-Agent ist Software, die mithilfe eines Modells selbst entscheidet, welchen Schritt sie als Nächstes geht, und Tools aufruft, bis eine Aufgabe erledigt ist. Deshalb wachsen seine Kosten mit der Zahl der Schritte, nicht mit der Zahl der Nutzer. Unser Beitrag dazu, was ein KI-Agent ist, erklärt diesen Unterschied ausführlich.

Die Kostenpositionen

  • Modellaufrufe: Input- und Output-Tokens für jeden Schritt, abgerechnet pro Million Tokens.

  • Wiederholungen und fehlgeschlagene Läufe: Aufrufe, die nach einem Timeout, einer fehlerhaften Antwort oder einer gescheiterten Prüfung wiederholt werden.

  • Tool- und Suchgebühren: Websuche, Grounding, Datenanreicherung oder andere kostenpflichtige APIs, die der Agent aufruft.

  • Hosting: der Server, die Warteschlange oder die Workflow-Plattform, auf der der Agent läuft.

  • Monitoring und Evaluation: Logs, Traces und die Testläufe, die Sie nach jeder Prompt- oder Modelländerung wiederholen.

  • Menschliche Prüfung: die Minuten, die Mitarbeitende mit dem Freigeben, Korrigieren oder Wiederholen der Arbeit des Agenten verbringen.

Wie werden Modellaufrufe Ende 2026 abgerechnet?

Modellaufrufe werden pro Million Tokens abgerechnet, mit getrennten Preisen für Input und Output sowie günstigeren Preisen für zwischengespeicherten Input und Batch-Jobs. Ein Token ist ein kleiner Textabschnitt, etwa ein Wortteil, und Output-Tokens kosten bei jedem der folgenden Modelle ein Mehrfaches der Input-Tokens.

Standardpreise pro Million Tokens, wie sie am 8. November 2026 auf der jeweiligen Preisseite des Anbieters aufgeführt waren:

  • Claude Sonnet 5.5 (Anthropic): Input: $2. Output: $10. Cache-Treffer: $0.10.

  • Claude Haiku 5.5 (Prompts bis 100.000 Tokens): Input: $0.10. Output: $0.50. Cache-Treffer: $0.01. Prompts über 100.000 Tokens kosten $0.50 für Input und $2.50 für Output.

  • Claude Opus 5.5: Input: $4. Output: $20. Cache-Treffer: $0.20.

  • GPT-6.1 Sol (OpenAI): Input: $2. Output: $10. Zwischengespeicherter Input: $0.10. Prompts über 272K Input-Tokens: $4 für Input, $15 für Output.

  • GPT-6.1 Terra: Input: $1. Output: $5. Zwischengespeicherter Input: $0.05.

  • Gemini 4 Argon (Google): Input: $2 bis 30. November 2026, danach $4 ab 1. Dezember. Output: $10, danach $20. Zwischengespeicherter Input: $0.10, danach $0.20.

Zwei Details verändern Budgets stärker als der Listenpreis. Erstens: Die Batch-Verarbeitung kostet bei allen drei Plattformen die Hälfte, für Arbeit, die warten kann. Zweitens: Der Preis von Gemini 4 Argon verdoppelt sich am 1. Dezember 2026, ein auf November-Testläufen basierendes Budget wird im Dezember also falsch sein. Wie Sie Modelle nach Aufgabe statt nach Preis auswählen, erfahren Sie in unserem Leitfaden zur Modellauswahl für Geschäftsprozesse.

Warum verbraucht ein Agent mehr Tokens als ein Chatbot?

Ein Agent verbraucht mehr Tokens, weil jeder Schritt die Anweisungen, die Tool-Definitionen und alles bisher Geschehene erneut mitsendet und eine einzelne Aufgabe mehrere Schritte benötigen kann. Ein Chatbot antwortet einmal; ein Agent liest, plant, ruft ein Tool auf, liest das Ergebnis und ruft dann erneut das Modell auf.

Eine lange Schriftrolle rollt sich von einer Marmorbüste eine Prunktreppe hinab und wird mit jeder Stufe länger, ihr neuestes Stück ist rot

Woher die zusätzlichen Tokens kommen

  • Wiederholte Anweisungen: Der System-Prompt und die Tool-Definitionen werden bei jedem Aufruf mitgesendet, oft Tausende Tokens, bevor die eigentliche Aufgabe beginnt.

  • Wachsender Verlauf: Jeder Schritt fügt dem Kontext die bisherigen Tool-Ergebnisse hinzu, sodass spätere Aufrufe einer Aufgabe größer sind als frühere.

  • Tool-Ergebnisse: Eine Suche oder Datenbankabfrage kann weit mehr Text liefern, als der Agent braucht. Die Preisseite von OpenAI weist darauf hin, dass bei der Websuche aus dem Index abgerufene „Search-Content-Tokens“ zu den Modellpreisen berechnet werden, zusätzlich zu $10 pro 1.000 Aufrufe.

  • Thinking-Tokens: Reasoning-Modelle erzeugen Tokens, die Sie nie sehen. Die Preisseite von Google sagt zu Gemini 4 Argon: „every token the model processes is counted and billed, including thinking tokens“ (jedes vom Modell verarbeitete Token wird gezählt und berechnet, einschließlich Thinking-Tokens), und führt deren Kosten im Output-Preis auf.

  • Wiederholungen: Ein Aufruf, der die Validierung nicht besteht, wird doppelt bezahlt.

Wie sieht ein durchgerechnetes Beispiel aus?

Hier ein Support-Triage-Agent, berechnet mit den oben genannten Preisen von Claude Sonnet 5.5. Jede Zahl ist eine Annahme zur Veranschaulichung, keine Messung; ersetzen Sie jede durch Ihre eigene.

  1. Volumen: 2.000 Tickets pro Monat.

  2. Schritte: 4 Modellaufrufe pro Ticket.

  3. Input: 6.000 Tokens pro Aufruf, davon 4.000 jedes Mal derselbe System-Prompt samt Tool-Definitionen.

  4. Output: 500 Tokens pro Aufruf.

  5. Modellkosten ohne Caching: 24.000 Input-Tokens pro Ticket kosten $0.048 und 2.000 Output-Tokens $0.020, also $0.068 pro Ticket oder $136 im Monat.

  6. Mit Prompt Caching: Die 16.000 wiederholten Tokens pro Ticket fallen auf den Cache-Treffer-Preis, wodurch das Ticket auf etwa $0.038 kommt, also rund $75 im Monat, zuzüglich eines kleinen Betrags für Cache-Schreibvorgänge.

  7. Wiederholungen: Wird jeder zehnte Aufruf wiederholt, kommen etwa 10 % hinzu, also rund $83.

  8. Menschliche Prüfung: Prüfen Mitarbeitende jedes zehnte Ticket je 3 Minuten lang, sind das 10 Stunden im Monat. Bei angenommenen internen Kosten von $40 pro Stunde sind das $400.

Unter diesen Annahmen kosten die Menschen, die den Agenten prüfen, ein Mehrfaches des Modells. Dieselbe Last würde mit Claude Haiku 5.5 vor dem Caching etwa $7 im Monat an Modellaufrufen kosten, und mit Gemini 4 Argon stiege sie ohne Caching von $136 im November auf $272 im Dezember. Hosting und Monitoring hängen von Ihrem Stack ab und sollten als eigene Positionen ergänzt werden.

Wie senken Sie die Kosten, ohne die Qualität zu gefährden?

Sie senken die Kosten, indem Sie weniger und kleinere Aufrufe senden, einfache Schritte an günstigere Modelle leiten und den Prüfaufwand verringern, während ein Evaluationsset bestätigt, dass die Qualität erhalten bleibt. Ändern Sie immer nur eine Sache und messen Sie das Ergebnis.

Zwei marmorne Fingerspitzen stutzen mit einer verzierten Dochtschere einen Kerzendocht, der ruhigere Flammenkern ist rot

Die Checkliste

  • Den stabilen Präfix cachen. Halten Sie System-Prompt und Tool-Definitionen am Anfang jedes Aufrufs identisch, damit sie zu Cache-Preisen abgerechnet werden. Die Seite von Anthropic berechnet Cache-Treffer bei Opus 5.5 und Sonnet 5.5 mit dem 0,05-Fachen des Basis-Input-Preises.

  • Tool-Ergebnisse kürzen. Liefern Sie nur die Felder zurück, die der Agent braucht, nicht ganze Datensätze oder Seiten.

  • Schritte begrenzen. Legen Sie eine maximale Zahl von Aufrufen pro Aufgabe fest und übergeben Sie alles, was diese Grenze erreicht, an einen Menschen.

  • Nach Schwierigkeit routen. Lassen Sie ein kleines Modell klassifizieren oder extrahieren und rufen Sie ein größeres nur für die Schritte auf, die es brauchen.

  • Aufschiebbares im Batch verarbeiten. Zusammenfassungen über Nacht und Back-Office-Jobs können die halbierten Batch-Preise nutzen.

  • Die Kontextlänge im Blick behalten. Lange Prompts können eine Anfrage in eine höhere Preisstufe bringen, etwa bei GPT-6.1 Sol über 272K Tokens und bei Claude Haiku 5.5 über 100.000.

  • Prüfaufwand anhand von Belegen senken. Verringern Sie den Anteil der von Menschen geprüften Aufgaben nur dann, wenn Ihre Logs zeigen, dass der Agent sie richtig löst. Unsere Checkliste zum Testen eines KI-Agenten vor dem Produktivbetrieb zeigt, wie Sie sich dieses Vertrauen verdienen.

So gehen wir bei Vizio AI vor

Wir kalkulieren einen Agenten pro erledigter Aufgabe, bevor wir ihn bauen. Gemeinsam mit dem Kunden halten wir das erwartete Volumen, die Schritte pro Aufgabe, das Modell für jeden Schritt und den Anteil der von Menschen geprüften Arbeit schriftlich fest und bewerten das anhand der aktuellen Preisseiten der Anbieter, mit dem Datum neben jedem Preis.

Während des Piloten protokollieren wir für jede Aufgabe Tokens, Wiederholungen, Tool-Aufrufe und Prüfzeit, vergleichen dann die realen Kosten pro Aufgabe mit der Schätzung und passen das Design an: Caching, kleinere Modelle für einfache Schritte, schlankere Tool-Ergebnisse und niedrigere Prüfquoten, wo das Evaluationsset sie stützt. Jeder Agent erhält vom ersten Tag an einen Ausgabenalarm und eine Schrittbegrenzung. Das ist Teil unserer Arbeit im DX Studio.

Quellen

FAQs.

01

02

03

04

05

Mehr lesen.

Dithered illustration of two marble hands pulling a mason's line taut between stakes across bare ground at dawn, the first course of stones laid along it and a pink knot at the nearest stake.
Your First 30 Days With a Product Studio: What Happens Week by Week
7 Min.

The first 30 days with a product studio: week one sets access and goals, week two tests the riskiest assumption, weeks three and four ship a first slice.

Dithered illustration of a marble hand opening the case of a bracket clock to show a dense hidden mechanism, one small gear deep inside glowing red.
What Does an AI Agent Cost to Run? Tokens, Tools and the Hidden Line Items
6 Min.

An AI agent's running cost is model tokens across every step, plus retries, tool and search fees, hosting, monitoring and human review. Budget per task, not per token.

Dithered illustration of a fragmented marble face looking down at a jeweller's tray where gems are sorted by size, the largest stone glowing amber under a brass lamp.
AI Lead Scoring in Your CRM: Start With the Rules You Already Trust
7 Min.

Add AI lead scoring by writing down the rules sales already trusts, cleaning CRM data, then testing the AI score against those rules before reps use it.

AI-first denken.
Zukunftsschnell handeln.

Lassen Sie uns bauen, was als Nächstes kommt! Von Produktideen und intelligenten Workflows bis zu datengetriebenen Systemen und skalierbaren Growth Operations.

Strategiegespräch buchen