KI-Agenten: Inferenzkosten verfünffachen sich bis 2028
Veröffentlicht am: 18.08.2026 um 22:03 Uhr | Redaktion boerse-global.de
Das Marktforschungsunternehmen Gartner rechnet trotz sinkender Preise für einzelne Sprachmodell-Token mit einem massiven Anstieg der Betriebskosten für fortgeschrittene Anwendungen der künstlichen Intelligenz (KI).
Einer aktuellen Prognose zufolge werden sich die Inferenzkosten pro agentischem Workflow bis zum Jahr 2028 verfünffachen. Diese Entwicklung steht im Gegensatz zu dem Trend, dass die reinen Modellpreise der Anbieter in den letzten Monaten deutlich gesunken sind.
Das Inferenz-Paradoxon als Kostentreiber
Den Grund für diese prognostizierte Kostensteigerung sehen die Analysten von Gartner im sogenannten Inferenz-Paradoxon. Dieses beschreibt einen Effekt, bei dem gerade die günstigeren Token-Preise dazu führen, dass Unternehmen weitaus komplexere Workflows entwickeln und implementieren.
Da die Kosten pro Einheit sinken, steigt die Bereitschaft, die KI-Modelle für umfangreichere Aufgaben einzusetzen, was in der Summe zu deutlich höheren Gesamtausgaben führt.
Die Komplexität der Aufgabenstellungen sorge dafür, dass das Volumen der verarbeiteten Daten und die Anzahl der Rechenvorgänge schneller wachsen als die Effizienzgewinne durch Preisnachlässe bei den Modell-Anbietern.
Höhere Anforderungen durch agentisches Reasoning
Ein wesentlicher Faktor für den Kostenanstieg ist der technologische Übergang von einfachen Chatbots zu agentischen Systemen. Ein KI-Agent kostet laut Gartner in der Inferenz mindestens fünfmal mehr als ein herkömmlicher Chatbot. Dies liege vor allem an der Art und Weise, wie diese Systeme arbeiten. Während einfache Chatbots primär auf Anfragen reagieren, müssen agentische Systeme kontinuierlich Schlussfolgerungen ziehen.
Wer sich mit dem Einsatz komplexer KI-Systeme befasst, muss neben den Kosten auch die neuen gesetzlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Gartner-Analyst Will Sommer erläuterte dazu, dass KI-Agenten ein deutlich höheres Maß an Reasoning benötigen. Sie müssen in der Lage sein, Verhandlungen zu führen, ihre eigenen Ergebnisse ständig zu hinterfragen und komplexe Schlussfolgerungsketten aufzubauen.
Dieser Prozess erfordere eine wesentlich höhere Rechenleistung. Sobald ein System an ein spezielles agentisches Reasoning-Modell weitergeleitet wird, steigen die Inferenzkosten laut den Marktforschern mindestens um den Faktor fünf an.
Strategien zur Vermeidung unkontrollierter Ausgaben
Angesichts dieser Aussichten warnt Gartner vor der Gefahr schwer kontrollierbarer Ausgaben. Unternehmen benötigen demnach optimierte Verfahren in den Bereichen Inferenz-Tiering, Routing und Orchestrierung. Ohne eine präzise Steuerung, welches Modell für welche Aufgabe mit welcher Priorität eingesetzt wird, drohen nach Einschätzung der Analysten unbegrenzte Kosten für die Betreiber.
Die zunehmende Komplexität von KI-Workflows stellt Unternehmen nicht nur vor finanzielle, sondern auch vor neue regulatorische Aufgaben. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Nicht nur die Anwenderunternehmen, sondern auch die Infrastrukturanbieter stehen vor Herausforderungen. Laut Gartner müssen die Anbieter ihre Infrastrukturen zwingend optimieren, um die Kosten für die Kunden in einem beherrschbaren Rahmen zu halten. Die Fähigkeit, komplexe agentische Abläufe effizient zu orchestrieren, werde künftig zu einem entscheidenden Wettbewerbsfaktor im KI-Markt.
