KI-Agenten, Verbraucher

KI-Agenten: Nur 36 Prozent der Verbraucher in Deutschland vertrauen ihnen Entscheidungen an

Veröffentlicht am: 22.11.2026 um 17:53 Uhr | Redaktion boerse-global.de
Umfragen und Praxistests zeigen geringe Zustimmung, Sicherheitsbedenken und Schwächen bei selbstständigen KI-Entscheidungen.
Ein minimalistischer, leerer moderner Innenraum mit klaren architektonischen Linien und kühlem Lichteinfall. Illustration mit AI erstellt.

Weltweit zeigt sich eine deutliche Zurückhaltung gegenüber autonomen Software-Agenten. Laut einer Untersuchung des Identitäts- und Sicherheitsdienstleisters Okta sind global lediglich 38 Prozent der Verbraucher bereit, Entscheidungen an künstliche Intelligenz zu übertragen.

In Deutschland fällt die Akzeptanz mit 36 Prozent noch etwas geringer aus. Vollkommene Eigenständigkeit der digitalen Assistenten stößt dabei auf noch größere Ablehnung: Weniger als 10 Prozent der weltweit befragten Konsumenten befürworten, dass solche Helfer vollkommen autonom in ihrem Namen handeln.

Die Skepsis der deutschen Verbraucher spiegelt sich auch im allgemeinen Nutzungsverhalten wider. Dem Bericht zufolge haben 73 Prozent der Befragten in Deutschland bereits einen Online-Kauf abgebrochen, weil ein Zwang zur Kontoerstellung bestand.

Zudem fordern 91 Prozent ein hohes Maß an Datenschutz und Sicherheit. Gleichzeitig kämpfen die Anbieter auf betrieblicher Ebene mit Verzögerungen: Laut demselben Bericht liegt weniger als jede fÜnfte europäische Organisation bei ihren Vorhaben im Bereich der künstlichen Intelligenz im ursprünglichen Zeitplan.

Vorbehalte in Unternehmen und hohe Projektabbrüche

Die Vorsicht der Endkunden deckt sich mit den Abläufen in den Unternehmen selbst. Die Studie mit dem Titel «Enterprise AI Study: Intelligence, that is Real» des Beratungsunternehmens TCS, für die 1.333 Führungskräfte in 25 Ländern und zwölf Branchen befragt wurden, belegt diese Zurückhaltung: Weltweit gestatten lediglich 10 Prozent der Unternehmen ihren KI-Agenten Entscheidungen über mehrere Funktionen hinweg ohne vorherige menschliche Freigabe. Nur 9 Prozent verfügen über Systeme, die Workflows sicher über verschiedene Anwendungen hinweg orchestrieren können.

Anzeige

Die neuen Regeln für KI-Systeme fordern von Unternehmen nicht nur technisches Know-how, sondern vor allem rechtliche Sicherheit bei der Dokumentation. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die komplexen Risikoklassen und Fristen besser zu verstehen. EU AI Act in 5 Schritten verstehen: Jetzt Gratis-E-Book sichern

Zudem nennen 84 Prozent der Teilnehmer Produktivitätsgewinne als primäre Wertquelle ihrer Investitionen, während nur 10 Prozent von einer Steigerung der Umsätze berichten. Aspekte wie Sicherheit, Risikomanagement und Governance rangieren dabei vor Kriterien wie Kosten, Einfachheit oder Tempo.

Souveränitätsanforderungen sehen 34 Prozent der Unternehmen weltweit und 43 Prozent in Europa als hohes oder sehr hohes Risiko. Während 90 Prozent eine Unabhängigkeit von einzelnen Modellen als wichtigen Faktor einstufen, besitzen derzeit nur 7 Prozent konkrete Pläne für einen Anbieterwechsel.

Vor diesem Hintergrund prognostiziert das Marktforschungsunternehmen Gartner, dass mehr als 40 Prozent der Vorhaben mit agentischer künstlicher Intelligenz bis Ende 2027 eingestellt werden, unter anderem aufgrund mangelhafter Risikokontrollen.

Anzeige

Wer KI-Systeme im geschäftlichen Umfeld einsetzt, muss die strengen Anforderungen an Transparenz und Risikomanagement kennen. Ein kostenloser Report klärt auf, welche Pflichten Unternehmen nun konkret erfüllen müssen, um rechtssicher zu agieren. Kostenlosen Report zur EU-KI-Verordnung herunterladen

Risiken bei automatisierten Geschäftsentscheidungen

Praxistests unterstreichen die Gründe für die Vorbehalte. Eine Untersuchung von Microsoft im Rahmen des Simulationsprojekts «Magentic Marketplace», das 100 simulierte Kunden und 300 Unternehmen umfasste, deckte gravierende Schwachstellen auf. Viele Modelle entschieden sich demnach pauschal für das erstbeste Angebot, anstatt Preise und Qualität zu vergleichen.

Nur vereinzelte Systeme wie Gemini 2.5 Flash und GPT-5 wiesen ein strategisches Verhalten auf. Zudem ließen sich diverse Modelle durch erfundene Bewertungen, gefälschte Gütesiegel und manipulierte Eingaben täuschen, was teils zu Überweisungen an betrügerische Verkäufer führte. Microsoft fordert daher strenge Aufsicht und klare Leitplanken, insbesondere beim Umgang mit Geld und Daten.

Auch die wissenschaftliche Langzeitforschung mahnt zur Besonnenheit. Die seit 2014 auf 100 Jahre angelegte AI100-Studie der Stanford University hält fest, dass der bisherige Fortschritt vor allem auf reiner Skalierung durch größere Datenmengen und Rechenleistung beruhte.

Iyad Rahwan vom Max-Planck-Institut für Bildungsforschung, Mitautor der Untersuchung, betont, dass zusätzliche Trainingsdaten mittlerweile teils keine Verbesserungen mehr bringen.

Zunehmend entscheidend seien Datenkuratierung, Feinabstimmung und Wissensdestillation. Zwar erwartet Rahwan laut der Studie keine Massenarbeitslosigkeit, hält jedoch die Lösung des Alignment-Problems bis zum nächsten Bericht im Jahr 2031 für zentral.

Ergänzend weist die KI-Forschungsorganisation METR darauf hin, dass Modelle bei Programmier- und Rechenaufgaben mit direktem Feedback zwar Fachleute schlagen können, bei Aufgaben ohne sofortige Rückmeldung und bei echtem Urteilsvermögen jedoch deutliche Schwächen aufweisen. Gängige Prüfverfahren neigten dazu, die praktischen Alltagsfähigkeiten autonomer Systeme zu überschätzen.

Disclaimer...
de | wissenschaft | 70544694 |