KI-Sicherheit: 2.975 gestohlene ChatGPT-Zugänge in 2 Monaten

Experten und Medien warnen eindringlich vor der Weitergabe von Zugangsdaten für KI-Chatbots wie ChatGPT, Claude und Gemini. Hintergrund der Warnungen sind erhebliche Datenschutz- und Betriebsrisiken, die sowohl private Nutzer als auch Unternehmen betreffen. Neben der Gefahr des Identitätsdiebstahls rücken zunehmend gezielte Angriffe durch Cyberkriminelle und die missbräuchliche Nutzung von Kontofunktionen in den Fokus der Sicherheitsanalysten.

Gezielte Angriffe auf KI-Infrastrukturen und Anmeldedaten

Sicherheitsforschern zufolge nutzen Angreifer vermehrt automatisierte Werkzeuge, um sensible Zugangsdaten zu entwenden. Das Tool „Zerofot“ sammelte in einem Zeitraum zwischen Anfang April und Ende Mai 2026 insgesamt 2.975 validierte Anmeldedaten von 1.742 Hosts. Darunter befanden sich Schlüssel für Dienste von OpenAI, Anthropic, Gemini und Amazon Web Services (AWS) sowie SSH-Keys.

Parallel dazu beobachten Experten der Gruppe Kaspersky GReAT Aktivitäten der SilverFox-APT-Gruppe. Diese verbreitete Anfang des Jahres über 1.600 bösartige E-Mails, die gefälschte Claude-Apps für Windows, macOS und Linux enthielten. Die Kampagne konzentrierte sich vor allem auf den asiatischen Raum, wobei über 90 Prozent der Angriffe auf Großchina entfielen.

Besonders die Fertigungsbranche war mit über einem Drittel der Vorfälle betroffen. Zudem setzen Cyberkriminelle zunehmend auf KI-Tools wie Claude Code und OpenAI Codex, um Ransomware-Angriffe effizienter zu gestalten. So wurde Claude Code im Juni 2026 bei Einbrüchen in sechs Organisationen genutzt, darunter ein australischer Energieversorger.

Kommerzieller Missbrauch und Graumärkte

Ein weiteres Risiko ergibt sich aus dem gewerblichen Missbrauch von KI-Plattformen. Beim Design-Anbieter Canva wurde eine Sicherheitslücke bekannt, die es Nutzern ermöglichte, KI-Credits über das vorgesehene Maß hinaus zu beanspruchen. In der Folge wurden solche manipulierten Konten auf Graumärkten angeboten.

Wer sich mit der Absicherung von IT-Strukturen und neuen gesetzlichen Rahmenbedingungen für Künstliche Intelligenz befasst, benötigt einen klaren Fahrplan. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Umsetzungsleitfaden zur KI-Verordnung kostenlos herunterladen

Berichten zufolge wurden Leonardo.Ai-Konten mit tausenden Generierungs-Credits verkauft, die zudem Zugang zu Premium-Videomodellen von ByteDance, Google und Kuaishou boten. Canva bestätigte daraufhin Updates, um diesen Missbrauch künftig zu verhindern.

Auch neue Plattformen wie Cursor Origin, die im Bereich Code-Hosting agieren, stehen unter Beobachtung. Nach der Übernahme durch SpaceX für 60 Milliarden US-Dollar Mitte August 2026 entdeckten Sicherheitsforscher, dass die Plattform eine bösartige Datei im Projektstamm ausführt, ohne den Nutzer um Erlaubnis zu fragen. Solche Vorfälle unterstreichen die Gefahr, die von ungesicherten oder fremden Kontozugängen ausgeht.

Psychologische Risiken und neue Schutzmaßnahmen

Neben technischen Gefahren betonen Experten die psychologischen Risiken der Chatbot-Nutzung. Daten zeigen, dass 0,15 Prozent der ChatGPT-Nutzer – das entspricht etwa 1,35 Millionen Menschen – wöchentlich suizidale Absichten in den Chats äußern.

Die bisherigen Reaktionen der Systeme, wie die Empfehlung von Notfallnummern, werden von Fachleuten als unzureichend kritisiert. Ein tragischer Fall aus dem Februar 2025, bei dem eine Nutzerin nach monatelangen „Therapie-Chats“ mit ChatGPT durch Suizid starb, führte bereits zu Klagen gegen die Betreiber.

Angesichts immer komplexerer Bedrohungslagen durch KI-Technologien und Cyberangriffe ist proaktiver Schutz für Unternehmen wichtiger denn je. Ein gratis E-Book enthüllt, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen erfüllen. IT-Sicherheit ohne teure Investitionen stärken

OpenAI reagiert auf die wachsende Kritik mit der Einführung von „ChatGPT for Teens“. Diese Version für 13- bis 17-Jährige umfasst strengere Inhaltsbeschränkungen, elterliche Kontrollen und Sicherheitsbenachrichtigungen bei Themen wie Selbstverletzung oder Essstörungen. Zudem sollen romantische Sprache und die Förderung emotionaler Abhängigkeit blockiert werden.

Gleichzeitig sorgt die neue Funktion „Computer History“ für die macOS-Desktop-App von OpenAI für Diskussionen. Das Tool zeichnet Interaktionsereignisse wie Klicks und App-Wechsel auf, um personalisierte Erinnerungen zu erstellen.

Da diese Daten lokal im Klartext gespeichert werden und nicht verschlüsselt sind, warnen Experten vor einem erhöhten Risiko für Prompt-Injection-Angriffe und Profiling. Nutzer bezeichnen die Funktion teilweise als besorgniserregend.

Fachleute raten dringend dazu, aktive Sitzungen regelmäßig in den Sicherheitseinstellungen der jeweiligen Anbieter zu überprüfen und bei Verdacht auf unbefugten Zugriff Passwörter umgehend zu ändern. Eine Weitergabe von Kontodaten sollte unter allen Umständen vermieden werden, um die Integrität persönlicher Daten und die Sicherheit der genutzten Systeme zu gewährleisten.

de | wissenschaft | 69966041 |