Schock für Google Nutzer: KI-Chatbot Gemini hat gravierende Sicherheitslücke – und Google weigert sich, sie zu fixen!

Ki-systeme sind nicht unfehlbar: die gefahr von sicherheitslücken

Ähnlich wie andere Anwendungen und Betriebssysteme können auch KI-Tools Schwachstellen in ihrem Code aufweisen, die ihre Funktionsweise und die Sicherheit ihrer Nutzer gefährden. Unternehmen sind stets bemüht, solche Fehler zu beheben, bevor sie von Cyberkriminellen ausgenutzt werden können – oft werden sogar Belohnungen für die Entdeckung solcher Schwachstellen ausgeschüttet. Doch bei Google scheint es nun anders zu sein.

Gemini im visier: eine beunruhigende entdeckung

Ein gravierendes Problem betrifft aktuell den Google Gemini Chatbot. Demnach kann er falsche Informationen anzeigen, sein Verhalten verändern oder Daten heimlich weiterleiten. Was bereits bedenklich wäre, wird durch Googles Reaktion noch verschärft: Das Unternehmen hält den Fehler nicht für eine Sicherheitslücke und plant keine Behebung. Das berichtet Bleeping Computer.

Der trick: ascii-smuggling – was steckt dahinter?

Der Fehler wurde von Viktor Markopoulos, einem Sicherheitsexperten von FireTail, aufgedeckt. Er beschreibt eine Technik namens ASCII-Smuggling, bei der der Unterschied zwischen dem wahrgenommenen Inhalt und der maschinellen Verarbeitung ausgenutzt wird. Unicode-Zeichen werden verwendet, um unsichtbaren Code oder Aktionen einzuschleusen, die für Menschen unbemerkt bleiben, für KI-Modelle aber wirksam sind.

Neue gefahren durch ki-agenten

Bisher galten solche Angriffe als relativ harmlos, da sie nur durch die Eingabe bösartiger Prompts durch den Nutzer selbst möglich waren. Die zunehmende Integration von KI-Agenten hat jedoch die Menge der potenziell ausgesetzten Daten und Aufgaben drastisch erhöht. Ein Angreifer könnte ASCII-Zeichen in Kalendereinladungen oder E-Mails verstecken, um falsche Kontakte einzufügen oder schädliche Links einzufügen.

Datenlecks durch google workspace?

Da Gemini eng mit Google Workspace verbunden ist, könnten Nutzer, die den Chatbot mit ihrem E-Mail-Konto verknüpft haben, unwissentlich Details über ihre Kontakte preisgeben, wenn sie eine E-Mail mit versteckten ASCII-Zeichen erhalten. Dies stellt ein ernsthaftes Risiko für die Privatsphäre dar und könnte zu Identitätsdiebstahl führen.

Warum zögert google? ein brisanter fall

Das Problem betrifft nicht nur Gemini. Auch DeepSeek und Grok sind anfällig für ASCII-Smuggling. Im Gegensatz dazu haben Claude, ChatGPT und Microsoft Copilot bereits Schutzmechanismen implementiert. Google argumentiert, dass der Angriff nur im Rahmen ausgeklügelter Social-Engineering-Kampagnen ausnutzbar sei und stelle daher keine akute Sicherheitsbedrohung dar. Dies wird von Sicherheitsexperten jedoch kritisiert.

Ein appell an die nutzer: vorsicht bei ki-interaktionen!

Nutzer sollten sich der potenziellen Risiken bewusst sein und vorsichtig sein, wenn sie mit KI-Chatbots interagieren. Die Weigerung von Google, die Schwachstelle zu beheben, wirft ernsthafte Fragen nach der Sicherheit und Verantwortlichkeit von KI-Systemen auf. Es bleibt abzuwarten, ob der Druck der Öffentlichkeit Google dazu bewegen wird, umzukehren und die Sicherheit seiner Nutzer zu priorisieren.