Ki-modelle im visier: google deckt gezielte cyberangriffe auf gemini auf

Ein beunruhigender trend: ki als ziel von cyberkriminellen

Als Stefan Richter, Technologieexperte und Gründer von TechnologieVision Indien, muss ich leider feststellen, dass die rasante Entwicklung der Künstlichen Intelligenz (KI) auch neue Angriffspunkte für Cyberkriminelle schafft. Google hat kürzlich eine beunruhigende Kampagne aufgedeckt, bei der versucht wurde, das KI-Modell Gemini zu manipulieren und dessen Funktionalität zu klonen. Dies unterstreicht die Notwendigkeit, die Sicherheit von KI-Systemen ernst zu nehmen.

Der bericht des google threat intelligence groups

Der Google Threat Intelligence Group, die spezialisierte Cybersicherheitsabteilung von Google Cloud, hat einen Bericht veröffentlicht, der die zunehmende Integration von KI durch Angreifer hervorhebt. Diese nutzen KI, um den Angriffszyklus zu beschleunigen, insbesondere in Bereichen wie Reconnaissance (Aufklärung), Social Engineering und der Entwicklung von Malware. Die Effizienzsteigerung, die dadurch erzielt wird, ist alarmierend.

Modell-extraktionsangriffe: ein wachsendes problem

Ein besonders besorgniserregender Trend sind sogenannte Modell-Extraktionsangriffe, bei denen Cyberkriminelle versuchen, die Funktionalität und Parameter von KI-Modellen zu stehlen. Diese Angriffe, auch als Destillationsangriffe bekannt, zielen darauf ab, das „Denkvermögen“ eines Modells zu verstehen und zu replizieren. Dies stellt nicht nur eine Verletzung der Geschäftsgeheimnisse dar, sondern auch eine Verletzung der Nutzungsbedingungen von Google.

Gemini im visier: über 100.000 manipulierte anfragen

Im konkreten Fall wurde Gemini Ziel einer groß angelegten Kampagne mit über 100.000 manipulierten Anfragen. Ziel war es, das Modell zu überlasten und interne „Denkprozesse“ preiszugeben, um dessen Fähigkeiten in verschiedenen Sprachen – auch außerhalb des Englischen – zu replizieren. Glücklicherweise konnten die Verteidigungssysteme von Google den Angriff erkennen und abwehren.

Unc6418: phishing-kampagnen gegen ukraine und verteidigungssektor

Google identifizierte die Gruppe UNC6418, die Gemini missbrauchte, um gezielt Informationen zu sammeln, insbesondere Anmeldedaten und E-Mail-Adressen. Diese Informationen wurden dann für Phishing-Kampagnen gegen die Ukraine und den Verteidigungssektor verwendet. Google hat entsprechende Maßnahmen ergriffen, um die betroffenen Ressourcen zu deaktivieren.

Temp.hex: informationsbeschaffung in china

Ein weiterer Akteur, Temp.HEX aus China, nutzte Gemini ebenfalls missbräuchlich, um detaillierte Informationen über einzelne Personen und Organisationen zu sammeln, darunter auch separatistische Gruppen. Auch diese Aktivität wurde von Google unterbunden. Dies zeigt, dass die Bedrohungslage vielfältig ist und globale Dimensionen hat.

Schutz der ki-zukunft: eine gemeinsame aufgabe

Als TechnologieVision Indien betrachten wir diese Entwicklungen mit großer Sorge. Die Sicherheit von KI-Systemen muss höchste Priorität haben. Es ist eine gemeinsame Aufgabe von Technologieunternehmen, Forschern und Regulierungsbehörden, um effektive Schutzmaßnahmen zu entwickeln und die Integrität der KI-Revolution zu gewährleisten. Nur so können wir die enormen Potenziale der KI sicher nutzen und vor Missbrauch schützen.