OpenAI warnt vor begrenzter Zeit zur Stärkung der Cybersicherheit
OpenAI hat vor einem „begrenzten Zeitfenster zur Stärkung der Cybersicherheit“ gewarnt. Mehr als 100 Organisationen schlossen sich OpenAI in einem offenen Brief an, der Unternehmen und Regierungen auffordert, ihre Cyberabwehr zu verstärken, bevor es zu spät ist. Bemerkenswert ist, dass auch der Rivale Anthropic unter den Unterzeichnern ist, was zeigt, dass selbst die beiden größten KI-Unternehmen Gemeinsamkeiten finden können.
Zunehmende Bedrohung durch KI-gesteuerte Cyberangriffe
„In den kommenden Monaten werden KI-gesteuerte Cyberangriffe immer häufiger und deutlich ausgefeilter, da Modelle weltweit größere Fähigkeiten erlangen“, heißt es in dem offenen Brief. „Unternehmen und öffentliche Dienstleistungen, von denen unsere Gemeinden abhängig sind – von Krankenhäusern und Kläranlagen bis hin zur Infrastruktur, die das Internet speist – sind gefährdet.“
Der CEO von OpenAI, Sam Altman, zeigt sich besorgt: „Es bleibt nicht mehr viel Zeit zum Handeln.“ Altman schrieb auf X: „Dies ist ein entscheidender Moment für die KI-gestützte Cyberabwehr; es bleibt nicht viel Zeit zum Handeln.“ Er fügte hinzu: „Wir freuen uns, wenn sie mit uns oder einem unserer Wettbewerber oder Partner zusammenarbeiten wollen, aber bitte nehmen Sie diesen Moment ernst. Nur eine dringende und intensive kollektive Reaktion wird Ergebnisse bringen.“
Vorfall bei Hugging Face und koordinierte KI-Agenten
Der Brief kommt, während OpenAI weiterhin Informationen darüber veröffentlicht, wie skrupellose Akteure aus einer vermeintlich sicheren Testumgebung entwichen, bevor sie Hugging Face hackten, um Antworten für interne Tests zu erhalten. Altman hatte den Vorfall als einen Wendepunkt beschrieben. Mehrere KI-Agenten schufen ein eigenes „Forum“ zur Koordinierung und hackten letztendlich OpenAI und Hugging Face. Altman erwähnte in einem kürzlichen Interview: „Dies ist der erste Sicherheitsvorfall, der mich so visceral getroffen hat.“
Empfehlungen für Unternehmen, Regierungen und KI-Laboratorien
Der Brief enthält Vorschläge für Organisationen, Cybersicherheitsunternehmen, Regierungen und führende KI-Unternehmen. Dazu gehören die Aufforderung an Regierungen, die Cyberabwehr besser zu finanzieren, an Cybersicherheitsunternehmen, Bedrohungsinformationen und bewährte Strategien auszutauschen, und an KI-Labore, zuverlässige Tools, Strategien und Bedrohungsbewertungen mit denen zu teilen, die sie am dringendsten benötigen. „Wir fordern Führungskräfte der Industrie und der Regierung auf, ihr gesamtes technologisches Potenzial, ihre Ressourcen und ihr Fachwissen in diese Anstrengung einzubringen“, heißt es in dem Brief. „Lassen Sie uns KI mit Cyberfähigkeiten in die Hände von Verteidigern legen, beginnend mit den Teams, die kritische Dienste schützen.“
Nvidia befindet sich in Gesprächen über die Übernahme von Hugging Face für über 13 Milliarden Dollar. Zu den bemerkenswertesten Unterzeichnern aus der Technologiebranche gehören Microsoft, Google, Amazon Web Services, Oracle, Cisco, IBM und CrowdStrike. Auch Hugging Face, Opfer der Datenpanne von OpenAI, schloss sich der Vereinbarung an. Zu den weiteren wichtigen Unternehmen, die Teil der Gruppe sind, gehören Citi, General Motors, Visa, Capital One, Mastercard und Citadel.