Openai zahlt hacker für ki-fehler: ein wettlauf gegen den missbrauch?
San Francisco – OpenAI, der Gigant hinter ChatGPT, hat einen ungewöhnlichen Schritt gewagt: Das Unternehmen startet ein „Safety Bug Bounty“-Programm, bei dem Forscher und Sicherheitsexperten für das Aufdecken von Schwachstellen in den eigenen KI-Modellen belohnt werden. Es geht nicht mehr nur um traditionelle Cyber-Sicherheit, sondern um die Analyse des Verhaltens intelligenter Systeme – ein völlig neues Feld der Bedrohung.
Der fokus liegt auf manipulation und autonomie
Anders als bei klassischen Bug-Bounty-Programmen zielt OpenAI hier auf Risiken ab, die aus der wachsenden Komplexität der KI entstehen. Das bedeutet konkret: Forscher werden dafür bezahlt, Wege zu finden, wie sich Modelle wie ChatGPT manipulieren lassen, beispielsweise durch geschickte Prompts, die unerwünschtes Verhalten auslösen. Auch der Missbrauch von autonomen Agenten, die immer mehr Aufgaben selbstständig erledigen können, steht im Fokus. Die Gefahr liegt hier in der unkontrollierten Ausführung schädlicher Aktionen.
Die neue Initiative kommt zu einem kritischen Zeitpunkt. OpenAI hat kürzlich zahlreiche Erweiterungen für ChatGPT eingeführt, darunter Bibliotheken mit Inhalten und integrierte Einkaufstools. Diese Funktionalitäten erweitern die Angriffsfläche erheblich und machen die Suche nach Sicherheitslücken noch wichtiger. Ernst Kleppmann, Sicherheitsexperte bei Cybric, kommentiert: „Es ist ein cleverer Schachzug von OpenAI, die Community in die Sicherheitsprüfung einzubeziehen. Die Gefahr, dass KI-Systeme für bösartige Zwecke missbraucht werden, ist real, und eine proaktive Herangehensweise ist unerlässlich.“
Um eine gültige Schwachstelle nachweisen zu müssen, reicht es nicht aus, einen Fehler zu finden. Der Forscher muss zeigen, dass der Fehler sich reproduzieren lässt – idealerweise in etwa der Hälfte der Versuche. Besonders interessant für OpenAI sind Berichte über die Offenlegung sensibler Informationen, etwa Einblicke in das interne Funktionieren der Modelle oder deren Denkprozesse. Auch das Umgehen von Sicherheitsbeschränkungen oder die Gefährdung der Plattformintegrität zählen zum Leistungsumfang des Programms.
Doch nicht jeder Fund ist preiswürdig. „Einfache Jailbreaks“ oder Fehler mit geringem Einfluss werden ausgeschlossen. Ebenso wenig interessiert OpenAI an Schwachstellen, für die es keine klare Lösung oder praktische Konsequenzen gibt. Die eingereichten Vorschläge werden von spezialisierten Teams geprüft und gegebenenfalls an andere Bereiche weitergeleitet.
Es bleibt abzuwarten, ob das Safety Bug Bounty-Programm von OpenAI tatsächlich dazu beitragen kann, die Sicherheit der eigenen KI-Systeme zu gewährleisten. Die Zahl der potenziellen Angriffsvektoren wächst mit der Komplexität der Modelle stetig, und der Wettlauf zwischen Entwicklern und Hackern geht weiter. OpenAI schließt nicht aus, in Zukunft weitere, private Programme zu starten, um besonders sensible Bereiche noch intensiver zu untersuchen.