Openai verstärkt sicherheitsmaßnahmen für künstliche intelligenz

OpenAI hat ein neues Programm gestartet, um die Sicherheit seiner künstlichen Intelligenz-Modelle zu stärken. Der sogenannte Safety Bug Bounty richtet sich speziell auf neue Risiken wie die Manipulation durch Anweisungen oder den Missbrauch autarker Agenten ab. Ziel ist es, Probleme zu finden, die in realen Szenarien auftreten könnten, wie z.B. die Einbetonung von schädlichen Anweisungen, den möglichen Datenverlust oder gefährliche Handlungen durch automatisierte Systeme.

Sicherheitsinitiative für chatgpt und co.

Die neue Maßnahme kommt zum richtigen Zeitpunkt, nachdem OpenAI neue Funktionen wie Inhaltbibliotheken und integrierte Kaufwerkzeuge in das ChatGPT-Ökosystem aufgenommen hat. Der Bug Bounty ergänzt die traditionelle Sicherheitsstrategie von OpenAI um ein innovatives Ansatz, die Verhaltensweise von KI wie eine neue Angriffsfläche zu betrachten.

Um eine Schwäche als gültig anzuerkennen, müssen die Entdecker zeigen, dass sie in etwa der Hälfte der Versuche reproduziert werden kann. Auch Fälle, in denen sensible Informationen preisgegeben werden, wie zum Beispiel das Verhalten innerer Modelle oder ihre Denkprozesse, sind in den Fokus gerückt. Zudem fallen in den Bereich der erkannten Fehler auch solche, bei denen es um die Umgehung von Beschränkungen oder die Verletzung der Plattformintegrität geht.

Dennoch sind nicht alle Entdeckungen gleichermassen wertvoll. OpenAI weist explizit darauf hin, dass einfache 'Jailbreaks', geringe Auswirkungen oder Schwächen ohne klare Lösung oder praktische Konsequenzen nicht anerkannt werden. Die vorgelegten Vorschläge werden von spezialisierten Sicherheits- und KI-Verhaltens-Teams geprüft und manche könnten auch umgestaltet werden, je nach Natur der Schwäche. Langfristig plant OpenAI möglicherweise auch private Programme für die Untersuchung besonders sensibler Bereiche.