Google warnt vor maliziösen angriffen auf ihre künstliche intelligenz

Google schützt ihre künstliche intelligenz vor angriffen

Google hat kürzlich eine maliziöse Kampagne entdeckt, die sich gegen ihre künstlicheIntelligenz (AI) richtete. Der Angriff zielte auf das System Gemini, um es zu clonen und die Funktionen nachzubauen.

Ataker nutzen ai für schnelleere angriffe

Laut einem Bericht des Google-Threat-Intelligence-Teams nutzen die Angreifer immer mehr künstliche Intelligenz, um den Zyklus ihrer Angriffe zu beschleunigen. Dies ermöglicht ihnen eine produktivere Entwicklung von Erkennungs-, Social-Engineering- und Malware-Anwendungen.

Extraktion und destillation von modellen

Ein Hauptproblem, das Google in den letzten Monaten beobachtet hat, sind sogenannte Extraktionsangriffe auf Modelle. Hierbei versuchen die Angreifer, Funktionen und Parameter von AI-Modellen zu stehlen, um die unterliegende Logik und Denkprozesse zu verstehen und eigenen Modellen zuzuschreiben.

Attacke auf google-gemini

In einer riesigen Anfrage-Kampagne von über 100.000 Falsch-Anweisungen direkt an Gemini versuchten die Angreifer, das System zu überlasten und seine geheimen Funktionen zu erlangen. Doch Google konnte den Angriff im Echtzeit-Verlauf erkennen und den Schaden begrenzen.

Unc6418 und temp.hex identifiziert

Die Analysten von Google haben auch einige der involvierten Schädlinge identifiziert, wie z.B. UNC6418 und Temp.HEX. Letzterer nutzte Gemini, um Informationen über bestimmte Menschen und Organisationen in verschiedenen Ländern zu sammeln.

Google reagiert

Die Unternehmen hat die betroffenen Aktivitäten neutralisiert und die assoziierten Ressourcen deaktiviert. Google betont, dass ihre Systeme die Angriffe in Echtzeit erkennen und abwehren konnten, um die Sicherheit ihrer Benutzer zu schützen.