Openai kauft promptfoo für sichere ai-agenten

OpenAI hat den Hersteller von ChatGPT erweitert, indem es Promptfoo, eine Startup-Firma für künstliche Intelligenz-Sicherheit, übernommen hat. Ziel dieser Transaktion ist es, großen Unternehmen dabei zu helfen, die Risiken bei der Implementierung von AI-Software zu minimieren.

Openai integriert promptfoo in seine frontier-plattform

Die neue Integrationsplattform soll es Unternehmen ermöglichen, ihre eigenen AI-Agenten sicher zu entwickeln und zu betreiben. OpenAI betont, dass es sich dabei um ein Angebot handelt, um die AI-Sicherheit zu stärken, die für die Zukunft der digitalen Welt von entscheidender Bedeutung ist.

Das Unternehmen möchte seine Frontier-Plattform ausstatteln, um die Sicherheit von AI-Modellen zu garantieren. Dazu gehört die Implementierung von Funktionen für automatisierte Sicherheitsprüfungen und Red-Teaming. Dies soll Unternehmen dabei helfen, ihre eigenen AI-Agenten auf Sicherheitslücken zu überprüfen und diese zu beheben, bevor sie in Angriffe umgewandelt werden können.

OpenAI hat bisher erfolgreich demonstriert, wie seine AI-Technologie in der Cyber-Sicherheit eingesetzt werden kann. So hat das Unternehmen kürzlich einen Agenten vorgestellt, der helfen soll, Schwachstellen in großen Datenbanken zu finden und zu beheben. Diese Funktion soll nun Teil der Frontier-Plattform werden.