OpenAI kauft Promptfoo: Was die Übernahme für die Sicherheit von KI-Agenten bedeutet
KI-generiert mit Sora
OpenAI übernimmt die Security-Plattform Promptfoo. Die Tools testen KI-Agenten automatisiert auf Schwachstellen wie Prompt Injection, Datenlecks und Jailbreaks, bevor sie auf echte Unternehmensdaten losgelassen werden. Die Technologie wird in Frontier integriert und bleibt laut OpenAI Open Source.
OpenAI hat am 9. März 2026 die Übernahme der Security-Plattform Promptfoo angekündigt. Promptfoo testet KI-Agenten automatisiert auf Sicherheitslücken. Über 25 % der Fortune-500-Unternehmen nutzen die Tools bereits. Die Übernahme ist der jüngste Schritt in einer Reihe von Zukäufen, mit denen sich die großen Tech-Konzerne das Ökosystem rund um KI-Agenten sichern wollen.
Warum klassische Sicherheitstools bei KI-Agenten nicht reichen
Ein Chatbot beantwortet Fragen. Ein KI-Agent handelt. Er greift auf Dateien zu, verschickt E-Mails, steuert Software und trifft eigenständig Entscheidungen. Das verändert die Sicherheitslage grundlegend. Klassische Sicherheitstools prüfen Netzwerke, Ports und Dateien auf bekannte Schadsoftware. Bei einem KI-Agenten ist die Angriffsfläche eine andere: Der Agent versteht natürliche Sprache und führt Anweisungen aus. Wer ihn manipulieren will, braucht keinen Schadcode. Ein geschickt formulierter Text reicht völlig aus.
Genau hier setzt Promptfoo an. Die Plattform simuliert Angriffe auf KI-Agenten, bevor diese produktiv eingesetzt werden. Das Prinzip nennt sich Red-Teaming und funktioniert ähnlich wie ein Einbruchstest bei einem Gebäude. Experten versuchen Schwachstellen zu finden, bevor sie ein Angreifer findet.
Promptfoo deckt dabei über 50 Angriffsarten ab. Bei einer sogenannten Prompt Injection versucht das System, den Agenten durch manipulierte Eingaben zu unbeabsichtigten Aktionen zu verleiten. Jailbreak-Tests prüfen, ob sich die Sicherheitsregeln des Agenten umgehen lassen. Weitere Tests decken auf, ob der Agent vertrauliche Informationen preisgibt oder sich bei der Nutzung externer Werkzeuge unsicher verhält.
Zusätzlich prüft die Plattform die Sicherheit von MCP-Servern. MCP steht für Model Context Protocol und ist ein Standard, über den KI-Agenten auf externe Datenquellen und Werkzeuge zugreifen. Wer die Sicherheitsrisiken von KI-Agenten mit Vollzugriff kennt, versteht warum das relevant ist. Je mehr ein Agent kann, desto wichtiger wird die Absicherung seiner Schnittstellen.
AnzeigeWer hinter Promptfoo steckt
Die Plattform wurde 2024 von Ian Webster und Michael D’Angelo gegründet. Webster leitete zuvor die LLM-Engineering-Teams bei Discord, wo er KI-Produkte für 200 Millionen Nutzer verantwortete. D’Angelo bringt Erfahrung aus der KI-Infrastruktur mit. Als VP of Engineering und Head of AI bei Smile Identity war er für diverse Machine-Learning-Systeme verantwortlich.
Was als Open-Source-Tool für Prompt-Tests begann, wuchs innerhalb von zwei Jahren zu einer Unternehmensplattform. Die Zahlen laut Promptfoo: Über 350.000 Entwickler haben die Tools genutzt, 130.000 sind monatlich aktiv. Über 25 % der Fortune-500-Unternehmen setzen Promptfoo in ihrem Entwicklungsprozess ein. Das Startup hatte laut Tracxn insgesamt 23,6 Millionen US-Dollar eingesammelt, unter anderem von Andreessen Horowitz und Insight Partners. Einen Kaufpreis haben weder OpenAI noch Promptfoo genannt.
Server, KI-Modelle und Recherche kosten Geld. ClawNews ist unabhängig — hilf mit, dass das so bleibt.
