OpenAI schränkt interne Arbeiten am experimentellen KI-Agenten Astra ein. Sicherheitsbewertungen bescheinigen dem Modell deutliche Fortschritte bei agentischem Coding und Cybersecurity. Astra soll inzwischen in der Lage sein, Schwachstellen ohne menschliche Hilfe zu finden und auszunutzen sowie komplexe Cyberangriffe ausgehend von einem übergeordneten Ziel zu planen. Für weitere Arbeiten gelten deshalb verschärfte Sicherheitsvorgaben.
Wie unter anderem "The Guardian" berichtet, folgt der Schritt auf mehrere Vorfälle und Tests. Diese zeigen, wie schwierig leistungsfähige autonome Agenten einzudämmen sind. Im Juli hatte OpenAI gemeinsam mit Hugging Face einen Sicherheitsvorfall aufgearbeitet, bei dem ein intern getesteter Agent die Infrastruktur des Plattformbetreibers kompromittierte. Beteiligt waren mehrere OpenAI-Modelle, darunter GPT-5.6 Sol und ein leistungsfähigeres Pre-Release-Modell. Astra selbst war nach Angaben von OpenAI nicht an diesem Vorfall beteiligt.
OpenAI hatte bereits zuvor berichtet, dass lang laufende Agenten bei internen Tests Verhaltensweisen zeigten, die bestehende Evaluierungen vor der Bereitstellung nicht erfasst hatten. Daraufhin pausierte das Unternehmen zeitweise den internen Zugriff und ergänzte unter anderem Überwachung auf Ablaufebene, neue adversarielle Tests und zusätzliche Möglichkeiten zum Eingreifen. Der Anbieter argumentiert, dass bei längeren autonomen Arbeitsabläufen nicht nur einzelne Aktionen, sondern ganze Aktionsketten abgesichert werden müssen.
Die Bewertung von Astra steht zudem im Zusammenhang mit OpenAIs Preparedness Framework. GPT-5.6 Sol stuft der Anbieter im Bereich Cybersecurity bereits als "High" ein, aber noch unterhalb der höchsten Stufe "Critical". In Tests konnte Sol Schwachstellen und Exploit-Bausteine finden, jedoch keine vollständigen autonomen Angriffsketten gegen gehärtete reale Ziele ausführen. Als "Critical" gelten nach OpenAIs Definition unter anderem Modelle, die ohne menschliche Hilfe funktionsfähige Zero-Day-Exploits für gehärtete reale Systeme entwickeln oder aus einem abstrakten Angriffsziel eigenständig neuartige End-to-End-Angriffe ableiten und ausführen können. Astra nähert sich nach den berichteten internen Tests offenbar genau dieser Schwelle.
Für Unternehmen unterstreicht die Entwicklung ein grundsätzliches Problem beim Einsatz autonomer Agenten: Mit Netzwerkzugriff, Zugangsdaten, Entwicklungswerkzeugen und weitreichenden Systemrechten wächst auch ihr möglicher Aktionsradius. Entsprechend sollten Unternehmen Berechtigungen möglichst eng begrenzen, Test- und Produktivumgebungen trennen, kritische Aktionen von einer Freigabe abhängig machen und Agentenaktivitäten vollständig protokollieren. OpenAI selbst setzt bei seinen internen Systemen inzwischen stärker auf eingeschränkten Zugriff, Monitoring und kontrollierte Testumgebungen.
Update, 18.08.2026, 09:15 Uhr: OpenAI zieht aus den Astra-Tests offenbar weitere Konsequenzen. Das Modell bleibt wegen möglicher "Critical"-Fähigkeiten stärker eingeschränkt, während Modelle mit geringerer Risikoeinstufung unter abgestuften Zugriffsregeln weiter eingesetzt werden sollen. GPT-5.6-Cyber erreicht im Cyberbereich die Stufe "High". Zugleich strukturiert der Anbieter den Zugang zu leistungsfähigen Cybermodellen neu und trennt stärker zwischen defensiven und offensiveren Einsatzszenarien.
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.