OpenAI stuft Selbstverbesserung von GPT-6.2 Astra als Risiko ein
GPT-6.2 Astra erreicht laut OpenAI als erstes extern veröffentlichtes Modell die Stufe „High“ für KI-Selbstverbesserung. Das Unternehmen sieht darin ausdrücklich ein Risiko.
OpenAI zufolge kann Astra die KI-Forschung deutlich beschleunigen. Das Unternehmen vergleicht den Effekt mit einem zusätzlichen, hoch qualifizierten Forschungsingenieur für jeden eigenen Forscher. Die Sorge: Neue KI-Systeme könnten schneller entstehen, als Sicherheitsmaßnahmen und menschliche Kontrolle Schritt halten können.
OpenAI nennt strengere Kontrollen in Forschungsumgebungen als Gegenmaßnahme. Das Überwachungssystem Control Room soll Forschungsaufgaben verfolgen und bei Bedarf stoppen können. Zudem hat OpenAI nach eigenen Angaben die Überwachung erweitert. Sie untersucht, wie Modelle denken und handeln, und soll unerlaubtes Verhalten automatisch melden.
Auch Cybersicherheit erreicht kritische Stufe
Neben Astra hat OpenAI GPT-6.2 Sol vorgestellt. Beide Modelle erreichen laut Unternehmen bei der Cybersicherheit die Stufe „Critical“. Sie sollen Schwachstellen besser finden und ausnutzen können. Für riskante Anfragen verschärft OpenAI deshalb die Schutzmaßnahmen. Das schränkt nach Angaben des Unternehmens auch legitime Sicherheitsforschung ein.
Im internen ExploitBench-Test erzielte Astra eine Erfolgsquote von über 50 Prozent beim Ausnutzen bekannter Browser-Schwachstellen. Die veröffentlichten Cybersicherheitstests liefen ohne Schutzmaßnahmen und Filter.
Im ExploitBench-Test überschreitet GPT-6.2 Astra die Marke von 50 Prozent. Die Tests liefen ohne Schutzmaßnahmen.
Die Einstufung „Critical“ ist aus unserer früheren Berichterstattung bereits für den Vorgänger GPT-6 Astra bekannt.
Unabhängige Tests und Verfügbarkeit
Im Intelligence Index von Artificial Analysis belegt GPT-6.2 Astra mit 62 Punkten den zweiten Platz. Claude Fable 5.2 liegt mit 65 Punkten davor.
Im Intelligence Index erreicht GPT-6.2 Astra Platz zwei hinter Claude Fable 5.2.
Epoch AI bewertet Astra im eigenen Capabilities Index mit 174 Punkten gleichauf mit Fable 5.2. Bei praktischen Forschungsaufgaben lag Astra jedoch hinter Fable und verbesserte sich kaum gegenüber GPT-6 Astra.
Astra ist für anspruchsvolle professionelle Aufgaben gedacht, Sol für schnelle Alltagsaufgaben. Beide Modelle sind in ChatGPT Work und Codex für Plus-, Pro-, Enterprise- und Edu-Nutzer verfügbar. Über die API sind Astras Standardpreise für Ein- und Ausgabe jeweils 20 Prozent niedriger als beim Vorgänger. Sol behält die API-Preise von GPT-6.1 Sol.