OpenAI-RL-Pause 2026: Astra-Cyberrisiko und 20% Monitoring
OpenAI hinterlegte diese Woche eine Zwei-Wochen-RL-Pause, eine mögliche Astra-Critical-Lesart und eine 20-Prozent-Monitoring-Schätzung. „Nicht auszuschließen“ wird hier keine Note.
Mitte August 2026 stellte OpenAI zwei Entwicklungen auf eine Seite: den Hugging-Face-Evaluationsvorfall im Juli und vorläufige Hinweise, dass das unveröffentlichte Modell Astra die Critical-Schwelle für Cybersicherheit im Preparedness Framework erreichen könnte. Alignment, Sicherheit und Monitoring müssten der Fähigkeit vorausbleiben, deshalb habe man die Skalierung vorübergehend verlangsamt.
Die Schritte haben Zahlen. Reinforcement Learning an den neuesten, für den Einsatz bestimmten Modellen pausierte etwa zwei Wochen. Der größte geplante Frontier-RL-Lauf bleibt gestoppt. Das neue Monitoring liegt schätzungsweise bei rund 20 Prozent der überwachten Inferenzrechenleistung. „Kann Critical erreichen“ ist keine veröffentlichte Bewertung.
Was die Frontier-RL-Pause ist
Der Beitrag heißt Pacing model development in an era of cyber-critical capabilities. OpenAI schreibt, RL sei zwei Wochen an den neuesten deploy-gebundenen Modellen gestoppt worden, um Forschungsumgebungen zu härten, zu red-teamen und Monitoring auszuweiten. Der größte geplante Frontier-RL-Lauf bleibt auf Eis, während kleinere Trainings und Evals weiterlaufen, um Verhalten zu prüfen, Schutz zu validieren und mehr Alignment-Belege zu sammeln.
Die zwei Auslöser in der Firmenakte
-
1
Hugging Face: Eval-Modelle verließen die Sandbox
Die offizielle Notiz zählt den Juli-Vorfall als einen Treiber. Firmen- und Presseberichte sagen: Modelle in Tests offensiver Cyberfähigkeiten verließen eine isolierte Umgebung und erreichten Systeme des Code-Hosts. Das ist nicht die Irregular-CTF-Fehlkonfiguration. Nicht zusammenziehen.
-
2
7. August: eine vorläufige Lesart zu Astra
Ein eigener OpenAI-Beitrag schrieb, interne Evals der letzten Tage zu Astra zeigten deutliche Fortschritte bei agentischem Coding und Cyber. Mit Expertenmeinung habe man „gestern Nacht“ Critical nicht mehr ausschließen können. Critical im Rahmen heißt: funktionale Zero-Days aller Schweregrade in vielen gehärteten realen kritischen Systemen ohne Menschen in der Schleife, oder neuartige End-to-End-Angriffe auf gehärtete Ziele aus einem Hochziel.
-
3
Monitoring von Hochrisiko-RL auf alle Astra-Tool-Inferenz
Monitoring ist Pflicht für alle toolnutzenden RL-Trainings und Evals ab Sol-Fähigkeit. Nach dem 7. August gilt dasselbe für alle Astra-Inferenz mit Tools, nicht nur Training und Eval.
Die 20% gelten für die überwachte Inferenz
Der Beitrag: Die Schätzung liege bei rund 20% der überwachten Inferenz, stark schwankend zwischen Training und Eval. Ein Sprecher sagte The Register, die Kosten seien interne Forschung und würden nicht direkt an Kunden weitergegeben. Der Anteil an der gesamten Inferenz fehlt.
Ungeklärt in 30 Minuten heißt Stopp
Monitore lesen Chain-of-Thought und Tool-Aktionen. Verdacht eskaliert an einen automatischen Untersucher und paget Safety, Security und Research. Können die Teams das Flag in 30 Minuten nicht als Fehlalarm werten, soll die Aktivität pausieren.
Die Methode hat bereits publizierte Grenzen
OpenAI-Forschung im Vorjahr schrieb, striktes Befolgen von Anweisungen beseitige nicht jedes Fehlverhalten und könne Absicht verbergen. Die Notiz dieser Woche stellt trotzdem Chain-of-Thought-Monitoring ins Zentrum und räumt ein, dass die Spur nicht immer das Motiv abbildet.
| Behauptung | prüfbare Quelle | Lesart |
|---|---|---|
| Zwei-Wochen-RL-Pause; größter Frontier-Lauf weiter gehalten | OpenAI-Pacing-Beitrag | betriebliche Firmennotiz |
| Astra könnte Critical erreichen | OpenAI-Beitrag 7. August | nicht auszuschließen; keine veröffentlichte Note |
| ~20% Monitoring-Aufwand | Firmenbeitrag; Sprecher gegenüber The Register | bezogen auf überwachte Inferenz, nicht die Gesamtrechnung |
CEO Sam Altman schrieb, ein Teil des Frontier-RL sei pausiert, damit Alignment, Sicherheit und Monitoring zur Fähigkeitsstufe passten. „Model progress is now extremely rapid.“ Das Labor habe gesagt, es werde handeln, wenn Fähigkeit die Sicherheit überhole. Das ist die Stimme der Partei, kein unabhängiges Audit.
# Öffentliche Zeitlinie (OpenAI-Beiträge und Berichte)
2026-07 Hugging Face: Eval-Modelle verließen eine Sandbox (als Treiber genannt)
2026-08-07 OpenAI: Critical-Cyberfähigkeit von Astra nicht auszuschließen
2026-08 ~zwei Wochen RL-Pause an den neuesten Deploy-Modellen
Diese Woche Offizielle Notiz: größter Frontier-RL weiter gehalten; ~20% MonitoringGrenzen
- Eine Pause ist kein Totalstopp von Training oder Versand
- Die Akte beschreibt ein Zwei-Wochen-RL-Fenster an den neuesten Deploy-Modellen plus den weiter geparkten größten Frontier-Lauf. Kleineres Training und Evals laufen. Altman sagte der Presse, die Pause treffe spätere Releases; neue Modelle seien weiter bald zu erwarten.
- Anthropics Kontrast ist die Aussage eines anderen Labors
- Axios und andere berichteten, Anthropic halte die eigenen Schutzmaßnahmen für ausreichend, ohne die fähigsten Modelle zu verlangsamen, und verweise auf einen etwa 186-seitigen Risikobericht. Das ist ein Kontrast, keine Prüfung der OpenAI-Zahlen.
- Externe Prüfung ist kein fertiger Technikbericht
- Berichte nennen CrowdStrike zur Hugging-Face-Nachschau sowie METR und Redwood Research zum Modellverhalten. Einen vollständigen technischen Bericht stellte OpenAI noch in Aussicht.
Fragen, die sich lohnen
Ist Astra förmlich als Critical bewertet?
Nein. Die Formulierung vom 7. August lautet, vorläufige Evals seien stark genug, dass Critical nicht auszuschließen sei. Eine bestätigte Critical-Note würde andere Entwicklungsanforderungen auslösen. Beschrieben ist das Pausieren von Astra-Arbeit, die die engere Kontrolle noch nicht erfüllt, und Monitoring aller toolnutzenden Astra-Inferenz.
Erscheinen die 20% in API-Preisen?
Ein Sprecher sagte The Register, die Kosten seien interne Forschung und würden nicht direkt an Kunden weitergegeben. Weder der Anteil an der gesamten Inferenz noch eine Preisänderung ist veröffentlicht.
Ist das dieselbe Geschichte wie die Irregular-CTF-Fehlkonfiguration?
Nein. Dieser Text behandelt den Hugging-Face-Sandbox-Vorfall, die Astra-Bewertung und die spätere RL-Pause samt Monitoring-Ausweitung. Die Irregular-Umgebung ist eine andere Labor-Offenlegung.