Wer warnt, geht: Die Chronik von OpenAIs Sicherheits-Exodus

Am 11. Juli 2026 gab OpenAI bekannt, dass Johannes Heidecke, Head of Safety Systems, das Unternehmen verlässt. Für sich genommen wäre das eine Personalie unter vielen — ein Manager wechselt, eine Organisation wird umgebaut, ein Nachfolger übernimmt interimistisch. Doch Heidecke ist nicht der erste. Er ist, je nach Zählweise, mindestens der sechste ranghohe Sicherheits- oder Alignment-Verantwortliche, der OpenAI seit Mai 2024 verlässt — und sein Abgang kommt nur zehn Tage nach dem von Chief Futurist Joshua Achiam. Wer die einzelnen Abgänge nebeneinanderlegt, erkennt ein Muster, das sich über 26 Monate zieht: dieselbe Sprache, dieselben Bruchlinien, dieselbe Diagnose — nur mit wachsender Schärfe.

Der Anfang: Superalignment und das gebrochene Versprechen

Die Geschichte beginnt im Mai 2024, kurz nach dem Launch von GPT-4o. Ilya Sutskever, Mitgründer und Chefwissenschaftler von OpenAI, verkündet nach fast einer Dekade seinen Abschied — und gründet wenig später Safe Superintelligence Inc., das binnen zehn Monaten auf eine Bewertung von 30 Milliarden Dollar kommt. Tage später folgt Jan Leike, Co-Leiter des „Superalignment"-Teams, das OpenAI 2023 mit der Zusage gegründet hatte, ihm 20 Prozent der gesamten Rechenkapazität des Unternehmens zur Verfügung zu stellen — ein Versprechen, das langfristige Sicherheitsforschung zur Chefsache erklären sollte. Leikes Abschied fällt undiplomatisch aus: „Safety culture and processes have taken a backseat to shiny products", schreibt er in einem vielzitierten Thread. Das Team habe seit Monaten gegen Widerstände gekämpft, unzureichende Rechenkapazität erhalten, unzureichendes Personal. OpenAI löst das Superalignment-Team daraufhin formal auf und verteilt die verbliebenen Mitglieder auf andere Forschungsgruppen. William Saunders, einer von ihnen, formuliert später öffentlich, weshalb er zunächst schwieg: „By speaking to you I might never be able to access vested equity worth millions of dollars." Diese Aussage wird zum Auslöser einer eigenen Nebengeschichte.

Publikationsfreiheit als Bruchlinie

Im Juni 2024 veröffentlichen 13 aktuelle und ehemalige Mitarbeiter von OpenAI und Google DeepMind — darunter der Governance-Forscher Daniel Kokotajlo, der im April desselben Jahres OpenAI verlassen hatte, weil er „das Vertrauen verlor, dass das Unternehmen verantwortungsvoll beim Bau von AGI handeln würde" — einen offenen Brief mit dem Titel „Right to Warn". Unterstützt von KI-Koryphäen wie Yoshua Bengio und Geoffrey Hinton fordern sie das Ende von Knebel-NDAs, einen anonymen Meldekanal an Aufsichtsgremien und eine Kultur, die Kritik nicht mit dem Verlust von Millionen an Eigenkapital bestraft. Kokotajlo selbst hatte bewusst auf eine Non-Disparagement-Klausel verzichtet und damit rund zwei Millionen Dollar riskiert, um öffentlich sprechen zu können. Der Druck wirkt: OpenAI entfernt die Klauseln aus künftigen Verträgen und entbindet frühere Mitarbeiter rückwirkend von bestehenden Verpflichtungen.

Im Oktober 2024 verlässt Miles Brundage, sechs Jahre bei OpenAI und zuletzt Senior Advisor for AGI Readiness, das Unternehmen aus einem verwandten Grund: Er könne als unabhängiger Forscher „frei publizieren", während OpenAI zunehmend restriktive Grenzen für Veröffentlichungen setze. Sein Fazit ist unmissverständlich: „Neither OpenAI nor any other frontier lab is ready, and the world is also not ready." Das gesamte AGI-Readiness-Team wird aufgelöst, seine Kollegin Rosie Campbell kündigt kurz darauf, ausdrücklich motiviert durch Brundages Abgang. Wenige Tage später, im November 2024, verlässt auch Lilian Weng das Unternehmen — jene Managerin, die das gesamte Safety-Systems-Team nach dem GPT-4-Launch 2023 von Grund auf aufgebaut hatte, zuletzt mit über 80 Wissenschaftlern, Forschern und Policy-Experten. Ihr Nachfolger als Head of Safety Systems: Johannes Heidecke, der Mann, dessen eigener Abgang die Chronik im Juli 2026 schließt.

Die Sprache der Abschiedsbriefe

Was auffällt, wenn man die Abgänge über zwei Jahre nebeneinanderlegt, ist weniger der einzelne Vorwurf als die Wiederholung derselben Diagnose durch unterschiedliche Sprecher. Steven Adler, vier Jahre bei OpenAI und zuständig für Sicherheitsfragen bei Produkteinführungen, macht seinen Abgang vom November 2024 erst im Januar 2025 öffentlich: „An AGI race is a very risky gamble, with huge downside. No lab has a solution to AI alignment today. And the faster we race, the less likely that anyone finds one in time." Er sei „pretty terrified" vom Tempo der Entwicklung. Kokotajlo hatte bereits im August 2024 gegenüber Fortune geschätzt, dass zu diesem Zeitpunkt fast die Hälfte des Teams, das sich einst mit Langzeitrisiken von Superintelligenz befasste, das Unternehmen verlassen hatte.

Fast alle diese Stimmen eint ein zweiter Zug: Sie richten sich kaum gegen einzelne Personen, sondern gegen ein System — gegen strukturelle Anreize, die Tempo über Vorsicht stellen, und gegen eine Unternehmenskultur, die kritische Stimmen eher absorbiert als integriert. Keiner der Abgänge wirft OpenAI vor, Regeln gebrochen zu haben. Der Vorwurf ist subtiler und deshalb schwerer zu widerlegen: dass das Unternehmen tut, was es verspricht, aber die Prioritäten dabei verschiebt.

Von der Kündigung zur Entlassung

Im Februar 2026 erreicht das Muster eine neue Stufe. Ryan Beiermeister, VP Product Policy, hatte intern gewarnt, die geplante Einführung eines „Adult Mode" für ChatGPT — mit erotischen Inhalten für verifizierte Erwachsene — berge unzureichende Schutzmechanismen gegen den Zugriff Minderjähriger. Wenige Tage später wird sie entlassen, offiziell wegen einer Diskriminierungsbeschwerde eines männlichen Kollegen. Beiermeister bestreitet den Vorwurf öffentlich als „absolutely false"; OpenAI dementiert einen Zusammenhang zu ihren Sicherheitsbedenken. Ob Zufall oder nicht — der qualitative Sprung ist bemerkenswert: Aus „wir gehen, weil man uns nicht zuhört" wird „wer warnt, wird entfernt".

Fast zeitgleich, binnen zwei Tagen im Februar 2026, kündigt auch die OpenAI-Forscherin Zoë Hitzig per Gastessay in der New York Times — ausgelöst durch die Einführung von Werbung in ChatGPT. Ihre Warnung: OpenAI wiederhole die Fehler von Facebook, indem es Anreize schaffe, intime Nutzerdaten („medical fears, relationship problems, beliefs about God and the afterlife") zu monetarisieren, bevor überhaupt Governance-Mechanismen dafür existierten. Bemerkenswert ist, dass sich diese Dynamik nicht auf OpenAI beschränkt: Nur wenige Tage später kündigt Mrinank Sharma, Leiter des Safeguards-Research-Teams bei Anthropic, mit einem Abschiedsbrief, der über eine Million Mal auf X aufgerufen wird: „The world is in peril." Mehrere Medien ordneten die zeitliche Häufung als branchenweiten „AI Safety Shake-up" ein — ein Hinweis darauf, dass es sich nicht um ein OpenAI-spezifisches Kulturproblem handelt, sondern um eine strukturelle Spannung, die alle Frontier-Labs gleichermaßen betrifft.

Was OpenAI daraus gemacht hat — und was nicht

OpenAI ist nicht untätig geblieben. Im April 2025 veröffentlicht das Unternehmen Version 2 seines „Preparedness Framework" — mit gemischter Bilanz. Positiv: eine explizite Anerkennung wachsender Risiken. Problematisch aus Sicht von Kritikern: Die Prüfung von Modellen auf das Risiko, Menschen zu manipulieren oder politisch zu beeinflussen, wird aus dem Katalog kritischer Risiken gestrichen. Die im Dezember 2023 versprochenen unabhängigen Audits der Risikoevaluationen haben nie stattgefunden und werden formell aus dem Dokument entfernt. Neu hinzu kommt eine „Competitive Dynamics"-Klausel, die es OpenAI ausdrücklich erlaubt, eigene Sicherheitsstandards abzusenken, falls Wettbewerber riskante Fähigkeiten veröffentlichen — ein eingebautes Ventil für ein Race-to-the-bottom. Eine akademische Analyse bezeichnet das überarbeitete Dokument als „materially nothing more than a PDF file", das keine konkreten Risikominderungspraktiken garantiere. Sam Altmans Reaktion darauf blieb zurückhaltend zustimmend, ohne die gestrichenen Klauseln inhaltlich zu verteidigen.

Ende 2025 schafft OpenAI eine neue Rolle: „Head of Preparedness", dotiert mit rund 550.000 Dollar Jahresgehalt, fokussiert auf Cyber-, Bio- und Selbstverbesserungsrisiken sowie psychische Auswirkungen der Modellnutzung — eine Rolle, die man auch als Eingeständnis lesen kann, dass die bisherige Struktur diese Risikoklassen nicht ausreichend abdeckte. Im Januar 2026 wird Dylan Scandrett in diese Position berufen. Miles Brundage, der 2024 gegangene Ex-Policy-Chef, zieht derweil eine radikalere Konsequenz aus seinem eigenen Abgang: Im Januar 2026 gründet er die Nonprofit-Organisation AVERI, die verpflichtende, wirklich unabhängige Audits von Frontier-Modellen fordert — mit der pointierten Begründung, Unternehmen sollten „nicht ihre eigenen Hausaufgaben benoten dürfen".

Der Kontext dieser Woche

Heideckes Abgang am 11. Juli 2026 fällt nicht in ein Vakuum. Nur vier Tage zuvor, am 7. Juli, veröffentlichte das Future of Life Institute seinen „AI Safety Index Summer 2026" — eine Bewertung von neun führenden KI-Labs über 37 Indikatoren in sechs Kategorien. Das Ergebnis: Keine einzige Firma erreichte besser als die Note C+. OpenAI fiel gegenüber der vorherigen Erhebung von C+ auf C, gleichauf mit Google DeepMind; Anthropic führt knapp mit C+. Die zentrale Kritik des Gutachterpanels: Mehrere Firmen — darunter OpenAI, Anthropic, Google DeepMind und Meta — hatten öffentlich zugesagt, die Entwicklung bei Erreichen bestimmter Risikoschwellen zu pausieren. Diese Zusagen wurden inzwischen stillschweigend abgeschwächt oder fallengelassen, ohne dass unabhängige, quantitative Kontrollmechanismen nachgezogen wurden.

Parallel dazu läuft seit Juni 2026 eine juristische Eskalation, die das Sicherheitsthema von der Unternehmenskultur ins Gerichtssaal verlagert: Der Bundesstaat Florida verklagt OpenAI und Sam Altman persönlich — die erste Klage dieser Art durch eine US-Landesregierung. Der Vorwurf: OpenAI habe interne wie externe Sicherheitswarnungen ignoriert und ChatGPT trotzdem als sicher vermarktet, auch für Kinder. Zu den konkreten Vorwürfen zählt, das Unternehmen habe zur Planung eines Amoklaufs an der Florida State University beigetragen und Suizide bei vulnerablen Nutzern begünstigt. Gefordert werden Milliarden-Strafzahlungen — und persönliche Haftung für Altman.

Was das für Unternehmen bedeutet

Für Entscheider, die auf OpenAI-Technologie aufbauen, ist die Chronik kein Nischenthema für Ethik-Ausschüsse, sondern ein belastbares Risikosignal. Eine wiederkehrende, strukturell ähnliche Serie von Abgängen aus Sicherheits- und Policy-Rollen ist statistisch gesehen ein Frühindikator für interne Priorisierungskonflikte — unabhängig davon, ob man jeden Einzelfall für berechtigt hält. Mit der Florida-Klage verschiebt sich das Risiko zudem von reiner Reputationsgefahr zu konkreter Rechts- und Haftungsexposition, die auch Unternehmen betrifft, die OpenAI-Modelle in eigene Produkte integrieren. Eine Zapier-Enterprise-Umfrage aus diesem Jahr zeigt, wie unvorbereitet viele Firmen darauf sind: 81 Prozent der befragten Verantwortlichen äußern Sorge über KI-Vendor-Abhängigkeit, 47 Prozent sagen, eine zentrale Geschäftsfunktion würde bei einem größeren Ausfall oder einer Preisänderung ihres Haupt-KI-Anbieters stillstehen — nur sechs Prozent glauben, den Anbieter ohne operative Störung wechseln zu können.

Drei konkrete Konsequenzen liegen nahe. Erstens: Personalfluktuation in Sicherheits- und Policy-Rollen sollte als fester Punkt in Vendor-Risk-Reviews verankert werden, nicht nur Preis und SLA. Zweitens: Eine aktive Zweit-Anbieter-Strategie ist keine reine Kostenoptimierung mehr, sondern eine Resilienzmaßnahme — Unternehmen mit Multi-Model-Setups lösen Ausfälle nachweislich schneller. Drittens: Vertragsklauseln zur Haftungsverteilung bei durch ein Modell verursachten Schäden verdienen angesichts der Florida-Klage eine erneute juristische Prüfung. Externe, vergleichsweise unabhängige Datenpunkte wie der FLI AI Safety Index sind dabei ein nützlicheres Instrument als die Selbstauskünfte der Anbieter selbst — deren Preparedness-Dokumente, wie die Kritik am überarbeiteten OpenAI-Framework zeigt, per Konstruktion keine belastbaren Garantien liefern können, solange sie ohne externe Prüfung auskommen. Die Geschichte von OpenAIs Sicherheits-Exodus ist damit weniger eine Geschichte über einzelne enttäuschte Idealisten als über die Frage, wie viel eine Selbstverpflichtung wert ist, die niemand von außen nachprüfen kann.