KI-Politik · Exportkontrollen
Sicherheitsexperten gegen das Weiße Haus: Veteranen nennen den Fable-5-Bann „gefährlich“
Der Streit um die von der US-Regierung erzwungene weltweite Abschaltung der Modelle Claude Fable 5 und Mythos 5 ist drei Tage nach der Direktive vom 12. Juni keineswegs beigelegt — er eskaliert. Während Anthropic in Washington verhandelt, formiert sich öffentlicher Widerstand aus einer Ecke, die der Regierung unangenehm sein dürfte: aus der Cybersecurity-Branche selbst. Den Ablauf der Eskalation haben wir in unserer Ausgabe vom 13. Juni sowie zur Rolle Amazons am 14. Juni dokumentiert.
Am 15. Juni veröffentlichten zunächst rund 76 — nach späteren Zählungen knapp 100 — Sicherheitsforscher einen offenen Brief, der die Exportkontrolle als „gefährlich“ bezeichnet. Zu den Unterzeichnern zählen prominente Namen der Branche: Alex Stamos (ehemaliger Sicherheitschef von Facebook), Katie Moussouris (Gründerin von Luta Security), Casey Ellis (Gründer von Bugcrowd), der Kryptograf Jon Callas, Paul Vixie, Dino Dai Zovi sowie Rachel Tobac. Ihr Kernargument: Der Bann nehme „den Verteidigern die besten Modelle weg“ — also genau jenen, die mit Hilfe der KI Schwachstellen finden und Software absichern. „Den Verteidigern ohne guten Grund die besten Fähigkeiten zu entziehen, während unsere Gegner rasant aufrüsten, ist gefährlich“, heißt es im Brief.
Zugleich verdichtet sich die Einschätzung, dass es bei dem Bann nie wirklich um einen Jailbreak ging. Im Zentrum steht ein bemerkenswert banales Detail, das Fortune und TechCrunch herausarbeiteten: Die Amazon-Forscher, deren Paper die Direktive auslöste, brachten Fable 5 nicht durch einen ausgeklügelten Angriff zum Versagen — sie formulierten lediglich um. Auf die Bitte, „den Code auf Sicherheitslücken zu prüfen“, verweigerte das Modell die Auskunft; auf die Aufforderung „repariere diesen Code“ lieferte es Patches, aus denen sich Rückschlüsse auf die zugrunde liegende Schwachstelle ziehen ließen.
Katie Moussouris, die das Papier eigenen Angaben zufolge vorab einsehen durfte, hält dies nicht für eine Sicherheitslücke, sondern für die Kernfunktion eines Modells: „Verteidiger müssen eine KI bitten können, Fehler in einer Datei zu beheben, zu erklären, warum die Korrektur wichtig ist, und Tests zu schreiben, die den Patch bestätigen. Das ist kein Umgehen einer Schutzfunktion. Es ist das Wertvollste, was ein KI-Modell für die defensive Sicherheit leisten kann.“ Das Verhalten lasse sich „nicht sinnvoll beheben, und jeder Versuch würde das Modell für die Verteidigung nur schwächen“. Die Direktive nannte sie „übereilt, schwerfällig und fehlgeleitet“. Der offene Brief ergänzt, dass vergleichbare Fähigkeiten ohnehin in Konkurrenzmodellen wie OpenAIs GPT-5.5 oder dem chinesischen Kimi 2.7 steckten — die Beschränkung also kaum einen Schutzeffekt habe.
Die Regierung hält dagegen. David Sacks, KI- und Krypto-Berater im Weißen Haus, erklärte bereits am Samstag, der „Ball“ liege „in Anthropics Spielfeld“: Ein vertrauenswürdiger Partner habe den Bypass entdeckt, und Anthropic-CEO Dario Amodei habe sich geweigert, ihn zu beheben oder das Modell zurückzuziehen. Die Sache sei „leicht zu lösen“ — man schätze Anthropics technische Fähigkeiten und hoffe, die Exportkontrolle „so schnell wie möglich“ wieder aufheben zu können, sobald die Lücke geschlossen sei. Sacks warf Anthropic überdies vor, die Schwere des Problems herunterzuspielen, obwohl das Unternehmen Mythos zuvor selbst als regulierungsbedürftige „Cyberwaffe“ beschrieben habe.
Anthropic seinerseits spricht von einem „Missverständnis“, das Problem sei „nicht gravierend genug, um einen globalen Rollout zu beschränken“. Berichten zufolge ist das technische Team des Unternehmens nach Washington gereist; virtuelle Gespräche mit Regierungsvertretern laufen seit dem 12. Juni. Ob sie zu einer raschen Wiederfreigabe führen, ist offen — ebenso, ob das eigentliche Zerwürfnis damit ausgeräumt wäre. Denn der Konflikt reicht tiefer: Er begann mit Anthropics Weigerung, Claude ohne Einschränkungen für autonome Waffensysteme und Massenüberwachung freizugeben, und der anschließenden Einstufung des Unternehmens als „Lieferketten-Risiko“ durch das Pentagon.
Den womöglich nachhaltigsten Schaden richtet die Episode jedoch international an. Dass Washington einen ausgerollten Cloud-Dienst per Knopfdruck weltweit abschalten ließ, hat in Europa und Kanada eine Souveränitätsdebatte ausgelöst. Die finnische EU-Abgeordnete Aura Salla warnte, Europa könne sein technologisches Potenzial nicht weiter auf Zugängen aufbauen, „die von einer ausländischen Regierung über Nacht abgeschaltet werden können“. Der kanadische Premier Mark Carney nannte den Vorfall am Rande des G7-Gipfels einen Beleg für „die Gefahren einer Überabhängigkeit von einer Handvoll amerikanischer Anbieter“. Die EU-Kommission mahnte, „Notfallmaßnahmen“ dürften „Partner nicht diskriminieren“. Die Lehre, die viele Regierungen bereits ziehen: Frontier-KI ist keine reine Preis- oder Produktfrage mehr — sondern eine Frage, in wessen Jurisdiktion der Schalter liegt.
- TechCrunch — The US government's Anthropic models ban was never about an AI jailbreak
- TechCrunch — Cybersecurity vets protest 'dangerous' US government ban on Anthropic's most powerful models
- Fortune — 'Fix this code': The three words behind the US decision
- AI News — The AI off switch: Anthropic's export controls spark a global sovereignty scramble
- Business Today — Anthropic and White House officials to hold discussions around Claude Fable 5 ban