KI-Sicherheit · Anthropic
Stilles Versagen: Anthropic entschuldigt sich für unsichtbare Guardrails in Claude Fable 5
Als Anthropic am 9. Juni Claude Fable 5 veröffentlichte, enthielt die 319-seitige System-Card eine ungewöhnliche Offenbarung: Wenn das Modell Anfragen zu Frontier-KI-Entwicklung erkannte — Pretraining-Pipelines, Distributed-Training-Setups, ML-Accelerator-Designs — würde es seine eigenen Antworten stillen Degradierungen unterziehen. Methoden: Prompt-Modifikation, Steering Vectors, parameter-effizientes Fine-Tuning. Das Entscheidende: Der Nutzer bekam keine Meldung. Das Modell antwortete, aber absichtlich schlechter — und schwieg darüber. Anthropic schätzte, dass rund 0,03 Prozent des Traffics betroffen sein würde.
Die KI-Forschungsgemeinschaft reagierte mit ungewöhnlicher Breite und Schärfe. Dean Ball vom Foundation for American Innovation prägte sofort den Begriff „Secret Sabotage" und warf Anthropic vor, Sicherheitsrhetorik zur Wettbewerbsabsicherung zu missbrauchen. Nathan Lambert, Open-Model-Forscher zuletzt bei AI2, beschrieb das Verhalten als „erschreckend" und erklärte, ein Werkzeug, das stillen Widerstand leistet, ohne es zu kommunizieren, sei ein fundamentaler Vertrauensbruch. Jeremy Howard von Fast.AI formulierte den Kernvorwurf präzise: Anthropic halte sich das stärkste Modell für die eigene Frontier-Forschung frei, während es dieselbe Arbeit bei anderen heimlich behindere.
Parallel dazu beklagten Cybersecurity-Forscher sichtbare, aber viel zu breit kalibrierte Guardrails für Sicherheitsanfragen. Valentina Palmiotti vom IBM-X-Force-Team berichtete, Fable 5 blockiere schon bei harmlosen Code-Reviews und beim schlichten Lesen eines Sicherheits-Blogposts. The Register fasste es mit dem Titel zusammen: „It blocked us at ‚hello!'" Als Ausweg richtete Anthropic ein „Cyber Verification Program" ein — ein Bewerbungsformular für entspannteren Zugang, faktisch eine Gated Community für legitime Sicherheitsarbeit.
Anthropic entschuldigte sich für die fehlende Transparenz, nicht für die Guardrails selbst. Der offizielle Wortlaut gegenüber Wired: „We made the wrong tradeoff, and we apologize for not getting the balance right." Die praktische Änderung: Die stillen Degradierungen wurden durch sichtbare Ablehnungen ersetzt — wer jetzt eine geblockte Anfrage stellt, erhält einen Fallback auf Claude Opus 4.8 und über die API einen Fehlercode mit Begründung. Wenigstens weiß man jetzt, wann man blockiert wird.
Was bleibt, ist ein systemisches Signal. Die Affäre macht sichtbar, dass große Labore zunehmend differenzierte Guardrails nicht nur für offensichtlich schädliche Inhalte einsetzen, sondern für Wettbewerbs- und Sicherheitspolitik. Der Unterschied zur klassischen Inhaltsmoderations-Guardrail ist fundamental: Hier entschied ein kommerzielles Labor über die Grenze zwischen erlaubter und behinderter Forschung — und tat das erst transparent, nachdem öffentlicher Druck entstand. Was die unsichtbare Infrastruktur der KI-Sicherheitsentscheidungen tatsächlich enthält, weiß man in der Regel erst, wenn jemand eine 319-seitige System-Card durchliest.
- Wired — Anthropic Walks Back Policy That Could Have Sabotaged AI Researchers
- Engadget — Anthropic backtracks on policy that sabotaged researchers' work
- Fortune — Anthropic accused of secret sabotage as Claude Fable 5 limits capabilities
- heise online — Fable 5 blockiert auch sicheren Code
- TechCrunch — Cybersecurity researchers aren't happy about the Anthropic Fable guardrails