KI-Sicherheit · Gesetzgebung
Anthropics Notbremsen-Gesetz: Wenn KI 50 Menschen töten könnte, soll die Justiz eingreifen
Ein Paukenschlag in den politischen Hinterzimmern von Washington. Jahrelang warnte die Führungsriege von Anthropic vor den existenziellen Risiken künftiger Superintelligenzen – nun gießt das Silicon-Valley-Labor seine Sicherheitsphilosophie erstmals in einen konkreten, brisanten Gesetzestext. Wie Recherchen von Politico, Bloomberg und TechCrunch übereinstimmend aufdecken, hat das Unternehmen um CEO Dario Amodei US-Kongressabgeordneten und Senatoren einen detaillierten Gesetzesentwurf für nationale KI-Sicherheit übermittelt. Das Dokument, das bisher unter Verschluss gehalten wurde, markiert eine Zäsur: Erstmals definiert ein führendes KI-Entwicklungshaus glasklare, quantitative Schwellenwerte, ab deren Überschreitung die Veröffentlichung eines Modells gerichtlich gestoppt werden darf – und zieht gleichzeitig eine überraschend scharfe rote Linie gegen staatliche Willkür.
Die Todesopfer-Schwelle: Wenn der Staat die Notbremse ziehen darf. Im Zentrum des Gesetzesentwurfs steht eine Definition katastrophaler Schäden, die in ihrer Nüchternheit für hitzige Kontroversen sorgt. Bundesbehörden sollen demnach die Auslieferung oder den Betrieb eines Frontier-Modells nur dann untersagen können, wenn nachweislich ein unmittelbares und vorhersehbares Risiko besteht, dass der Einsatz des Systems zu Schäden von über einer Milliarde US-Dollar oder zum Tod beziehungsweise zu schweren Verletzungen von mindestens 50 Menschen führt. Als typische Gefahrenszenarien nennt der Entwurf die automatisierte Synthese biologischer Krankheitserreger, die Entwicklung chemischer Waffen oder die autonome Durchführung kritischer Cyberangriffe auf Stromnetze und Trinkwasserversorgungen. Bleiben die potenziellen Folgen unterhalb dieser Schwelle, bliebe den Behörden der Zugriff verwehrt.
Der richterliche Schutzwall gegen politische Willkür. Was den Entwurf in der Tech-Branche besonders bemerkenswert macht, ist eine eingebaute Sperrklinke gegen staatliche Behördenübergriffe: Keine US-Bundesbehörde – weder das Handelsministerium noch das Heimatschutzministerium oder die Cybersicherheitsbehörde CISA – soll ermächtigt sein, den Start eines KI-Modells eigenmächtig auf dem Verwaltungsweg zu blockieren. Um eine Notabschaltung oder ein Release-Verbot durchzusetzen, müsste die Regierung vielmehr vor ein unabhängiges Bundesgericht ziehen und eine einstweilige Verfügung (Injunction) erwirken. Vor Gericht müsste die Staatsanwaltschaft die akute Katastrophengefahr nach strengen Beweisstandards empirisch belegen. Anthropic reagiert damit unverkennbar auf die traumatischen Erfahrungen der vergangenen Monate: Erst im März geriet das Labor ins Fadenkreuz des Pentagons, das Anthropic wegen angeblicher Sicherheitsrisiken willkürlich von Rüstungsaufträgen ausschließen wollte, bevor Richterin Rita Lin das Vorgehen scharf rügte.
Entmachtung der Bundesstaaten und das California-Trauma. Hinter dem Gesetzesentwurf verbirgt sich jedoch noch ein zweiter, hochgradig strategischer Schachzug: Das Papier sieht eine umfassende bundesstaatliche Vorrangklausel (Preemption) vor. Sollte das Bundesgesetz verabschiedet werden, würde es sämtliche einzelstaatlichen KI-Regulierungen – allen voran das umstrittene kalifornische Sicherheitsgesetz SB 1047 sowie dessen Nachfolger SB 53 – mit einem Federstrich für nichtig erklären. Für Frontier-Labore wie Anthropic und OpenAI ist dieser Punkt überlebenswichtig: Statt eines chaotischen Flickenteppichs aus fünfzig verschiedenen einzelstaatlichen Haftungsregeln, Audits und Compliance-Auflagen will sich die Branche einem einheitlichen Bundesstandard unterwerfen, dessen Eingriffsschwellen extrem hoch liegen.
Zwischen Schutzschirm und Legitimationsfassade. Die Reaktionen in Washington und der Zivilgesellschaft fallen denkbar gespalten aus. Während viele Republikaner und Technologieinvestoren den Entwurf dafür loben, dass er bürokratische Überregulierung bremst und willkürliche Behördeneingriffe verhindert, hagelt es von Verbraucherschützern und KI-Ethikern vernichtende Kritik. Die Festlegung auf eine Grenze von fünfzig Todesopfern sei zynisch und ignoriere massenhaften algorithmischen Betrug, Desinformationskampagnen oder Diskriminierung im Arbeitsmarkt vollkommen. Doch für Anthropic markiert der Vorstoß eine meisterhafte politische Positionierung: Das Labor beweist vor seinem für November geplanten Börsengang Regulierungsbereitschaft, bindet den eigenen Compliance-Standard an bundesweites Recht und sichert sich gleichzeitig juristisch gegen staatliche Willkürakte ab.