Ausgabe vom 11. Juni 2026

Wie wir in der gestrigen Ausgabe berichteten, hat Anthropic am 9. Juni mit Claude Fable 5 das mächtigste je breit verfügbare KI-Modell veröffentlicht — abgesichert durch einen Mechanismus, der heikle Anfragen still auf das ältere Opus 4.8 herabstuft. Nach 48 Stunden im Realbetrieb zeigt sich nun, wo dieser Kompromiss schmerzt — und zwar an unerwarteter Stelle.

Die überraschendste Reaktion kommt von Microsoft: Der Konzern schränkt laut The Verge die interne Nutzung von Fable 5 durch eigene Mitarbeiter ein. Auslöser sind Anthropics neue Data-Retention-Bedingungen für Mythos-Klasse-Modelle — Prompts und Ausgaben werden 30 Tage lang für „Trust and Safety“ gespeichert, bei Verdacht auf Richtlinienverstöße bis zu zwei Jahre. Microsofts Rechtsabteilung prüft, ob das mit dem Schutz von Kunden- und Geschäftsgeheimnissen vereinbar ist. Welche Teams und Tools konkret betroffen sind, ist nicht bestätigt. Pikant ist der Kontrast: Microsofts Tochter GitHub bietet Fable 5 seit dem 9. Juni regulär in Copilot an — Kunden bekommen also ein Modell, das die Mutter den eigenen Leuten vorerst nicht erlaubt. Weder Microsoft noch Anthropic äußerten sich auf Anfrage von Reuters.

Parallel formiert sich Frust in der Security-Community — ausgerechnet jener Zielgruppe, für die das zugrunde liegende Mythos-Modell als Cyberdefense-Werkzeug gedacht ist. Valentina Palmiotti von IBM X-Force berichtet gegenüber TechCrunch, Fable lehne „jede Anfrage ab, die auch nur entfernt cyber-bezogen ist — sogar harmlose Aufgaben wie das Lesen eines Blogposts“. Der Sicherheitsveteran Matt Suiche beobachtet, dass schon die Bitte um sicheren Code als Cybersecurity-Fall eingestuft und herabgestuft wird; die Erkennung wirke schlicht stichwortbasiert. Anthropic verweist auf sein „Cyber Verification Program“, über das verifizierte Profis weniger Einschränkungen bekommen — auf die TechCrunch-Anfrage antwortete das Unternehmen nicht.

Am kuriosesten sind die Fälle aus der Biologie. The Verge dokumentierte, dass Fable 5 selbst Grundschulwissen verweigert oder herabstuft: Fragen nach Mitochondrien, Zellmembranen, Prionen oder der Funktionsweise von mRNA-Impfstoffen. The Register fand noch drastischere Beispiele — bei einem Nutzer blockierte der Classifier die Eingabe „Hello“, ein Immunologe klagt, schon das Wort „cancer“ gelte als Biosicherheits-Risiko. Anthropic-Sprecherin Paruul Maheshwary verteidigt die Filter als „bewusst konservativ“ — die Hauptsorge seien Biowaffen — und kündigt an, die Erkennung zu verbessern sowie Mythos-Modelle später für die Biologie- und Life-Sciences-Community ohne diese Filter zugänglich zu machen. Ob ein Classifier-Update bereits ausgerollt wurde, ist unbestätigt.

Das Muster ist für Unternehmen lehrreich: Anthropics offizielle Zahl, wonach die Schutzmechanismen in weniger als fünf Prozent der Sitzungen greifen, kollidiert sichtbar mit den Erfahrungen technischer Power-User — genau der Klientel, die das Modell am dringendsten will. Bemerkenswert ist allerdings auch der Schluss, den The New Stack aus den Nutzerforen zieht: Trotz Guardrail-Ärger und hoher Kosten bleiben viele dabei — Fable sei eben doch besser als alles andere.

Die am 10. Juni bekannt gewordene einstweilige Verfügung des Landgerichts München I (Az. 26 O 869/26, ergangen bereits am 28. Mai) ist nach Einschätzung des Branchendienstes Juve die erste gerichtliche Entscheidung zu Googles AI-Overviews-Feature überhaupt. Geklagt hatten zwei Münchner Verlage, vertreten durch die Kanzlei Lausen: Googles KI-Übersicht hatte sie bei bestimmten Suchanfragen mit Abo-Fallen, Betrugsmaschen und unseriösen Geschäftspraktiken in Verbindung gebracht — die KI vermischte Informationen über tatsächlich dubiose Drittfirmen mit den Klägern und erfand Verbindungen, die in keiner der verlinkten Quellen standen.

Der juristische Kern der Entscheidung: Google kann sich nicht auf die eingeschränkte Störerhaftung berufen, die für klassische Suchmaschinen gilt — also die Privilegierung dessen, der nur fremde Inhalte durchleitet. Die KI-Übersicht, so das Gericht, erzeuge „eigenständige, neue und inhaltliche Aussagen“: Sie wertet Inhalte verschiedener Webseiten aus, gewichtet sie und präsentiert sie in eigenen Worten und eigener Struktur als zusammenhängenden Text. Damit ist sie eigener Inhalt Googles — mit voller, täterschaftlicher Haftung. Googles Einwand, Nutzer müssten KI-Angaben ohnehin selbst prüfen, verwarf die Kammer mit einem bemerkenswert lebensnahen Argument: Die Quellen-Links in KI-Übersichten würden faktisch kaum angeklickt; auch der Hinweis „mit KI erstellt“ ändere an der Zurechnung nichts.

Die Folgen für Google: Die konkreten Falschbehauptungen sind untersagt, bei Zuwiderhandlung drohen Ordnungsgelder von bis zu 250.000 Euro pro Verstoß. Google trägt 80 Prozent der Verfahrenskosten. Rechtskräftig ist die Entscheidung nicht — als einstweilige Verfügung kann Google Rechtsmittel einlegen, ein Hauptsacheverfahren ist möglich; ob der Konzern das tut, ist bislang nicht bekannt. Eine öffentliche Stellungnahme gab Google nicht ab.

Die Tragweite reicht weit über den Einzelfall hinaus. Die Argumentationslinie — wer Webinhalte per KI paraphrasiert und als eigenen Text ausspielt, haftet dafür wie ein Autor — trifft potenziell jeden KI-Suchdienst, von Perplexity über Bing Copilot bis ChatGPT Search. heise ordnet die Entscheidung als Weiterentwicklung eines Frankfurter Urteils von September 2025 ein; erstmals wurde nun eine konkrete Falschaussage einer KI-Übersicht verboten. International schlug der Fall hohe Wellen: Der Hacker-News-Thread sammelte rund 960 Punkte und über 500 Kommentare — zwischen Beifall („Google muss für eigene Inhalte geradestehen“) und der Sorge, Google könnte KI-Übersichten in Europa schlicht abschalten, weil Halluzinationen sich nie ganz vermeiden lassen.

Für Unternehmen hat das Urteil zwei Lesarten. Wer von KI-Falschaussagen betroffen ist — etwa weil ein KI-Überblick das eigene Geschäft mit Betrug assoziiert —, hat nun einen erprobten Hebel. Und wer selbst KI-generierte Zusammenfassungen öffentlich ausspielt, sollte wissen: Der Verweis „das hat die KI geschrieben“ ist vor deutschen Gerichten keine Verteidigung.

Die EU-Kommission hat am 10. Juni den finalen „Code of Practice on marking and labelling of AI-generated content“ veröffentlicht. Der Verhaltenskodex konkretisiert die Transparenzpflichten aus Artikel 50 der KI-Verordnung, die ab dem 2. August 2026 gelten — jenem Stichtag, ab dem KI-generierte Inhalte in der EU maschinenlesbar markiert und Deepfakes sichtbar gekennzeichnet sein müssen. Erarbeitet wurde der Text seit September 2025 in drei Entwurfsrunden von sechs unabhängigen Experten, unter Beteiligung von über 180 Stakeholdern aus Industrie, Wissenschaft und Zivilgesellschaft.

Technisch verlangt der Kodex einen mehrschichtigen Ansatz: KI-generierte oder -veränderte Audio-, Bild-, Video- und Textinhalte sollen mit mindestens zwei maschinenlesbaren Ebenen markiert werden — digitale Metadaten mit kryptografischer Signatur plus unsichtbare Wasserzeichen. Als Umsetzungspfad gelten offene Standards wie C2PA („Content Credentials“); ob der Standard im finalen Text namentlich verankert ist, ist nicht abschließend bestätigt. Erkennungswerkzeuge müssen Behörden, Medien und Forschern dauerhaft kostenfrei zur Verfügung stehen. Für die sichtbare Ebene definiert der Kodex standardisierte EU-Icons mit den Aufschriften „AI GENERATED“ und „AI MODIFIED“ — Pflicht für Deepfakes und für KI-Texte zu Themen von öffentlichem Interesse, die ohne menschliche redaktionelle Kontrolle erscheinen.

Der Kodex selbst ist freiwillig, die dahinterliegenden Artikel-50-Pflichten sind es nicht. Der Anreiz zum Unterschreiben: Unterzeichner erhalten eine Compliance-Vermutung — die Einhaltung des Kodex gilt als offizieller Nachweis der Pflichterfüllung — und reduzierten Verwaltungsaufwand. EU-Vizepräsidentin Henna Virkkunen formulierte den Anspruch so: „Die Europäerinnen und Europäer haben ein Recht darauf, zu erfahren, ob das, was sie sehen, hören oder lesen, von KI erstellt oder verändert wurde.“ Welche Unternehmen bereits unterzeichnet haben, ist noch nicht bekannt.

Die Industrie hatte im Vorfeld Bedenken angemeldet: Der Verband CCIA Europe — zu dessen Mitgliedern Google, Meta und Apple zählen — warnte vor „Labelling Fatigue“, also der Abstumpfung der Nutzer durch allgegenwärtige Hinweise, und vor zu präskriptiven technischen Vorgaben, die schnell veralten. Die Kommission betont, der finale Text sei gegenüber den Entwürfen vereinfacht und flexibilisiert worden. Tatsächlich schließt der Kodex an Einzelinitiativen an, die längst laufen — von Googles SynthID-Wasserzeichen über Metas „AI Info“-Labels bis zur automatischen KI-Kennzeichnung auf YouTube —, und versucht erstmals, daraus ein einheitliches, regulatorisch verankertes Rahmenwerk zu machen.

Für Unternehmen, die generative KI in Produkten einsetzen, beginnt damit die heiße Phase: Bis August bleibt Zeit zu klären, ob die eigenen Bild-, Video- und Textpipelines Provenance-Metadaten und Wasserzeichen sauber durchreichen — und ob man dem Kodex beitritt, um im Streitfall die Compliance-Vermutung auf seiner Seite zu haben.

Am 10. Juni reichte Devin Kim bei einem kalifornischen Gericht Klage gegen xAI und dessen Mutterkonzern SpaceX ein. Kim kam 2024 als eines der ersten Mitglieder des Post-Training-Teams zu xAI und leitete später den Bereich Research Tooling; zuvor hatte er bei Scale AI ein Projekt für Trainingsdaten zur Erkennung schädlicher Inhalte verantwortet. Der Zeitpunkt der Klage ist kein Zufall: Sie kommt drei Tage vor dem für Freitag geplanten SpaceX-Börsengang — dem dritten Mega-IPO der Branche, nach den vertraulichen Anträgen von Anthropic und OpenAI.

Die Vorwürfe — allesamt bislang unbewiesene Behauptungen aus der Klageschrift — wiegen schwer. Kim will intern wiederholt gewarnt haben, Grok könne Diskriminierung fördern und Informationen zur Verbreitung von Massenvernichtungswaffen liefern; xAIs Umgang mit Sicherheit mache rechtswidrige Ausgaben „praktisch garantiert“. Sein damaliger Vorgesetzter, xAI-Mitgründer Jimmy Ba, habe Sicherheitsmechanismen vehement abgelehnt — laut Klage mit dem Ausspruch „AI will kill us all anyway“ — und beim Release von Grok Code 1 im August 2025 versucht, EU-Sicherheitsregeln zu umgehen, indem Modelleigenschaften falsch dargestellt wurden, um vorgeschriebene Tests zu vermeiden. Damit habe Ba sogar Direktiven von Elon Musk ignoriert. In der Woche, in der Kim seine Erkenntnisse der Führung präsentieren wollte, habe Ba ihm stattdessen mitgeteilt, man gehe „getrennte Wege“. Die Klage stützt sich auf kalifornischen Whistleblower-Schutz (Retaliation und Wrongful Discharge) und fordert unbezifferten Schadensersatz. Weder xAI noch SpaceX noch Musk haben sich geäußert; Ba hat xAI Anfang 2026 verlassen.

Unabhängig belegt ist dagegen der Kontext, in den die Klage fällt. Im Juli 2025 sorgte Grok mit antisemitischen Ausfällen („MechaHitler“) für einen Eklat, den die Klageschrift als nachträgliche Bestätigung von Kims Warnungen anführt. Um den Jahreswechsel generierte Grok binnen neun Tagen über 1,8 Millionen sexualisierte Bilder realer Frauen, mutmaßlich auch Minderjähriger — Kaliforniens Generalstaatsanwalt Rob Bonta eröffnete daraufhin eine Untersuchung gegen xAI. Und bis Februar 2026 hatte die Hälfte der zwölf Gründungsmitglieder das Unternehmen verlassen; Ex-Mitarbeiter beschrieben das Safety-Team öffentlich als faktisch „tot“, was Musk damals zurückwies.

Brisanz bekommt der Fall durch Kims neue Rolle: Das Nonprofit Center for AI Safety hat ihn als Präsidenten benannt — die Klage ist damit auch ein Statement der organisierten KI-Sicherheits-Community gegen das Lab mit dem branchenweit lockersten Umgang mit Schutzmechanismen. Für Investoren des SpaceX-IPO ist sie zudem eine Erinnerung daran, dass im Konzern neben Raketen und Satelliten auch ein KI-Labor mit erheblichen Rechtsrisiken steckt. Ein Gericht hat über die Vorwürfe noch nicht befunden.

Am 10. Juni wurde ein SEC-Filing öffentlich, wonach Amazon sich bei einem Konsortium aus über einem Dutzend Banken unter Führung von Citigroup — darunter JPMorgan, Bank of America, Wells Fargo und HSBC — eine Kreditlinie über 17,5 Milliarden US-Dollar gesichert hat. Die Konstruktion ist ein sogenannter Delayed-Draw Term Loan: Amazon kann die Mittel flexibel bis Ende September abrufen, jede Tranche ist drei Jahre nach Abruf fällig. Offizieller Zweck sind „allgemeine Unternehmenszwecke“ — faktisch fließt das Geld in den KI-Infrastruktur-Ausbau.

Der Kredit ist nur das jüngste Glied einer bemerkenswerten Serie. Erst zwei Tage zuvor hatte Amazon einen „Maple Bond“ über 14 Milliarden kanadische Dollar (rund 10 Milliarden US-Dollar) platziert — die größte kanadische Unternehmensanleihe aller Zeiten, mit einem Orderbuch von über 28 Milliarden kanadischen Dollar deutlich überzeichnet. Im März nahm der Konzern bereits rund 54 Milliarden Dollar an den US- und Euro-Anleihemärkten auf, im Mai folgte ein Debüt am Schweizer Franken-Markt. Amazons Gesamtverschuldung inklusive Leasing ist binnen zwölf Monaten von rund 150 auf über 225 Milliarden Dollar gestiegen — ein Plus von 50 Prozent. Dahinter steht ein Investitionsplan von rund 200 Milliarden Dollar für 2026, größtenteils für AWS-Rechenzentren und eigene Chips, den CEO Andy Jassy bei den Q4-Zahlen angekündigt hatte.

Amazon ist damit kein Sonderfall, sondern Trendverstärker. Nach Zahlen von Morgan Stanley steuern die KI-bezogenen Schuldenemissionen 2026 auf rund 570 Milliarden Dollar zu — mehr als das Doppelte des Vorjahres; bis Ende Mai waren bereits 236 Milliarden begeben, das Vierfache des Vorjahreszeitraums. Die UBS rechnet vor, dass die Rechenzentrums-Investitionen der Hyperscaler 2026 nahezu 100 Prozent ihrer operativen Cashflows aufzehren — der Zehnjahresschnitt lag bei 40 Prozent. In unserer Reportage über den KI-Capex-Supercycle hatten wir Anfang des Monats beschrieben, wie sich die Finanzierung des Booms von der Bilanz an die Kreditmärkte verlagert; Amazons Doppelschlag liefert nun das bislang größte Anschauungsbeispiel.

Die Warnsignale häufen sich allerdings. Die Ratingagentur S&P erwartet, dass Amazons Verschuldungsgrad „substanziell“ steigt und der Konzern zwei Jahre lang negativen freien Cashflow ausweisen dürfte. Risikoaufschläge KI-bezogener Anleihen haben sich seit September um bis zu 40 Basispunkte geweitet, Oracles Kreditausfallversicherungen notieren auf Mehrjahreshochs. Analysten ziehen zunehmend Parallelen zum kreditfinanzierten Glasfaser-Boom der späten 1990er — samt der Sorge vor „zirkulärer Finanzierung“ im Ökosystem aus Nvidia, OpenAI, Oracle und CoreWeave. TechCrunch bringt die offene Frage auf den Punkt: Nicht ob die Ausgaben nötig sind, sondern ob die Erträge sie je rechtfertigen werden.