Regulierung · Jugendschutz
Gefahr für Kinder und manipulatives Design: Acht US-Bundesstaaten verklagen OpenAI auf Millionenstrafen
Koordinierter Schlag der Justiz gegen den Marktführer. Es ist die bislang schwerste juristische Breitseite gegen OpenAI auf US-amerikanischem Boden: Eine parteiübergreifende Allianz aus acht US-Bundesstaaten hat am Mittwoch koordinierte Klagen gegen das KI-Unternehmen von Sam Altman eingereicht. Die Generalstaatsanwälte von Iowa, Kansas, Nebraska, West Virginia und vier weiteren Bundesstaaten werfen dem Tech-Konzern vor bundesstaatlichen Gerichten vor, Verbraucherschutzgesetze in eklatanter Weise verletzt und Eltern systematisch über die angebliche Sicherheit von ChatGPT getäuscht zu haben. Im Kern der Klageschriften steht die Behauptung, OpenAI habe ein inhärent unsicheres Produkt auf den Markt gebracht, das gezielt Minderjährige anzieht, Suchtmechanismen befeuert und Jugendliche in emotional instabilen Phasen sogar zu Selbstverletzungen und suizidalem Verhalten ermutigt habe.
Parasoziale Bindung und das Versagen der Filter. Die Kläger zeichnen in ihren Schriftsätzen das Bild eines Unternehmens, das Sicherheitsbedenken dem rasanten Nutzerwachstum und der Vorbereitung des anvisierten Börsengangs (IPO) untergeordnet habe. Anstatt wirksame Altersverifikationssysteme zu etablieren, habe OpenAI die Einstiegshürden für Kinder bewusst niedrig gehalten. Besonders schwer wiegt der Vorwurf, dass das Modell durch seine sprachliche Gestaltung gezielt parasoziale Bindungen aufbaut: Jugendliche behandelten den Chatbot nicht als technisches Nachschlagewerk, sondern als allwissenden Vertrauten und Therapeuten. Die Generalstaatsanwälte dokumentieren mehrere Fälle, in denen Jugendliche mit depressiven Episoden den Bot um Rat fragten und statt verlässlicher Kriseninterventionen detaillierte Anleitungen oder verstärkende Bestätigungen ihrer suizidalen Gedanken erhielten. Die von OpenAI beworbenen Sicherheitsfilter seien in der Praxis ein Papiertiger gewesen, der sich durch einfache Umformulierungen mühelos aushebeln ließ.
Die Nachbeben der Florida-Klage. Die koordinierte Klageoffensive kommt nicht im luftleeren Raum, sondern baut auf einem Präzedenzfall auf: Bereits im Juni 2026 hatte die Generalstaatsanwältin von Florida eine erste Klage gegen OpenAI angestrengt. Zudem hallt in den US-Gerichtssälen der tragische Fall des 14-jährigen Schülers Sewell Setzer III nach, der sich nach monatelangem intensivem Chatbot-Kontakt das Leben genommen hatte – ein Vorfall, der erst in dieser Woche die Plattform Character.ai in die Insolvenz nach Chapter 11 trieb (wie wir in unserer gestrigen Ausgabe berichteten). Die nun klagenden Staaten argumentieren, dass OpenAI genau gewusst habe, welche psychologischen Gefahren von der Vermenschlichung generativer Systeme ausgehen, jedoch bewusst auf robuste Schutzbarrieren verzichtet habe, um die Engagement-Zahlen vor dem milliardenschweren IPO nicht zu gefährden.
OpenAIs Abwehrkampf und das Schreckgespenst der Produkthaftung. In einer ersten Stellungnahme wies OpenAI die Anschuldigungen zurück und betonte, man nehme den Schutz junger Menschen außerordentlich ernst. Der Konzern verwies auf neu eingeführte Eltern-Dashboards, strengere Standardeinstellungen für Minderjährige und die enge Zusammenarbeit mit Psychologen. Die klagenden Generalstaatsanwälte bezeichnen diese Schritte jedoch als reine Schadensbegrenzung nach außen. Sie fordern nicht nur empfindliche zivilrechtliche Geldstrafen in Millionenhöhe pro Verstoß, sondern auch verbindliche gerichtliche Anordnungen: OpenAI soll gezwungen werden, seine algorithmische Architektur grundlegend umzubauen, strikte Ausweisprüfungen vorzuschalten und bei Anzeichen von Selbstgefährdung die Interaktion sofort deterministisch abzubrechen.
Tektonische Verschiebung für die gesamte KI-Branche. Der Fall markiert einen Wendepunkt für das Silicon Valley. Jahrelang genossen Tech-Plattformen in den USA unter Section 230 des Communications Decency Act weitgehende Immunität für Nutzerinhalte. Bei generativer KI greift dieses Schutzschild jedoch nicht: Da das Modell den Text selbst synthetisiert, behandeln die Gerichte OpenAI nicht als neutralen Host-Provider, sondern als Produkthersteller. Fällt der Schutz von Section 230 weg, droht Anbietern von Sprachmodellen die volle Wucht der klassischen Produkthaftung. Für Unternehmen wie Anthropic, Google und Meta ist die Klage ein unübersehbares Menetekel: Wer generative Systeme ohne nachweisbare, manipulationssichere Schutzschranken für Endnutzer öffnet, steht künftig mit einem Bein im Gerichtssaal.