Ausgabe vom 14. Mai 2026

Die Zahlen aus dem Ramp AI Index für Mai 2026, veröffentlicht am 13. Mai über TechCrunch und Axios, markieren eine Zäsur. Bei den über 50.000 erfassten US-Unternehmen nutzten im April 2026 genau 34,4 Prozent Anthropic-Produkte gegen 32,3 Prozent OpenAI — Anthropic legte um 3,8 Prozentpunkte zu, OpenAI fiel um 2,9 Punkte zurück. Noch wichtiger ist die Trendlinie: Im Mai 2025 zahlten erst neun Prozent der Ramp-Kunden für Anthropic. In zwölf Monaten hat sich der Anteil annähernd vervierfacht. Bei Neuabschlüssen gewinnt Anthropic inzwischen rund 70 Prozent der direkten Vergleichsentscheidungen; in den drei KI-affinsten Branchen — Information/Software (63 zu 54 Prozent), Finanzwesen (52 zu 46 Prozent) und Professional Services (47 zu 44 Prozent) — liegt Anthropic ebenfalls vorn.

Methodisch ist die Ramp-Stichprobe groß und industriell divers, aber kein Spiegelbild der US-Wirtschaft: Ramps Kundschaft besteht überproportional aus tech-affinen, venture-backed Unternehmen. Bei VC-finanzierten Firmen liegt die KI-Adoption bei 80 Prozent, bei Private-Equity-Beteiligungen bei 64 Prozent, im breiten Mittelstand bei 45 Prozent. Auch erfasst der Index nur bezahlte Subscriptions — Microsofts indirekte ChatGPT-Verbreitung über Copilot wird tendenziell unterzeichnet. Trotz dieser Vorbehalte ist die Richtung konsistent über andere Indikatoren hinweg: Auf OpenRouter hatte OpenAI zuletzt im Dezember 2025 vor Anthropic gelegen.

Die Geschäftszahlen liefern den Hintergrund. Anthropics annualisierte Umsatzrate ist von rund neun Milliarden Dollar Ende 2025 binnen vier Monaten auf über 30 Milliarden Dollar im April 2026 geklettert — laut Dario Amodei selbst „crazy“ und um den Faktor acht über internem Forecast. Bloomberg-Recherchen sprechen mittlerweile von annähernd 44 Milliarden Dollar Run-Rate; die laufende Finanzierungsrunde wird bei einer Bewertung von rund 900 Milliarden Dollar diskutiert, dem Doppelten der Februar-Runde. OpenAI steht parallel bei einer Run-Rate von etwa 24 Milliarden Dollar (rund zwei Milliarden monatlich), generiert davon aber rund 45 Prozent aus ChatGPT-Konsumentenabos und nur 35 Prozent aus Enterprise-APIs. Anthropic erzielt rund 85 Prozent seiner Erlöse mit Unternehmen, hat die Zahl der Firmen mit über einer Million Dollar Jahresausgaben in zwei Monaten von 500 auf über 1.000 verdoppelt und bedient inzwischen mehr als 300.000 Business-Kunden.

Der dominante Hebel hinter dem Erfolg heißt Code. Coding macht laut Menlo-Ventures-Daten 51 Prozent der gesamten generativen KI-Nutzung in Unternehmen aus und ist der margenstärkste Use Case. Anthropic hält in diesem Segment je nach Erhebung zwischen 42 und 54 Prozent Marktanteil, OpenAI nur rund 21 Prozent. Claude Code allein erwirtschaftet 2,5 Milliarden Dollar annualisiert — bis September 2025 lag dieser Wert noch bei 500 Millionen. Befeuert wird das durch Claude Opus 4.7 (allgemein verfügbar seit dem 16. April 2026) mit SWE-bench-Score von 80,8 Prozent, 1-Million-Token-Context und 128k Output-Tokens. Parallel hat Anthropic mit Claude Cowork eine generelle Knowledge-Work-Plattform für Analysten, Operations, Legal und Finance gebaut, ergänzt um vertikale Erweiterungen wie Claude for Financial Services (Integration von FactSet, PitchBook, Morningstar, S&P Global).

Parallel zur Ramp-Schlagzeile hat Anthropic am 13. Mai mit „Claude for Small Business“ eine Offensive in ein Segment gestartet, das bisher kein großer KI-Anbieter konsequent bediente: lokale Handwerksbetriebe, Cafés, Boutiquen, Friseursalons. Das Paket besteht aus 15 vorgefertigten Workflows in Finance, Operations, Sales, Marketing, HR und Customer Service, läuft als Toggle innerhalb von Claude Cowork und ist ohne Aufpreis über bestehende Lizenzen nutzbar. Integrationspartner sind QuickBooks, PayPal, HubSpot, Canva, DocuSign, Google Workspace, Microsoft 365, Slack, Square, Stripe und Webflow. PayPal übernimmt Invoicing- und Refund-Workflows (mit Approval-Pflicht), QuickBooks Payroll und Cashflow-Forecasting. Begleitend tourt Anthropic mit einem zehnstädtigen Workshop-Programm, beginnend in Chicago. Ein IPO ist laut mehreren Berichten frühestens für Oktober 2026 im Gespräch.

Die Reportage stützt sich auf mehrere belegte Einzelfälle, die das Bild eines systemischen Problems zeichnen. Im März 2026 erhielt der 28-jährige israelische Entwickler Daniel Abraham unaufgefordert eine WhatsApp-Nachricht eines Fremden, der bei der israelischen Bezahl-App PayBox Kundenservice suchte — Gemini hatte Abrahams private Mobilnummer als PayBox-Hotline ausgegeben. Seine Nummer war einmalig 2015 auf einer lokalen Q&A-Plattform geteilt worden, von dort offenbar in den Web-Crawl gewandert und im Modellgewicht gelandet. Im April 2026 suchte Meira Gilbert, PhD-Studentin an der University of Washington, in Gemini nach „Yael Eiger contact info“ — und erhielt prompt die private Handynummer ihrer Kollegin. In einem weiteren Test brachten UW-Forscher ChatGPT trotz initialer Schutzweigerung über einen „investigative-style approach“ dazu, Privatadresse, Kaufpreis des Hauses und Ehepartnername eines Professors preiszugeben.

Technisch hat das Phänomen zwei Wurzeln. Erstens verbatim memorization: Große Sprachmodelle werden auf hunderten Milliarden Token Web-Crawls trainiert, die zwangsläufig Millionen PII-Instanzen enthalten — Telefonnummern, Adressen, E-Mails aus alten Forenposts, Vereinsseiten, Listings. Modelle reproduzieren diese Sequenzen in seltenen, aber statistisch konsistenten Fällen wortwörtlich. Zweitens Aggregation: Modelle kombinieren öffentlich verstreute Daten — Social-Media-Profile, Data-Broker-Einträge, Whitepages-Klone — zu einem konsolidierten Personenprofil, das so geballt nirgendwo online steht. Rob Shavell, CEO des Privacy-Dienstes DeleteMe, meldet einen 400-prozentigen Anstieg an KI-bezogenen Kundenanfragen in sieben Monaten — 55 Prozent betreffen ChatGPT, 20 Prozent Gemini, 15 Prozent Claude, 10 Prozent andere Tools.

Die Reaktionen der Anbieter fallen ausweichend aus. Google (Alex Joseph, Communications Lead Gemini) erklärt, man „untersuche“ die Fälle, ohne konkrete Maßnahmen zu nennen, und verweist auf ein Support-Dokument zur „Einlegung von Widersprüchen gegen Datenverarbeitung“. OpenAI (Taya Christianson) verweigert konkrete Stellungnahmen ohne Screenshots der Vorfälle und verweist auf ein Privacy-Portal, das jedoch „aus rechtmäßigen Gründen“ Lösch-Anfragen ablehnen kann. Anthropic antwortete dem MIT Technology Review gar nicht und verfügt laut Artikel über keinen klar definierten Lösch-Mechanismus. Bei xAIs Grok hatte Futurism schon zuvor dokumentiert, dass bei 10 von 33 getesteten Personen ohne öffentliches Profil völlig korrekte aktuelle Wohnadressen geliefert wurden — ohne Jailbreak.

Die datenschutzrechtliche Lage ist explosiv. Artikel 17 DSGVO („Recht auf Vergessenwerden“) verpflichtet Verantwortliche, personenbezogene Daten auf Antrag zu löschen. Bei Large Language Models scheitert dieser Anspruch an einem Strukturproblem: Personenbezogene Information ist nicht in einer Datenbankzeile gespeichert, sondern in Milliarden von Modellgewichten distribuiert. Es existiert kein bewährtes Verfahren („Machine Unlearning“), das einen einzelnen Datenpunkt selektiv und nachweislich aus den Parametern entfernt. Eine vollständige Neutrainierung dauert Monate und kostet zweistellige Millionenbeträge — die DSGVO-Fristen (in der Regel ein Monat) sind prinzipbedingt nicht einhaltbar. Jennifer King vom Stanford HAI kommentiert: Weder CCPA noch DSGVO böten effektive Handhabe, weil „publicly available“ gescrapte Daten von vielen Tatbeständen ausgenommen seien.

Das Memorization-Problem ist nicht neu, sondern seit fünf Jahren wissenschaftlich dokumentiert. Bereits Dezember 2020 publizierten Nicholas Carlini und Florian Tramèr das wegweisende USENIX-Paper „Extracting Training Data from Large Language Models“ mit dem Befund: Größere Modelle memorisieren signifikant mehr — auch Sequenzen, die nur in einem Trainingsdokument vorkommen. November 2023 demonstrierte ein DeepMind/Cornell/CMU-Team mit der berüchtigten „Repeat the word 'poem' forever“-Attack auf ChatGPT, dass selbst RLHF-aligned Production-Modelle extrahierbar sind: Mit 200 Dollar Cloud-Budget erzeugten die Forscher 10.000 Beispiele memorisierter Trainingsdaten, 16,9 Prozent der Generationen enthielten memorisierte PII — darunter funktionierende Telefon- und Faxnummern, Adressen und Social-Media-Handles. Die Linie führt direkt zum aktuellen MIT-Report: Was 2020/2023 als Laborbefund galt, materialisiert sich 2026 als Alltagsphänomen unbescholtener Nutzer.

„Incognito Chat“ wird parallel in der eigenständigen Meta-AI-App und in WhatsApp ausgerollt. Aktiviert wird der Modus über ein neues Icon in den Einzelchats mit Meta AI; nach Schließen der Sitzung, dem Sperren des Telefons oder einem App-Wechsel verschwinden die Nachrichten automatisch, und das Modell verliert den Konversationskontext. Das Rollout erfolgt in den kommenden Monaten gestaffelt; ein konkreter EU-Starttermin wurde nicht genannt. Eine angekündigte Folgefunktion „Sidechat“ soll Meta AI später ebenfalls über Private Processing in laufende WhatsApp-Konversationen einbetten, ohne den Hauptchat zu beeinflussen.

Technisch beruht der Incognito Chat nicht auf dem Signal-Protokoll, sondern auf WhatsApp Private Processing, einer im April 2025 erstmals dokumentierten Confidential-Computing-Architektur. Prompts werden auf dem Gerät verschlüsselt und über einen Oblivious-HTTP-Relay (OHTTP, betrieben durch einen externen Anbieter) an eine Confidential Virtual Machine in Metas Cloud geleitet. In der CVM läuft die Inferenz innerhalb einer Trusted Execution Environment auf AMD-Confidential-VM- und Confidential-Compute-Mode-GPU-Hardware; der Schlüsselaustausch zwischen Gerät und TEE erfolgt per RA-TLS (Remote Attestation + TLS) mit einem ephemeren Schlüssel, der Meta unzugänglich ist. Wichtig zur Einordnung: Das LLM selbst muss den Klartext zwingend sehen, um zu antworten — Meta sieht ihn nicht, weil der Host die TEE-Speicher nicht auslesen kann. Konzept und Vokabular sind eng an Apples „Private Cloud Compute“ angelehnt. NCC Group hat 2025 ein 115-Personentage-Audit der Architektur durchgeführt, Trail of Bits eine zweite unabhängige Prüfung.

Die Ankündigung kommt nur fünf Tage nach einem für Meta unangenehmen Stichdatum: Am 8. Mai 2026 hat das Unternehmen die optionale Ende-zu-Ende-Verschlüsselung in Instagram-Direktnachrichten abgeschaltet — Begründung: zu geringe Nutzung. Gizmodo titelte entsprechend „After Killing Encrypted DMs, Mark Zuckerberg Wants You to Trust His New Encrypted AI Chat“. Hinzu kommt der „Discover Feed“-Skandal aus 2025: Die im April gestartete Meta-AI-App machte standardmäßig geteilte Gespräche öffentlich sichtbar, und durch eine missverständliche UI veröffentlichten Nutzer ungewollt medizinische Anfragen, Steuerthemen und intime Probleme. Mozilla startete daraufhin eine Petition mit über 10.000 Unterzeichnern; ein zusätzliches Sicherheitsleck erlaubte es Forschern, fremde Konversationen über manipulierte Identifier abzurufen. Vor diesem Hintergrund ist Incognito Chat erkennbar eine Reparaturmaßnahme.

Im Wettbewerb schließt Meta mit Private Processing technisch zu Apple auf, das im Juni 2024 mit „Private Cloud Compute“ die Referenzarchitektur für Confidential AI Inference vorgestellt hatte. Beide Systeme nutzen TEE-basierte Stateless Inference und hardwareverifizierte Attestation; der Hauptunterschied liegt in Apples physisch gesicherter Custom-Silicon-Lieferkette gegenüber Metas AMD-CVM-Standardhardware. Google zog im November 2025 mit „Private AI Compute“ nach. Signal-Präsidentin Meredith Whittaker warnt allerdings seit Anfang 2025 grundsätzlich vor agentischer KI in verschlüsselten Apps: Wer ein LLM Zugriff auf Messenger gebe, „breche die Blut-Hirn-Schranke zwischen Application- und OS-Layer“ — eine Kritik, die auf Sidechat zutreffen dürfte, weniger auf den isolierten Incognito-Modus. OpenAI hat in ChatGPT bislang keinen vergleichbaren expliziten „Private Mode“; temporäre Chats werden zwar nicht im Verlauf gespeichert, müssen aber laut US-Gerichtsbeschluss vom Mai 2025 für die NYT-Klage weiter aufbewahrt werden.

Für Unternehmen bleibt die Lage heikel. Zwar reduziert Incognito Chat das Datenleck-Risiko technisch, doch Schatten-IT-Nutzung von Meta AI über private WhatsApp-Konten ist damit nicht legitimiert: Compliance-relevante Audit-Trails fehlen, der Modus speichert keine Logs (was für regulierte Branchen ein eigenes Problem ist), und ein Meta-AI-Agent-Vorfall vom März 2026 — interne Sensitivdaten zwei Stunden lang über fehlerhafte Berechtigungen einsehbar — hat das Vertrauen in Metas operative Trennung ohnehin beschädigt. Solange CNIL und irische DPC die TEE-Implementierung nicht offiziell überprüft haben, gilt das alte noyb-Mantra: Vertrauen entsteht durch Audits, nicht durch Marketing.

Am 13. Mai 2026 hat Notion in einem live-gestreamten Event eine neue Developer Platform vorgestellt. CEO und Mitgründer Ivan Zhao formulierte die Vision so: „Any data, any tool, any agent — that's the big picture for the Notion Developer Platform.“ Mit ungewöhnlicher Offenheit räumte er zugleich ein: „It's true that, historically, Notion hasn't been the most developer-focused platform.“ Kernkomponente sind die Notion Workers — eine Cloud-Sandbox auf Vercel-Sandbox-Infrastruktur, in der Kunden eigenen Node.js-Code deployen, externe APIs anbinden, OAuth-Secrets verwalten und Webhooks empfangen können. Deployment läuft über das neu eingeführte Notion CLI. Workers sind bis Ende August 2026 kostenlos; danach gilt das gleiche Credit-System wie für Custom Agents ($10 pro 1.000 Credits).

Das Herzstück des Pivots: Notion-Nutzer können direkt mit externen AI-Agents chatten, ihnen Aufgaben zuweisen und deren Fortschritt verfolgen — so, als wären es Notion-eigene Custom Agents. Zum Launch unterstützt Notion Claude Code (Anthropic), Cursor, OpenAI Codex und Decagon. Über eine neue „External Agent API“ können Firmen außerdem ihre selbst gebauten Agents einbinden. Parallel bleibt das bestehende Model Context Protocol (MCP) der zweite Integrationsweg: Notion MCP ist ein gehosteter Server, mit dem Claude, ChatGPT, Cursor & Co. lesend und schreibend auf Notion-Seiten zugreifen — unter Wahrung der Workspace-Permissions. Damit positioniert sich Notion als bewusst neutrale Drehscheibe zwischen Menschen, Agents und Unternehmensdaten — TechCrunch sprach von einem Strategie-Shift „from productivity app toward programmable infrastructure“.

Über die zweite Neuerung „Database Sync“ — ebenfalls Workers-basiert — können Notion-Datenbanken nun live aus Salesforce, Zendesk, Stripe, GitHub, Postgres oder beliebigen API-Quellen einsaugen und synchron halten. Die zugrundeliegenden Sprachmodelle sind weiterhin nutzergesteuert: Seit Januar 2026 kann zwischen GPT-5.2 (OpenAI), Claude Opus 4.5 (Anthropic), Gemini 3 (Google) oder einem „Auto“-Modus gewählt werden. Verfügbar sind die neuen Developer-Funktionen ausschließlich für Notion-Kunden auf Business- und Enterprise-Plänen.

Die Mai-Ankündigung baut auf zwei früheren Schritten auf. Im September 2025 lief mit Notion 3.0 der erste Agent (persönlicher On-Demand-Assistent) an; im Februar 2026 folgten mit Notion 3.3 die „Custom Agents“ — autonome Teammates, die auf Triggern oder Schedule bis zu 20 Minuten lang ohne Aufsicht arbeiten und über Hunderte Seiten gleichzeitig handeln. Innerhalb von zwei Monaten haben Kunden über eine Million Custom Agents gebaut; Notion selbst betreibt intern 2.800 Agents — mehr als das Unternehmen Mitarbeiter hat. Konkrete Use Cases: Ramp betreibt über 300 Agents (u. a. „Product Oracle“ für Roadmap-Q&A), Remote ersetzte mit einem Agent den IT-Helpdesk und spart 20 Wochenstunden, Braintrust nutzt einen Competitive-Intelligence-Agent für tägliche Marktupdates.

Im umkämpften Markt für AI-Workspace-Orchestrierung trifft Notion auf Atlassian Rovo (Suche und Agents über Jira/Confluence/Bitbucket), ServiceNow Otto, Monday.com (das sich 2026 als „Work OS“ über vier Produktlinien positioniert) und ClickUp Brain mit Multi-Model-Support und „Super Agents“. Notions Differenzierungs-These: Während Rovo Atlassian-zentriert agiert und ClickUp/Monday auf Task-Execution fokussieren, will Notion durch die Kombination aus Knowledge-Workspace + Custom Agents + Developer Platform + offener External-Agent-API zur neutralen „programmierbaren Infrastruktur“ für Wissensarbeit werden. Notion hat laut eigener Angabe rund 100 Millionen Nutzer, etwa 600 Millionen Dollar ARR Ende 2025 und 11 Milliarden Dollar Bewertung von Dezember 2025.

Eine Machbarkeitsphase ist nach Angaben aus dem BfV erfolgreich abgeschlossen, die Software gilt als einsatzbereit für Terrorabwehr und Spionageabwehr. Die Integration in deutsche Behörden-IT erfolgt über die rola Security Solutions GmbH aus Oberhausen, die bereits ins Polizei-Informations- und Analyseverbund-Netz (PIAV) eingebunden ist, sowie über den IT-Dienstleister SVA. Die Dreier-Allianz ChapsVision/rola/SVA besteht als strategische Partnerschaft seit dem 15. Oktober 2025. Auftragsvolumen und Vertragslaufzeit sind nicht veröffentlicht — und werden es vermutlich auch nicht werden. ChapsVision insgesamt: 157 Millionen Euro Umsatz 2023, über 2.000 Kunden, Sitz Paris.

Den Kurs hatte BfV-Präsident Sinan Selen bereits am 8. Dezember 2025 beim 21. BfV-Symposium in Berlin vorgezeichnet: „Wir sind gut beraten, unseren europäischen Fokus zu schärfen.“ Hinter dem nüchternen Satz steht ein veritabler Richtungsstreit in der Bundesregierung. Bundesinnenminister Alexander Dobrindt (CSU) hält die Tür für Palantir bewusst offen, während sich Justizministerin Stefanie Hubig (SPD), Verteidigungsminister Boris Pistorius (SPD) und Digitalminister Karsten Wildberger (CDU) gegen die Software aus dem Hause Peter Thiel positionieren. Auch BKA-Präsident Holger Münch und der Cyber-Chef der Bundeswehr plädieren für europäische Souveränität. Mit der BfV-Entscheidung ist nun de facto am BMI vorbei eine Tatsache geschaffen worden, die als Blaupause für andere Bundesbehörden dienen dürfte.

Funktional zielt ArgonOS auf dieselbe Lücke wie Palantirs Gotham- und Foundry-Stack: Daten aus heterogenen Quellen — strukturierte Datenbanken, OSINT-Recherchen, Bilder, Audio, Video, Dokumente — zu einem semantischen Wissensgraphen verknüpfen, Beziehungen zwischen Personen, Ereignissen und Orten sichtbar machen, schwache Signale aus dem Rauschen ziehen. Die Plattform bindet nach Herstellerangaben mehr als 300 Datenquellen an und versteht über 60 Sprachen. Der entscheidende Unterschied liegt in der Architektur: ChapsVision verspricht volle Datenhoheit, kein Abfluss in US-Cloud-Infrastrukturen, DSGVO-konforme Verarbeitung und ein transparentes, durch die Behörde anpassbares Datenmodell. Genau jene „Blackbox“, die die Gesellschaft für Freiheitsrechte Palantir vorwirft. Referenzkunde ist seit 2023 der französische Inlandsgeheimdienst DGSI, der ArgonOS im OTDH-Programm gegen ein Konsortium aus Thales und Atos/Eviden ausgewählt hatte.

Die Entscheidung fällt in einen heißen verfassungsrechtlichen Sommer. Hessen nutzt Palantir Gotham seit 2018 als „HessenDATA“, Bayern beschaffte 2022 die VeRA-Plattform auf gleicher Basis. Karlsruhe erklärte bereits im Februar 2023 die hessische Rechtsgrundlage und eine vergleichbare Hamburger Norm für teilweise verfassungswidrig. Bayern verabschiedete im Sommer 2024 eine PAG-Novelle, die nach Auffassung der Gesellschaft für Freiheitsrechte die Karlsruher Vorgaben nicht erfüllt; am 23. Juli 2025 reichte die GFF gemeinsam mit dem Chaos Computer Club Verfassungsbeschwerde gegen den bayerischen Einsatz ein. Mittlerweile prüft selbst Bayern eine „Marktschau nach deutschen und europäischen Alternativen“, während Nordrhein-Westfalen mit DAR und ab Q2 2026 Baden-Württemberg neue Palantir-Verträge starten. Der Bund schert mit der ArgonOS-Entscheidung aus der Linie der Länder aus.

Reaktionen fielen erwartungsgemäß gemischt aus. Grünen-Innenpolitiker Konstantin von Notz begrüßt die Entscheidung „ausdrücklich“, mahnt aber „genaue Prüfung der rechtlichen Bedingungen“ an und verweist auf Peter Thiels „demokratiekritische Aussagen“. SPD-Innenpolitiker Sebastian Fiedler spricht von einem „Meilenstein“. Die Linke Clara Bünger kritisiert in der taz „reinen Etikettenschwindel“: Die „Logik der algorithmischen Rasterfahndung“ bleibe identisch, egal ob aus Palo Alto oder Paris. Im europäischen Kontext passt die Entscheidung in eine größere Bewegung: Emmanuel Macron hat 109 Milliarden Euro für die französische KI-Industrie angekündigt, Friedrich Merz und Macron haben 2026 eine gemeinsame Initiative zur digitalen Souveränität gestartet, flankiert von einer strategischen Partnerschaft mit Mistral AI und SAP. ChapsVision ist als reiner B2G-Anbieter exakt der Champion-Typ, den die französische Industriestrategie kultiviert.

Die Klage wurde am 12. Mai 2026 im Superior Court of California, County of San Francisco, eingereicht — Caption: Turner-Scott v. OpenAI Foundation (auch als Nelson v. OpenAI referenziert). Mitbeklagter ist CEO Sam Altman persönlich. Vertretende Anwälte sind das Social Media Victims Law Center, das Tech Justice Law Project und das Yale Law School Tech Accountability & Competition Project. Klagepunkte: Defective Design, Failure to Warn, Negligence, Wrongful Death, Verstoß gegen das kalifornische Unfair Competition Law sowie ein Gesetz, das KI verbietet, sich als zugelassene Gesundheitsdienstleisterin auszugeben. Die Familie fordert finanzielle Entschädigung, die permanente Vernichtung des GPT-4o-Modells, automatische Gesprächs-Beendigung bei illegalem Drogenkonsum-Talk und die sofortige Aussetzung von ChatGPT Health bis zur unabhängigen Audit-Verifizierung.

Der Tatabend, wie ihn die Klageschrift rekonstruiert, liest sich erschütternd. Sam habe ChatGPT mitgeteilt, ihm sei nach Kratom-Konsum übel. Der Chatbot habe daraufhin geantwortet, „0,25 bis 0,5 mg Xanax“ einzunehmen sei einer der „best moves right now“, um die Übelkeit zu lindern und den Rausch zu „glätten“. ChatGPT habe zwar erwähnt, die Kombination Kratom-Xanax könne „riskant“ sein, jedoch nicht davor gewarnt, dass diese Mischung tödlich enden kann. Stattdessen habe der Bot zusätzlich Benadryl vorgeschlagen und Sam geraten, sich in einen „dunklen, ruhigen Raum“ zu legen — statt ihn zum Notarzt zu schicken. In den Antworten habe der Bot Emojis verwendet und angeboten, Playlists zu erstellen. Am nächsten Morgen fand die Mutter ihren Sohn tot.

Nelson v. OpenAI ist Teil einer wachsenden Welle. Im August 2025 reichten die Eltern des 16-jährigen Adam Raine die erste Wrongful-Death-Klage ein, ebenfalls am San-Francisco-Superior-Court. Am 6. November 2025 folgten sieben weitere Klagen über SMVLC und TJLP koordiniert: vier Todesfälle (Zane Shamblin, 23, Texas; Amaurie Lacey, 17, Georgia; Joshua Enneking, 26, Florida; Joseph Ceccanti, 48, Oregon) plus drei Überlebende mit KI-induzierten Wahnstörungen. Mit Nelson sind damit mindestens neun aktive Wrongful-Death-/Produkthaftungs-Klagen gegen OpenAI und Altman anhängig. Keine davon ist eine Class Action, aber inhaltlich-strategisch koordiniert.

Der zentrale Vorwurf aller Klagen ist konsistent: OpenAI habe das GPT-4o-Modell am 13. Mai 2024 vorzeitig veröffentlicht, um Googles Gemini zuvorzukommen, und dabei monatelange Safety-Tests auf eine Woche zusammengestaucht. OpenAIs eigenes Preparedness-Team habe später eingeräumt, der Prozess sei „squeezed“ gewesen; führende Sicherheitsforscher seien aus Protest zurückgetreten. GPT-4o sei gezielt mit psychologisch manipulativen Engagement-Features ausgestattet worden: persistentes Memory, menschen-imitierende Empathie-Cues und sycophantisches Verhalten. Mutter Leila Turner-Scott zitiert: „Wäre ChatGPT ein Mensch, säße es hinter Gittern.“

OpenAI hat sich erklärt: „These interactions took place on an earlier version of ChatGPT that is no longer available. ChatGPT is not a substitute for medical or mental health care, and we have continued to strengthen how it responds in sensitive and acute situations.“ Das Unternehmen verweist darauf, GPT-4o sei im Februar 2026 wegen geringer Nutzung abgekündigt worden; neuere Modelle (GPT-5) hätten unerwünschte Antworten bei Suizid/Selbstverletzung um 52 Prozent und bei sensiblen Mental-Health-Gesprächen um 39 Prozent reduziert. Die zeitliche Nähe zum „Trusted Contact“-Launch vom 7. Mai 2026 — ein Vertrauenspersonen-Mechanismus für Erwachsene — ist nicht zufällig: Mehrere US-Medien ordnen Trusted Contact explizit als Reaktion auf die laufende Klagewelle ein. OpenAI selbst beziffert das Ausmaß: 0,07 Prozent der Wochen-Nutzer zeigten Anzeichen von Psychose/Manie (rund 560.000 Menschen), 0,15 Prozent Hinweise auf Suizidpläne (1,2 Mio.).