Im Zeugenstand: Was KI-Chatprotokolle über uns verraten

Gerichtssaal Los Angeles, 27. Juni 2026. Zwölf Geschworene haben zwei Tage lang beraten. Der Angeklagte Jonathan Rinderknecht — 30 Jahre, französisch-amerikanischer Doppelstaatsbürger — wird beschuldigt, den Palisades-Brand ausgelöst zu haben, der zwölf Menschen das Leben kostete und mehr als 6.000 Gebäude zerstörte. Die Staatsanwältin präsentiert das Kernstück ihrer Beweisführung: Chatprotokolle aus ChatGPT.

Rinderknecht hatte den Chatbot gebeten, Bilder von brennenden Häusern zu generieren. Er hatte ihn gefragt: „Why am I so angry all the time?" Er hatte Phrasen getippt wie „Free the way Luigi Mangione." Und er hatte — kurz nach dem Brand, während er gleichzeitig die 911 anrief — ChatGPT gefragt, ob jemand für ein Feuer haftbar gemacht werden kann, das durch eine weggeworfene Zigarette entstand.

Das Ergebnis: Mistrial. Die Geschworenen steckten bei 10:2 fest. Eine Juristin erklärte öffentlich, sie führe selbst ähnliche hypothetische Gespräche mit ChatGPT — und könne daher nicht ausschließen, dass Rinderknechts Prompts kein Tatplan, sondern eine gedankenexperimentelle Unterhaltung waren. Neuverhandlung: Oktober 2026.

Der Fall ist ein Lehrstück — und zwar für weit mehr als für Brandstiftung.

Mehr als Suchverläufe: Warum KI-Chats eine neue Kategorie sind

Suchmaschinen-Protokolle sind seit Jahren bekanntes Beweismittel. Sie zeigen, was jemand wissen wollte. KI-Chatprotokolle gehen weiter: Sie offenbaren den dialogischen Denkprozess — wie jemand ein Problem formuliert, welche Gegenantworten er erhält, wie er seine Anfragen verfeinert, welche emotionalen Zustände er beschreibt. Es ist die digitale Entsprechung eines Tagebuchs, das aktiv kommentiert.

Für die Strafverfolgung ist das ein neues Instrument. In den USA gibt es bereits mehrere Fälle, in denen KI-Chatprotokolle als Beweismittel für Vorsatz und Tatplanung zugelassen wurden. Im Herbst 2025 wurde ein 18-Jähriger in Virginia zu 25 Jahren verurteilt, nachdem Ermittler seine Frage an Snapchats KI-Assistenten gefunden hatten: „Was, wenn ich jemanden erschieße, der mit feindlicher Absicht mein Grundstück betritt?" Im Delaware Court of Chancery wurden im März 2026 ChatGPT-Protokolle zugelassen, die zeigten, wie ein CEO strategisch plante, Vertragsbedingungen zu umgehen — und den Ratschlägen der KI dabei weitgehend folgte.

Die Kanzlei Tyson & Mendes beschreibt es nüchtern: KI-Chats genießen kein Anwalt-Mandant-Privileg, kein Therapeutenprivileg — sie werden wie E-Mails behandelt. OpenAI-CEO Sam Altman räumte öffentlich ein: „Es gibt keine gesetzliche Vertraulichkeit für Nutzerkonversationen."

Wer kann auf Ihre Chats zugreifen — und wie lange?

Ein weit verbreiteter Irrglaube: Weil ich meine Chathistorie im Browser gelöscht habe, ist sie weg. Das stimmt nicht.

OpenAI speichert Konversationen je nach Tarif unterschiedlich. Kostenlose und Plus-Nutzer: unbegrenzte Speicherung, bis der Nutzer aktiv löscht — danach nochmals 30 Tage in den Systemen. Der Teufel liegt im Detail: Aufgrund einer gerichtlichen Anordnung im New-York-Times-Verfahren ist OpenAI seit Mitte 2025 verpflichtet, sämtliche ChatGPT-Konversationen — einschließlich bereits gelöschter — zu konservieren, solange der Rechtsstreit läuft. Was der Nutzer „gelöscht" hat, existiert möglicherweise noch.

US-Behörden können KI-Anbieter mit Gerichtsbeschlüssen zur Herausgabe von Chat-Inhalten zwingen. Für Metadaten genügt eine Vorladung (Subpoena), für Chat-Inhalte wird ein Durchsuchungsbefehl (Warrant) benötigt. OpenAI gibt in seinen offiziellen Law-Enforcement-Guidelines an, solchen Anfragen nachzukommen. Anthropic hat in seinen Nutzungsbedingungen ausdrücklich festgehalten, dass Nutzer bei Inputs keine berechtigte Privatsphäreerwartung haben — ein Bundesgericht in New York bestätigte im Februar 2026, dass Claude-Konversationen von Staatsanwälten beschlagnahmt werden können.

Für europäische Nutzer und Unternehmen ist die Lage komplizierter — aber nicht komfortabler. Der US-CLOUD Act erlaubt US-Behörden, US-Unternehmen zur Herausgabe von Daten zu zwingen, auch wenn diese auf EU-Servern gespeichert sind. Das steht in direktem Konflikt mit der DSGVO. Auf europäische Behörden, die Zugriff auf KI-Chatdaten wollen, warten längere MLAT-Verfahren (Rechtshilfeverfahren) — aber der BGH hat mit seinem Urteil zu den Anom-Chat-Daten vom Januar 2025 den Weg geebnet, dass international beschaffte digitale Kommunikationsdaten in deutschen Strafverfahren verwertbar sind.

Was die DSGVO leistet — und wo sie aufhört

Die DSGVO gibt Nutzern in der EU theoretisch starke Rechte: Auskunft über gespeicherte Daten, Recht auf Löschung, Datenübertragbarkeit. OpenAI und andere KI-Anbieter bieten diese Funktionen formell an.

Die Praxis sieht anders aus. Das Speicherminimierungsprinzip (Art. 5 Abs. 1e) verlangt, personenbezogene Daten nach Zweckerfüllung zu löschen. Für KI-Chatbots ohne klare Aufbewahrungsfrist ist das schwer umzusetzen. Und gerichtliche Halte-Anordnungen können das Löschrecht des Nutzers schlicht aushebeln — auch wenn dieser seinen Antrag nach Art. 17 DSGVO gestellt hat.

Für Unternehmen ist die entscheidende Weichenstellung, in welcher Rolle sie handeln. Wer ChatGPT Enterprise für Mitarbeitende einsetzt, ist nach DSGVO „Verantwortlicher" (Controller) — OpenAI ist der „Auftragsverarbeiter" (Processor). Das bedeutet: Ein Auftragsverarbeitungsvertrag (AVV/DPA) nach Art. 28 DSGVO ist Pflicht. Ohne ihn ist der Enterprise-Betrieb mit personenbezogenen Daten rechtswidrig. ChatGPT Enterprise bietet einen solchen AVV an; der kostenlose und der Plus-Tarif nicht. Wer seine Mitarbeitenden mit kostenlosen KI-Tools auf Kundendaten zugreifen lässt, riskiert Bußgelder bis zu vier Prozent des globalen Jahresumsatzes.

Drei unterschätzte Risiken für Unternehmen

Das Shadow-AI-Problem ist größer als gedacht. Laut Metomic-Forschung enthalten 34,8 Prozent aller Mitarbeiter-Eingaben in ChatGPT sensible Daten — Finanzzahlen, Rechtsdokumente, Personalinformationen. Gleichzeitig laufen rund 60 Prozent aller KI-Apps im Unternehmen ohne IT-Visibility. IBM-Report 2025: Jedes fünfte Unternehmen hat bereits einen Datenleck durch „Shadow AI" erlitten.

Litigation-Hold-Pflicht für KI-Logs. Sobald ein Rechtsstreit absehbar ist, müssen Unternehmen alle relevanten digitalen Kommunikationsspuren sichern — sonst drohen Spoliation-Sanktionen (Beweismittelvereitelung). Das gilt in den USA explizit für KI-Chatprotokolle. In Deutschland gibt es noch keine direkte Präzedenz, aber die allgemeinen Grundsätze zur Dokumentenaufbewahrung im Rechtsstreit dürften entsprechend ausgelegt werden. Unternehmen, die keine KI-Chathistorie ihres eigenen Personals archivieren können, sind in Arbeitgeber-Arbeitnehmer-Streitigkeiten potenziell schlechter gestellt.

Mitarbeiterkonversationen mit KI sind keine Privatgespräche. Wer als Mitarbeiter ChatGPT im Browser des Arbeitgebers oder über einen Unternehmens-Account nutzt, führt kein vertrauliches Gespräch. Interne Unternehmensrichtlinien können den Zugriff des Arbeitgebers auf diese Protokolle regeln — aber sie können die rechtliche Offenlegungspflicht bei behördlicher Anfrage nicht aufheben. Mitarbeiter sollten das wissen; viele wissen es nicht.

Was Unternehmen jetzt tun sollten

Die Rechtslage entwickelt sich in Echtzeit. Einige Empfehlungen, die heute bereits umsetztbar sind:

KI-Nutzungsrichtlinie einführen. Unternehmen brauchen eine klare Policy, die festlegt, welche Daten in welche KI-Systeme eingegeben werden dürfen — und was nicht. Keine Kundendaten, keine M&A-Informationen, keine HR-Akten in Consumer-Tiers. Diese Policy muss kommuniziert und regelmäßig geschult werden.

Enterprise-Tarife und EU-Datenresidenz nutzen. Für ChatGPT Enterprise und die OpenAI-API gibt es seit Ende 2024 die Option, Daten in Europa zu speichern. Das reduziert — ohne es auszuschließen — das Risiko eines direkten CLOUD-Act-Zugriffs durch US-Behörden. Für europäische Unternehmen ist das heute die sicherste Konfiguration.

AVV abschließen, bevor Daten fließen. Kein Unternehmen sollte KI-Tools mit personenbezogenen Daten betreiben, ohne einen DSGVO-konformen Auftragsverarbeitungsvertrag mit dem Anbieter geschlossen zu haben. Das gilt für ChatGPT Enterprise, für Claude for Work und für jeden anderen Anbieter, der als Processor fungiert.

Temporären Modus verwenden, wo möglich. OpenAI bietet für Consumer- und Plus-Nutzer einen „Temporary Chat"-Modus, der Gespräche nach 30 Tagen löscht und kein Training erlaubt. Für Situationen, in denen sensitives Brainstorming stattfindet, ist das die defensivere Wahl — im Wissen, dass auch das keine absolute Garantie bietet.

Der Palisades-Fall wird nicht das letzte Mal sein, dass ein KI-Chatprotokoll eine Hauptrolle im Gerichtssaal spielt. Die Frage ist nicht ob, sondern wann das erste aufsehenerregende Unternehmensverfahren in Europa auf KI-Logs basiert. Die Unternehmen, die sich heute vorbereiten, sind besser aufgestellt — nicht weil KI-Chats gefährlich sind, sondern weil sie konsequent dokumentieren, was wir denken. Das ist der Punkt.