← Zurück zur Ausgabe vom 12. September 2026

Reportage

Die Kamera war nie das Problem: Was der Stopp im Bremer Schwimmbad über KI-Videoanalyse verrät — und welche Frist sich gerade verschoben hat

Ein System, das Ertrinkende erkennen soll, durfte nicht in Betrieb gehen — obwohl es niemanden identifiziert. Am selben Tag wirft eine Sammelklage Meta vor, aus Urlaubsfotos ein Gesichtserkennungssystem gebaut zu haben. Zwischen beiden Fällen liegt die Grenze, an der die meisten Projekte scheitern.

Von Stefan Lange-Hegermann · · 7 Minuten

Ein System, das Leben retten soll, und ein fehlendes Dokument

Das Bremer Westbad wurde nach dreijährigem Umbau in diesem Sommer wiedereröffnet. Neunzehn Kameras richten sich auf die Schwimmbereiche, dahinter arbeitet Software des israelischen Anbieters Lynxight, die Ertrinkende automatisch erkennen soll. Das System ist installiert. In Betrieb gehen durfte es nicht.

Am Freitag berichtete heise online, dass die Bremer Bäder GmbH die Inbetriebnahme selbst gestoppt und den Landesbeauftragten für Datenschutz darüber informiert hat. Dessen Reaktion, Timo Utermark, im Wortlaut: „Den Aufschub der Inbetriebnahme begrüße ich sehr.“ Der Grund ist kein Streit über die Technik und kein Vorwurf gegen den Hersteller. Es fehlte eine Datenschutz-Folgenabschätzung — und, wie Utermark betont, „eine DSFA muss nämlich vor der Inbetriebnahme erstellt worden sein.“

Der Fall ist so unspektakulär, dass er leicht zu übersehen ist. Genau deshalb lohnt er sich. Er zeigt die Stelle, an der KI-Videoprojekte in Europa 2026 tatsächlich scheitern — und diese Stelle ist eine andere, als die meisten Projektleiter vermuten.

Warum „wir erkennen ja niemanden“ nicht hilft

Die naheliegende Verteidigung lautet: Das System identifiziert keine Personen. Es wertet Bewegungsmuster aus — wie lange jemand untergetaucht ist, ob jemand reglos treibt, ob ein Muster von einer Notlage abweicht. Der Hersteller wirbt genau damit: keine Wiedererkennung, keine biometrischen Vorlagen, keine Identifizierung. Ob die Bremer Aufsichtsbehörde diese Einschätzung teilt, geht aus der Berichterstattung nicht hervor; unterstellen wir sie zugunsten des Systems.

Juristisch ist die Unterscheidung real. Nach den Leitlinien des Europäischen Datenschutzausschusses zu Videogeräten gelten Aufnahmen einer Person nicht automatisch als biometrische Daten im Sinne von Artikel 9 der Datenschutz-Grundverordnung. Das werden sie erst, wenn sie gezielt technisch so verarbeitet werden, dass sie zur eindeutigen Identifizierung beitragen — wenn also eine individuelle, wiedererkennbare Vorlage entsteht. Ein System, das Verhalten klassifiziert, ohne Personen wiederzuerkennen, fällt nicht unter das strenge Verarbeitungsverbot des Artikels 9.

Nur: Das war in Bremen gar nicht die Frage. Die Pflicht zur Folgenabschätzung ergibt sich aus Artikel 35 der Datenschutz-Grundverordnung, und dessen Absatz 3 nennt drei Regelbeispiele. Eines davon ist die systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche — Buchstabe c. Diese Pflicht knüpft nicht an biometrische Daten an. Sie knüpft an Fläche, Systematik und Öffentlichkeit. Ein Schwimmbad mit neunzehn dauerhaft laufenden Kameras erfüllt das, völlig unabhängig davon, ob jemand erkannt wird.

Das ist der Denkfehler, der Projekte zuverlässig kostet: „Wir verarbeiten keine biometrischen Daten, also brauchen wir keine Folgenabschätzung.“ Der erste Teil kann stimmen und der zweite trotzdem falsch sein. Und Artikel 35 verlangt die Abschätzung ausdrücklich vor der Verarbeitung, nicht begleitend und nicht danach. Sie ist kein Dokumentationsartefakt, das man nachreicht — sie ist eine Vorbedingung.

Der andere Pol: wenn doch identifiziert wird

Wie das andere Ende der Skala aussieht, war am selben Tag zu besichtigen. Eine Sammelklage in Illinois wirft Meta vor, aus Fotos auf Facebook und Instagram biometrische Signaturen erzeugt und damit unter anderem ein nie veröffentlichtes Gesichtserkennungssystem für seine Datenbrillen gebaut zu haben; wir berichten darüber in dieser Ausgabe. Hier geht es genau um das, was in Bremen fehlt: eine Vorlage, die eine Person wiedererkennbar macht.

Der Unterschied ist nicht die Kameratechnik. Er ist der Zweck der Verarbeitung. Und weil der Zweck sich ändern lässt, ohne dass die Hardware angefasst wird, ist er auch der Punkt, den ein Vertrag festhalten muss. Ein System, das heute Bewegungsmuster klassifiziert, unterscheidet sich von einem, das Personen wiedererkennt, oft nur durch eine Funktionsfreischaltung.

Was seit Februar 2025 schlicht verboten ist

Unabhängig von der Folgenabschätzung gibt es Praktiken, die die KI-Verordnung gar nicht erst zur Abwägung stellt. Artikel 5 gilt seit dem 2. Februar 2025, und vier der dort genannten Verbote betreffen Biometrie unmittelbar:

Wer eines dieser Felder berührt, hat kein Compliance-Projekt, sondern ein Produktproblem.

Die Frist, die sich verschoben hat — und die, die es nicht tat

Hier wird es für Planer unangenehm, weil viele Beratungsseiten noch den alten Stand zeigen. Ursprünglich sollten die Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III — darunter ausdrücklich Systeme zur biometrischen Identifizierung, aber auch Bewerbungswerkzeuge und Kreditscoring — ab dem 2. August 2026 gelten. Der sogenannte Digital Omnibus hat das verschoben: Die Verordnung (EU) 2026/1744 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli in Kraft. Der neue Stichtag für Anhang III ist der 2. Dezember 2027, für Hochrisiko-KI in bereits produktsicherheitsrechtlich regulierten Produkten nach Anhang I der 2. August 2028.

Was nicht verschoben wurde, ist mindestens so wichtig:

Sechzehn zusätzliche Monate für Anhang III klingen nach Luft. Sie sind es nicht, wenn das Projekt parallel an der Datenschutz-Grundverordnung hängt — und das tut es, sobald eine Kamera auf einen öffentlich zugänglichen Bereich zeigt.

Was ein Bußgeld wert ist, und was eine Zahlung

Zum Thema Durchsetzung gehört eine Beobachtung, die man in Vorstandsvorlagen selten findet. Gegen Clearview AI, das Gesichtsbilder millionenfach aus dem Netz gesammelt hat, haben europäische Aufsichtsbehörden über die Jahre Strafen in der Größenordnung von rund hundert Millionen Euro verhängt — Frankreich und Italien je zwanzig Millionen, Griechenland zwanzig, die Niederlande 30,5 Millionen, dazu Anordnungen zur Löschung. Nach Recherchen eines Investigativmediums ist davon bislang nichts geflossen; das Unternehmen hält die Entscheidungen mangels EU-Niederlassung für nicht vollstreckbar. Diese Angabe stützt sich auf eine einzelne Quelle, und wir kennzeichnen sie als solche — aber die Struktur des Arguments ist unabhängig davon belastbar: Ein Bußgeld gegen einen Anbieter ohne Vermögen in der EU ist etwas anderes als ein Bußgeld gegen Sie.

Für europäische Unternehmen verschiebt sich der Rahmen gerade ohnehin. In Frankreich ist die CNIL seit August 2026 auch Marktüberwachungsbehörde für die KI-Verordnung, mit gestaffelten Rahmen bis 15 Millionen Euro oder drei Prozent des weltweiten Umsatzes bei nicht konformen Hochrisiko-Systemen und bis 35 Millionen oder sieben Prozent bei verbotenen Praktiken. Verhängt wurde auf dieser Grundlage noch nichts. Der Rahmen steht trotzdem.

Fünf Punkte, die vor dem Einschalten geklärt sein müssen

  1. Die Folgenabschätzung liegt vor der Inbetriebnahme, nicht daneben. Sobald systematisch ein öffentlich zugänglicher Bereich überwacht wird, greift Artikel 35 Absatz 3 Buchstabe c — auch ohne jede Identifizierung.
  2. Lassen Sie sich schriftlich geben, was das System technisch tut. Entstehen individuelle, wiedererkennbare Vorlagen, oder nicht? Davon hängt ab, ob Artikel 9 gilt. Eine Marketingaussage reicht dafür nicht; das gehört in die Leistungsbeschreibung.
  3. Prüfen Sie die Verbotsliste vor der Ausschreibung, nicht nach dem Pilotprojekt. Emotionserkennung am Arbeitsplatz und biometrische Kategorisierung nach sensiblen Merkmalen sind seit Februar 2025 verboten — kein Restrisiko, sondern ein Ausschlusskriterium.
  4. Rechnen Sie mit dem 2. Dezember 2027, nicht mit dem 2. August 2026. Wer Beratungsmaterial aus der ersten Jahreshälfte nutzt, arbeitet mit einer überholten Frist. Umgekehrt gilt: Auf die Verbote und die Transparenzpflichten dürfen Sie sich nicht vertagen.
  5. Halten Sie den Zweck vertraglich fest, nicht nur die Funktion. Der Unterschied zwischen erlaubter Verhaltensanalyse und verbotener Wiedererkennung ist bei gleicher Hardware oft eine Konfiguration. Wer das nicht vertraglich bindet, hat den entscheidenden Parameter beim Anbieter gelassen.

Was der Bremer Fall am Ende zeigt, ist beinahe beruhigend: Das System wurde nicht verboten. Niemand hat die Technik für unzulässig erklärt. Es fehlte ein Dokument, das vorher hätte geschrieben werden müssen — bei einer Anwendung, deren Zweck es ist, Menschen vor dem Ertrinken zu bewahren. Der Aufwand, das richtig zu machen, ist überschaubar. Der Aufwand, es nachträglich zu reparieren, kostet in diesem Fall eine Badesaison.

Quellen