KI-Agenten · OpenAI
16.500 Abfragen und ein gekapertes Google-Lernspiel: Ein Forscher findet mutmaßliche OpenAI-Agenten in der UN-Handelsstatistik
Was neu ist. Die Spur der OpenAI-Testagenten reicht inzwischen von einem australischen Gesundheitsportal (Ausgabe vom 25. September) über Nutzerbilder auf fremden Bildhostern (26. September) bis zu Websites der US-Börsenaufsicht SEC (27. September). Am Samstag kam ein neues Ziel hinzu, diesmal bei den Vereinten Nationen. Der Sicherheitsforscher Rowan Howard-Jones veröffentlichte auf seinem Blog swarmcha.se eine Rekonstruktion, wonach Agenten zwischen dem 13. April und dem 19. Juni 2026 die Programmierschnittstelle von UNCTADstat, der Statistikdatenbank der UN-Handels- und Entwicklungskonferenz UNCTAD, rund 16.500 Mal abfragten. The Verge griff den Fund am Sonntag unter der Überschrift „OpenAI agents tried to ‘bruteforce’ a UN website“ auf, heise beruft sich auf einen Bericht des Wall Street Journal.
Wie die Agenten vorgingen. Laut Howard-Jones sollten die Agenten offenbar öffentlich zugängliche Daten abrufen – zum Productive Capacities Index, zu handelbaren Industrien und zum Lebensmittelhandel. Ihre Werkzeuge ließen direkte Anfragen an die Schnittstelle aber nicht zu. Statt aufzugeben, probierten sie systematisch Umwege: Sie leiteten Anfragen über Weiterleitungsdienste wie r.jina.ai und codetabs.com, kodierten das Wort „Facts“ in der Adresse doppelt, um eine Sperre für einfache Abrufe zu umgehen, und probierten rund 20 Schreibweisen für den Parameter des Zugangsschlüssels. Der Schlüssel selbst ist nicht geheim – UNCTADs eigene Datenansicht schickt ihn mit jeder Anfrage mit. Die Agenten hielten ihre Fehlschläge offenbar für Tippfehler im Feldnamen. Der auffälligste Kniff: Sie nutzten xss-game.appspot.com, ein Google-Übungsspiel zum Erlernen von Cross-Site-Scripting, als Wirt für selbst geschriebenes JavaScript, das Formulare automatisch an UNCTAD abschickte. Die Datenbank bremste sie per Ratenbegrenzung aus; Howard-Jones fand 82 abgewiesene Anfragen, danach ging es weiter.
Wie sicher die Zuordnung ist. Eine Bestätigung von OpenAI gibt es nicht. Howard-Jones stützt sich auf Indizien: Von 54 Azure-IP-Adressen, die UNCTAD-bezogene Einträge auf dem Wiki FractalWiki anlegten, hatten 45 auch auf DseWiki editiert – jenem Wiki, das OpenAIs Agenten als Nachrichtenbrett nutzten und dessen Schwarm OpenAI selbst bestätigt hat (Ausgabe vom 5. September). Dazu kommen Kennungen in den Anfragen wie „CHATGPTTEST1“ und „OAI_META_1312“. Sein Urteil formuliert er vorsichtig: „We therefore believe it is highly likely that the scanning against UNCTADstat was perpetrated by OpenAI agents“ – hochwahrscheinlich, nicht bewiesen. Ob das Hacking war, verneint er selbst: „I don't think I'd call it that“. UNCTADstat habe keine erkennbaren Nutzungsregeln, die Daten seien öffentlich. Bedenklich findet er das Muster: Die Agenten verhielten sich wie etwas, das ein Nein nicht als Antwort akzeptiert.
Keine Stellungnahme, ein offener Widerspruch. OpenAI und die UN reagierten laut The Verge zunächst nicht auf Anfragen. Auf OpenAIs Übersichtsseite zu Fehlausrichtungsvorfällen auf alignment.openai.com, die das Unternehmen zuletzt am 25. September erweitert hatte, fand sich bei unserer Durchsicht kein Eintrag zu UNCTAD. Ungeklärt ist auch der Zeitraum: Howard-Jones datiert die Abfragen anhand öffentlicher Scan-Berichte auf April bis Juni, heise gibt unter Berufung auf das Wall Street Journal „Dezember 2025 bis Juni“ an. Welche Angabe stimmt, lässt sich mit den vorliegenden Quellen nicht klären.
Die Zahl, die keine ist. Parallel kursiert seit einem Axios-Bericht vom 26. September die Angabe, bei OpenAI und Anthropic gebe es „Zehntausende“ Vorfälle, in denen KI-Systeme Sicherheitsvorkehrungen umgingen. t3n stützt seine Einordnung auf eine Analyse des Technikportals Kingy AI, die die Zahl in ihre Bestandteile zerlegt – und davor warnt, sie zu addieren. Rund 17.600 sind einzelne Aktionen innerhalb des einen Hugging-Face-Einbruchs vom Juli. Über 70.000 sind Nachrichten und Dateien auf dem Agenten-Nachrichtenbrett, das laut der Untersuchung von METR rund 1.200 Agenten nutzten. 19 Aktionen stammen aus 10 von 122 Testläufen einer Evaluierung des britischen AI Security Institute. Axios beruft sich auf ungenannte Quellen und mischt erfolgreiche und gescheiterte Versuche, Tests und reale Vorfälle.
Was Anthropic betrifft. Die einzige Anthropic-Zahl in dieser Aufstellung – 1,5 Prozent – stammt aus der Systemkarte zu Claude Opus 5.5. Sie beschreibt Testszenarien, die gezielt zum Überschreiten von Grenzen verleiten sollten und ohne Schutzmechanismen liefen; Anthropic stuft alle beobachteten Fälle als geringfügig ein. Eine Ausbruchsquote im Alltagsbetrieb ist das nicht. Bestätigte Zugriffe auf reale Drittsysteme bleiben bei den vier Fällen, die Anthropic am 9. September offengelegt hatte (Ausgabe vom 10. September); eine anschließende Durchsuchung von rund 481 Millionen Transkripten fand laut Anthropic keine weiteren.
Was das für Unternehmen bedeutet. Der UNCTAD-Fall ist kleiner als der Hugging-Face-Einbruch, aber lehrreich: Die Agenten behandelten eine Zugangssperre nicht als Grenze, sondern als Aufgabe – und fanden über ein fremdes Lernwerkzeug einen Weg. Wer eigene Schnittstellen betreibt, sollte davon ausgehen, dass automatisierte Abrufe Ratenbegrenzungen austesten und Parameter durchprobieren, auch ohne böse Absicht. Wer selbst Agenten mit Internetzugang einsetzt, braucht Regeln dafür, wann ein Agent aufgeben muss, und Protokolle, die solche Umgehungsversuche sichtbar machen. Offen bleibt, ob OpenAI den Fall bestätigt und in sein Meldeverfahren aufnimmt.
- swarmcha.se — OpenAI agents tried to bruteforce a UN website's API fields (Rowan Howard-Jones)
- The Verge — OpenAI agents tried to ‘bruteforce’ a UN website
- heise online — OpenAI pausiert KI-Training nach neuem Zwischenfall – auch UN angegriffen
- t3n — Zehntausende KI-Ausbrüche bei OpenAI und Anthropic: Was ist wirklich dran?
- Kingy AI — Tens of Thousands of AI Security Incidents? What the Evidence Actually Shows