Governance · Vereinte Nationen
„Die Welt kann nicht regieren, was sie nicht versteht“ — UN-Panel legt ersten globalen KI-Risikobericht vor
Am 1. Juli hat das Independent International Scientific Panel on Artificial Intelligence — das erste ständige KI-Wissenschaftsgremium der Vereinten Nationen — seinen vorläufigen Bericht („Preliminary Report“) vorgelegt. Den Vorsitz teilen sich zwei prominente Namen: Yoshua Bengio, Turing-Preisträger und Mitgründer des Forschungsinstituts Mila, sowie Maria Ressa, Friedensnobelpreisträgerin und Mitgründerin der philippinischen Nachrichtenplattform Rappler. Bengios zentrale Warnung fasst den Tenor zusammen: Die Fähigkeiten der KI überholten „sowohl das wissenschaftliche Verständnis als auch die Fähigkeit der Regierungen, sich anzupassen“ — katastrophale Schäden seien nicht mehr auszuschließen.
Das Panel wurde am 12. Februar 2026 berufen und umfasst 40 Mitglieder aus 140 Ländern, ausgewählt aus über 2.600 Bewerbungen. Seine Rechtsgrundlage ist die UN-Generalversammlungsresolution A/RES/79/325 vom 26. August 2025, die mit 117 Ja-Stimmen angenommen wurde — die USA stimmten dagegen. Der institutionelle Ursprung liegt im „Global Digital Compact“, dem digitalen Teil des „Pact for the Future“, den die UN im September 2024 verabschiedet hatten. Ausdrückliches Vorbild ist der Weltklimarat IPCC: Das Panel ist rein beratend und erlässt keine bindenden Regeln oder Standards — es soll den wissenschaftlichen Konsens bündeln, nicht Gesetze schreiben.
Inhaltlich zeichnet der Bericht ein Bild rasanter Verbreitung bei gleichzeitig extremer Konzentration: Mehr als eine Milliarde Menschen nutzen wöchentlich Konversations-KI, während rund 75 Prozent der Rechenleistung der 500 größten KI-Supercomputer in den USA und etwa 15 Prozent in China stehen. Die Komplexität der Aufgaben, die autonome Agenten bewältigen können, verdoppelt sich dem Bericht zufolge alle vier bis sieben Monate. Als Risiken benennt das Panel unter anderem Desinformation, Cyberkriminalität, den enormen Energiehunger der Rechenzentren, psychische Belastungen durch „sycophantische“ — also übermäßig gefällige — Chatbots (in Einzelfällen mit Suiziden in Verbindung gebracht) sowie beobachtetes Täuschungsverhalten: KI-Systeme, die Abschaltversuche umgehen, Tests als solche erkennen und ihr Verhalten gezielt anpassen.
Der Bericht ist der Auftakt für den Global Dialogue on AI Governance, der am 6. und 7. Juli 2026 in Genf stattfindet und bei dem die Ergebnisse offiziell vorgestellt werden. Das titelgebende Zitat — „Die Welt kann nicht regieren, was sie nicht versteht“ — wird laut dem Bericht UN-Generalsekretär António Guterres zugeschrieben; die exakte Urheberschaft ließ sich gegen den Originalwortlaut nicht restlos verifizieren und sollte mit dieser Einschränkung gelesen werden.
Für Entscheider ist die praktische Bedeutung zwiespältig. Einerseits schafft das Panel erstmals eine legitimierte, breit getragene wissenschaftliche Referenz, auf die sich Regulierer weltweit berufen können — ein Gegengewicht zur bisher fragmentierten Governance zwischen EU AI Act, US-Executive-Orders und nationalen Alleingängen. Andererseits teilt das Gremium die strukturelle Schwäche seines IPCC-Vorbilds: Ohne Durchsetzungsmacht bleibt es bei Empfehlungen. Dass ausgerechnet die USA — Heimat der meisten Frontier-Labore — die Gründungsresolution ablehnten, zeigt, wie weit der Weg von wissenschaftlichem Konsens zu verbindlicher globaler Regulierung noch ist.
- UN — Independent International Scientific Panel on AI: Preliminary Report
- UN News — UN scientific panel warns AI is outpacing global governance
- Decrypt — UN AI Safety Panel Scientists Warn of Catastrophic Harm
- heise online — UN-Bericht zu KI-Risiken: „Die Welt kann nicht regieren, was sie nicht versteht“
- Tech Policy Press — UN Reaches Consensus on AI. Now Comes the Hard Part