Die Beispiele für „beispiellose Cybervorfälle“ häufen sich. Seit Juli 2026 machen KI-Modelle von sich reden, die – wie bei den Unternehmen Anthropic und OpenAI – eigenständig aus ihren Testumgebungen ausbrechen und externe KI-Systeme hacken. Auch Cyberangriffe auf Wasser- oder Energieversorgung, Logistik, Kommunikation oder Krankenversorgung, etwa als im Juli ein kleineres Kraftwerk in Großbritannien durch einen mutmaßlich iranischen Hackerangriff für vier Tage lahmgelegt wurde, zeigen, wie riskant es ist, wenn die Organisation wichtiger Infrastruktur großteils auf KI beruht. Um sich besser gegen Hacking verteidigen zu können, versuchen nun einige Unternehmen, eigene potente KIs zu entwickeln. Die Konsequenz: ein KI-Wettrüsten aller gegen alle.
Cybersecurity ist deshalb ein wichtiger Aspekt in der Diskussion, ob das, wofür KI genutzt wird und wie sie weiterentwickelt wird, international reguliert werden muss. Ein weiterer Aspekt ist das Machtungleichgewicht zwischen denen, die – ob auf nationaler oder internationaler Ebene – KI für ihre Zwecke entwickeln, und denen, die diese Entwicklung kaum beeinflussen und nutzen können.
Ebenso sind die ökologischen Belastungen durch den hohen Strom- und Wasserbedarf der Rechenzentren und den Rohstoffabbau für die nötige Hardware ein wichtiges Thema. Oder die Veränderungen von Wirtschaft und Gesellschaft durch und die enormen Möglichkeiten von Kontrolle und Überwachung, die sie bietet. Oder die Veränderungen von Wirtschaft und Gesellschaft, wenn Verdienst und ökonomisches Wachstum immer weniger an Beschäftigung und Arbeitsplätze gekoppelt sind. Oder die Sorge, dass Menschen weltweit kognitive Fähigkeiten verlieren, weil sie wichtige Denkprozesse an die KI outsourcen.
Das Rahmenübereinkommen des Europarats und das KI-Gesetz der EU
Zu hoffen, dass sich die Branche selbst reguliert und sich mit der Zeit alles irgendwie zurechtruckelt, ist naiv. Schließlich sind die Entwickler in erster Linie gewinnorientierte Konzerne. Ein gewisses Maß an Regulierung halten inzwischen aber auch Wirtschaftsvertreter wie zuletzt Anthropic-Chef Dario Amodei oder Sam Altman von OpenAI für angezeigt, nicht nur Regierungen und gesellschaftliche Interessengruppen aller Couleur. Wie stark und wie verbindlich sie sein soll, darüber gehen die Meinungen aber auseinander.
Tatsächlich wird KI bereits auf vielen Ebenen reguliert, betont Virginia Dignum, Professorin für verantwortungsvolle Künstliche Intelligenz und Leiterin des AI Policy Lab an der Umeå-Universität in Schweden. So wurde das im September 2024 verabschiedete Rahmenübereinkommen des Europarats zur Künstlichen Intelligenz bereits von mehreren, auch außereuropäischen Ländern unterzeichnet – allerdings noch nicht ratifiziert. Es hat zum Ziel, die Art, wie Staaten KI nutzen, mit Menschenrechten, Demokratie und Rechtsstaatlichkeit in Einklang zu halten.
Autorin
Das KI-Gesetz der Europäischen Union wiederum gilt für jeden, der KI-Systeme auf den europäischen Markt bringt, unabhängig davon, wo diese hergestellt wurden. Es verbietet „inakzeptable Risiken“ wie den Einsatz von KI, um menschliches Verhalten zu manipulieren, oder Echtzeitüberwachung, fordert von Konzernen Risikomanagement und menschliche Aufsicht sowie umfassende Transparenz und Dokumentation.
Internationale Initiativen zum sicheren und verantwortungsvollen KI-Einsatz
Die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz, die unter anderem den Schutz der Menschenwürde, Transparenz, menschliche Aufsicht, Fairness und Nachhaltigkeit fordert, ist zwar nicht verbindlich. Aber über 50 Länder nutzen weltweit aktiv die sogenannte Readiness Assessment Methodology (RAM) der UNESCO, um ihre nationalen Regelungslücken zu bewerten und ethische Vorgaben in ihre Gesetze zu überführen – darunter Brasilien, Kenia und Südafrika. Die OECD-Definition eines KI-Systems schließlich hat in etliche Vereinbarungen Eingang gefunden und ist damit, wie Dignum betont, „stillschweigend eine der folgenreichsten Koordinierungsmaßnahmen, über die wir verfügen“.
Weitere internationale Initiativen sind der beim G7-Gipfel 2023 in Japan gestartete Hiroshima-KI-Prozess, der sich auf internationale Leitprinzipien und einen freiwilligen Verhaltenskodex für Entwickler fortschrittlicher und generativer KI-Systeme stützt, sowie die KI-Resolution der UN-Generalversammlung vom März 2024, die globale Standards für sichere, vertrauenswürdige und menschenrechtskonforme KI-Systeme fordert. Schließlich fordert die Hamburg Declaration on Responsible AI for the Sustainable Development Goals vom Juni 2025 einen gerechten, inklusiven und menschenzentrierten Einsatz von Künstlicher Intelligenz, um die Nachhaltigkeitsziele der Agenda 2030 voranzubringen – mit besonderem Fokus auf Schwellen- und Entwicklungsländer.
Die führenden KI-Anbieterstaaten wollen keine verbindlichen Abkommen
Doch die führenden KI-Anbieterstaaten, also vor allem die USA und China, wollen sich von multilateralen Gremien nicht in die Karten gucken oder gar beeinflussen lassen, wie zuletzt der US-amerikanische CIA-Direktor John Ratcliffe betonte, der fortgeschrittene KI-Systeme sogar als „digitale Nuklearwaffen“ bezeichnete. Wenn überhaupt, sind Staaten wie die USA und China bislang nur für Arrangements zwischen innovativen Entwicklern und ihren jeweiligen Regierungen zu haben, nicht aber für verbindliche multilaterale Abkommen. Was in der Folge bedeutet: Regulierung und Entwicklung von KI werden vor allem von diesen beiden Monopolisten bestimmt, wirken sich aber weltweit auf alle aus, die deren Produkte nutzen.
Wie bei der Atomenergie und der Rüstungskontrolle gebe es auch bei der Künstlichen Intelligenz einen internationalen Wettlauf, bei dem jeder seinen Bestand vor der Konkurrenz abschotte, sagt Anne Burkhardt, Postdoc am Zentrum für rhetorische Wissenschaftskommunikationsforschung zu Künstlicher Intelligenz (RHET AI Center) der Universität Tübingen. „Eine einigermaßen verbindliche globale Regulierung wird es deshalb vermutlich erst geben, wenn ein durch KI verursachter Schaden so immens ist, dass er sehr viele Menschen ganz schrecklich trifft, nicht nur im globalen Süden, sondern auch im Norden“, befürchtet sie. „Auch die internationalen Atomabkommen hat es erst nach Hiroshima und Nagasaki gegeben und die Allgemeine Erklärung der Menschenrechte nach dem Zweiten Weltkrieg.“
Eine neutrale Prüfbehörde, ähnlich der Atomenergie-Organisation
Die philippinische Journalistin Maria Ressa, Co-Vorsitzende des internationalen Wissenschaftlichen Gremiums für KI (Scientific Panel on AI) der Vereinten Nationen, sieht den Vertrag über die Nichtweiterverbreitung von Atomwaffen (NPT) als Vorbild für die Bemühungen um internationale Absprachen für eine den Interessen der Menschen dienende KI. So wie die 1957 eingerichtete Internationale Atomenergie-Organisation (IAEA) und der NPT könne nur eine neutrale Behörde Labore in führenden KI-Staaten überprüfen, ob sie zuvor festgelegte Standards erfüllen. Im Gegenzug dürften die überprüften KI-Entwickler ihre Produkte in den Unterzeichnerstaaten anbieten, was durchaus auch im Interesse der Firmen sein könnte. Dieser Ansatz einer internationalen Regulierung über solch eine KI-Behörde wurde auch beim ersten Global Dialogue on AI Governance der UN Anfang Juli 2026 in Genf diskutiert.
„Bei diesem Dialog saßen erstmals alle Länder am Tisch, um über die Chancen und Risiken Künstlicher Intelligenz und Möglichkeiten für eine internationale Zusammenarbeit zu sprechen“, sagt Sara Speicher, die stellvertretende Generalsekretärin der Weltvereinigung für Christliche Kommunikation. Speicher befasst sich schwerpunktmäßig mit digitaler Gerechtigkeit und Künstlicher Intelligenz.
Der beim Globalen Dialog vorgelegte vorläufige Bericht des Wissenschaftlichen Gremiums für KI der UN gilt als erstes umfassendes und evidenzbasiertes unabhängiges Dokument, das die KI als Technologie und in ihren Auswirkungen auf die Gesellschaft bewertet. Die wichtigsten drei Fragen sind für Sara Speicher: Wer profitiert? Wer kontrolliert? Wer verfügt über das Wissen?
Der Globale Dialog der UN als Chance: Alle Parteien ins Boot holen
Der Globale Dialog, der im Mai 2027 in New York fortgesetzt werden soll, zielt darauf, die wachsende Zahl nationaler, regionaler und internationaler Strategien im Umgang mit KI miteinander zu verbinden und ein Dialogforum für Vertreter von Wirtschaft, Wissenschaft, Gesellschaft und Technik zu sein.
So vage und unverbindlich das zunächst einmal klingt: Ein solcher Prozess birgt die große Chance, alle Parteien im Sinne einer verantwortungsvollen Entwicklung von KI ins Boot zu holen. Auch hier lässt sich ein Vergleich mit der Allgemeinen Erklärung der Menschenrechte ziehen, resümiert Virginia Dignum. Diese sei zwar als UN-Resolution nicht direkt rechtlich bindend, habe jedoch hohes politisches und moralisches Gewicht und diene weltweit als Leitfaden für Verfassungen und verbindliche Abkommen wie den Internationalen Pakt über bürgerliche und politische Rechte oder den Internationalen Pakt über wirtschaftliche, soziale und kulturelle Rechte. „Unbestimmte Texte sind ein Anfang, kein Ziel. Das Versagen besteht nicht darin, dass wir vage beginnen. Wir würden aber versagen, wenn wir dabei stehen bleiben und keine verbindlichen und praktikablen Mechanismen schaffen.“
.jpg)
Neuen Kommentar hinzufügen