Überwachung
Überwachung

Schöne neue digitale Welt

Wie die liberale Demokratie sich gegen den neuen Autoritarismus behaupten kann.

Jahrzehnte war unter Politikwissenschaftlern ausgemacht, dass nur die liberale Demokratie wirtschaftlichen Erfolg garantiert. Künstliche Intelligenz ändert das: Sie bietet wirtschaftlich fortgeschrittenen Staaten einen Weg, ihre Bürger reich zu machen und zugleich die Kontrolle über sie zu behalten. Ob der Westen mit dieser Herausforderung fertig wird, hängt nicht zuletzt davon ab, wie er es selbst mit dem Datenschutz hält.

China ist dabei, einen digitalen autoritären Staat zu errichten: Peking nutzt Überwachungstechnologie und lernende Maschinen, um aufmüpfige Bevölkerungsgruppen zu kontrollieren und ein sogenanntes Sozialkreditsystem einzurichten. Gleichgesinnte Länder von Viet­nam bis Äthiopien kopieren das bereits. So wie die Konkurrenz zwischen liberaler Demokratie und Faschismus und Kommunismus lange Zeit das 20. Jahrhundert geprägt hat, so wird der Kampf zwischen liberaler Demokratie und digitalem Autoritarismus das 21. Jahrhundert definieren.

Neue Technologien werden eine weitgehende soziale Kontrolle zu vertretbaren Kosten ermöglichen. Regierungen werden selektiv Themen und Verhalten zensieren: Wirtschaftlich wichtige Informationen werden frei fließen können, während gefährliche politische Debatten unterbunden werden. Chinas sogenannte Große Schutzmauer (Great Firewall) liefert eine erste Demonstration selektiver Zensur.

Abgesehen von der rückwirkenden Zensur von Meinungen, machen es künstliche Intelligenz und Big Data möglich, potenzielle Abweichler vorbeugend zu kontrollieren. Das wird der auf Internetnutzer zugeschnittenen Werbung von Google und Amazon ähneln, allerdings viel effektiver sein, da autoritäre Regierungen Daten auswerten können, wie das in liberalen Demokratien nicht erlaubt ist. Amazon und Google haben nur auf einzelne Konten und Geräte Zugriff; ein zur Kontrolle geschaffenes System künstlicher Intelligenz hingegen wird auf sämtliche Geräte zugreifen, mit denen die Bürger täglich in Kontakt stehen.

Fundament eines digitalen autoritären Staates

Hinzu kommt, dass autoritäre Regime keine Hemmungen haben werden, solche Daten mit Informationen aus Steuerbescheiden, Krankengeschichten, Einträgen ins Strafregister sowie mit Bewegungsprofilen und Videoaufnahmen aus dem öffentlichen Raum und Hinweisen von Freunden und Verwandten zu kombinieren.

Autor

Nicholas Wright

ist Neurowissenschaftler in London und befasst sich mit den Schnittstellen von Politik, Biologie und künstlicher Intelligenz.
Es ist nicht garantiert, dass diese Art von digitalem Autoritarismus langfristig funktioniert. Es reicht aber schon, wenn er als plausible Alternative erscheint. Selbst wenn das Modell am Ende scheitert: Versuche, es durchzusetzen, könnten ziemlich lang anhalten. Kommunistische und faschistische Gesellschaftsmodelle sind erst dann endgültig gescheitert, nachdem immer wieder versucht wurde, sie in die Praxis umzusetzen.

China baut bereits am Fundament eines digitalen autoritären Staates. 2014 kündigte Peking ein System von Sozialkrediten an, das jeden Bürger anhand seines Verhaltens bewerten soll – nach den Maßstäben der Regierung. Am weitesten fortgeschritten ist der Überwachungsstaat derzeit in der Provinz Xinjiang, wo er die Bevölkerungsgruppe der Uiguren beobachtet und kontrolliert.

Peking exportiert dieses Modell. Die „Große Schutzmauer“ gegen das Internet gibt es bereits in Thailand und in Vietnam. Laut Medienberichten berät China die Regierung von Sri Lanka bei der Zensur und hat Überwachungs- und Zensurtechnologie an Äthiopien, den Iran, Russland, Sambia und Simbabwe geliefert. Anfang dieses Jahres hat das chinesische IT-Unternehmen Yitu tragbare Kameras mit intelligenter Gesichtserkennung an Sicherheitsbehörden in Malaysia verkauft.

Wenn Datenschutz nicht mehr langweilig ist

Wie liberale Demokratien mit den Chancen und Risiken von künstlicher Intelligenz umgehen, hängt einerseits davon ab, wie sie die Technologien selbst nutzen, andererseits aber auch davon, wie sie auf die autoritäre Alternative antworten. In beiden Fällen gibt es Grund für vorsichtigen Optimismus. Die meisten Bürger in liberalen Demokratien akzeptieren die Notwendigkeit der Auslandsspionage und der Überwachung zum Schutz vor Terrorismus – unter der Bedingung, dass die staatlichen Sicherheitsbehörden wirksam kontrolliert werden. Diese Kontrollen stehen seit einiger Zeit unter Beschuss und müssen verteidigt werden. Aber das ist eher ein Kampf, der auch früher schon geführt wurde, und weniger eine grundlegend neue Entwicklung.

Im Westen bedrohen nicht nur Regierungen individuelle Freiheiten. Technologiekonzerne konzentrieren Macht, indem sie Konkurrenten schlucken und politische Entscheidungsträger beeinflussen. Digitale Giganten untergraben zudem eine am öffentlichen Interesse orientierte Medien- und Programmvielfalt und schaffen Wildwest-Verhältnisse in der politischen Debatte. Doch auch frühere radikal neue Technologien wie Radio und Fernsehen haben ähnliche Probleme geschaffen, und die Gesellschaften sind damit fertig geworden.

Die Herausforderung durch neue autoritäre Konkurrenten könnte liberale Demokratien vielleicht sogar stärken. Die meisten Leute finden die Details des Datenschutzes langweilig und kümmern sich wenig um die Risiken der Überwachung. Aber wenn diese Risiken in Gestalt eines real existierenden dystopischen Regimes sichtbar werden, werden sie nicht mehr langweilig und abstrakt sein. Regierungen und Technologiekonzerne in liberalen Demokratien werden dann erklären müssen, was sie anders machen.

Technologiekonzerne sollten zerschlagen werden

Der Westen kann wenig tun, ein fähiges und selbstbewusstes Land wie China von seinem Weg abzubringen; digitale Autokratien wird es eine Zeit lang geben. Liberale Demokratien brauchen klare Strategien, um ihnen etwas entgegenzusetzen. Regierungen und Gesellschaften sollten Möglichkeiten der Überwachung und Manipulation streng begrenzen. Technologiekonzerne sollten zerschlagen und reguliert werden. Regierungen müssen eine vielfältige und lebendige Medienlandschaft sicherstellen – unter anderem indem sie übermächtige Meinungsportale wie Facebook daran hindern, die Medienvielfalt zu verringern, indem sie einen öffentlich-rechtlichen Rundfunk finanzieren und indem sie die Etikette für den politischen Meinungsstreit an die Bedingungen der Online-Welt anpassen.

Regierungen sollten Technologiefirmen gesetzlich daran hindern, andere Daten ihrer Kunden, etwa zur Gesundheit, auszubeuten. Generell sollten sie das Sammeln von Daten von den vielen Plattformen, mit denen die Bürger täglich in Kontakt kommen, radikal unterbinden. Selbst Staaten sollten solche Daten nicht nutzen dürfen, außer unter ganz bestimmten Umständen, etwa zur Abwehr von Terrorgefahr.

Westliche Regierungen sollten versuchen, den Umgang mit künstlicher Intelligenz und Big Data in solchen Staaten zu beeinflussen, die weder stabile Demokratien sind noch eindeutig autoritär regiert werden. Sie sollten sie beim Aufbau technologischer Infrastruktur und bei der Regulierung unterstützen und davon abbringen, Daten zu missbrauchen. Es ist möglich, den Wettstreit gegen den digitalen Autoritarismus zu gewinnen. Die liberalen Demokratien müssen es nur wollen.

Der Beitrag ist zuerst in „Foreign Affairs“ erschienen. © 2018 Council on Foreign Relations, Inc.

Aus dem Englischen von Tillmann Elliesen.

erschienen in Ausgabe 10 / 2018: Privates Geld gesucht

Neuen Kommentar schreiben