UN-Sonderberichterstatter zu extremer Armut
UN-Sonderberichterstatter zu extremer Armut

Einspruch gegen die Algorithmen

Wenn Sozialleistungen mit moderner Informationstechnik verwaltet werden, schafft das Gefahren für die Menschenrechte – auch in Ländern des Südens. Davor warnt der UN-Sonderberichterstatter zu extremer Armut und Menschenrechten, Philip Alston.

Alston, ein australischer Jurist und Professor an der New Yorker Universität, schreibt in einem Bericht für die UN-Generalversammlung vom Oktober, eine „digitale Transformation“ greife tief in die Lebensumstände ein. Es sei verständlich, dass öffentliche Verwaltungen die neue Digitaltechnik anwendeten, um ihre Aufgaben effizienter zu erfüllen und den Missbrauch öffentlicher Mittel zu vermeiden. Doch dafür gelte heute zum einen die ideologische Vorgabe, solche Ausgaben systematisch zu vermindern, also bei jeder öffentlichen oder sozialen Aufgabe zu sparen. Zum anderen nutzten Verwaltungen Techniken externer Dienstleister. Diese seien für die Anwender oft kaum durchschaubar – und mitunter, wie im Fall von selbstlernenden Systemen der künstlichen Intelligenz, nicht einmal für deren Entwickler.

Banken oder Telefonfirmen geben Identitätskarten aus

Damit werden, so Alston, „Systeme für soziale Fürsorge und Beistand zunehmend von digitalen Daten und Techniken angetrieben, die genutzt werden, um zu identifizieren, (Verhalten) vorherzusehen, zu automatisieren, zu überwachen und zu bestrafen“. Beispiele nennt der Bericht gerade aus Ländern des globalen Südens, die als Testregionen dienten. Das beginne bei der Kontrolle der Identität: Gut eine halbe Milliarde Afrikaner südlich der Sahara haben kein offizielles Ausweispapier, mindestens ebenso viele in Indien und Südostasien (und auch gut 20 Millionen US-Amerikaner). Infolgedessen übernehmen Banken oder Telefonfirmen die Aufgabe, Identitätskarten auszugeben; die Fehlerquote sei kaum zu ermitteln.

Sowohl im Norden wie im Süden führe die Kombination der Datentechnik mit ihrer vom Gewinnstreben bestimmten Umsetzung zur Verschärfung der sozialen Ungleichheit: Mit jedem Schub datentechnischer Innovation würden die Ärmeren noch mehr ausgegrenzt. Wenn der Staat die Technik für soziale Fürsorge einsetze, könne das Teile der Menschheit in einen „zombie-artigen“ Zustand versetzen – beherrscht von automatisierten Entscheidungen über sie, die sie nicht beeinflussen könnten und deren Zustandekommen nicht nachvollziehbar sei. Deshalb seien fundamentale Regeln für Transparenz und Einspruch nötig. Alston fordert zudem, die Ausrichtung dieser Technologie kritisch zu überdenken und sie von der darin eingebetteten Bevorzugung der reichen Oberschicht des Nordens zu befreien.

Neuen Kommentar schreiben