Sexuelle Belästigung
Sexuelle Belästigung

Der Kampf gegen die Trolle

Viele Frauen werden in den sozialen Medien schikaniert und bedroht. Facebook und andere Anbieter tun zu wenig für ihren Schutz. Ist künstliche Intelligenz die Lösung?

Nur wenige Dinge vergiften Unterhaltungen im Netz mehr als Schimpfworte, Beleidigungen und Drohungen“, heißt es auf der Website von Conversation AI. Mit diesem Serviceprogramm will der Internetgigant Google erreichen, dass sich die Leute im Internet ein wenig freundlicher verhalten. Das weltweite Netz kommt vielen Unternehmen zugute und hilft den Menschen, einfach und frei zu kommunizieren – doch eine wachsende Zahl von Nutzern ist davon ausgenommen.

Whistleblower wie Edward Snowden und Mädchen aus einer Kleinstadt wie Malala Yousafzai: Das Internet hat zuvor nicht existierende Wege eröffnet, Geschichten mit Millionen Menschen zu teilen. Doch was geschieht, wenn dieser zunehmend mächtige und schon jetzt in widerlicher Weise bewertende Kanal zu einer Waffe wird, die tötet? Gewalt im Netz ist meist gegen Frauen und Minderheiten gerichtet – oder grundsätzlich gegen jeden, dessen Meinung man nicht teilt.

Als der 18-jährige Tyler Clementi 2010 anderen eröffnete, dass er schwul war, filmte sein Zimmergenosse an der Rutgers-Universität mit einer Webcam, wie Clementi einen anderen Mann küsste. Der Teenager erfuhr durch seinen Twitter-Feed, dass er „in seinem neuen sozialen Umfeld zum Gegenstand des Spotts“ geworden war, schreibt die nach ihm benannte Stiftung auf ihrer Website. Am 22. September 2010 beging Clementi Selbstmord, indem er in New York von der George-Washington-Brücke sprang.

Ermordet - wegen Fotos auf Facebeook

Die Pakistanerin Qandell Baluch, eine Berühmtheit in den sozialen Medien, wurde im Juli 2016 von ihrem Bruder ermordet, weil sie ein wenig zu offen für die Emanzipation der Frauen eingetreten war. Die 26-Jährige sorgte für Aufsehen, indem sie Bilder von sich in freizügiger Kleidung über ihre sehr beliebte Facebook-Seite teilte. Der Mord an ihr wurde als Ehrenmord bezeichnet. Baluchs freimütige Posts hatten im Netz ein Bombardement von Beschimpfungen und Drohungen nach sich gezogen. Nachdem eine Reihe lokaler Seiten in den sozialen Medien ihren Tod gefordert hatte, brachte ihr Bruder sie um.

Ehrenmord ist nicht die einzige Art und Weise, in der sich Drohungen im Netz auf das wahre Leben auswirken. Belästigungen sind nicht typisch für eine bestimmte Region, zwischen Ost und West gibt es keinen Unterschied. Die Form der Angriffe mag variieren, aber verletzt werden vor allem Frauen und Minderheiten. Zu den häufigsten Fällen zählen: Die Verbreitung privater oder sexuell freizügiger Fotos und Videos, die Veröffentlichung personenbezogener Informationen, einschließlich Namen Adressen und E-Mail-Adressen, das Erstellen von gefälschten Profilen mit dem Zweck, den Ruf zu schädigen sowie Tweets, Kommentare und Posts, die sexistisch, rassistisch, religiös und sexuell motivierten Hass verbreiten.

Frauen werden beschimpft und mit Vergewaltigung und Mord bedroht – unabhängig von ihrer Herkunft und Religion. Die US-amerikanische feministische Schriftstellerin Jessica Valenti stieg bei den sozialen Medien aus, nachdem „Trolle“ gedroht hatten, ihre fünfjährige Tochter zu vergewaltigen. „Dass dies Teil meines Arbeitslebens sein soll, ist inakzeptabel“, twitterte Valenti ihren Anhängern. „Ich bin es leid, immer und immer wieder zu sagen, dass so etwas beängstigend ist, leid, gesagt zu bekommen, dass ich das wegstecken muss.“ Valenti ist Kolumnistin des „Guardian“, Bestsellerautorin der „New York Times“ und als führende Feministin anerkannt, die überall auf der Welt Vorträge hält. Die Reaktionen auf ihre Bücher konnten ihre Stimme nicht dämpfen, doch die Rund-um-die Uhr-Beschimpfungen forderten ihren Tribut.

Ist der Rückzug aus den sozialen Medien die richtige Antwort von Frauen auf Online-Gewalt? Die pakistanische Internet-Aktivistin Nighat Dad empfiehlt zunächst, sich besser zu schützen. „Oft verurteilen sich Frauen selbst zum Schweigen, weil sie Angst vor den Konsequenzen haben“, sagt die Direktorin der Digital Rights Foundation. „Ihre digitalen Spuren halten sie davon ab, sich zu äußern. Was, wenn jemand ihre Fotos findet? Wenn jemand ihre Adresse erfährt? Sind sie jedoch vorsichtig und achten darauf, dass sie im Netz nur teilen, was sie unbedingt müssen, dann können sie ihr Risiko verringern.“

Behörden müssen strafrechtlich vorgehen

Der Schutz persönlicher Daten ist sowohl für prominente als auch für weniger bekannte Nutzerinnen oft schwierig. Netz-Aktivisten appellieren schon seit langem an alle, die Sicherheitsmaßnahmen der Social-Media-Betreiber strikt einzuhalten. So bietet etwa Facebook die Möglichkeit, Konten mit Hilfe der Zwei-Faktor-Authentifizierung (Passwort und zusätzlicher Sicherheitscode) besser zu schützen. Drohungen mit körperlicher Gewalt können damit erheblich eingedämmt werden. „Die sozialen Medien können nur die Manipulation von den Inhalten ermöglichen, die ihnen zur Verfügung gestellt werden“, betont Nighat Dad. „Wir müssen uns bewusst sein, welche Daten wir ihnen freiwillig überlassen.“

Wird es immer an den Frauen sein, aufzupassen und manchmal einfach aufzugeben? Die Behörden müssten Drohungen im Netz schärfer strafrechtlich verfolgen, fordert Jessica Valenti. Auch die Social-Media-Unternehmen müssten endlich aktiv werden. Nighat Dad stimmt zu. Die Verantwortung, für Schutz und Sicherheit zu sorgen, liege nicht nur bei den Nutzern. Die Plattformen müssten herausfinden, welche Verfahren und Rahmenbedingungen dazu beitragen, Frauen verletzbar zu machen, und welche Methoden erforderlich sind, um die Privatsphäre zu wahren und die Sicherheit zu verbessern. „Wenn wegen ihrer Firmenpolitik jemandem Schaden zugefügt wird, müssen sie zur Verantwortung gezogen werden“, sagt Dad.

Doch im Spannungsfeld zwischen Redefreiheit und Missbrauch haben es die Internet-Dienstleister weitgehend versäumt, ihre Nutzer zu schützen. Soziale Netzwerke wie Facebook, Youtube, LinkedIn und andere Anbieter haften für illegale oder schädliche Handlungen, die Nutzer mit Hilfe ihrer Dienstleistung unternehmen. Sie zählen zu den treibenden Kräften bei der Entwicklung des Internets und der Verbreitung von Inhalten. Sie müssen sich nationalen politischen und juristischen Rahmenbedingungen beugen. Doch laut einer Studie der Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur (UNESCO) legen nur wenige von ihnen offen, wie sie mit Anforderungen seitens der Regierungen umgehen, „sogar in einem relativ freien politischen und medialen Umfeld“.

Anbieter sind auf Nutzer angwiesen

Als Antwort auf Missbrauch im Netz und die Drohungen gegenüber Frauen haben jetzt fast alle großen Social-Media-Plattformen einen Knopf, mit dem Inhalte gemeldet oder blockiert werden können. Der erweist sich als schwacher Trost – Trolle kommen immer wieder zurück, mit anderen Decknamen, aber denselben Schmähungen. Regierungen und Internet-Dienstleister müssen offensiver gegen die Cybertyrannei und die Gewalt gegen Frauen und Minderheiten im Netz vorgehen. Große Technik-Unternehmen, die bei den Innovationen an der Spitze stehen, sollten in der Lage sein, zu handeln, bevor jemand schikaniert wurde. Was wäre, wenn niemand mehr einen Missbrauch oder ein Konto „melden“ müsste? Mit einer verbesserten und leistungsfähigeren künstlichen Intelligenz (Artificial Intelligence, AI) scheint es ein wenig Hoffnung auf ein trollfreies und „offenes“ Internet zu geben.

Google arbeitet derzeit an einer automatischen Antwort auf Missbrauch und Schikane im Netz. Jigsaw, ein Tochterunternehmen der Alphabet Inc., stellt AI-Serviceprogramme her, um Online-Schimpfworte auszufiltern. Das Projekt Conversation AI zielt darauf, die schlimmste Errungenschaft des Internets in den Griff zu bekommen – das Trollen. Die Technologie wird eine frei zugängliche Software sein, um Social-Media-Plattformen und anderen Websites dabei zu helfen, missbräuchliche Inhalte abzufangen, bevor sie ihrem Ziel schaden.

Autorin

Rafia Shaikh

arbeitet als Redakteurin und Beauftragte für digitale Sicherheit bei der Online-Medienplattform WCCFtech. Sie twittert unter @shaikhrafia.
Die AI-Serviceprogramme werden umso besser, je umfangreicher die Inhalte sind, zu denen sie Zugang bekommen. Jigsaw will den „Bot“ (virtueller Agent) für den Kommentarteil auf der Internetseite der „New York Times“ verwenden. Das Team fütterte ihn mit mehr als siebzehn Millionen Kommentaren zu Berichten der „Times“ und 13.000 Diskussionen auf Wikipedia-Seiten. Auf diese Weise lernt er, zwischen harmlosen Scherzen und Belästigungen zu unterscheiden.

Das Serviceprogramm könnte zudem auch Twitter dabei helfen, missbräuchlich verwendete Konten und beleidigende Tweets, die auf öffentliche Profile gesendet werden, auszuräumen. Es würde jedoch noch mehr Daten benötigen, um persönliche Postfächer im Netz auszufiltern. Außerdem ist es noch in der Entwicklung und es könnte einige Zeit dauern, bevor es wirklich hilfreich sein wird, um Gewalt gegen Frauen im Netz zu verhindern.

Das maschinelle Lernen ist ein Zukunftsprojekt. In der Gegenwart müssen die Internet-Dienstleister noch einmal ganz von vorne anfangen: Sie müssen sich mit den Opfern von Gewalt im Netz, Online-Sicherheitsexperten, Menschenrechtsaktivisten und Gesetzeshütern an einen Tisch setzen. Solange die Technikgiganten kulturelle Unterschiede und lokale Gesetze nicht achten und auch keine Programme entwickeln, die Missbrauch in anderen Sprachen als Englisch aufdecken können, bleibt Frauen nichts anderes übrig, als anonyme Konten zu nutzen, Selbst-Zensur zu betreiben oder sich aus den zunehmend unsicheren Räumen im Netz zurückzuziehen.

Internet-Unternehmen haben Millionen an Nutzern verdient, die ihre Plattformen in Anspruch nehmen und sie damit bekannt gemacht haben. Deren Schutz sollte nicht als Gefallen betrachtet werden, sondern als wichtiger Teil der Planung und des Aufbaus jeder Online-Plattform. Die Überheblichkeit der führenden Technikfirmen beim Bereitstellen der sogenannten freien Räume und ihre mangelnde Kreativität in punkto Sicherheit werden dazu führen, dass echte Unterhaltungen und offene Diskussionen auf ihren Plattformen nicht mehr stattfinden. Es wird Zeit für sie zu verstehen, dass sie auf die Nutzer angewiesen sind.

Aus dem Englischen von Christopher Reil.

erschienen in Ausgabe 11 / 2016: Frauen: Gemeinsam stark

Neuen Kommentar schreiben