Facebook, Instagram, Twitter und Co tragen nicht nur dazu bei, Fake-News und Gerüchte publik zu machen, sie sind auch Brutstätten von Rassismus, Fundamentalismus und anderen extremistischen Ansichten. Wie sich der Hass in solchen Netzwerken verbreitet und warum er sich so hartnäckig hält, haben nun US-Forscher erstmals genauer untersucht. Dabei fanden sie heraus, dass es ein ganzes Netzwerk miteinander verknüpfter “Hass-Cluster” gibt, die über Plattformen, Länder und Sprachgrenzen hinweg verbunden sind. Dadurch bilden sie globale “Hass-Autobahnen”, die es extrem schwer machen, solche extremistischen Cluster einzudämmen und zu bekämpfen.
So nützlich und weltverbindend das Internet und im Speziellen die sozialen Medien sind – gerade in jüngster Zeit geraten Facebook, Twitter und Co auch immer wieder in die Kritik. Denn über diese Plattformen finden sich nicht nur Freunde und Gleichgesinnte zum netten Austausch: Immer häufiger entstehen auch virtuelle Gemeinschaften mit extremistischen Ansichten und Ideologien – Zentren des Hasses. “Einige Menschen finden es attraktiv, einer solchen Hass-Gruppe oder Gemeinschaft beizutreten, weil ihre soziale Struktur das Risiko verringert, von außen kontrolliert oder mit gegnerischen Ansichten konfrontiert zu werden”, erklären Neil Johnson von der George Washington University in Washington DC und seine Kollegen. Zwar versuchen einzelne Plattformen wie Facebook, Hass-Posts und Hass-Kommentare einzudämmen und beispielsweise rassistische und antisemitische Gruppen auszuschließen. Doch diese Maßnahmen erweisen sich bisher eher als ineffektiv gegen die Flut solcher extremistischen Ideologien.
Hass online
“Hass zerstört Leben – nicht nur konkret, wie wir es in El Paso, Orlando und Christchurch gesehen haben-, sondern auch psychologisch durch Online-Mobbing und Hass-Rhetorik”, sagt Johnson. “Wir wollten daher wissen, warum dieser Hass so widerstandsfähig ist und wie man ihn besser bekämpfen könnte.” Für ihre Studie analysierten die Forscher exemplarisch rassistische und rechtsextreme Gruppen und virtuelle Gemeinschaften auf Facebook und dem mehrsprachigen, in Russland und Teilen Mitteleuropas verbreiteten Netzwerk VKontakte. In diesen Plattformen begannen die Forscher zunächst mit einem Hass-Cluster und folgten dann von dort aus den Verknüpfungen zu weiteren Clustern. “Statt ‘Love is in the Air’ fanden wir ‘Hass im Äther'”, sagt Johnson.
Insgesamt stießen die Forscher so auf mehr als 760 solcher Meinungsknoten mit zusammen mehr als einer Million Teilnehmern, die über die ganze Welt verteilt waren. “Wir haben dabei Cluster jeder Größe gefunden”, berichten die Wissenschaftler. So hat beispielsweise der größte Klu-Klux-Clan-Cluster 10.000 Follower, der kleinste aber weniger als zehn. Ihrer Ansicht nach spricht dies dafür, dass die Online-Hass-Ökologie selbstorganisiert ist – eine solche Verteilung sei nahezu unmöglich durch zentrale Kontrolle zu erzeugen. Die Analysen ergaben zudem, dass dieses Netzwerk von Hass-Clustern über Sprachgrenzen, Länder und kulturelle Hintergründe hinweg reicht.
Hass-“Autobahnen” über Kontinente hinweg
“Europa zeigt dabei eine besonders komplexe Hass-Ökologie, deren miteinander verwobene Inhalte über Sprachgrenzen und konkrete Anliegen hinaus reichen”, so die Forscher. So finden sich beispielsweise in Neonazi-Clustern auch Inhalte zu Football, Brexit oder Musik. Diese Vielfalt mache es diesen Gruppierungen leicht, neue Rekruten von anderen Plattformen, Sprachen oder Ländern zu gewinnen, vor allem wenn diese Nutzer noch keinen klaren Fokus für ihren Hass haben. “Diese Hass-Ökologie wirkt wie eine globale Fliegenfalle”, beschreiben Johnson und seine Kollegen das Phänomen. Erleichtert wird dies dadurch, dass die miteinander verknüpften Hass-Cluster wiederum über “Hass-Autobahnen” verbunden sind, die über Kontinente hinweg reichen. “Über diese Autobahnen werden Hass-Inhalte mit nur einem Klick übertragen”, berichten Johnson und seine Kollegen.
Doch es existieren auch Brücken zwischen den verschiedenen Social-Media-Plattformen, wie sie herausfanden. “Zwischen VKontakte und Facebook gibt es diese Brücken in Europa, den USA und Südafrika, obwohl VKontakte als lokales Netzwerk in Mitteleuropa gilt”, sagen die Forscher. Diese plattformübergreifenden Verbindungen ermöglichen es nicht nur, Hass-Inhalte schnell in verschiedenen Netzwerken zu verbreiten. Sie helfen diesen Gemeinschaften und Gruppierungen auch dabei, Gegenmaßnahmen zu umgehen. Wird beispielsweise ein Hass-Cluster auf Facebook geblockt, können verknüpfte Cluster auf VKontakte quasi durch die Hintertür schnell wieder neue Gruppen aufmachen. “Als die ukrainische Regierung VKontakte verbot, reinkarnierte das Klu-Klux-Klan-Ökosystem seine Cluster auf Facebook – aber mit Klu-Klux-Klan in kyrillisch geschrieben, was es den Facebook-Algorithmen erschwerte, sie zu erkennen”, berichten die Wissenschaftler.
Was kann man dagegen tun?
Die Flexibilität des Hass-Netzwerks und die schnelle Neuverdrahtung von Clustern macht es besonders schwer, solche Hass-Cluster effektiv zu bekämpfen. “Das ist wie beim Unkraut: Es kommt immer wieder zurück”, sagt Johnson. Seiner Ansicht nach reicht es daher nicht aus, einzelne Gruppen beispielsweise auf Facebook zu verbieten – es bilden sich sofort Ersatz-Cluster, die dann weiterhin die gleichen Hass-Inhalte verbreiten. Doch es gibt den Forschern zufolge drei Maßnahmen, die diese Hass-Netzwerke zumindest stark schwächen oder zurückdrängen könnten. Der erste Ansatz besteht darin, möglichst viele kleinere Hass-Cluster zu blockieren und zu verbieten. Denn dadurch wird den größeren Clustern quasi der Nachschub abgeschnitten. Als zweites sollte man versuchen, einen kleinen Teil der Nutzer aus verschiedenen Teilen dieses Netzwerks zu blockieren – das schwäche die Struktur als Ganzes.
“Die dritte Maßnahme nutzt die selbstorganisierte Natur des Systems aus, indem es Cluster aufeinander ansetzt”, so die Forscher. Diese Gegen-Cluster könnten von Antihass-Aktivisten gespeist werden. Noch raffinierter aber wäre es, Cluster innerhalb des Hass-Netzwerks gegeneinander auszuspielen. Denn wie die Forscher feststellten, vertreten die einzelnen Hass-Gruppierungen in manchen Punkten oft gegensätzliche Ansichten. Einige sind beispielsweise für ein “vereinigtes weißes Europa”, andere wollen dagegen Europa zerschlagen. Wenn man diese Gegensätze stärke, könnte dies das Hass-Netzwerk ebenfalls schwächen.
Quelle: Neil Johnson (George Washington University, Washington DC) et al., Nature, doi: 10.1038/s41586-019-1494-7
Photonenzähler und Dunkelfelder
