Nirgendwo sonst verbreiten sich Aussagen und Meinungen so schnell wie über die Sozialen Medien. Facebook, Twitter und Co sind längst zum Sprachrohr und Stimmungsbarometer der modernen Gesellschaft geworden. Doch das birgt auch Gefahren. Schon im Jahr 2016, im US-Präsidentschaftswahlkampf, zeigte sich, dass nicht nur die beteiligten Politiker und ihre Anhänger in den sozialen Medien Stimmung für oder gegen die Kandidaten machten – auch russische Trolle und Bots mischten sich ein, wie Studien belegen. “Die Eigenschaften, die die sozialen Medien so nützlich für Aktivisten machen – geringe Einstiegsbarrieren, Skalierbarkeit, einfache Arbeitsteilung und die Möglichkeit, Medien von fast überall aus gezielt in einem Land zu posten – machen die Netzwerke auch anfällig gegenüber industrialisierten Manipulations-Kampagnen unter anderem durch eigene oder fremde Regierungen”, erklären Meysam Alizadeh von der Princeton University und seine Kollegen. Allein zwischen 2013 und 2018 gab es mindestens 53 solcher großangelegter Einflussversuche in 24 Ländern.
Lernfähiger Algorithmus auf Troll-Jagd
Wegen der großen Menge an Troll- und Bot-Posts sowie gezielter Manipulation durch Falschaussagen kommen die Betreiber der Social-Media-Plattformen kaum hinterher, verdächtige Posts zu finden und zu markieren oder zu löschen. Zwar werden bereits lernfähige Algorithmen zum Aufspüren und Filtern solcher Meldungen eingesetzt, diese haben bislang aber nur bedingt Erfolg. “Die Schlüsselfrage ist, wie sich industrialisierte Informationskampagnen von organischer, normaler Aktivität unterscheiden lassen”, sagen die Forscher. Zudem sei es wichtig, plattformübergreifende
Merkmale zu erkennen, denn auch die Kampagnen seien meist nicht nur in einem sozialen Netzwerk unterwegs. Um dies herauszufinden, haben Alizadeh und seine Kollegen einen inhaltsbasierten, lernfähigen Algorithmus auf jeweils bestimmte Weise trainiert und dann verschiedenen Testsituationen ausgesetzt.
Basis für die Studie war ein bestimmter, besonders häufiger Typ von Social-Media-Posts – ein kurzer Text kombiniert mit einem Link. Als Lernmaterial dienten Datensätze von Plattformen wie Twitter, Reddit oder Facebook, die insgesamt 7,2 Millionen Posts umfassten – solche von Trollen ebenso wie von normalen Nutzern. Das KI-System bekam in einem Test die Daten eines Monats zum Lernen – in diesem Datensatz waren die Troll-Posts gekennzeichnet. Dann sollte es auf Basis der in diesen Daten erkannten Merkmale die Posts derselben oder anderer Trolls in dem Datensatz des Folgemonats oder Folgejahres erkennen. In einem ergänzenden Experiment wurde die KI zunächst auf Twitter trainiert, um dann auf Reddit nach Trollen zu suchen und umgekehrt. Die Tests führten die Forscher im englischen Sprachbereich der Plattformen durch und suchten dabei gezielt nach Einflusskampagnen aus russischen, chinesischen und venezolanischen Quellen.
