In den sozialen Medien verlautbaren nicht nur “normale” Nutzer ihre Meinungen und Mitteilungen, sondern in zunehmendem Maße auch Bots und Trolle, die im Auftrag von Parteien, Organisationen, aber auch fremden Regierungen gezielt Stimmungsmache betreiben. Ob und wie inhaltsbasierte, lernfähige Algorithmen Posts solcher fremdgesteuerten Einflusskampagnen erkennen können, hat nun ein Forscherteam getestet. Es zeigte sich, dass Troll-Posts durchaus charakteristische Kennzeichen aufweisen, die von ihrem KI-System sogar plattformübergreifend erkannt wurden. Allerdings erfordern die sich verändernden Strategien der Trolle, dass die KI immer aufs Neue trainiert wird.
Nirgendwo sonst verbreiten sich Aussagen und Meinungen so schnell wie über die Sozialen Medien. Facebook, Twitter und Co sind längst zum Sprachrohr und Stimmungsbarometer der modernen Gesellschaft geworden. Doch das birgt auch Gefahren. Schon im Jahr 2016, im US-Präsidentschaftswahlkampf, zeigte sich, dass nicht nur die beteiligten Politiker und ihre Anhänger in den sozialen Medien Stimmung für oder gegen die Kandidaten machten – auch russische Trolle und Bots mischten sich ein, wie Studien belegen. “Die Eigenschaften, die die sozialen Medien so nützlich für Aktivisten machen – geringe Einstiegsbarrieren, Skalierbarkeit, einfache Arbeitsteilung und die Möglichkeit, Medien von fast überall aus gezielt in einem Land zu posten – machen die Netzwerke auch anfällig gegenüber industrialisierten Manipulations-Kampagnen unter anderem durch eigene oder fremde Regierungen”, erklären Meysam Alizadeh von der Princeton University und seine Kollegen. Allein zwischen 2013 und 2018 gab es mindestens 53 solcher großangelegter Einflussversuche in 24 Ländern.
Lernfähiger Algorithmus auf Troll-Jagd
Wegen der großen Menge an Troll- und Bot-Posts sowie gezielter Manipulation durch Falschaussagen kommen die Betreiber der Social-Media-Plattformen kaum hinterher, verdächtige Posts zu finden und zu markieren oder zu löschen. Zwar werden bereits lernfähige Algorithmen zum Aufspüren und Filtern solcher Meldungen eingesetzt, diese haben bislang aber nur bedingt Erfolg. “Die Schlüsselfrage ist, wie sich industrialisierte Informationskampagnen von organischer, normaler Aktivität unterscheiden lassen”, sagen die Forscher. Zudem sei es wichtig, plattformübergreifende
Merkmale zu erkennen, denn auch die Kampagnen seien meist nicht nur in einem sozialen Netzwerk unterwegs. Um dies herauszufinden, haben Alizadeh und seine Kollegen einen inhaltsbasierten, lernfähigen Algorithmus auf jeweils bestimmte Weise trainiert und dann verschiedenen Testsituationen ausgesetzt.
Basis für die Studie war ein bestimmter, besonders häufiger Typ von Social-Media-Posts – ein kurzer Text kombiniert mit einem Link. Als Lernmaterial dienten Datensätze von Plattformen wie Twitter, Reddit oder Facebook, die insgesamt 7,2 Millionen Posts umfassten – solche von Trollen ebenso wie von normalen Nutzern. Das KI-System bekam in einem Test die Daten eines Monats zum Lernen – in diesem Datensatz waren die Troll-Posts gekennzeichnet. Dann sollte es auf Basis der in diesen Daten erkannten Merkmale die Posts derselben oder anderer Trolls in dem Datensatz des Folgemonats oder Folgejahres erkennen. In einem ergänzenden Experiment wurde die KI zunächst auf Twitter trainiert, um dann auf Reddit nach Trollen zu suchen und umgekehrt. Die Tests führten die Forscher im englischen Sprachbereich der Plattformen durch und suchten dabei gezielt nach Einflusskampagnen aus russischen, chinesischen und venezolanischen Quellen.
Erkennbar über Accounts und Plattformen hinweg
Die Tests ergaben: In nahezu allen Testvarianten konnte der Algorithmus erkennen, welche Posts Teil einer fremdgesteuerten Einflusskampagne waren und welche nicht, wie die Wissenschaftler berichten. Diese Erkennung gelang selbst dann, wenn der Algorithmus mit anderen Trollen oder an anderen Kampagnen trainiert worden war und daher sozusagen eine Transferleistung erbringen musste. “Die industrialisierten Kampagnen hinterlassen ein charakteristisches Signal in den Inhalten, das es erlaubt, diese Einflussnahmen von Monat zu Monat und über verschiedenen Accounts hinweg mitzuverfolgen”, berichten die Forscher. Häufig verrieten sich die Posts durch die Art ihrer Verlinkung – sie linkten auf Websites, die von unzähligen anderen Trollen ebenfalls beworben wurden oder die politisch und inhaltlich nur bedingt zum Testinhalt oder Kontext des Posts passten. Einige hatten zwar URLs zu lokalen Seiten, erwähnten aber in ihrem Testteil nicht passende Personen. Generell waren die venezolanischen Trolle am einfachsten zu erkennen, chinesische und russische dagegen raffinierter getarnt.
Nach Ansicht der Wissenschaftler eröffnen solche content-basierten Suchalgorithmen durchaus eine Chance, der Flut an fremdgesteuerten Einflusskampagnen entgegenzuwirken – und das plattformübergreifend. “Man kann damit in Echtzeit abschätzen, wie viele solcher Trolle dort draußen sind und worüber sie reden”, sagt Co-Autor Jacob Shapiro von der Princeton University. “Die Erkennung ist zwar nicht perfekt, aber es könnte die Akteure dazu zwingen, kreativer zu werden oder sogar ihre Kampagnen zu stoppen.” Allerdings ergaben die Tests auch, dass gerade die Einflusskampagnen im Laufe der Zeit dazu gelernt haben und raffinierter geworden sind. Ändern die Trolle ihre Strategie und Charakteristiken, kann der Algorithmus sie erst dann wiedererkennen, wenn er genügend Übungsmaterial bekommen hat. Deshalb sei auch diese KI-gestützte Troll-Fahndung kein Allheilmittel, betonen Alizadeh und seine Kollegen. Aber es könne – entsprechende Finanzierung und den Willen der Plattformbetreiber vorausgesetzt – bei der Bekämpfung von Trollen helfen.
Quelle: Meysam Alizadeh (Princeton University, USA) et al., Science Advances, doi: 10.1126/sciadv.abb5824
Photonenzähler und Dunkelfelder
