Projekt der Uni Siegen: Wie Trolle im Netz entlarvt werden

Im sozialen Netz verbreiten Trolle und Bots falsche Inhalte. Das kann gefährlich sein, denn Twitternachrichten haben Einfluss auf Börse und Politik, erklärt Dr. Simon Hegelich. Er erforscht an der Universität Siegen, wie man die falschen Profile erkennt. Das Projekt heißt „Social Media Forensics“.
Im sozialen Netz verbreiten Trolle und Bots falsche Inhalte. Das kann gefährlich sein, denn Twitternachrichten haben Einfluss auf Börse und Politik, erklärt Dr. Simon Hegelich. Er erforscht an der Universität Siegen, wie man die falschen Profile erkennt. Das Projekt heißt „Social Media Forensics“.
Foto: DPA
Was wir bereits wissen
Dr. Simon Hegelich erklärt, wie er Falschmeldungen und Scheinprofile erkennt. Er erforscht an der Universität Siegen neue Methoden zur Entlarvung von Bots und Trollen. Ein Interview.

Siegen.. Facebook, Twitter und LinkedIn. Soziale Netzwerke verbreiten sich rasant. Immer mehr Menschen nutzen aber die Möglichkeit, um Daten zu manipulieren und falsche Nachrichten zu verbreiten. Dr. Simon Hegelich forscht an der Universität Siegen an einem neuen Projekt: „Social Media Forensics“ soll neue Möglichkeiten für den Datenschutz schaffen und Nutzer für Risiken sensibiliseren.

Das Forschungsprojekt Social Media Forensics ist am 1. August gestartet. Was genau kann man sich unter dem Projekt vorstellen?

Internet-Sicherheit Dr. Simon Hegelich: Wir beschäftigen uns mit Nachrichten in sozialen Netzen und Medien und wollen feststellen und belegen, wie vertrauenswürdig die sind. Da gibt es zum einen die Trolle, also Menschen, die Nachrichten in sozialen Netzwerken mit böswilliger Absicht verbreiten und manchmal sogar dafür bezahlt werden. Erst vor kurzem wurde die Instagram-Seite von Angela Merkel angegriffen. In der Berichterstattung zur Ukrainekrise verbreiteten Trolle prorussische Nachrichten oder Kommentare. Aber auch die ukrainische Regierung hat eine „Information Army“, die Artikel und Nachrichten verbreiten. Trolle unterhalten ganze Büros und kümmern sich nur darum, Propaganda zu verbreiten.

Das Projekt SoMeFo beschäftigt sich aber auch mit sogenannten Bots. Was kann man sich darunter vorstellen?

App entwickeln, die Manipulation erkennt

Hegelich: Bots sind Programme, die auf Twitter bis zu 10 000 oder 20 000 Accounts verwalten. Die Profile sehen dann aus, als würden sie zu echten Menschen gehören. Sie verbreiten falsche Nachrichten, posten aber auch Meinungen zu Sport oder Witze, um nicht entdeckt zu werden. Im Ukrainekonflikt wurden diese falschen Accounts ebenfalls eingesetzt. 1000 Profile können 60 000 falsche Kommentare pro Tag absetzen. Das ist systematische Manipulation. Wir wollen daher eine App entwickeln, die Bots erkennen kann.

Was noch? Unterscheiden sich denn Bots von „echten“ Usern?

Hegelich: Stecken Menschen hinter den Accounts, haben sie auch Bilder von „echten Menschen“ in ihrem Profil. Bots können aber nicht 10 000 Bilder realer Menschen auftreiben und nutzen häufig Comic-Bilder, die man im Netz findet. Normale Nutzer posten in einem anderen Rhythmus, nämlich mehr unterhalb der Woche und weniger am Wochenende. Vielleicht weil sie dann etwas Schönes machen. Bots halten häufig den gleichen Rhythmus beim Posten ein. Außerdem folgen sie im Verhältnis mehr Leuten als reale Nutzer, haben dafür aber nur sehr wenige eigene Follower. Twitter sucht selbst nach diesen Mustern und sperrt auffällige Accounts. Bots wissen das und fangen an, ihre Methoden zu verändern.

Bot-Netz kann Millionen Schadnachrichten mit Viren verschicken

Können Bots und Trolle gefährlich werden?

Hegelich: Sie können sogar sehr gefährlich werden. Twitternachrichten gewinnen nach und nach an politischer Bedeutung. Yanis Varoufakis hat über Twitter verkündet, dass er als Minister zurücktritt. Twitter beeinflusst sogar Aktienkurse. Falschmeldungen von Bots und Trollen können also großes Gewicht haben.

Können sie auch normale Nutzer gefährden?

Abzocke Hegelich: Es gibt natürlich zielgerichtete Attacken, wie Mails mit Schadsoftware. Ein Bot-Netz kann Millionen Schadnachrichten mit Viren über soziale Netze verschicken. Nutzer müssen aufgeklärt werden. Videos, Fotos und Dateien sollten vorsichtiger geöffnet werden. Wir arbeiten an einem Spam-Filter, der solche Posts aussortiert.

Welches Ziel verfolgen Sie mit ihrer Forschungsgruppe? Kann man sich vor Bots und Trollen schützen?

Hegelich: Wir wollen Programme entwickeln, die Trolle und Bots erkennen können, wie zum Beispiel eine App, in der man den Namen des auffälligen Accounts eingibt und dann eine Einschätzung über die Vertrauenswürdigkeit der Nachrichten erhält. Bei Twitter wird vermutet, das fünf bis 20 Prozent der Nutzer aus Bots bestehen. Vielleicht reden auf Twitter bald nur noch Programme mit anderen Programmen. Wir untersuchen mithilfe von Data Mining die Methoden der Trolle und der Bots und versuchen, weitere Muster zu finden, die helfen, sie zu identifizieren.

Folgen Sie uns auch auf Facebook