Neues Mittel gegen Hetze im Netz

Halle l Facebook kommt mit dem Löschen von Hasskommentaren besonders gegen Flüchtlinge kaum hinterher. Moderatoren müssen jeden gemeldeten Beitrag überprüfen. Eindämmen könnte man diese Flut, wenn Nutzerseiten, auf denen ständig gehetzt wird, automatisch identifiziert würden, damit man sie sperren kann. Vier Wirtschafts-informatiker der Martin-Luther-Universität haben so ein System entwickelt. Es erkennt Beleidigungen und Aufrufe zu Gewalt. Der Clou aber ist: „Es kann auch zuordnen, an wen sich die Hetze richtet – selbst dann, wenn der Adressat gar nicht direkt genannt wird“, sagt Forscher Uwe Bretschneider.

Das Programm analysiert die Kommentare unter einem Beitrag – etwa einem geteilten Zeitungsartikel – nach bestimmten Wörtern und Wortgruppen, die in einer Datenbank hinterlegt sind. Mehr als 300 davon haben die Forscher zusammengestellt. Bei einer Übereinstimmung sucht das System auch den Adressaten. Ist er nicht direkt genannt, sucht es an zwei Stellen nach Hinweisen: in den anderen Kommentaren unter dem Beitrag und im Beitrag selbst. Ein Beispiel: Auf einer Nutzerseite werden ständig Zeitungsartikel geteilt, in denen es um gesunkene Flüchtlingsboote geht. Darunter schreiben Leute Kommentare wie „Die sollen alle verrecken.“ Dann erkennt das System die Beleidigung und schließt aus den Artikeln, worauf sich „die“ bezieht. So entlarvt es die Seite als Hetzseite.

Da oft auch Politiker und Medien angegangen werden, ist das Programm so angelegt, dass es auch Hetze gegen sie erkennt.

Für den Test des Programms nahmen sich die Forscher zwei Facebookseiten vor – darunter die von Pegida. Von jeder zogen sie sich 2500 Kommentare und durchsuchten sie manuell nach Hetze. Danach ließen sie die Kommentare durch den Algorithmus laufen. „60 Prozent der Hasskommentare, die wir erkannt haben, hat auch das System gefunden“, sagt Bretschneider. Zwei Haken hat das System aber noch: Es lässt sich nur bei Nutzerseiten anwenden, die öffentlich einsehbar sind. Und es fischt teils auch Kommentare heraus, die gar keine Hetze enthalten – es müsste also jemand über die Ergebnisse schauen.

Das Programm kommt zur perfekten Zeit: Am Donnerstag hat Facebook-Chef Mark Zuckerberg in einem politischen Manifest die Idee aufgebracht, Hassrede mit Hilfe künstlicher Intelligenz zu entdecken. Bretschneider weiß jedoch nicht, wie er ans große Facebook herantreten soll. Die Volksstimme hat nachgeholfen und die Infos zum Programm an die Pressestelle geschickt. Die ist erst mal nicht abgeneigt: „Wir werden uns das anschauen“, sagt eine Sprecherin.