»Der Hass ist intelligenter geworden«

»Goldstücke«, »linksgrün versifft«, »Fachkräfte«: Die Sprache des rechten Hasses schafft immer neue Schmähwörter. Das macht es für Netzwerke wie Facebook schwer, dagegen vorzugehen. Trotzdem: Facebook tut zu wenig.

Von C. Basl und K. Riedel, WDR, S. Pittelkow und N. Altland, NDR

Jahrelang hat Michael gegen dieses Hetzen und Diffamieren in Facebook-Gruppen angekämpft. »Dreckiges Zeckenpack!«, »Volksvertreter als Volksverräter« – Kommentare wie diese sind an der Tagesordnung. Michaels Gegenrede kam kaum dagegen an.

In fast 200 Gruppen war er aktiv, er lernte dort ein Klima des Hasses auf Andersdenkende kennen. Es ist eine Sprache der Wut, ein Vokabular, das sich auf den Straßen auch bei »Pegida« und in den Parlamenten bei der AfD findet. Es ist die Sprache, die in den vergangen Jahren zur gesellschaftlichen Polarisierung beigetragen hat – oft aus purem Rassismus. Dadurch, dass sie immer neue Begriffe verwenden, erschweren es rechte Nutzerinnen und Nutzer Facebook, gegen die Hassrede vorzugehen.

»Der Hass ist intelligenter geworden. Intelligent genug, um tatsächlich den Facebook-Richtlinien zu entsprechen. Die haben jetzt nicht mehr geschrieben: Ausländer raus!, sondern die haben etwas geschrieben wie: Migrationspakt stoppen!«, sagt Michael, der seinen wirklichen Namen nicht öffentlich machen möchte. Er hat Angst vor Anfeindungen. Denn er hat Reporterinnen und Reportern von BR, NDR und WDR auf diese Gruppen hingewiesen, in denen er jahrelang versucht hat, gegen den Hass anzuschreiben.

Reporterinnen und Reporter von BR, NDR und WDR meldeten sich mittels erfundener Identitäten selbst in den Gruppen an und archivierten die Daten jeweils bis zur Gründung: insgesamt 2,6 Millionen Posts aus 138 solcher Gruppen. Dieser Datensatz ermöglicht es, über zehn Jahre hinweg die Entstehung und den Wandel dieser rechten Sprache zu beobachten. Es ist das Projekt #Hassmaschine.  Ein Ergebnis der Recherche: Die rechte Sprachwelt ist auf Facebook über die Jahre hinweg immer variantenreicher geworden.

Reporterinnen und Reporter fanden darin neben Tausenden mutmaßlich strafbaren Inhalten und mehr als 10.000 schweren Beleidigungen auch eine Schmäh-Sprache, die so variantenreich wie anstößig ist: Sie erzählt von einem Deutschland, das kurz vor dem Untergang stehe, das von fremden Mächten und Verschwörungen bedroht sei und das nur noch durch heftigen Widerstand gerettet werden könne. »Altpartei«, »Islamisierung« und »Lügenpresse« haben besonders viele Treffer im Datensatz, aber auch etwa »dreckiges Pack« oder  »Volksverräter«. 

Facebook sagt, dass man gegen Beleidigungen und Verleumdungen besonders vorgehe. Doch nicht jedes Wort ist so eindeutig als Beleidigung identifizierbar wie das Wortpaar »dreckiges Pack«.

»Goldstücke« ist Hassrede

Ein Beispiel ist das zunächst harmlos wirkende Wort »Goldstücke«. Es taucht ab Ende 2016 vermehrt in den Posts und Kommentaren auf – in einer Bedeutung, die nichts mit einem echten Goldstück zu tun hat. In der rechten Welt auf Facebook wird »Goldstücke« als diffamierendes Synonym für Geflüchtete verwendet. Es bezieht sich auf eine Aussage von SPD-Politiker Martin Schulz, der in einer Rede in Heidelberg 2016 sagte: »Was uns Flüchtlinge zu uns bringen, ist wertvoller als Gold: Das ist der Glaube an Europa.« Der Halbsatz zu Europa wird dabei gerne weggelassen – sogar im TV-Duell wurde Schulz der Satz verkürzt vorgehalten.
»Goldstücke« entwickelte sich seitdem, mit neuer, gegenteiliger Bedeutung, zu einem der beliebtesten Schmähbegriffe. Auch die  AfD verwendet den Begriff, zum Beispiel im vergangenen Jahr in einer Rede im Bundestag. Facebook geht seit 2018 gegen »Goldstücke«-Posts vor, ein Gericht hat den Begriff inzwischen als Hassrede eingeordnet. Doch Ende 2019 taucht das Wort im untersuchten Datensatz immer noch an vielen Stellen auf. Facebook löschte die Postings nach dem Gerichtsentscheid nicht konsequent. Nachdem 2015 viele Flüchtlinge nach Deutschland kamen, erfanden die rechte Nutzerinnen und Nutzer immer neue Schmähwörter.

Künstliche Intelligenz scheitert an der Sprache

Der Datensatz zeigt: Der Hass sucht sich ständig neue Wörter. Zwischen 2012 und 2018 vervierfachte sich der Anteil der rechten Wutsprache in den Facebookgruppen.

Auch Joachim Scharloth, deutscher Sprachwissenschaftler in Tokio, beobachtete, wie variantenreich der rechte Wortschatz geworden ist: »Im Prinzip kann man jedes Wort dazu benutzen, jemanden zu beleidigen oder auch eine ganze Gruppe herabzusetzen. Deswegen ist es natürlich auch schwer für algorythmische Verfahren diese Wörter aufzuspüren, den Kontext so zu rekonstruieren, dass klar ist, dass hier eine Beleidigung, eine Herabwürdigung vorliegt«, sagt er.
Facebook arbeitet mit algorithmischen Verfahren, mit sogenannter »Künstlicher Intelligenz« also. Das Unternehmen habe das Problem erkannt, sagt Klaus Gorny, Sprecher von Facebook Deutschland: »Sprache ist auch für ‘Künstliche Intelligenz’ nicht immer einfach, weil es sehr viele Nuancen gibt. Es kommt auf den Kontext an. Das heißt, unsere Technologie muss ständig dazulernen.« Auch die Regeln für Nutzerinnen und Nutzer, also die Gemeinschaftsstandards, würden ständig angepasst.

Die Recherche #Hassmaschine zeigt jedoch, dass man mit einer einfachen Schlagwortsuche und ohne den Einsatz von »Künstlicher Intelligenz« Wut- und Hasssprache identifizieren kann. Sie zeigt auch, dass Hatespeech immer wieder durchs Raster von Facebook fällt. Das Unternehmen verlässt sich offenbar auch darauf, dass Nutzerinnen und Nutzer Diffamierungen melden. Die deutsche Gesetzgebung verlangt von Facebook auch nicht, aktiv nach Hass- und Gewaltsprache zu suchen.

Rechte Verschwörungsmythen, die nun in Zeiten von Corona stärker Verbreitung finden und wahrgenommen werden, sind ebenfalls schon seit Jahren in der rechten Schattenwelt auf Facebook verankert: So taucht bereits vor 2014 etwa der Begriff »New World Order« vermehrt im Datensatz auf. Dahinter verbirgt sich die Annahme, dass eine kleine Elite im Geheimen die Weltherrschaft anstrebe.

Sprachwissenschaftler Scharloth sagt, dass es Hasssprache schon immer in der Geschichte gegeben habe, jedoch sei heute im Netz die Qualität und Dimension neu: »Es wird mehr aggressiv gespottet, es wird mehr verhöhnt, der Zynismus ist stärker geworden. Das ist ein Indikator für die Radikalisierung, die dort stattgefunden hat bei vielen Leuten.« Auch im Datensatz tauchen über die Jahre hinweg immer häufiger Aufrufe auf wie »wehrt euch!«

Informant Michael meint, der Hass sei in den Facebook-Gruppen über die Jahre immer mehr geworden, und mit ihm die Sprache der Wut. Aber zu wenige hätten etwas dagegen getan, so seine Wahrnehmung.

#Hassmaschine
Interaktive Website zum Projekt
Stand: 24. Juni 2020, 09:13 Uhr