Hetze im Netz besser bekämpfen

2. Februar 2021

Bedrohungen, Nötigungen, diskriminierende Äußerungen oder Beleidigungen – all das ist inzwischen Alltag im Internet, vor allem in den sozialen Netzwerken. Die Frage, wie sich die ausufernden Hasskommentare wieder eindämmen lassen, wird in der Öffentlichkeit vielfach diskutiert. Experimente am Max-Planck-Institut zur Erforschung von Gemeinschaftsgütern haben eine eindeutige Antwort auf diese Frage ergeben.

Text: Fabian Winter

Normen werden in Frage gestellt, wenn außergewöhnliche Ereignisse ihre Gültigkeit ins Wanken bringen.

Auf See und vor Gericht ist man in Gottes Hand, lautet ein bekanntes Sprichwort. Ob nun wirklich eine höhere Macht für überraschende Urteile zuständig ist, sei dahingestellt, sie sorgen trotzdem immer wieder für ungläubiges Kopfschütteln. So unter anderem das Urteil des Berliner Landgerichts im Fall Renate Künast im Sommer 2019. Die Politikerin hatte auf Herausgabe der Namen und Adressen von Personen geklagt, die sie im Internet wüst beschimpft hatten. Zur Überraschung sowohl von Laien als auch von Rechtsexperten beurteilten die Richter diese Hasskommentare als sachliche Debattenbeiträge und sahen sie damit von der Meinungsfreiheit gedeckt. Allerdings revidierte das Gericht sein Urteil später teilweise.

Hasskommentare jeglicher Art treffen natürlich nicht ausschließlich Prominente, sondern mit der immer weiter fortschreitenden Digitalisierung unserer Kommunikation auch breitere Schichten der Gesellschaft. Zunehmend werden dabei Migranten oder religiöse und sexuelle Minderheiten beschimpft. Während diese Diagnose weithin geteilt wird, sind die genauen Mechanismen hinter der Ausbreitung wenig erforscht. In den vergangenen Jahren haben wir daher in der Forschungsgruppe „Mechanisms of Normative Change“ am Bonner Max-Planck-Institut zur Erforschung von Gemeinschaftsgütern eine Reihe solcher Mechanismen genauer betrachtet.

Nach einer weitgehend unregulierten Anfangsphase von sozialen Netzwerken wie Facebook und Twitter und Co. rücken missbräuchliche Hasskommentare in den Fokus der öffentlichen Debatte. Eine wesentliche Frage dabei ist, wie mit diesen Kommentaren umgegangen werden soll, um eine weitere Ausbreitung zu verhindern. Kann man der Kommunikation freien Lauf lassen und darauf setzen, dass die Community eigene Normen des Umgangs etabliert, die Nutzer krasse Normverstöße erkennen und die Autoren der Kommentare darauf hinweisen? Oder sollten die Betreiber eingreifen, indem sie Negativbeispiele durch Löschung der Kommentare oder sogar durch das Sperren von Nutzerprofilen aus dem Verkehr ziehen?

Nutzer orientieren sich am negativen Ton einer Onlinedebatte

<p>Bereits jeder fünfte Internet-Nutzer ist schon einmal Opfer von Hate Speech geworden. Können wir etwas gegen Hasskommentare tun? Und welche Strafen müssen Verfasser  befürchten? In unserem neuen Wissen Was – Video geben Max-Planck-Wissenschaftlerinnen und Wissenschaftler Antworten.</p>

Hass im Netz

Bereits jeder fünfte Internet-Nutzer ist schon einmal Opfer von Hate Speech geworden. Können wir etwas gegen Hasskommentare tun? Und welche Strafen müssen Verfasser  befürchten? In unserem neuen Wissen Was – Video geben Max-Planck-Wissenschaftlerinnen und Wissenschaftler Antworten.

Um die Wirkung der verschiedenen Vorgehensweisen zu vergleichen, haben wir ein eigens eingerichtetes Onlineforum gestartet. Dort konnten wir bestimmen, welche Art von Kommentaren die Nutzer zu sehen bekamen. In einer groß angelegten Reihe von Experimenten konnten wir beobachten, dass sich Nutzer tatsächlich am negativen Ton einer Onlinedebatte orientieren. Das führt dazu, dass viele ihrerseits negativere Kommentare verfassen – beispielsweise gegen Minderheiten. Wenn Hasskommentare gepostet wurden, führte das dazu, dass hasserfüllte Äußerungen danach noch negativer ausfielen, sich die Hasskommentare also steigerten. Interessanterweise änderte sich dieses Verhalten auch dann nicht, wenn die Verbreiter von Hass und Hetze von anderen Nutzern zurechtgewiesen wurden. Lediglich das Löschen von abfälligen, diskriminierenden und vulgären Äußerungen verhinderte einen weiteren Verfall der Debattenkultur.

Soziale Normen des zivilen Umgangs scheinen also maßgeblich vom Verhalten anderer abzuhängen. Besonders stark scheinen hier sogenannte deskriptive Normen zu wirken, die aus dem konkreten Verhalten anderer abgeleitet werden. Weit weniger wirksam scheint jedoch die abschreckende Wirkung von informellen Sanktionen zu sein – im Fall der sozialen Medien die Gegenkommentare anderer Nutzer.

Allgemein werden soziale Normen oft dann infrage gestellt, wenn außergewöhnliche Ereignisse ihre Gültigkeit ins Wanken bringen. Wir sehen das zum Beispiel, wenn Horrornachrichten in den Medien die Runde machen. Vor diesem Hintergrund haben wir in einer weiteren Studie die Situation kurz vor und kurz nach zwei islamistischen Terroranschlägen in Deutschland im Frühjahr 2016 verglichen. Für Nutzer, die unser Onlineforum besuchten, stellten wir in diesem Fall den Ton der Debatte so zusammen, dass in einigen Fällen ausschließlich positive oder neutrale Aussagen zu Minderheiten zu sehen waren und in anderen Fällen zusätzlich einzelne Hasskommentare. Während das Löschen der Hasskommentare vor dem Terroranschlag nur einen kleinen Effekt auf die Debattenkultur hatte, war der Unterschied in den Kommentaren nach dem Anschlag deutlich: Negativbeispiele wurden sehr viel bereitwilliger aufgenommen und verschärften gerade die extremen Kommentare noch weiter.

Große Wandlungen führen oft zu einem Gefühl der Normlosigkeit

Zur Erklärung dieses Effektes greifen wir auf einen klassischen Begriff der Soziologie zurück: Émile Durkheims These der Anomie besagt, dass große strukturelle Wandlungen in einer Gesellschaft häufig mit einem generellen Gefühl der Normlosigkeit einhergehen. In kleinerem Maßstab kann man auch im Fall der Terroranschläge diese Anomie beobachten. Während vor dem Anschlag eine Antidiskriminierungsnorm weithin anerkannt ist, fragen sich nach den Anschlägen viele, ob diese überhaupt noch gilt. Um Informationen über deren Gültigkeit zu bekommen, orientieren sich die Menschen an ihrem Umfeld: Sehen sie vor allem positive oder neutrale Aussagen über Ausländer, so schwingt das Pendel in Richtung Gültigkeit. Wiederholte Normbrüche haben jedoch genau den gegenteiligen Effekt: Die Norm scheint nicht mehr so streng zu gelten, sodass diejenigen, die vorher nicht öffentlich gegen Migranten Stellung bezogen haben, sich nun veranlasst fühlen, dies zu tun.

Unsere Forschung liefert in vielerlei Hinsicht wertvolle Erkenntnisse. Einerseits behandelt sie ein gesellschaftlich aktuelles und relevantes Thema: Sie identifiziert Situationen, in denen es auf ein engagiertes Einstehen gegen Diskriminierung ankommt, und zeigt Wege auf, wie dieses zu gestalten ist. Andererseits ist es auch für die Forschung zu sozialen Normen wichtig zu verstehen, wie sich normative Verunsicherung, oder eben Anomie, auf den Wandel sozialer Normen auswirkt. Schließlich zeigt unsere Forschung auch, wie man mit experimentellen Methoden gesellschaftliche Debatten analysieren und auf diese Weise quantitative Ansätze mit häufig qualitativen Fragestellungen verbinden kann.

Weitere interessante Beiträge

Zur Redakteursansicht