#256 Overblocking

Let’s talk about Netzwerkdurchsetzungsgesetz, kurz NetzDG. Das Gesetz, in Kraft getreten im Oktober 2017, sollte der besseren Bekämpfung von Hasskriminalität im Netz dienen. Es führte Berichtspflichten für Soziale Netzwerke mit mehr als zwei Millionen registrierten Nutzern ein und verpflichtete daher vor allem die großen Anbieter wie Facebook, Instagram, YouTube und Twitter, nach deutschem Recht rechtswidrige Inhalte zu sperren.

Kritiker:innen sprachen von “Zensur-Infrastruktur”. Denn während das offizielle Ziel des NetzDG die Eindämmung von Hate Speech ist, nutzte z.B. der türkische Präsident Erdoğan das deutsche Gesetz als Vorbild für eine Regelung zum Entfernen von unliebsamen Kommentaren. Eine aktuelle Studie der Hochschule für Technik, Wirtschaft und Kultur Leipzig (HTWK) findet in der Anwendung des Netzwerkdurchsetzungsgesetzes zudem Anhaltspunkte für Overblocking.

Um sich in der Praxis vor Bußgeldern zu schützen, filtern die Plattformen dabei mit Hilfe von Künstlicher Intelligenz den Content heraus, der vermeintlich rechtswidrig ist. In diesem Zusammenhang wird von sogenannten Uploadfiltern gesprochen; Filter, die bereits vor einer Veröffentlichung (z.B. eines Facebook Postings oder eines Tweets), den Beitrag automatisch sperren. Die freie Meinungsäußerung wird eingeschränkt, weil sie bereits im Vorfeld geblockt wird. Bestimmte “Trigger”-Wörter führen zum Maulkorb durch KI.

Nicht nur geschriebene, sondern auch gesprochene “Trigger”-Wörter könnten dazu führen, dass die Polizei vor deiner Tür auftaucht. Vor allem, wenn du tatsächlich ein Mörder bist und dich die Daten von Alexa oder deiner Smartwatch verraten.

Florian Flade und Moritz Börner vom WDR fragen in “Alexa, wer ist der Mörder?” nach den verräterischen Daten im Zusammenhang mit der Aufklärung von Straftaten. Ja, Geodaten des Smartphones haben bereits Täter überführt und ja, smarte Speaker zeichnen bei “Trigger Words” Gespräche auf.

Wenn Mitschnitte Morde aufklären, werden sie dankend angenommen. Aber, um im Bild zu bleiben: Es ist das gleiche Totschlagargument wie “Kindesmissbrauch aufklären”, wenn über anlasslose Massenüberwachung in Form der Vorratsdatenspeicherung diskutiert wird. Die EU plant so etwas gerade und nennt es Chatkontrolle: Die anlasslose Echtzeit-Massenüberwachung all deiner E-Mails und Nachrichten.

In einer Post-Snowden-Ära sollte mittlerweile klar sein, dass jede:r etwas zu verbergen hat.

Die Überwachung aller privaten Kommunikation, um sehr wenige Straftaten herauszufiltern, ist nicht verhältnismäßig. Hinzu kommt der Ruf nach Backdoors in Software. Also Hintertüren für verschlüsselte Kommunikation, damit die vermeintlich Guten, also Strafverfolgungsbehörden, Polizei - der Staat - eine Verschlüsselung im Zweifel aushebeln können.

Hier schließt sich der Teufelskreis: Die Plattformen und die Massenüberwachung sorgen für Selbstzensur und konformistisches Verhalten. Durch das Overblocking werden die Nutzer:innen noch weiter in ihrer Meinungsfreiheit eingeschränkt, der offene Austausch von Wissen und Ideen wird geschädigt.

Die andere Seite der Medaille:

Anfang April trat das Gesetzespaket gegen Hass und Hetze in Kraft.

Wenn jemand im Netz Anfeindungen ausgesetzt ist, kann das verheerende Folgen haben. Nicht nur, dass sich betroffene Personen - meist Frauen - gar nicht mehr äußern und ihre Meinung somit überhaupt kein Gehör findet. Sie müssen sich aufgrund von Bedrohungsszenarien zum Teil komplett aus der Öffentlichkeit zurückziehen. Es gibt viele Beispiele von Vergewaltigungs- und Morddrohungen, die ihre Wirkmacht entfalten. Die Wissenschaftlerin Natascha Strobl hat sich vorerst von Twitter zurückgezogen, die Autorin Jasmina Kuhnke musste ihre Wohnung verlassen und umziehen. Drohungen führen nachweislich zu Taten, Stichwort Mordfall Walter Lübcke. Und als “markierte Zielperson” kann es gefährlich werden.

Wenn die private Adresse in einem Bedrohungs-Kontext explizit genannt wird, dann schützt man sich und seine Familie. Mit dem neuen Gesetz sind Anbieter verpflichtet, Morddrohungen und volksverhetzende Äußerungen dem Bundeskriminalamt zu melden. Das Strafgesetzbuch wurde verschärft, der Strafrahmen angehoben. Zudem kann eine Auskunftssperre im Melderegister eingetragen werden, d.h. Personen sind davor geschützt, dass ihre Adressen weitergegeben werden. Es sei denn, die Polizei missbraucht die eigenen polizeilichen Datenbanken.

Das Gesetz wird zeigen müssen, ob in Zukunft härter gegen Hetze im Netz vorgegangen wird und ein besserer Schutz gewährleistet ist. Und die Plattformen müssen auch noch mitspielen. Dass strafbare Aussagen im Netz effektiv geahndet werden, dagegen hat sicher niemand etwas.

Trotzdem bleibt die Strafverfolgung im Netz ein schwieriges Terrain: Der Staat und auch die Europäische Union möchten möglichst jede Kommunikation mitlesen. Die Nutzer:innen möchten frei ihre Meinung äußern, in einem geschützten Umfeld ohne Hetze. Die Plattformen sind trotzdem voll davon. Auch ohne Overblocking bleibt ein riesiger Block an Arbeit. Lasst uns Tetris spielen!

#hatespeech #hassrede #uploadfilter #vorratsdatenspeicherung #überwachung #chatkontrolle #datenschutz #overblocking #netzdg