Das Satiremagazin Titanic war wieder einmal ganz vorne mit dabei, aber auch verwunderte Journalisten und gleich mehrere AfD-Politiker – erst wenige Tage ist das umstrittene Netzwerkdurchsetzungsgesetz (NetzDG) in Kraft, schon sorgt es für Aufregung. Es geht um fälschlich gesperrte Inhalte, um die Zukunft der Meinungsfreiheit und die Pflichten von Netzwerken wie Facebook und Twitter.

Das Wichtigste dazu im Überblick:

Was steht in dem Gesetz?

Das Netzwerkdurchsetzungsgesetz (komplett: Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken) ist am 1. Januar 2018 in Kraft getreten. Die Anbieter sozialer Netzwerke, darunter Twitter, Facebook und YouTube, sind seitdem verpflichtet, "offensichtlich rechtswidrige Inhalte" innerhalb von 24 Stunden nach Eingang einer Beschwerde zu entfernen oder zu sperren. Für nicht offensichtlich rechtswidrige Inhalte haben sie sieben Tage Zeit. Kommen die Betreiber ihren Pflichten systematisch nicht nach, drohen Bußgelder in Millionenhöhe.

Wie kam es zustande?

Das NetzDG ist ein Projekt des Bundesjustizministers Heiko Maas (SPD). Nachdem im Jahr 2015 die Debatte über Hasskommentare in sozialen Netzwerken und deren oft nur zaghafte Löschung aufkam, rief Maas eine Taskforce ins Leben. Sie sollte mit den Unternehmen einen Maßnahmenkatalog gegen Hasskommentare erarbeiten. Weil die von Maas gewünschten Ergebnisse ausblieben, wurde das NetzDG auf den Weg gebracht und am letzten Sitzungstag der Legislaturperiode im vergangenen Sommer verabschiedet.

Was gilt als "offensichtlich rechtswidrig"?

Anleitungen zu schweren Straftaten, Volksverhetzung, die Verbreitung verbotener Symbole – das sind nur einige Beispiele für Beiträge, die nach dem NetzDG zu sperren sind. Wer es genau wissen will, findet im Gesetz: "Rechtswidrige Inhalte sind Inhalte, die den Tatbestand der §§ 86, 86a, 89a, 91, 100a, 111, 126, 129 bis 129b, 130, 131, 140, 166, 184b in Verbindung mit 184d, 185 bis 187, 201a, 241 oder 269 des Strafgesetzbuchs erfüllen." 

Konnte so etwas nicht schon vorher gemeldet werden?

Doch, denn in allen Fällen handelt es sich um in Deutschland strafbare Inhalte, die Nutzer sozialer Netzwerke den Betreibern als Verstoß gegen nationale Gesetze oder Community-Richtlinien melden konnten. Das NetzDG formalisiert diese lediglich und sieht vor, dass auch Nichtnutzer, also Besucher ohne Account, diese Inhalte etwa bei Facebook oder Twitter melden können. Zudem müssen die Betreiber einen inländischen Zustellungsbevollmächtigten stellen und deutlich schneller – eben binnen 24 Stunden – reagieren.

Wie melde ich etwas gemäß NetzDG?

Seit dem 1. Januar bieten die Netzwerke Nutzern und Besuchern ein zusätzliches Formular an, um Inhalte gemäß des NetzDG melden zu können. Bei Twitter heißt das buchstäblich "covered by Netzwerkdurchsetzungsgesetz", bei Facebook "NetzDG-Meldeformular", bei YouTube "Melden von Inhalten im Rahmen des Netzwerkdurchsetzungsgesetzes". Die Nutzer müssen angeben, gegen welche Paragrafen die Inhalte verstoßen; Facebook empfiehlt, sich juristische Hilfe zu nehmen.

NetzDG-Meldung auf Twitter © Twitter / Screenshot ZEIT ONLINE

Was passiert, wenn ein Beitrag gemeldet wird?

Zunächst wird dieser Beitrag an das entsprechende Moderationsteam des Anbieters weitergeleitet und dort überprüft. Der Urheber des Beitrags wird informiert, ob – aus Sicht des Prüfenden – ein Verstoß stattgefunden hat. Ist dem so, wird der Inhalt von der Plattform entfernt oder für Besucher mit einer deutschen IP-Adresse gesperrt. Auf Twitter erscheint beispielsweise ein Hinweis, dass ein Tweet aufgrund lokaler Gesetze entfernt wurde.

Können Entscheidungen rückgängig gemacht werden?

Vermutlich, denn die von einer Löschung betroffenen Urheber können sagen, ob sie die Entscheidung anfechten möchten. Dann dürfte der Fall an die Rechtsabteilung der Unternehmen weitergeleitet werden und noch einmal überprüft werden. Wie dieser Prozess genau aussieht und ob Streitfälle letztlich vor Gericht landen könnten, müsste ein Präzedenzfall zeigen. Bei Meldungen nach den bestehenden Community-Richtlinien kommt es jedenfalls regelmäßig vor, dass gelöschte Inhalte nach erneuter Überprüfung wiederhergestellt werden.

Kann das System missbraucht werden?

Mit Sicherheit, denn das Gesetz sieht keine Konsequenzen vor für Menschen, die legale Inhalte fälschlicherweise melden. Es gibt also keine Möglichkeit, dem Missbrauch durch Internettrolle oder zugunsten politischer Propaganda vorzubeugen. Twitter warnt seine Nutzer lediglich, dass wiederholtes falsches Melden zur Accountsperrung führen kann, was aber keine direkte Konsequenz des NetzDG ist.

Wer überprüft die Inhalte?

Um auf die kürzeren Fristen reagieren zu können, mussten die Plattformbetreiber Personal aufstocken. Facebook betreibt inzwischen zwei Löschzentren in Deutschland. Eines wird in Berlin vom Dienstleister Arvato betrieben, ein zweites mit 500 weiteren geschulten Mitarbeitern der Firma Competence Call Center wird gerade in Essen errichtet. Über den Standort und die Größe der Teams von Twitter und YouTube ist nichts bekannt. 2016 berichtete die Süddeutsche Zeitung über die schlecht bezahlte und psychisch anstrengende Arbeit in Facebooks Löschzentrum. Bei den Mitarbeitern handelt es sich dort zwar um geschultes Personal, aber in der Regel nicht um Juristen.

Ein Mitarbeiter spielt also Richter?

Nicht ganz, aber er entscheidet zumindest im ersten Moment, welche Inhalte gesperrt werden und welche nicht. Ein Facebook-Sprecher sagte dem Portal Motherboard, die Prüfung werde von einem Mitarbeiter vorgenommen, aber stichprobenartig werde das Vier-Augen-Prinzip eingesetzt. Die Unternehmen sind übrigens nur in Ausnahmefällen, etwa im Fall von Kinderpornografie, angewiesen, die Strafverfolgungsbehörden zu informieren. Wer also etwa auf Facebook bedroht wird, muss von sich aus die Polizei einschalten.

Führt das NetzDG zu "Overblocking"?

Die Gegner des NetzDG kritisieren, dass mit dem Gesetz die Rechtsdurchsetzung an private Unternehmen delegiert wird. Markus Beckedahl von netzpolitik.org sagte dazu: "Es überträgt denjenigen, die in ihrer Macht eigentlich beschränkt werden sollen, eine zentrale rechtsstaatliche Verantwortung." Die befürchtete Konsequenz ist, dass künftig mehr Inhalte gelöscht werden, die gar nicht gegen die erwähnten Paragrafen verstoßen. Vereinfacht gesagt: Um sich nicht strafbar zu machen und Bußgelder zahlen zu müssen, könnten die Unternehmen dazu tendieren, im Zweifelsfall lieber etwas mehr zu löschen als zu wenig.

Wie kann "Overblocking" aussehen?

Schon in den ersten drei Tagen wurden Inhalte fälschlicherweise gelöscht. So wurde ein ironischer Tweet der Journalistin Sophie Passmann gelöscht. Sie hatte geschrieben: "Solange es hier weiter Tradition ist, an Silvester Dinner for One zu gucken, können die Flüchtlinge gerne herkommen und unsere Kultur kaputt machen." Das Satiremagazin Titanic hatte in einem Tweet die AfD-Politikern Beatrix von Storch als Urheber ausgegeben und wurde ebenfalls gesperrt. In beiden Fällen handelte es sich um Ironie beziehungsweise Satire, doch die jeweiligen Moderatoren von Twitter erkannten den Kontext offenbar nicht.

Beatrix von Storch selbst hatte in einem Tweet von "barbarischen, muslimischen, gruppenvergewaltigenden Männerhorden" geschrieben, was unter dem Aspekt der Volksverhetzung ebenfalls gesperrt wurde. Doch Experten wie der Professor Matthias Jahn glauben, der Tweet sei gar kein Fall für das Strafrecht, weil er im Kontext genug Interpretationsspielraum biete. Das Beispiel zeigt: Selbst auf den ersten Blick eindeutig strafbare Äußerungen sind möglicherweise juristisch haltbar, was die Rolle der Moderatoren nicht leichter macht.

Bedroht das Gesetz also die Meinungsfreiheit?

Vor allem die AfD-Fraktion inszeniert sich in den ersten Tagen nach Inkrafttreten des Gesetzes als mutmaßliches Zensuropfer, nachdem Tweets mehrerer Parteimitglieder zurückgezogen wurden. AfD-Chef Alexander Gauland sprach von einem "Zensurgesetz" und "Stasi-Methoden". Justizminister Heiko Maas verteidigte das NetzGD: "Die Meinungsfreiheit ist kein Freibrief, um Straftaten zu begehen". Tatsächlich verändert sich durch die neue Regelung nichts an der Tatsache, dass Plattformanbieter auf strafbare Inhalte reagieren müssen, sobald sie darüber informiert werden (§10 Telemediengesetz). Bislang wurde das nur weniger streng durchgesetzt. Das NetzDG an sich schränkt also nicht die Meinungsfreiheit ein. Gleichwohl kann die Umsetzung in der Praxis aufgrund des Drucks auf die Anbieter zu mehr gelöschten und vor allem zur Löschung eigentlich legaler Beiträge führen und somit eine zensierende Wirkung entfalten.

Hilft das Gesetz gegen Hass im Netz?

Das eigentliche Ziel des NetzDG wird in der aktuellen Debatte häufig vergessen. Es ist zu früh zu sagen, ob Hassbotschaften in sozialen Netzwerken dadurch spürbar abnehmen. Möglicherweise werden sich die Sperrungen nach der ersten Aufregung auf dem bisherigen Niveau einpendeln, sobald die Moderationsteams ein besseres Gespür entwickelt haben. Sie werden dann löschen wie gehabt, nur schneller. Gut möglich auch, dass Nutzer, die jetzt gerade motiviert sind, viele Meldungen zu machen, dem schnell überdrüssig werden und das Gesetz nicht die gewünschte Wirkung zeigt.

Schlimmstenfalls könnte aber auch eintreten, was Kritiker befürchtet haben: Das unausgegorene und schnell durch den Bundestag gepeitschte "PR-Internetgesetz", wie es Sascha Lobo nennt, würde von Trollen und Propagandisten dazu ausgenutzt, die Meinung Andersdenkender zensieren zu lassen – mithilfe der sozialen Netzwerke. Mal ganz abgesehen davon, ob das Gesetz wirklich den Opfern hilft: Mehr Möglichkeiten, gegen Bedrohungen vorzugehen, gibt es allenfalls über den neuen Zustellungsbevollmächtigten, dessen Befugnisse aber noch gar nicht genau definiert sind.

Kann das Gesetz wieder gekippt werden?

Theoretisch ja, aber praktisch ist das schwierig, denn eine Kehrtwende von CDU und der SPD ist auch in einer neuen Regierungskoalition unwahrscheinlich. Zu den Gegnern des NetzDG zählen derzeit die FDP, die Linke und die AfD. Die FDP hatte sich zunächst in den Sondierungsgesprächen für eine Abschaffung ausgesprochen, kurz vor dem Scheitern der Gespräche war aber nur noch von einer "Neuregelung" die Rede. Die Linke plädierte im Dezember im Bundestag für eine "Teilaufhebung", die AfD-Fraktion kritisierte es als "Eingriff in das Recht der freien Meinungsäußerung", instrumentalisiert es aber wie erwähnt derzeit auch, um sich als mutmaßliches Zensuropfer zu inszenieren.