Und dann will das BKA an Ihr Passwort – Seite 1

Stellen Sie sich vor, Facebook würde das Passwort Ihres Kontos an das Bundeskriminalamt verraten. Vielleicht verschlüsselt, aber ohne, dass Sie darüber informiert würden. Klingt nach ferner dystopischer Zukunft? Könnte aber schon bald Realität werden. Hier, in Deutschland.

Zumindest wenn es nach der Bundesregierung geht. Die nämlich lässt am Donnerstag im Bundestag einen Gesetzentwurf diskutieren, der Rechtsextremismus und Hasskriminalität in sozialen Netzwerken bekämpfen soll. Was erst einmal sinnvoll klingt – in der konkreten Umsetzung aber massiv in unsere Grundrechte eingreifen könnte.

Das erklärte Ziel des Gesetzentwurfes ist es, Hetze, verrohte Sprache und Beleidigungen im Netz zu reduzieren. Besonders gegen Beiträge und Kommentare, mit denen andere bedroht oder eingeschüchtert werden sollen, soll konsequenter vorgegangen werden.

Es ist der zweite Anlauf binnen weniger Jahre: Schon 2018 wurde das Netzwerkdurchsetzungsgesetz (NetzDG) eingeführt, das von Plattformen verlangt, juristisch unzulässige Beiträge und Kommentare zu löschen. Zwar verschwanden dadurch manche Posts, doch mit Strafen mussten die Verfasserinnen und Verfasser nicht unbedingt rechnen. Weil die bisherige Regelung nicht den gewünschten Effekt brachte, will die Regierung nun nachlegen – mit einem Gesetzentwurf, durch den derartige Inhalte strafrechtlich effektiver verfolgt werden können sollen.

Plattformen müssen mehr petzen

Dazu führt der Gesetzentwurf mehrere Neuerungen ein: Plattformen wie Facebook und Twitter müssen künftig rechtswidrige Inhalte an das Bundeskriminalamt (BKA) melden. Darunter fallen unter anderem Beiträge, in denen einer Person Gewalt angedroht oder in denen derartige Drohungen gebilligt werden. Doch nicht nur der Inhalt geht dann an die Behörde. Die Plattformen sollen auch noch weitere Angaben aushändigen müssen: erstens die IP-Adresse, über die ein Netzwerk eindeutig identifiziert werden kann, zweitens die Portnummer, einen Teil der Netzwerkadresse. Letztere könnte zum Beispiel helfen, in öffentlichen WLANs oder Mobilfunknetzen einzelne Nutzerinnen herauszufiltern.

Wer verstehen will, wie heftig dieser Eingriff ist, der muss gar nicht sehr weit zurückblicken: Kurz vor der Europawahl 2019 demonstrierte der Kurznachrichtendienst Twitter, wie schwer es ihm offenkundig fällt, mit den Feinheiten von Sprache und Ironie umzugehen. Damals nämlich sperrte der Dienst mehrere Konten wegen Tweets, die sich zum Beispiel satirisch äußerten. Auf einer Plattform, die immer wieder in die Kritik gerät, weil sie rassistische Beiträge unberührt stehen lässt, obwohl Nutzer sie gemeldet haben.

Viele Kritiker sehen ein Problem darin, dass Twitter oder Facebook entscheidet, welche Inhalte und Nutzerinnen rechtswidrig genug sind, um sie zu entfernen und zu sperren. Das ist ein Prinzip, das sich im nun geplanten Gesetz fortsetzt. Nur: Trifft das Unternehmen nun eine Fehlentscheidung, welcher Post gesetzeswidrig ist, dann wird nicht nur der Inhalt gelöscht, auch die Daten seiner Autorin werden womöglich an die Strafverfolgungsbehörden weitergereicht. Obwohl sie vielleicht gar nichts Unzulässiges getan hat. Und selbst wenn das nicht der Fall wäre: Jemanden digital derartig nackig machen – ist das wirklich verhältnismäßig für einen Hasskommentar?

Noch mehr Auskünfte sollen die Behörden verlangen dürfen, wenn es um besonders schwere Straftaten oder um eine konkrete Gefahr für Leib, Leben oder Freiheit einer Person geht. Wenn sie einen Gerichtsbeschluss haben, sollen Ermittlungsbehörden auch das Passwort eines Nutzers oder einer Nutzerin bei einer Plattform anfordern dürfen. Dabei geht es nicht nur um Logins zu sozialen Netzwerken, sondern auch zu Konten von Cloud-Diensten – wie etwa der Apple-Cloud. Die betroffenen Personen erfahren davon nichts, weil die Unternehmen darüber zum Stillschweigen verpflichtet sind.

Auch wenn die Passwörter eigentlich nur zu einem bestimmten Zweck übermittelt wurden, beispielsweise wegen eines rechtswidrigen Posts, können sie für andere Zwecke weiter gespeichert bleiben. Im Entwurf heißt es dazu, dass die "Voraussetzungen für eine zweckändernde Weiterverwendung" erfüllt sein müssten. Was das bedeutet, ist noch nicht ganz klar. Legt man den Passus großzügig aus, könnte er heißen: Findet man noch was anderes in den Daten, darf man auf Basis dessen weiter in den Daten der Nutzerinnen und Nutzer rumwühlen.

Meist nicht im Klartext

Eine entscheidende Einschränkung gibt es jedoch: Die Datenschutz-Grundverordnung verlangt von Unternehmen, Passwörter nicht im Klartext zu speichern, sondern zu verschlüsseln. Was gerade die großen Plattformen, denen wir so große Teile unseres Privatlebens anvertrauen, aber auch die meisten anderen Firmen tun. Was wiederum bedeutet: Statt eines einsatzbereiten Passwortes bekämen die Behörden Zeichensalat zugestellt, mit dessen Hilfe man sich nirgendwo anmelden kann. Sie müssten also großen Aufwand betreiben, um ein Passwort wirklich nutzen zu können. Oft wird es ihnen überhaupt nicht gelingen.

Auch die IP-Adresse lässt sich verschleiern, etwa indem man ein Virtual Private Network (VPN) benutzt oder über den Tor-Browser im Netz surft. In beiden Fällen wird der Standort eines Rechners in einem Netzwerk verschleiert, in dem eine Anfrage über einen oder mehrere andere Server umgeleitet wird.

"Der Staat robbt sich in die persönliche Autonomie vor"

Trotzdem sehen Expertinnen und Experten in dem Gesetzentwurf zum Kampf gegen Hassrede im Netz einen massiven Eingriff in die Grundrechte der Menschen – etwa in das Fernmeldegeheimnis und das allgemeine Persönlichkeitsrecht. "Der Staat robbt sich immer weiter in den Bereich der persönlichen Autonomie seiner Bürgerinnen und Bürger vor", sagt Jeanette Hofmann, Leiterin der Forschungsgruppe Politik der Digitalisierung am Wissenschaftszentrum Berlin für Sozialforschung.

Die Maßnahmen seien absolut unverhältnismäßig, so Hofmann – schon bei einer bloßen Ordnungswidrigkeit würden nun sensible Daten an Behörden weitergegeben. "Wir müssen einkalkulieren, was solche Gesetze bedeuten, wenn wir eine populistische, illegitime Regierung bekommen", sagt Hofmann. Die Missbrauchsmöglichkeiten würden mit jeder weiteren Befugnis wachsen.

"Für die Passwortabfrage gibt es keinen legitimen Use Case, jedenfalls nicht in diesem Kontext", sagt auch Ulf Buermeyer, Richter am Landgericht in Berlin, im Digitalpodcast von ZEIT ONLINE. Mit einem Passwort könne man die komplette Onlineidentität einer Person übernehmen. Ginge es um ein Diskussionsforum des örtlichen Kleingartenvereins, sei das vielleicht noch in Ordnung. Aber am Passwort für eine Apple-ID hänge alles – Chatnachrichten und Back-ups zum Beispiel. Der Eingriff sei vergleichbar mit einer Onlinedurchsuchung – einer scharfen Maßnahme, bei der Strafverfolgungsbehörden mit Hilfe von Spionagesoftware im Rechner eines Verdächtigen herumstöbern dürfen. Zulässig ist das aber nur nach richterlicher Anordnung. 

Ein großes und grundsätzliches Problem am aktuellen Gesetzentwurf sieht Buermeyer darin, dass die Entscheidung, welche Inhalte zu löschen und strafrechtlich zu verfolgen seien, an die Plattformen übertragen werde. Das Bundeskriminalamt beginne darüber hinaus, Daten über Nutzerinnen und Nutzern zu speichern, die sich potenziell der Hasskriminalität schuldig gemacht haben. Doch zu dem Zeitpunkt hat noch kein Gericht darüber entschieden, ob jemand überhaupt eine Straftat begangen hat.

Dieses Grundproblem hat auch das Netzwerkdurchsetzungsgesetz (NetzDG), der erste Versuch, dem Problem der Hassrede im Netz beizukommen: Es zielt darauf ab, dass Plattformen Hasskommentare schneller entfernen. Auch damals schon nach Selbsteinschätzung und ohne dass ein Gericht mitentscheiden musste. Der Effekt ist bis heute überschaubar. Die Netzwerke dokumentieren jetzt zwar, wie viele Beiträge sie gelöscht haben: Bei Facebook gingen rund 3.000 Beschwerden im zweiten Halbjahr 2019 ein, gut 1.000 Beiträge wurden daraufhin gesperrt oder entfernt. Bei Twitter waren es mehr als 840.000 Beschwerden, in fast 140.000 Fällen ergriff man Maßnahmen. Viel ist das allerdings nicht – und passiert ganz nach dem Ermessen der plattformeigenen Moderationsabteilungen. Warum die etwas entfernen oder nicht, warum ein Konto gesperrt wird oder nicht, bleibt im Alltag oft rätselhaft. Schon kurz nach der Einführung des Gesetzes sperrte Twitter das Konto des Satiremagazins Titanic, offenbar auf Basis des NetzDG – wegen eines satirischen Tweets.

Dass es bei diesem Gesetz Nachbesserungsbedarf gibt, sieht scheinbar auch das Bundesjustizministerium und arbeitet parallel zu dem Gesetzentwurf zur Bekämpfung der Hasskriminalität auch an einem Update fürs NetzDG. Danach sollen die sozialen Netzwerke künftig nicht nur angeben müssen, wie viele Fälle ihnen gemeldet und wie viele Beiträge gelöscht wurden. Sie sollen auch angeben, welche Gruppen besonders vom Hass im Netz betroffen sind und welche sich online besonders häufig hasserfüllt äußern. Meldet jemand einen Beitrag und dieser wird nicht gelöscht, kann man von dem Netzwerk künftig verlangen, dass es den Fall noch mal prüft. Erneut überprüft wird auch, wenn jemand beanstandet, dass ein Beitrag zu Unrecht gelöscht wurde.

Plattformen müssen es laut des Entwurfs für das nachgebesserte NetzDG ermöglichen, dass Nutzerinnen und Nutzer Beiträge schneller melden können, die ihrer Ansicht nach rechtswidrig sind. Hinweise auf diese Möglichkeit dürfen nicht auf den Seiten der Plattformen versteckt werden oder unverhältnismäßig kompliziert sein. So steht es im Referentenentwurf, den das Bundesjustizministerium Ende Januar veröffentlichte.

Alles Maßnahmen, die es einfacher, transparenter machen, wie die Plattformen gegen Hassrede vorgehen. Ebenso wie beim anderen Gesetzesvorhaben gegen Hasskriminalität werden aber auch hier lediglich die Symptome behandelt, statt die tieferen gesellschaftlichen Ursachen von Hassrede online anzugehen.

Was war nochmal die Frage?

Beide aktuellen Gesetzesentwürfe sollen eigentlich gegen eine Verrohung der Debattenkultur vorgehen. Womit sie sich tatsächlich ein reales Problem vorgenommen haben, das zu unterschätzen gefährlich wäre: Konzertierte Posts gegen Individuen oder Minderheiten können diese zum Verstummen zu bringen. Ebenso wie Drohungen gegen Einzelne. Immer schwebt auch die Mutmaßung mit, dass Hetze im Netz Radikalisierung befeuern könnte. Nur: Dieses Problem wird wohl weder ein Vorschlag lösen, der tief in die Bürgerrechte eingreift, noch einer, der zuerst Plattformen und nicht Gerichte entscheiden lässt, welche Inhalte gar nicht gehen.

Überhaupt ist es zunächst einmal fraglich, ob es für die Verfolgung von Beleidigung, Bedrohung und Volksverhetzung tatsächlich neue Straftatbestände braucht. Unterscheidet sich die Situation im Netz so fundamental von der im Analogen? Bisher scheint es eher so, als würden nicht Gesetze fehlen, sondern als seien vor allem die Strafverfolgungsbehörden unterbesetzt und könnten deshalb nicht gegen Hassrede vorgehen. Vor allem das Gesetzesvorhaben gegen Hasskriminalität dürfte dazu führen, dass den Strafverfolgungsbehörden weit mehr Hassrede-Meldungen vorgelegt werden als bislang – was die derzeitige Situation noch verschärfen dürfte. Und so klagt der Deutsche Richterbund in einer Stellungnahme: "Mit dem vorhandenen Personalbestand dürfte die zu erwartende Vielzahl von Meldungen kaum effektiv zu bewältigen sein."

Nicht weniger Hass, sondern nur weniger sichtbarer Hass

Hinzu kommt: Spätestens wenn sich die Debatte in geschlossene Gruppen bei WhatsApp, Discord oder anderen Diensten verlagert, sind justiziable Posts nicht nur für die Öffentlichkeit unsichtbar, sondern finden in einem Umfeld statt, das für die Radikalisierung von Nutzerinnen und Nutzern vielleicht noch viel geeigneter ist als öffentliche Räume auf Twitter oder Facebook. Oder anders formuliert: Der Gesetzgeber hinkt hinter dem Kommunikationsverhalten der Nutzerinnen und Nutzer einmal mehr her.

Und vielleicht am wichtigsten: Eine Verrohung von Sprache und Debatten entsteht ja nicht erst durch rechtswidrige Posts. Wer die Intelligenz oder die Kompetenz einer Person infrage stellt, beleidigt sie nicht zwangsläufig. Wer mit Gleichgesinnten massenhaft unter einem Beitrag kommentiert, bedroht jemanden noch lange nicht. "Das Grundproblem ist: Nur ein Teil der Hassrede ist so explizit verfasst, dass man sie belangen kann", sagt die Medienpsychologin Diana Rieger, Professorin am Institut für Kommunikationswissenschaft in München. Was ist zudem mit Links auf hetzerische oder beleidigende Inhalte? Drücken die schon ausreichend Zustimmung für den Inhalt aus, um rechtlich belangt werden zu können?

Das Grundproblem ist: Nur ein Teil der Hassrede ist so explizit verfasst, dass man sie belangen kann.
Medienwissenschaftlerin Diana Rieger

Das geplante Gesetz sei keine Antwort auf das Problem mit Hasskriminalität, sagt auch Jurist Ulf Buermeyer. Denn beide Entwürfe verringern das Problem nicht, sie helfen lediglich dabei, Hasskriminalität im Nachhinein zu verfolgen. Sodass sie weniger lange sichtbar ist. Das aber spielt in der Logik sozialer Netzwerke eine untergeordnete Rolle. Denn dann ist der Hass schon ausgesprochen, dann hat er Menschen schon erreicht.

Wird nur im Nachhinein gelöscht, spiele das auch Gruppen in die Karten, die ohnehin der Ansicht seien, dass man nichts mehr sagen dürfe, sagt Rieger. Durch das NetzDG könnten sie das Narrativ der Zensur weiterverbreiten. Das wiederum könnte auch bedeuten: Die Gruppen nutzen künftig andere Wege, Menschen zu beleidigen und zu bedrohen. Oder sie passen ihre Beiträge so an, dass sie nicht mehr unter das NetzDG fallen, Menschen aber noch immer einschüchtern. Geholfen wäre damit niemandem.

Ein Problem, das auch die Grünenpolitikerin Renate Künast sieht. Das geplante Gesetz zur Hasskriminalität sei nicht die richtige umfassende Antwort, sagt sie. Gemeinsam mit ihren Parteikollegen hat sie daher einen Antrag in den Bundestag eingebracht, in dem sie den Gesetzentwurf scharf kritisiert. Er greife nicht nur zu kurz, sondern weite auch Befugnisse "in weder zielführender noch verhältnismäßiger Weise" aus, heißt es in dem Papier, das ZEIT ONLINE vorliegt.

Konkret fordern die Grünen, dass Passwörter und andere Zugangsdaten nicht weitergegeben, sämtliche Informationen und Daten nur zweckgebunden verwendet werden dürfen und zeitnah gelöscht werden müssen. Es dürften keine Datensammlungen beim Bundeskriminalamt entstehen. Nur im Falle eines Anfangsverdachts wollen die Grünen dort Daten speichern und verarbeiten lassen. Nutzerinnen und Nutzer sollten einen "unbeschränkten" Anspruch darauf haben zu erfahren, ob Kommentare oder Beiträge von ihnen gerade vom Bundeskriminalamt geprüft werden oder ob Daten gespeichert oder verarbeitet wurden und zu welchem Zweck. Der bisherige Entwurf sieht das nicht vor.

Und was sonst?

Bei aller Kritik an den Ansätzen der Regierung bleibt jedoch die Frage, wie man das offenkundige Problem der Beleidigungen und Schmähungen im Netz, der Radikalisierung und Volksverhetzung auf den Plattformen großer und kleiner Internetanbieter denn sonst angehen könnte. "Ich würde mir wünschen, dass man nicht mit dem Strafgesetz kommt, sondern mehr Opferschutz bietet und Prävention fördert", sagt Jeanette Hofmann. Das könne zum Beispiel bedeuten, dass man Hilfestellen für Opfer schaffe und Medienkompetenztraining für Schülerinnen und Schüler anbiete.  

Die Grünen werden in ihrem Antrag noch konkreter: Hass und Hetze im Netz seien nicht vorrangig ein strafrechtliches Problem – rechtsextreme Gruppen wüssten genau, wie sie hasserfüllte Kommentare an der Grenze zur Strafbarkeit formulieren könnten. Stattdessen brauche es unter anderem Beratungsstellen für Opfer und eine Bundeszentrale für digitale und Medienbildung, damit Menschen Inhalte im Netz kritisch hinterfragen und verfälschte Informationen besser erkennen können. Die Forderungen sind nicht neu, setzen aber zumindest sehr viel früher an als das nun diskutierte Gesetz. Wissenschaftlerin Rieger ergänzt, dass es eine Ermächtigung der Nutzerinnen und Nutzer brauche und mehr Zivilcourage auch in Onlinekommentaren.

Alles Möglichkeiten, von denen man im Justizministerium offenkundig nicht überzeugt ist. Welche Alternativen es für ihren Vorschlag gebe, muss für den Entwurf standardmäßig vermerkt werden. Im Referentenentwurf zur Überarbeitung des NetzDG heißt es: keine.