Der Christchurch-Appell läuft damit in die gleiche Falle wie zahlreiche andere Versuche, mit denen man Desinformation, Extremismus und Gewaltexzesse von digitalen Plattformen verbannen wollte: Der Aufruf verlässt sich darauf, das Problem mit Technologie zu lösen. Dieses blinde Vertrauen in die magische Fähigkeit von Computern, menschengemachte Probleme verschwinden zu lassen, ist aber immer noch naiv. Facebook nutzt schon heute eine Software, die Videos auf Auffälligkeiten scannt. Dafür hat das Netzwerk sie mit Bildern von Terroranschlägen oder auch Vergewaltigungen trainiert. Die Software sucht Inhalte nach Ähnlichkeiten ab, auffällige Videos werden automatisiert markiert und ein Mensch prüft dann, ob tatsächlich ein Verstoß vorliegt. Im Fall des Christchurch-Attentäters versagte das System allerdings, vielleicht auch der Mensch, der das Video kontrollierte.

Ein ehrenwerter Versuch

Stellt man die Software jetzt schärfer ein, dann könnte das geschehen, was YouTube bei dem Brand von Notre-Dame erleben musste: Damals erkannte das System, das eigentlich Desinformationen bekämpfen soll, zwei brennende Türme – und blendete unter den Videos aus Paris erklärende Hinweise zum 11. September ein. Ein Algorithmus kann aktuell höchstens Muster bestimmen und auf sie reagieren. Mehr nicht. Und selbst wenn ein System dann anschlagen würde, wenn tatsächlich ein Mensch zu Schaden gekommen wäre, wäre es im Grunde zu spät: Selbst wenn der Livestream abrupt abbrechen würde, verschwinden Inhalte, die einmal im Netz sind, leider nur in seltenen Fällen wieder komplett. Statt der gesamten Tat würde sich dann eben nur der eine Mord im Netz weiterverbreiten.

Man könnte jetzt argumentieren, dass man Livestreams dann komplett aus sozialen Netzwerken verbannen sollte. Das wäre möglicherweise hilfreich, löst aber auch nicht automatisch das Problem. Wer ein Video live übertragen will, wird einen Weg im Netz finden. Und wird irgendwo ein Video gehostet, kann man den Link dazu natürlich auf Facebook oder Twitter teilen. Für die großen Plattformen könnte es sogar noch schwieriger werden, extremistische Übertragungen dann schnell zu erkennen, weil sie externe Links noch schwieriger prüfen können.

Trotzdem ist es zu einfach, die Initiative von Ardern nur zu kritisieren. Die neuseeländische Staatschefin hat schon kurz nach dem Terroranschlag empathisch und entschlossen reagiert, hat zum Beispiel binnen kürzester Zeit strengere Waffengesetze auf den Weg gebracht. Natürlich werden sie Attentate nicht komplett verhindern können, genauso wenig wie jetzt der Christchurch-Appell. Es gibt keine absolute Kontrolle über Menschen und die sollte es auch nicht geben. Allerdings wäre es zynisch, Arderns Bemühungen deshalb als hoffnungslos abzutun. Sie senden zumindest ein imposantes Warnsignal an terroristische und extremistische Gruppierungen. Und wenn man die vielleicht auch nicht komplett abschrecken kann: Versuchen sollte man es auf jeden Fall.