Auf Instagram teilen Menschen nicht nur Schönes. Dass Magersüchtige sich dort gegenseitig zum lebensbedrohlichen Abnehmen motivieren, wurde häufig beschrieben. Der Suizid einer jungen Britin lenkt die Aufmerksamkeit nun auf weitere düstere Instagram-Feeds. Darin finden sich Fotos von Selbstverletzungen und Posts mit Suizidgedanken. Im Rahmen eines stiftungsfinanzierten Forschungsprojektes hatte ZEIT-ONLINE-Autor und Datenjournalist Tin Fischer 2016 entsprechende Hashtags ausgewertet – die Rechercheergebnisse flossen in eine Studie des Universitätsklinikums Ulm ein. Aus aktuellem Anlass hat er die Ergebnisse von damals mit heute verglichen. Die Frage dahinter: Was tut Instagram wirklich, um Nutzerinnen und Nutzer vor gefährlichen Inhalten zu schützen?

Instagram, das oberflächlich so fröhlich-leichte Netzwerk, soll für den Tod einer 14-Jährigen mitverantwortlich sein. Das jedenfalls sagen die Eltern von Molly Russell – einem britischen Mädchen, das sich 2017 das Leben nahm. Ihre Tochter soll online mit Suizid-Communitys in Berührung gekommen sein, mit Menschen also, die auf Instagram Bilder von Selbstverletzungen teilen, von Depressionen und von ihren Suizidgedanken berichten.

"Social-Media-Unternehmen setzen junge Menschen durch ihre Algorithmen schädlichen Inhalten aus" – so wurde der Vater des Teenagers, Ian Russell, im Januar in britischen Medien vielfach aus einem Statement zitiert. Jemand, der sich für eine bestimmte Sportart interessiere, bekomme automatisch mehr Posts über diesen Sport angezeigt – genauso funktioniere das mit Themen wie Selbstverletzungen oder Suizid. Die Menschen gerieten immer stärker in diese unglückliche Welt auf Instagram.

Dass es dort große Communitys von Menschen mit selbstverletzendem und suizidalem Verhalten gibt, ist nicht neu. Unter einem naheliegenden deutschen Hashtag, das ZEIT ONLINE hier bewusst nicht noch einmal nennt, finden sich allein eine halbe Million Beiträge. Menschen veröffentlichten dort drastische Bilder von Wunden, die sie sich nach eigenen Angaben zugefügt haben. Der Fall der britischen Teenagerin hat dem Thema allerdings eine neue Dynamik gegeben: Seit ein Foto, das Molly Russell lässig in Schuluniform mit Krawatte zeigt, weltweit zu sehen ist, interessieren sich mehr Menschen für die traurige Seite von Instagram. Und sie fragen sich, welchen Einfluss das Netzwerk auf die Psyche hat, wenn Jugendliche dort etwa verstörende Fotos finden, auf denen zu sehen ist, wie Gleichaltrige sich ritzen.

Plötzlicher Aktivismus

Die 19-jährige "Miss England", Alisha Cowie, forderte in der britischen Boulevardzeitung Sun, dass solche Bilder geblockt werden müssten. Sie selbst habe wegen sozialen Medien mit Selbstverletzungen angefangen. Ebenso entschieden trat der britische Gesundheitsminister Matt Hancock in einem BBC-Interview auf: Die Netzwerke hätten diese Bilder zu entfernen – sollten sie das nicht tun, "müssen wir sie gesetzlich zwingen".

Dass Bilder von Selbstverletzungen zu Selbstverletzungen animieren können, also sozial ansteckend sind, halten Wissenschaftler und Wissenschaftlerinnen für zumindest plausibel. Offline ist das Phänomen gut belegt, etwa in Schulklassen oder psychiatrischen Einrichtungen (Archives of Suicide Research: Jarvi et al., 2013). Studien haben immer wieder belegen können, dass Selbstverletzungen und Suizidversuche wiederum stark korrelieren (Psychiatry Research: Nock et al., 2006). Aufgeschreckt von der medialen Aufmerksamkeit für den Fall der jungen Britin, dem so entstandenen öffentlichen Druck und den politischen Drohungen werden Instagram und Facebook nun aktiv.

"Ingenieure und geschulte Moderatoren arbeiten rund um die Uhr daran, dass es für Menschen schwieriger wird, Bilder von Selbstverletzungen zu finden", schrieb Instagram-Chef Adam Mosseri vergangene Woche in einem Gastbeitrag im britischen Telegraph. Künftig werde es sensitivity screens geben, die vor Bildern von Wunden und Narben angezeigt würden, damit diese nicht mehr sofort sichtbar seien. Die App werde außerdem keine entsprechenden Fotos, Hashtags oder Accounts mehr empfehlen: Wer häufig nach entsprechenden Hashtags sucht oder Accounts mit diesen Inhalten folgt, soll also nicht mehr automatisch ähnliche Beiträge angezeigt bekommen. Explizite Wundbilder will Instagram löschen. Wobei es Nutzerinnen und Nutzern weiter erlaubt sein soll, indirekte Posts über ihre seelischen Probleme zu verfassen.

Instagrams derzeitiger Aktionismus folgt auf Jahre der Untätigkeit und einem eher lockeren Umgang mit dem Bildmaterial. Das zumindest zeigt eine Studie des Universitätsklinikums Ulm (Psychological Medicine: Brown et al., 2018) – eine Arbeit, in die auch Daten einflossen, die der Autor dieses Artikels in einer Datenrecherche ausgewertet hatte. Die Kinder- und Jugendpsychologen untersuchten unter anderem, welche Beiträge unter einschlägigen Hashtags gepostet wurden, und werteten Fotos von Selbstverletzungen aus. Zusätzlich interviewten sie rund 50 Userinnen und User, die solche Fotos gepostet hatten. Eines der Ergebnisse: Fast 90 Prozent waren weiblich.

Aus Anlass des aktuellen Falls, hat der Autor für ZEIT ONLINE die Stichprobe von damals nun mit einer kleinen Stichprobe der vergangenen Wochen verglichen: Dabei fällt auf, dass unter einem damals untersuchten Hashtag heute zwar weniger Bilder als damals zu finden sind. Doch noch immer werden Bilder drastischer Schnittwunden präsentiert, meistens am Arm. Der Anteil milder, mittlerer und schwerer Wundgrade, die unter dem Hashtag zu sehen sind, hat sich nicht wesentlich verändert.

Ebenso unverändert: Instagrams Gemeinschaftsrichtlinien. Das soziale Netzwerk verbietet darin die Verherrlichung sowie den "Aufruf oder die Ermutigung zu Selbstverletzung". Nur sind solche Aktionen ohnehin selten. Verherrlichungen oder Aufrufe fanden die Studienautorinnen und -autoren des Universitätsklinikums Ulm bei der Analyse von 2.826 Wundbildern und den dazugehörigen Kommentaren fast keine. Die Bilder von Wunden scheinen eher als Signal zu dienen, dass es einer Person schlecht geht und sie reden möchte. Anders als im Fall von Accounts und Hashtags, unter denen sich Essgestörte zu Anorexie austauschen, haben die Fotos von Selbstverletzungen keinen Trophäencharakter, sie glorifizieren nichts. Das Problem liegt offenbar woanders: Je drastischer die Bilder sind, desto mehr Reaktionen erhalten sie. Betroffene haben also einen sozialen Nutzen davon, explizite Wunden zu posten. Nach Angaben von Userinnen und Usern in der Untersuchung löschte Instagram solche Bilder nur in den seltensten Fällen. Wenn sie doch verschwanden, dann entfernten die Betroffenen sie selbst.