An einem Tag im November hatte James Bridle die Nase voll. Der Künstler, der sich in seinen Werken viel mit der digitalen Welt beschäftigt, wollte eigentlich an seinem Buch arbeiten, das in diesem Jahr unter dem Titel New Dark Age erscheinen soll. Stattdessen schrieb er sich seinen Frust in einem Artikel von der Seele und stellte den Text auf die Website Medium. "Etwas stimmt nicht mit dem Internet" lautete der Titel. Zwei Millionen Menschen haben den Beitrag bislang gelesen.

Bridle steht nicht im Verdacht, ein Technikfeind zu sein. Seit seinem 13. Lebensjahr nutzt der heute 30-Jährige das Internet; im Selbststudium hat er sich die Techniken beigebracht, mit denen selbstfahrende Autos funktionieren. Sein Zorn richtete sich auch nicht primär gegen mangelnden Datenschutz oder nervige Online-Werbung. James Bridle, selbst kinderlos, sorgte sich um die Kinder.

In den Recherchen für sein Buch war er tief in eine Welt eingedrungen, die den meisten Erwachsenen unbekannt ist – selbst denen, die ihren Sprösslingen im Restaurant ein iPad in die Hand drücken, um Ruhe zu haben. Bridle entdeckte auf YouTube und im dazugehörigen Kinderkanal YouTube Kids Videos, die er erst skurril fand, dann aber regelrecht gefährlich. Es handelte sich nicht um ein Nischenphänomen, sondern um Filmclips, die millionen-, teilweise milliardenfach abgerufen worden waren.

Die harmloseren Videos waren Filme, in denen Kinder Spielzeug oder Überraschungseier auspacken. Einer der YouTube-Kanäle enthält über 4.000 dieser Videos, hat knapp sechs Millionen Abonnenten, seine Filmchen sind schon über sechs Milliarden Mal angesehen worden. Mit solchen Zahlen ist man unter den Top 100 der YouTube-Kanäle, nur Popstars haben noch mehr Klicks. Das heißt auch: Da vor den Auspack-Videos Werbung läuft, wird mit ihnen kräftig Geld verdient.

Interessant sind die Titel der Videos: etwa Surprise Play Doh Eggs Peppa Pig Stamper Cars Pocoyo Minecraft Smurfs Kinder Play Doh Sparkle Brilho. Eine Ansammlung von Produktnamen und Comicfiguren also, nach denen Kinder suchen. Man kann sich vorstellen, wie die hohen Zuschauerzahlen zustande kommen: Wenn ein Video zu Ende ist, startet ein Algorithmus automatisch den nächsten Film, den er als thematisch dazu passend einstuft, und bietet in einer Seitenleiste weitere verwandte Videos an. Ein Kleinkind, das einmal vor dem Bildschirm sitzt, ist für Stunden ruhiggestellt. Offenbar werden solche Videos am Fließband produziert – mit dem einzigen Ziel, Werbeumsätze zu generieren. Auch bei der Herstellung nutzen die Macher Algorithmen, die weitgehend ohne jede menschliche Kontrolle ablaufen.

Egal, ob es um hirnlose Kindervideos geht, um Falschmeldungen oder russische Wahlbeeinflussung: Zunehmend müssen sich die digitalen Plattformen fragen lassen, ob sie überhaupt noch einen Überblick über das haben, was sie da in die Welt gesetzt haben – oder ob ihnen längst wie Goethes Zauberlehrling jede Kontrolle abhandengekommen ist. Hochrangige Kenner der Szene wie der einstige Facebook-Berater Sean Parker rechnen mit den Internetgiganten ab. In Büchern beschreiben sie die negativen Folgen der Digitalisierung für Mensch und Gesellschaft. Selbst im technikverliebten Kalifornien ist die einstige Euphorie in Skepsis, ja teilweise Entsetzen umgeschlagen.

Etwa bei jenen Silicon-Valley-Insidern, die sich im Center for Humane Technology organisieren. Direktor Tristan Harris, der früher als Ethiker bei Google gearbeitet hat, sagte der New York Times: "Die größten Supercomputer der Welt stehen in zwei Konzernen – bei Google und Facebook – und worauf sind sie gerichtet? Wir zielen damit auf die Hirne von Menschen, von Kindern."

Die Schmuddelecken des Internets, in denen kleine Gruppen geschmackloses, pornografisches oder politisch radikales Material austauschen, sorgten schon immer für Diskussionen. Die jetzige Kritik ist grundsätzlicher. Sie nimmt das Geschäftsmodell der durch Werbung finanzierten Internetriesen ins Visier. Um die Nutzer bei der Stange zu halten und ihnen möglichst viel Werbung zu präsentieren, favorisieren deren Algorithmen teilweise abstruse und gefährliche Inhalte – und machen es gleichzeitig lukrativ, solche Inhalte zu produzieren. Plattformen wie Google (zu dem auch YouTube gehört) und Facebook müssen sich vorwerfen lassen, dass sie entweder nicht an der Beseitigung dieser Auswüchse interessiert sind oder dass sie nicht die Mittel haben, die bösen Geister in den Griff zu bekommen.

James Bridle ekelte sich, je stärker er in die Kinder-Videowelt von YouTube eintauchte. Da traten beliebte Comicfiguren wie Peppa Pig (in Deutschland: Peppa Wutz) in überhaupt nicht mehr kindgerechten Szenen auf und fraßen ihre Familienmitglieder. Da wurden andere bekannte Medienfiguren parodiert, persifliert und in einen gewalttätigen oder sexuellen Zusammenhang gestellt. Die Videos waren wahrscheinlich für Erwachsene gemacht. Doch offenbar konnte YouTubes Algorithmus die abstoßenden Fantasien nicht von den harmlosen Originalen unterscheiden. Man kann davon ausgehen, dass Millionen Kinder sich die Videos angeschaut haben.