Nicht mal zwanzig Minuten sind vergangen, schon spricht Danah Boyd vom Krieg. Vom Kulturkrieg, um genau zu sein. Die amerikanische Medienwissenschaftlerin hat am heutigen Mittwoch mit ihrer Keynote die zwölfte re:publica in Berlin eröffnet. Dabei hat sie ein düsteres Bild der vernetzten Gesellschaft gezeichnet, in der Populismus immer prominenter wird – dank fleißiger Mithilfe von führenden Technikunternehmen und den Medien.

Das knallt zum Auftakt. Zumal die re:publica, die wohl wichtigste Digitalkonferenz Europas, auch ein Ort ist, an dem sich Medienschaffende, Start-up-Gründer, Datenschützer und grundsätzlich digital aktive Menschen gerne selbst feiern und reden hören. Doch die re:publica wird von Jahr zu Jahr politischer. Und damit kritischer der Technik gegenüber.

"Algorithmen unterstützen nicht zwangsweise eine Welt, in der wir gerne leben möchten", sagt Boyd und fasst damit einen der Schwerpunkte der diesjährigen Konferenz zusammen: In zahlreichen Vorträgen und Diskussionsrunden geht es um die Frage, wie Algorithmen, Big Data und zunehmend auch künstliche Intelligenz (KI) unser Zusammenleben bestimmen. Wer trägt die Verantwortung, wenn etwas schiefläuft? Und wie können wir es besser machen?

Wie Algorithmen missbraucht werden

Algorithmen und künstliche Intelligenz seien inzwischen die Antwort auf alles, beginnt Boyd ihren Vortrag. Über die moralischen Konsequenzen der Technik allerdings werde noch immer zu wenig nachgedacht: "Dabei sehen wir doch gerade, wie das System im großen Stil missbraucht wird."

Um das zu illustrieren, hat die Medienwissenschaftlerin mehrere Beispiele mitgebracht. Sie beschreibt in ihrem Vortrag, wie es Rechtspopulisten immer wieder gelingt, Diskurse im Internet zu bestimmen und einzelne Ausdrücke zu besetzen. Stichwort Fake-News. So führe der an sich neutrale Suchbegriff "black on white crime" in Suchmaschinen unweigerlich zu rechtsextremen Seiten, weil deren Betreiber geschickt die Suchalgorithmen manipulierten. "Rote Pillen" nennt Boyd diese Themen, in Anspielung auf den Film Matrix, die Menschen gezielt in eine eigene Welt locken sollen. Die Suchalgorithmen von Google, Facebook und anderen sozialen Netzwerken würden fleißig mithelfen.

Ebenso die Medien, die zunehmend anhand des "Buzz" im Internet ihre Berichterstattung ausrichteten. Nach dem Amoklauf von Sutherland Springs schrieb etwa das US-Portal Newsweek auf seiner Website: "Die Antifa steckt hinter den Morden von Sutherlands Springs, mutmaßen rechte Medien." Der Attentäter hatte zwar nichts mit der Antifa zu tun, doch eine krude Theorie hatte es in die Mainstream-Medien geschafft. Man sehe an solchen Beispielen, wie es Randgruppen gelinge, das "Wissen zu destabilisieren" und die "Aufmerksamkeitsökonomie zu hacken", sagt Boyd.

Und nicht zuletzt seien Algorithmen und KI nicht nur zu manipulieren, sondern sie könnten schlimmstenfalls von vornherein diskriminierend sein, weil die ihr zugrunde liegenden Datensätze oder ihre Entwickler nicht divers genug sind. Welche Auswirkungen das haben könnte, etwa für Flüchtlinge oder Gesellschaftsgruppen wie Straftäter, die von Software erfasst und kategorisiert werden, begännen wir nur langsam zu verstehen. "Wir erleben eine Machtverschiebung hin zu den Technologiefirmen", sagt Boyd am Ende ihres Vortrags. Und auch wenn es nicht ihre Absicht sei, so sei es die Anwendung der Technik, die derzeit für zahlreiche Probleme sorge.

Chelsea Manning ist der Stargast

Ähnlich sieht das Chelsea Manning. Die amerikanische Whistleblowerin, die vor einem Jahr aus der Haft entlassen wurde, ist der Stargast auf der diesjährigen re:publica und zum ersten Mal in Berlin. "Big Data entscheidet immer häufiger, wie unser Leben verläuft", sagt Manning im Gespräch auf der Bühne. Unternehmen wie Google und Facebook würden Probleme wie Fake-News und Datenmissbräuche nicht zufällig verstärken, sondern absichtlich: weil es ihnen Geld einbringt und weil sie zu lange niemand kontrolliert habe. "Wir müssen sie dazu bringen, Verantwortung zu übernehmen", sagt Manning.

Verantwortung übernehmen. Veränderungen anstoßen. Darum geht es nicht nur Danah Boyd und Chelsea Manning, sondern vielen anderen Vortragenden auf der re:publica. "Wer kontrolliert Big Data?", heißt der Titel eines Vortrags, "Algorithmen der Unterdrückung" ein anderer. Es geht in den drei Tagen um die Verantwortung von Medien "zwischen Fakten und Fake, Haltung und Hate". Es geht darum, künstliche Intelligenzen zu schaffen, die inklusiv sind und keine Vorurteile verstärken, um Zivilcourage im Netz, und darum, wie man weibliche Stimmen in den Medien und sozialen Netzwerken sichtbarer machen kann.

Re:publica 18 - »Algorithmen sind nicht neutral« Die US-Whistleblowerin Chelsea Manning hat auf der re:publica in Berlin vor den Gefahren künstlicher Intelligenz gewarnt. Ausschnitte des Gesprächs im Video © Foto: Sean Gallup / Getty Images

Konkrete Lösungsansätze sollten Besucher und Besucherinnen vielleicht nicht erwarten. Aber wie schon die Digitalkonferenz SXSW im März beweist nun auch die re:publica, dass die oft spöttisch betitelte "Netzgemeinde" ihr eigenes Schaffen hinterfragt. Es gibt das Bewusstsein, dass unser digitales Miteinander und die ihm zugrunde liegende Technik ihre Schattenseiten haben.

So düster die re:publica in diesem Jahr auch beginnt, so optimistisch bleibt das diesjährige Motto. Es lautet zwar einfach POP, ist aber letztlich wunderbar mehrdeutig: Der Begriff steht für Mainstream und beschreibt damit den Wandel von der Nerd- zur Gesellschaftskonferenz. Gleichzeitig lässt sich Populismus nicht ohne Pop schreiben. Und als Abkürzung steht es im Sinne der Veranstalter für Power of People. Vielleicht braucht es im Angesicht der Algorithmen den menschlichen Einfluss mehr denn je.