Hasserfüllte Inhalte landen bei Facebook ganz oben. Fotos auf Instagram können bei jungen Menschen zu geringem Selbstwertgefühl führen. Die Whistleblowerin Frances Haugen hat im vergangenen Herbst anhand von internen Dokumenten nachgewiesen, dass der Leitung des Tech-Giganten diese Probleme durchaus bewusst sind.

Die Verantwortlichen handeln jedoch nicht, weil es Aktivität auf den Seiten und damit Einnahmen kosten würde. Doch bald werden den Betreibern von Facebook und Instagram sowie Twitter rauere Winde aus der EU ins Gesicht wehen.

„Wir wollen eine Art Verkehrsregeln für Online-Unternehmen schaffen. Die Nutzerinnen und Nutzer müssen sich sicher fühlen können und Rechte haben“, sagte die Europaparlamentarierin Christel Schaldemose (Soz./S&D).

Neue Initiative

Sie ist die leitende Verhandlerin des Parlaments für die EU-Initiative zu den „Verkehrsregeln“, dem Digital Service Act (DSA). Er soll im Mai endgültig beschlossen werden.

„Es muss klar sein, was passiert, wenn illegale Inhalte veröffentlicht werden“, nennt sie als den ersten Punkt bei einem Pressegespräch in Kopenhagen.

Solche Inhalte müssen umgehend entfernt werden. Dies ist jedoch ihrer Auffassung nach in den sozialen Medien noch das geringere Problem. Viel schwerwiegender sei die Tatsache, dass „unerwünschte“ und „schädliche“ Inhalte zu stark exponiert würden.

„Zum Beispiel wissen wir, dass Mädchen Probleme mit ihrem mentalen Wohlbefinden bekommen, weil Algorithmen auf Instagram dazu führen, dass sie sich in einem Kaninchenbau verirren können, wo es um selbstverletzendes Verhalten geht. Sie suchen vielleicht nach dem Thema gesunde Ernährung und enden plötzlich auf Seiten über Anorexie oder Selbstverletzung“, sagt sie in Anlehnung an die Entlarvungen von Frances Haugen.

Instagram kenne das Problem, habe jedoch nichts unternommen, um es abzustellen. 

Reaktionen schaffen Umsatz

Eines der Probleme sei, dass Inhalte, die starke Gefühle und damit viele Reaktionen auslösen, vom „Motor“ der sozialen Medien, den Algorithmen, nach oben katapultiert werden. Das bedeutet, mehr Menschen sehen diese Inhalte häufiger. Auch wenn man einen solchen Beitrag kritisch kommentiert, trägt man dazu bei, dass er mehr Menschen erreicht.

Dies muss nicht in jedem Fall negative Konsequenzen haben, habe es jedoch in vielen Fällen.

„Gibt es Inhalte, die unerwünschte Effekte haben, muss dies geändert werden. Wir möchten uns nicht unsere Demokratie kaputt machen oder unsere Grundrechte verletzen lassen. Grundsätzlich geht es darum, es zu lenken“, so Schaldemose.

Einmischung in Wahlen

Ausländische Hacker und Geheimdienste nutzen diesen Effekt gezielt, um sich in die Angelegenheiten anderer Länder einzumischen und Debatten zu polarisieren. Unter anderem russische Gruppen sind Experten darin, die Algorithmen zu nutzen, um Inhalte möglichst weit zu verbreiten.

„Wir wissen auch, dass es ausländische Einmischung gibt, um Wahlen zu beeinflussen. Das kann durch Fake News oder das Verbreiten gewisser Meinungen sein. So wie die Plattformen ihre Algorithmen eingerichtet haben, fördert es Inhalte, die Bevölkerungen spalten. Bekommt dies negative Auswirkungen, die bedeuten, dass unsere Demokratie nicht ordentlich funktioniert, müssen wir reagieren“, erläutert die Europaparlamentarierin.

Risiken abstellen

Mit der DAS-Initiative will die EU die Online-Unternehmen zwingen, Verantwortung dafür zu übernehmen, welche Inhalte wie stark verbreitet werden.

„Sie werden gezwungen werden, eine Risikoeinschätzung ihrer Algorithmen zu erarbeiten. Zeigt sich, dass sie negative Effekte haben, müssen sie Risiken mindern“, so Schaldemose.

Rekordhohe Bußgelder

Die EU will den Unternehmen nicht vorschreiben, wie sie diese Risiken mindern, aber sie müssen nachweisen, dass sie es tun. Und obwohl es um weltweit agierende Unternehmen mit Milliardenumsätzen geht, ist die Politikerin überzeugt, dass es gelingen kann, ihnen Zügel anzulegen.

„Ich bin sehr zuversichtlich, dass die Initiative Wirkung zeigen wird, denn es wird eine gesetzliche Verpflichtung. Richten sie sich nicht nach den Forderungen, die Algorithmen anzupassen, drohen ihnen sehr hohe Bußgelder.“

Der Digital Service Act sieht Strafen von 6 bis 10 Prozent des Umsatzes des Unternehmens vor.

„Ich glaube, die Bußgelder werden eine abschreckende Wirkung haben“, meint Schaldemose.