Kampf gegen Hetze im Internet geht nur langsam voran

Die Europäische Kommission hat die Ergebnisse ihrer siebten Bewertung des Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet veröffentlicht. Die diesjährigen Ergebnisse zeigen leider einen rückläufigen Trend beim Melde- und Abhilfeverfahren der Unternehmen.

„Besorgniserregend ist, dass bei der Überprüfung von Meldungen im Zusammenhang mit illegaler Hetze durch Plattformen der sozialen Medien ein Abwärtstrend zu verzeichnen ist. Hetze im Internet ist eine Geißel des digitalen Zeitalters, und Plattformen müssen – unter anderem durch Bereitstellung ausreichender Ressourcen – ihren Verpflichtungen nachkommen, die Online-Welt für alle sicherer zu machen“, sagt die für Werte und Transparenz zuständige Vizepräsidentin der Europäischen Kommission, Věra Jourová. Dies ist umso wichtiger, als der Verhaltenskodex die im Gesetz über digitale Dienste festgelegten Verpflichtungen unterstützt; Fortschritte im Rahmen des Kodex sind also Fortschritte bei der Bekämpfung von Hetze.

Die Zahl der von den Unternehmen innerhalb von 24 Stunden überprüften Meldungen sank im Vergleich zu den beiden Vorjahren von 90,4 Prozent im Jahr 2020 auf 81 Prozent im Jahr 2021 und 64,4 Prozent im Jahr 2022. TikTok ist das einzige Unternehmen, das seine Überprüfungszeit verbessert hat.

Auch die Entfernungsquote liegt mit 63,6 Prozent deutlich unter dem Höchststand von 2020 (71 Prozent). Nur YouTube erzielte bei diesem Parameter bessere Ergebnisse als in den letzten beiden Jahren.

Es gibt jedoch eine positive Entwicklung in Bezug auf die Häufigkeit und Qualität der Rückmeldungen der Unternehmen an die Nutzer:

Aus der siebten Bewertung geht Folgendes hervor:

• Die Unternehmen überprüften 64,4 Prozent der Meldungen innerhalb von 24 Stunden, was einen Rückgang im Vergleich zu den beiden Vorjahren zeigt (81 Prozent im Jahr 2021 und 90,4 Prozent im Jahr 2020). Nur TikTok hat seine Leistung verbessert (von 82,5 Prozent im Jahr 2021 auf 91,7 Prozent im Jahr 2022).
• Die Entfernungsquote lag mit 63,6 Prozent ähnlich wie im Jahr 2021 (62,5 Prozent), war jedoch niedriger als im Jahr 2020 (71 Prozent). YouTube hat seine Entfernungsquote im Jahr 2022 (90,4 Prozent) im Vergleich zu 2021 (58,8 Prozent) verbessert. Alle anderen IT-Unternehmen haben weniger Inhalte als 2021 entfernt, wobei die Unterschiede in einigen Fällen nur geringfügig ausfielen (Facebook: 69,1 Prozent im Jahr 2022 und 70,2 Prozent im Jahr 2021; Twitter: 45,4 Prozent bzw. 49,8 Prozent).
• Durchschnittlich 69,6 Prozent der Inhalte, die zu Mord und Gewalt gegen bestimmte Gruppen aufrufen, wurden entfernt; bei Inhalten mit diffamierenden Wörtern oder Bildern, die gegen bestimmte Gruppen gerichtet waren, lag die Entfernungsquote bei 59,3 Prozent. Dies belegt eine bessere Abhilfequote bei den schwerwiegendsten Erscheinungsformen von Online-Hetze.
• Die Rückmeldungen der IT-Unternehmen an die Nutzer haben sich 2022 gegenüber 2021 verbessert. Viele Unternehmen haben in diesem Bereich Verbesserungen erzielt, hervorzuheben sind TikTok (Feedback in 74,8 Prozent der gemeldeten Fälle gegenüber 28,7 Prozent im Jahr 2021) und Instagram (72,6 Prozent gegenüber 41,9 Prozent im Jahr 2021 und 62,4 Prozent im Jahr 2020).

Um die Umsetzung des Verhaltenskodex zu unterstützen und Lücken bei den Melde- und Abhilfeverfahren zu schließen, haben sich die IT-Unternehmen und das Netz vertrauenswürdiger Hinweisgeber, die an den Überwachungsmaßnahmen beteiligt sind, auf einen Aktionsrahmen geeinigt. Darin werden Kooperationsinitiativen zwischen den Parteien festgelegt, in denen sie sich verpflichten, ihren Dialog zur Bekämpfung von Hetze im Internet zu intensivieren.

Nächste Schritte

Die Kommission wird die Umsetzung des Verhaltenskodex weiter überwachen. Die Kommission wird IT-Unternehmen und vertrauenswürdige Hinweisgeber bei der Umsetzung des im Rahmen des Verhaltenskodex vereinbarten Aktionsrahmens unterstützen. Das Gesetz über digitale Dienste ist am 16. November in Kraft getreten. Es enthält umfassende Vorschriften für die Verantwortung der Plattformen und wird auch den Koregulierungsrahmen weiter unterstützen. Die Kommission wird mit den IT-Unternehmen erörtern, wie sichergestellt werden kann, dass die Umsetzung des Kodex die Einhaltung des Gesetzes über digitale Dienste unterstützt und einen Mehrwert in den Bereichen der Bekämpfung von Hetze und des Schutzes der Meinungsfreiheit im Internet schafft. Dieser Prozess könnte im Laufe des Jahres 2023 zu einer Überarbeitung des Verhaltenskodex führen.

Hintergrund

Laut dem Rahmenbeschluss zur Bekämpfung von Rassismus und Fremdenfeindlichkeit gilt „die öffentliche Aufstachelung zu Gewalt oder Hass gegen eine nach den Kriterien der Rasse, Hautfarbe, Religion, Abstammung oder der nationalen oder ethnischen Herkunft definierte Gruppe von Personen oder gegen ein Mitglied einer solchen Gruppe“ als Straftat. Im Sinne dieses Rahmenbeschlusses ist Hetze auch dann strafbar, wenn sie im Internet stattfindet.

Als Reaktion auf die Verbreitung rassistischer und fremdenfeindlicher Online-Hetze präsentierte die Europäische Kommission am 31. Mai 2016 zusammen mit vier großen IT-Unternehmen (Facebook, Microsoft, Twitter und YouTube) einen Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet. Seither sind Instagram, Snapchat, Dailymotion, Jeuxvideo.com, TikTok, LinkedIn sowie im Frühjahr 2022 Rakuten Viber und Twitch dem Kodex beigetreten.

Der Verhaltenskodex gründet auf der engen Zusammenarbeit zwischen der Europäischen Kommission, IT-Unternehmen, zivilgesellschaftlichen Organisationen und nationalen Behörden. Alle Interessenträger treffen sich regelmäßig im Rahmen der hochrangigen Gruppe zur Bekämpfung von Hetze und Hassstraftaten, um über Herausforderungen und Fortschritte zu diskutieren.

Alle Bewertungsrunden wurden nach einer gemeinsam vereinbarten Methodik durchgeführt, die es ermöglicht, die Ergebnisse im Zeitverlauf zu vergleichen. Die siebte Bewertungsrunde erfolgte zwischen dem 28. März und dem 13. Mai 2022 unter Mitwirkung von 36 Organisationen aus 21 Mitgliedstaaten. Bei den IT-Unternehmen gingen insgesamt 3634 Meldungen ein. 2765 Meldungen wurden über die Meldekanäle übermittelt, die allgemeinen Nutzern zur Verfügung standen, während 869 Meldungen über spezifische Kanäle eingingen, die nur vertrauenswürdigen Hinweisgebern zur Verfügung standen.

Das Gesetz über digitale Dienste enthält Vorschriften für Online-Vermittlungsdienste, die täglich von Millionen von Menschen in Europa genutzt werden. Die Pflichten der einzelnen Online-Unternehmen variieren je nach Rolle, Größe und Auswirkung im Online-Umfeld. Auf der Grundlage der Erfahrungen mit dem Kodex und seiner Bewertung sollen mit obligatorischen eindeutigen Melde- und Abhilfesystemen, der bevorzugten Bearbeitung von Meldungen vertrauenswürdiger Hinweisgeber, Feedback zu Meldungen von Nutzern und mit umfassenden Transparenzpflichten die festgestellten Mängel behoben werden. Für sehr große Plattformen, die mehr als 45 Millionen Nutzer in Europa erreichen, bestehen besondere Vorschriften. Diese systemrelevanten Plattformen müssen die von ihren Systemen ausgehenden Risiken bewerten und Abhilfemaßnahmen ergreifen, um die Verbreitung illegaler Inhalte einzudämmen und anderen gesellschaftlichen Risiken wie Beeinträchtigungen der Grundrechte oder der Verbreitung von Desinformation entgegenzuwirken. An der Leistung im Rahmen des Kodex lässt sich beurteilen, wie diese Plattformen gegen illegale Hetze vorgehen.

EU-Kommission / 24.11.2022

Foto: EU-Kommission