07.02.2025

FÜR MEHR SICHERHEIT IM NETZ

Selbstentwickeltes KI-Tool der Medienanstalt NRW zur Suche und Verfolgung rechtswidriger Inhalte wird auf englische und arabische Sprache ausgeweitet

  • Mehr als 40.000 Funde im Netz seit Einführung des KI-Tools „KIVI“ überprüft  
  • Studie untersucht Nutzung digitaler Informationsquellen von arabischsprachigen Menschen
  • Verfolgung extremistischer Inhalte im Netz in englischer und arabischer Sprache beschlossen 

Das im Auftrag der Medienanstalt NRW entwickelte KI-Tool „KIVI“ wird zukünftig auch englische und arabische Internetinhalte auf mögliche Rechtsverstöße prüfen. Die dafür nötige Weiterentwicklung der KI-Software wird durch die Förderung durch die Staatskanzlei NRW ermöglicht.  Das vor vier Jahren gestartete KI-Tool sorgt durch die Verfolgung extremistischer Inhalte für mehr Sicherheit im Netz. Seit dem Start konnten über 40.000 Funde überprüft und mehr als 8.600 Verfahren wegen Rechtsverstößen eingeleitet werden. Inzwischen wird „KIVI“ – „KI“ wie künstliche Intelligenz und „VI“ wie vigilare, lateinisch für bewahren, wachsam sein – von allen 14 Landesmedienanstalten in Deutschland genutzt. Die Entscheidung zum Ausbau in weitere Sprachen wurde von einer Studie zur Mediennutzung von arabischsprachigen Internetnutzerinnen und -nutzern in Deutschland begleitet. 

„Demokratie lebt von Meinungsvielfalt. Sie zu schützen ist unser Auftrag. Dabei zeigen wir, wie gut und effizient die Zusammenarbeit von Behörden, ergänzt durch den Einsatz moderner Technologie, funktionieren und Wirkung entfalten kann. Ich danke der Staatskanzlei NRW ausdrücklich für die Unterstützung beim Ausbau unserer Aktivitäten für mehr Sicherheit im Netz und freue mich, dass wir dabei künftig auch der sprachlichen Vielfalt der Menschen im bevölkerungsreichsten Bundesland NRW noch besser gerecht werden können“, so Dr. Tobias Schmid, Direktor der Landesanstalt für Medien NRW.  

Nathanael Liminski, Minister für Bundes- und Europaangelegenheiten, Internationales sowie Medien des Landes Nordrhein-Westfalen und Chef der Staatskanzlei: „KIVI ist eine Erfolgsgeschichte. Mit der Fähigkeit, auch englisch- und arabischsprachige Inhalte zu analysieren, wird die Schlagkraft dieses Tools weiter erhöht. In diesen Zeiten ist wirksame Rechtsdurchsetzung auch mithilfe der modernsten technischen Hilfsmittel nötiger denn je. Wir müssen illegale Inhalte im Netz konsequent bekämpfen. Die Landesanstalt für Medien NRW und die Landesregierung ziehen hier an einem Strang.“

Nach aktueller Studienlage spielen englische und arabische Medieninhalte für die Menschen in NRW eine große Rolle. So geben in einer aktuellen Befragung der Landesanstalt für Medien NRW 40 Prozent der arabischsprachigen Nutzerinnen und Nutzer im Internet an, sich ausschließlich (11 %) oder überwiegend (29 %) über arabischsprachige Medien im Internet zu informieren. 

Als wichtigste Informationsquelle wird dabei mit 78 Prozent Social-Media genannt. Knapp zwei Drittel (63 %) nutzen außerdem Nachrichtenwebseiten als Hauptinformationsquelle. Rund die Hälfte zählte Online-Fernsehsender (55 %) zu den für sie wichtigsten Medientypen.

In Social Media wurde Al Jazeera bei vier von fünf Befragten (81 %) mit weitem Abstand am häufigsten als wichtigstes Social-Media-Angebot genannt. Als zweitwichtigste Sender folgten Al Arabiya (22 %) und MBC (12 %).

Mit der wachsenden Nutzung arabischsprachiger Angebote in NRW wächst auch die Gefahr der Verbreitung und Nutzung extremistischer Inhalte in Medien und sozialen Netzwerken. Beispielhaft dafür steht der im Dezember 2024 durch die Medienanstalten gesperrte Hamas-Propagandasender „Al-Manar TV“.

Die Ergebnisse der Befragung können Sie hier einsehen: www.medienanstalt-nrw.de/arabischsprachige-mediennutzung