Aktuelle Pressemitteilungen

Informationen/Medien

Medienaufsichten nutzen KI-Tool von Condat

Besser Jugendschutz im Netz - mit dem neuen KI-Tool von LfM und Condat

Deutschlandweiter Einsatz des nordrhein-westfälischen Tools gestartet. Seit dem 07.04.22 arbeiten die Medienanstalten mit einer für die Landesanstalt für Medien NRW entwickelten KI-Lösung.

In einer Pressekonferenz am 7. April hat die Landesanstalt für Medien NRW über den Ausbau Ihrer Medienaufsicht im Netz berichtet. Kernstück der intensiveren Überwachung von Social-Media Plattformen und Websites ist eine gemeinsam mit der Berliner Condat AG entwickelte KI-Lösung zur automatischen Identifizierung potenzieller Rechtsverstöße in Bereichen wie Gewaltdarstellungen, Volksverhetzung und Hassrede.

Das vorgestellte Tool, das nach einer Machbarkeitsstudie ab Mitte 2020 von Condat entwickelt wurde, kam als Prototyp erstmals Ende 2020 zum Einsatz. Seit dem Frühjahr 2021 ist es bei der Landesanstalt für Medien NRW im Produktivbetrieb und durchsucht heute täglich automatisch mehr als 10.000 Seiten von Twitter und YouTube bis zu Plattformen wie Telegram und VK nach Gewaltdarstellungen, Volksverhetzung oder der Verwendung verfassungsfeindlicher Kennzeichen. Das Tool wird kontinuierlich optimiert und erweitert und lernt durch die aktive Einspeisung von Bild- und Textbeispielen täglich dazu - die Trefferquote konnte so je nach Bereich auf bis zu 90% gesteigert werden.

Die Medienanstalt zog in der Pressekonferenz eine sehr positive Bilanz aus der bisherigen Nutzung des KI-Tools. Sie berichtete, dass die entdeckten Verstöße bereits wenige Wochen nach dem Start des Produktivbetriebs massiv zunahmen und zu einer Verdopplung der Strafanzeigen im Vergleich zu früheren Vergleichsmonaten führten. Dank der Schutzfunktionen, die das Tool bietet, habe außerdem die psychische Belastung der Mitarbeiterinnen und Mitarbeiter im Monitoring-Team maßgeblich abgenommen.

Neben der Landesanstalt für Medien NRW nutzen seit November 2021 auch die Medienanstalten weiterer Bundesländer das KI-Tool zur Medienaufsicht. Dieses ermöglicht auch eine häuserübergreifende Vernetzung beim gemeinsamen Kampf gegen rechtswidrige Inhalte im Netz.

"
Das KI-Tool der Landesanstalt für Medien NRW basiert auf der von Condat entwickelten Smart Media Engine, einem universell einsetzbaren KI-Baukasten, mit dem (Bewegt)bild-, Audio- und Textinhalte schneller durchsucht und kontextbezogen empfohlen werden können.

Vollständige Mitteilung im Rahmen der Pressekonferenz der LfM NRW am 07.04.22

Condat Success Story zum Projekt

 

Disclaimer: Diese Pressemitteilung wird für den darin namentlich genannten Verantwortlichen gespeichert. Sie gibt seine Meinung und Tatsachenbehauptungen und nicht unbedingt die des Diensteanbieters wieder. Der Anbieter distanziert sich daher ausdrücklich von den fremden Inhalten und macht sich diese nicht zu eigen.