KI-gestützter Jugendmedienschutz mit Merm:ai:d

Die Jugendschutz-KI Merm:ai:d von RTL Deutschland hat den Modellversuch der Freiwilligen Selbstkontrolle Fernsehen (FSF) und der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM) unter Begleitung der Kommission für Jugendmedienschutz (KJM) erfolgreich durchlaufen. Sie ist damit das erste zertifizierte KI-gestützte Bewertungssystem.

Für RTL Deutschland ist es ein Meilenstein: Aus einem internen Tool zur Unterstützung der Altersbewertung wurde eine Lösung, deren Qualität nun nach unabhängigen Standards geprüft und bestätigt ist. Im Modellversuch entstanden erstmals verbindliche Qualitätskriterien für automatisierte und KI-gestützte Bewertungssysteme im Jugendmedienschutz. Entscheidend war nicht nur die technische Leistungsfähigkeit, sondern das Zusammenspiel aus KI, fachkundigen Mitarbeitenden und klaren Prüfprozessen.

Max Orgonyi.

Zentraler Bestandteil war ein Stichprobenvergleich zwischen den Bewertungen von Merm:ai:d, menschlichen Prüfer:innen der FSF und den finalen Jugendschutzentscheidungen von RTL Deutschland. Das Ergebnis zeigt eine hohe Übereinstimmung. Menschliche Expertise bleibt dennoch fester Bestandteil des Prozesses.

»Merm:ai:d zeigt, was wir unter verantwortungsvollem Einsatz von KI verstehen: eine konkrete Anwendung, die im Alltag funktioniert, skalierbar ist und gleichzeitig höchsten Qualitätsanforderungen erfüllt«, sagt Max Orgonyi, Geschäftsführer Transformation & AI bei RTL Deutschland.

Daniela Hansjosten.

Daniela Hansjosten, Leiterin Standards & Practices bei RTL Deutschland, betont: »Von Anfang an war unser Ziel nicht, menschliche Entscheidungen zu ersetzen, sondern unsere Jugendschutzexpert_innen mit KI besser zu unterstützen. Die Zertifizierung bestätigt genau diesen Ansatz: Technologie, klare Prozesse und fachliche Verantwortung gehören zusammen.«

Vom Pilot zum skalierbaren System

RTL Deutschland entwickelte Merm:ai:d 2024, um große Mengen audiovisueller Inhalte automatisiert zu analysieren und die Jugendschutz-Teams bei der Altersbewertung zu unterstützen. Seitdem wurde die Lösung kontinuierlich weiterentwickelt. Aktuell weitet RTL sie auf weitere Anwendungsfelder aus, darunter die Prüfung von Werbeinhalten mit Merm:ai:d Ads, die Analyse von Audioinhalten und zusätzliche Content-Bereiche. Auch der Einsatz im erweiterten RTL- und Sky-Portfolio wird vorbereitet.

Mit dem Abschluss des Modellversuchs entsteht zudem ein dauerhafter Rahmen für weitere Anbieter: FSF und FSM bieten künftig ein Zertifizierungsverfahren für automatisierte und KI-gestützte Bewertungssysteme an.

Verantwortung bleibt menschlich

Der Grundsatz von Merm:ai:d bleibt unverändert: KI unterstützt, der Mensch entscheidet. Die Technologie hilft, große Inhaltsmengen schneller und konsistenter zu analysieren. Fachliche Bewertung und rechtliche Verantwortung ersetzt sie nicht, betont RTL Deutschland.