KI-gestützte Kommentarmoderation für ein Medienhaus

01Ausgangslage

Ein Medienhaus betreibt eine Vielzahl digitaler Nachrichtenportale mit Kommentar- und Community-Bereichen. Die Moderation beruht bislang auf Keyword-Filtern mit statischen Wortlisten. Seit Februar 2024 verpflichtet der Digital Services Act Plattformen mit nutzergenerierten Inhalten zu nachvollziehbarer Moderation, Begründungen und Beschwerdewegen.

02Herausforderung

Keyword-Filter erkennen keinen Kontext: Zitate, Ironie oder sachliche Debatten über Waffen, Drogen oder Extremismus werden blockiert, während umschriebene Hassrede, codierte Sprache, Leetspeak oder Annäherungsversuche an Minderjährige durchrutschen. Bilder in Kommentaren werden gar nicht geprüft. Gleichzeitig muss jede Entscheidung begründet, dokumentiert und anfechtbar sein – über viele Portale mit eigenen Hausordnungen hinweg.

03Lösung

Eine Moderation vor der Veröffentlichung, die Text und Bild mit Sprachverständnis statt Wortlisten analysiert, Entscheidungen mit Begründung dokumentiert und Grenzfälle an Moderatoren übergibt.

04Umsetzung

• —Anbindung der Kommentarfunktionen per Schnittstelle: Jeder Beitrag wird geprüft, bevor er erscheint.
• —Textanalyse nach Kategorien wie Hassrede, Beleidigung, Drohung, Spam, Grooming und persönliche Daten – jeweils mit Konfidenzwert.
• —Bildanalyse für Nacktheit, Gewalt, extremistische Symbole, manipulierte Bilder und betrügerische Grafiken.
• —Konfigurierbare Schwellenwerte und Regelwerke pro Portal, abgeleitet aus den jeweiligen Hausordnungen.
• —Automatisch erzeugte Begründungen für Nutzer, internes Beschwerdemanagement und Audit-Protokolle gemäß DSA.
• —Moderatoren-Oberfläche für Grenzfälle, Warteschlangen und Auswertungen; schrittweiser Rollout über die Portale.

05Wirkung

• —Legitime, auch kontroverse Beiträge werden seltener fälschlich blockiert.
• —Getarnte Hassrede, Umgehungsversuche und problematische Bilder werden erkannt, bevor sie sichtbar sind.
• —DSA-Pflichten wie Begründung, Beschwerde und Dokumentation sind Teil des Ablaufs statt Zusatzaufwand.
• —Moderatoren konzentrieren sich auf die Fälle, die menschliches Urteil brauchen.