Wie können KI-Tools Nachrichtenredaktionen bei der Moderation von Kommentaren unterstützen?

Für viele Zeitungen ist der Kommentarbereich ein großartiger Ort für Leser, um unterschiedliche Gedanken, Erfahrungen und Perspektiven einzubringen. Allerdings kann er auch zu einem Nährboden für Negativität werden, da er Argumente und eine beleidigende Sprache enthält, die wertvolle Stimmen übertönen können.

Vor dieser Herausforderung stand Lucy Warwick-Ching, Community-Redakteurin der Financial Times. Die FT verfügt zwar über ein engagiertes Moderatorenteam, doch mit Hunderten von Artikeln pro Woche kann das Team nicht Schritt halten. Zudem sind die meisten Artikel für Kommentare gesperrt. Um zu verhindern, dass Diskussionen außer Kontrolle geraten, wenn niemand am Schreibtisch sitzt, wurde beschlossen, alle Kommentarbereiche an Wochenenden zu schließen.

Die Einstellung zusätzlicher Moderatoren war zu teuer und der Aufbau eines eigenen Moderationssystems zu umständlich. Daher nutzte Warwick-Chings Team ein handelsübliches Moderationstool von Utopia Analytics, das anschließend anhand von 200.000 echten Leserkommentaren trainiert wurde, um höfliche, nicht streitlustige und themenfremde Diskussionen zu erkennen.

Als das Tool erstmals zum Einsatz kam, musste die FT jeden freigegebenen Kommentar noch manuell prüfen. Es dauerte mehrere Monate, bis das Tool die richtigen Moderationsentscheidungen traf. Mittlerweile erkennt es die meisten sexistischen und rassistischen Kommentare, trotz der komplexen Sprache der FT-Leser.

„Es ist nicht perfekt und noch in Arbeit“, sagte Warwick-Ching sechs Monate später.

Dennoch sind die Auswirkungen erheblich. Früher verbrachten Moderatoren die meiste Zeit damit, negative Kommentare herauszufiltern. Jetzt übernimmt die KI einen Großteil dieser Arbeit, sodass sich die Moderatoren auf den Aufbau von Communities konzentrieren können.

Das KI-Tool ist nicht nur effektiv bei der Moderation von Kommentaren, sondern ersetzt auch Menschen bei der Bearbeitung emotional verletzender Kommentare. KI absorbiert nun einen Großteil der Negativität, die von diesen Kommentaren ausgeht, und schützt so Menschen vor der Negativität.

Das Wichtigste sei jedoch, sagt Warwick-Ching, dass durch die Einführung des KI-Tools keine Moderatoren arbeitslos würden. „Von Anfang an, als wir das Moderationstool einführten, war uns klar, dass es nicht darum ging, Personal abzubauen, sondern den Moderatoren einen Raum zu schaffen, in dem sie ihre Arbeit erledigen können.“

Bisher hat das KI-Tool positive Ergebnisse erzielt. Leser haben per E-Mail mitgeteilt, dass sie eine verbesserte Höflichkeit im Kommentarbereich bemerkt haben, und es gab keine nennenswerten Beschwerden über ungerechtfertigte Ablehnungen von Kommentaren.

Journalisten konnten zudem einen deutlichen Anstieg des Nutzens von Kommentaren feststellen, da wertvolle Leserbeiträge ihre Artikel bereichern. Sie stellten außerdem fest, dass sich Moderatoren durch den Einsatz von KI auf das konzentrieren können, was sie am besten können: einen einladenden und informativen Raum für alle zu schaffen.

Hoai Phuong (laut Journalismus)