Как инструменты ИИ могут помочь редакциям модерировать комментарии?

Для многих газет раздел комментариев — это прекрасная возможность для читателей поделиться разнообразными мыслями, опытом и точками зрения, но он также может стать рассадником негатива с аргументами и оскорбительными выражениями, которые могут заглушить ценные голоса.

Именно с такой задачей столкнулась редактор сообщества Financial Times Люси Уорвик-Чинг. В FT есть специальная команда модераторов, но с сотнями статей, публикуемых еженедельно, они не справляются с потоком, и комментарии к большинству из них закрыты. Они также решили закрыть все разделы комментариев по выходным, чтобы избежать выхода токсичных дискуссий из-под контроля, когда никого нет за рабочим столом.

Нанимать дополнительных модераторов было слишком дорого, а создавать собственную систему модерации — слишком обременительно. Поэтому команда Уорвик-Чинга использовала готовый инструмент модерации от Utopia Analytics, который затем был обучен на 200 000 реальных комментариев читателей распознавать вежливые, не вызывающие споров и не относящиеся к теме обсуждения.

Когда этот инструмент впервые появился, FT всё ещё приходилось вручную проверять каждый одобренный комментарий. Инструменту потребовалось несколько месяцев, чтобы принять правильные решения о модерации. Сейчас он выявляет большинство сексистских и расистских комментариев, несмотря на сложную лексику читателей FT.

«Это не идеально, и работа над этим все еще продолжается», — сказала Уорвик-Чинг шесть месяцев спустя.

Тем не менее, влияние значительно. Раньше модераторы тратили большую часть времени на фильтрацию негативных комментариев. Теперь же ИИ берёт на себя большую часть тяжёлой работы, освобождая модераторов для создания сообществ.

Инструмент ИИ не только эффективен для модерации комментариев, но и заменяет людей в работе с эмоционально травмирующими комментариями. Теперь ИИ поглощает большую часть негатива, исходящего от этих комментариев, защищая людей от него.

Самое главное, говорит Уорвик-Чинг, внедрение ИИ-инструмента не оставит без работы ни одного модератора. «С самого начала, когда мы внедрили инструмент модерации, мы чётко дали понять, что речь идёт не о сокращении штата, а о создании пространства для модераторов, где они смогут выполнять свою работу».

На данный момент инструмент искусственного интеллекта дал положительные результаты. Читатели написали, что заметили повышение вежливости в разделе комментариев, и не было ни одного серьёзного жалобы на несправедливое отклонение комментариев.

Журналисты также отметили значительное увеличение пользы от комментариев, поскольку ценные отзывы читателей обогащают их статьи. Они также обнаружили, что использование ИИ позволяет модераторам сосредоточиться на том, что у них получается лучше всего: на создании комфортной и информативной среды для всех.

Хоай Фуонг (по данным журналистики)