多くの新聞社にとって、コメント欄は読者が多様な考えや経験、視点を投稿できる素晴らしいスペースですが、議論や攻撃的な言葉が溢れ、貴重な意見がかき消されてしまうような否定的な意見の温床になる可能性もあります。

これは、フィナンシャル・タイムズのコミュニティ編集者、ルーシー・ワーウィック・チン氏が直面している課題です。 FTには専任のモデレーターチームがいるが、毎週何百もの記事が公開されるため対応しきれず、ほとんどの記事はコメントを受け付けていない。また、誰も席にいないときに有害な議論が制御不能になるのを避けるため、週末はすべてのコメント欄を閉鎖することにした。

追加のモデレーターを雇うのは費用がかかりすぎるし、独自のモデレーション システムを構築するのも面倒です。そこで、ワーウィック・チン氏のチームは、Utopia Analytics の既存のモデレーション ツールを使用しました。その後、このツールは 20 万件の実際の読者コメントに基づいてトレーニングされ、礼儀正しく、議論を伴わず、話題から外れた議論を認識できるようになりました。

このツールが初めて使用されたとき、FT は承認するコメントをそれぞれ手動で確認する必要がありました。ツールが適切なモデレーションの決定を下すまでには数か月かかります。今では、FTの読者が複雑な言語を使っているにもかかわらず、性差別的、人種差別的なコメントのほとんどを捕捉できるようになった。

「完璧ではないし、まだ進行中だ」とワーウィック・チン氏は6カ月後に語った。

しかし、その影響は依然として大きい。以前は、モデレーターが否定的なコメントを除外するのに多くの時間がかかっていました。現在では、AI が面倒な作業の多くを引き受けてくれるため、モデレーターはコミュニティの構築に集中できます。

AI はコメントの管理に効果的であるだけでなく、感情的に有害なコメントへの対処においても人間の代わりになります。 AIは現在、コメントがもたらす否定的な感情の多くを吸収し、人間を否定的な感情から守っています。

最も重要なのは、AIツールの登場によってオペレーターが失業することはない、とワーウィック・チン氏は言う。 「モデレーションツールを導入した当初から、これはスタッフ数を削減することではなく、モデレーターが仕事をするためのスペースを作ることであると明確にしてきました。」

これまでのところ、AI ツールは肯定的な結果を生み出しています。読者からは、コメント欄の礼儀正しさが向上したことに気付き、コメントが不当に拒否されたことに関する大きな苦情は受けていないというメールが届いた。

ジャーナリストにとってもコメントのメリットは大幅に増加しており、貴重な読者の投稿によって記事が充実しています。また、AI を使用すると、モデレーターは最も得意とする、人々にとって歓迎され有益な空間を育むことに集中できることもわかりました。

ホアイ・フオン氏（ジャーナリズムによる）