ニュース

ヤフーやSHOWROOMが取り組むAIを活用した悪質コメント対策、他社への提供も

AI Start Lab 編集部 2021.2.28
視聴者や閲覧者のコメントが投稿できるWEBサービスで、これまでも問題になってきたのが、誹謗中傷などの不適切コメントだ。その対策にAI(人工知能)を活用する試みが広がっている。

SHOWROOMはリアルタイムでコメントをブロックへ


ライブ配信プラットフォームのSHOWROOMは、配信中に誹謗中傷などの悪質コメントを検知し、投稿される前にブロックするAIを開発したと発表。まず、SHOWROOMにおいて視聴者が投稿する悪質コメントを検出し通報する機能を運用する。今後、精度を上げながら、自動的にユーザーの悪質投稿を表示させない機能をリリースし、配信者や視聴者が見える状態になる前にコメントがブロックされる体制を目指す。


AIは、文脈を含めてコメントをニューラルネットワーク上で抽象化し、即時にそのコメントの悪質性を判断。日本語特有の遠回しな言い方や、複数回に分けてコメントをするといった従来の手法では難しかった悪質なコメント検出にも成功。SHOWROOMの膨大なコメントのデータを活用することで、高い確率で悪質コメントを検知できるという。
このAIによる機能は一部、他社への提供も始める予定としている。

Yahoo!知恵袋などでAIによるコメント削除強化


ヤフーも、2021年1月以降にAIによる自社サービスの不適切なコメント削除の取り組みを強化すると発表。「Yahoo!ニュース」で活用しているAIを、質問投稿サイト「Yahoo!知恵袋」など10以上のサイトに活用。これまで人手に頼ることも多かったコメント削除をより高い精度で行うという。削除基準や件数の定期的な公開も始める。

ヤフーは有識者会議「プラットフォームサービスの運営の在り方検討会」の意見を参考に取り組みを進めている(プレスリリースより)

「Yahoo!ニュース」では、深層学習を用いた自然言語処理モデル(AI)により、誹謗中傷などの不適切な投稿を1日平均約2万件削除し、さらに建設的なコメントをスコアリングし、スコアが高いものを上位表示させる独自のAI技術も運用している。

この「建設的コメント順位付けモデル」のAPIは、外部の投稿系サービス事業者に無償提供を行なっている。自社サービスに投稿されたコメントをAIで評価し、それをもとに自社においてコメントの削除や表示順の並び替えなどを行うことができるという。

Yahoo!ニュースでは悪質なユーザーにメッセージを表示


これらの対策に加えて、「Yahoo!ニュース」では2020年より、不適切な投稿の事前抑止にも注力。同年7月には、コメント削除などに活用しているAI判定モデルを用いて、「不適切である可能性が高い」と判定されたコメントを過去数日以内に複数回投稿しているユーザーに対し、注意メッセージを掲出する取り組みを開始。

この取り組み開始の直後の8月と比較して、4カ月後の12月には、コメントを投稿したユーザー数が増加したのに対して、注意メッセージが掲出されたアカウント数は13.5%減少。この結果から、不適切な投稿を繰り返すアカウントの減少に一定の効果が出ていることがうかがえるとしている。

悪質なコメントに対する対策は、AIの自然言語解析技術の高まりとともに、自動化されていくと考えられる。また、技術の進展で投稿前に検知する流れも強まっていくだろう。


SHOWROOMプレスリリース
Yahoo!ニュースにおけるAIを活用した投稿時注意メッセージの掲出効果について
Yahoo! JAPAN、個人に対する誹謗中傷などを内容とする投稿への対応や今後の方針を策定
Yahoo!ニュース、不適切コメントへの対策として導入している深層学習を用いた自然言語処理モデル(AI)のAPIを無償提供開始

印刷ページを表示
WRITTEN by

AI Start Lab 編集部

AI・人工知能のビジネス活用についての情報をさまざまな視点からお伝えしていきます。

AIのビジネス活用に関する
最新情報をお届け

会員登録

会員登録していただくと、最新記事やAI関連のイベント情報を受け取れたり、その他会員限定コンテンツの閲覧が可能です。是非ご登録ください。