ニュース
AIと人の手で“ネットいじめ”を抑止へ、YouTubeが有名クリエイターを交えてキャンペーンを展開
2023年9月20日 12:42
グーグル（Google）は、動画共有サービス「YouTube」における「ネット上での嫌がらせやいじめ」に関する取り組みを公開した。9月からは、有名クリエイターを交えたキャンペーン「ちょっとまって：投稿前に、想像しよう」を展開している。
“できるだけ再生されないまま”削除する取り組み
YouTubeでは、クリエイターが安心して自分の声やメッセージを発信することができ、それを見た視聴者が感想や意見を届けることでコミュニティを作り上げていくことができる場であるとしながらも、行きすぎた発信や表現は、脅迫や身体的特徴に基づいて侮辱するなど嫌がらせに発展する可能性があると指摘。
このため、YouTubeではコミュニティガイドラインが設けられており、ヘイトスピーチやハラスメント、ネットいじめにつながるものは、厳しく取り締まり迅速な削除に努めてきたという。
YouTubeでは、AIを活用して問題のあるコンテンツを特定し、人間の担当者がポリシーに違反しているかどうかを確認し、削除を実施するという。
削除されたデータは、AIのトレーニングに使用し検出精度を高めることにつなげられており、ポリシー違反コンテンツができるだけ再生されないように図られている。
実際に、2023年第1四半期のデータをみると、1回も再生されずに削除されたのは、YouTube全体の40.4％、1～10回未満の再生で削除されたのは全体の31.9％になっている。
日本の政府機関も報告
AI検出だけでなく、YouTubeのユーザーからの報告も受け付けている。また、より詳しい専門知識を持った政府機関や非政府組織を「YouTube優先報告者」とし、高い精度でガイドライン違反のコンテンツが報告されているという。
たとえば、日本の法務局人権擁護局は、ヘイトスピーチやハラスメント、ネットいじめなどのポリシーの領域でこの優先報告者プログラムに2021年から参加している。
YouTubeでも人を含めて必要なリソースに投資を続けている。2023年第1四半期では、嫌がらせやネットいじめ、嫌がらせ行為などを理由に、世界全体で8万7000以上のチャンネル、67万件以上の動画、7900万以上のコメントが削除されている。
「削除」だけではないグーグルの取り組み
ガイドライン違反コンテンツの削除だけでなく、ユーザーリテラシー向上への取り組みも実施している。
たとえば、6月28日にグーグルはクリエイターエコノミー協会が設立した誹謗中傷対策検討会に参画し、ネット空間の安全を業界全体で守るべく取り組んでいるほか、YouTubeでも9月からキャンペーン「ちょっとまって：投稿前に、想像しよう」を開始した。
若年層に人気のクリエイターや総務省、国際大学GLOCOM、クリエイターエコノミー協会の協力の下、ネット上での嫌がらせやいじめの投稿と拡散を防ぐために、具体的な事例を交えながら発信されている。
各クリエイターのチャンネルで配信されている動画は、キャンペーン開始から9月19日時点で356万回以上再生され、4800以上のコメントが投稿されているという。
19日には、ショート動画も投稿され、キャンペーンによるリテラシー向上の拡大が期待されている。