ニュース
YouTubeの動画が削除される仕組み、公式ブログで「コミュニティガイドライン」の解説
2022年12月7日 00:00
YouTubeは、公式ブログにおいて、YouTubeの動画に適用される「コミュニティガイドライン」の策定方法やその適用の仕組みについて紹介する記事を掲出した。
コミュニティガイドラインは、YouTubeのコンテンツに適用されるルールのひとつ。YouTubeでは、YouTube上での表現活動の促進と有害なコンテンツからの保護をYouTubeの長期的なビジネスにおける重要な取り組みとしている。
その一方で何がダメで何がそうではないのか、新たなガイドラインの策定と反映になぜ長い時間がかかるのかについて、ユーザーから疑問が寄せられているとして、ガイドライン（ポリシー）の策定の仕組みやその適用について解説している。
ガイドラインは変わるもの
同社では、ポリシーは時代の変化に合わせて変えていく必要があるものと説明。過去に、英国で「新型コロナウイルスは5Gにより感染する」という流言飛語により実際に基地局が破壊されるという事件が起きた際、YouTubeではポリシーを変更し、同様の主張を行うものを違反コンテンツとして扱った。
同社ではオープンな議論や表現の自由は社会に対して有用なものとしつつも、ユーザーやYouTubeに深刻な危害を与えかねないコンテンツは禁止行為として扱うとしている。
このほかにも各国の専門家やNGO、学者などの専門家と連携し、そこから得た知見がポリシー見直しに活用されている。
どのように策定されるのか？
具体的にポリシーの変更が必要とされる基準は「Trust ＆ Safety チーム」により決定されるという。
有害なコンテンツがこの先どの程度増えると考えられるか、現行のポリシーがどう適用されるかを考慮し、表現の自由と社会への悪影響や世界中のYouTubeのコンテンツ審査担当者の間で一貫して適用できるかを検討したうえで変更案を検討。最終的な承認はYouTubeのCEOなどを含む経営陣によって下されるという。
現状のコンテンツに対処するほか、将来的な問題を把握する取り組みも行われている。Trust ＆ Safety チーム内の「インテリジェンスデスク」という部門では、将来的にポリシー違反となりえる可能性があるトレンドとそのリスクを特定。現在生じている脅威を定期的に監視し、時間の経過とともにどう変化していくかを評価しているという。
それらの知見は、将来的に新しい脅威をどう管理するかに活かされる。YouTubeではこれまでにもインテリジェンスデスクによる情報にもとづいて、ヘイトスピーチに関するポリシーを変更したとしている。
策定後も更新
さらに、新しいポリシーが一貫して適用されるべく、コンテンツ審査担当者にはテストを課し、さまざまなバックグラウンドを持つ審査員がより正確に理解できるよう修正を入れるなどして、完了まではときに数カ月を要するという。
審査には人間だけではなくAIも活用されており、機械学習も新しいポリシーに合わせてトレーニングする。すべてのテストが終了したのち、新しいポリシーが設定されるが、その後も適用の精度や内容の補足、グレーなケースの明確化などのために修正が続けられる。
動画はどうやって削除されるのか
ブログではさらに、コンテンツが削除される仕組みについて説明。AIはコミュニティガイドライン違反の可能性があるコンテンツを大規模に検出し、人間の審査担当者に提示する。担当者は提示されたコンテンツから実際に削除するかどうかを判断するという体制を敷いている。
AIは人間の担当者のフィードバックをもとに継続的に学習し適応し、精度が向上していくという。
同社では人間とAIの連携について、ヒトラーのニュルンベルク党大会での演説を例に出す。ナチスのプロパガンダの場であった映像は、AIにはヘイトスピーチとして認識される可能性があるが、ナチスを避難するドキュメンタリー映像のワンシーンであった場合、削除されるべきコンテンツではない可能性がある。
こうした前後の文脈を考慮した区別はAIには難しく、それゆえにコンテンツの削除の判断は人間と機会が共同で責任を有すると説明されている。
YouTube全体の視聴率に占める、違反コンテンツの割合を示す「違反コンテンツの視聴率」によると、2022年7月～9月の間で0.10～0.11％。加えて削除された動画に対する、クリエイターからの再審査請求の件数も把握しており、上記の期間中に削除された560万本以上の動画に対して、27万1000件の再審査請求があり、このうち2万9000件の動画は再び公開されたとしている。
YouTubeでは今後も、変化する時代の流れに合わせてガイドラインが常に適切なものとなるよう、今後も見直しを継続すると説明している。