YouTubeでAIによる合成コンテンツを識別する新機能

　YouTubeは、視聴しているコンテンツがAIによって作成されたものかどうかが分かる新機能について発表した。

　AIなどによって作成されたコンテンツは、コンテンツの合成・改変に気づかない視聴者の誤解を招くことにつながる。これを防ぐために、YouTube上のコンテンツが合成である場合には、その旨を視聴者に知らせる表示が導入される。

　クリエイターは、合成または改変により本物にみえるコンテンツを作成した場合、その情報開示が必要になる。今後数カ月の間に、動画アップロード時に合成素材を含んでいるかどうかについてのオプションが選択できるようになる。たとえば、実在の人物が実際にはしていない発言をしているように見せる動画などは、情報開示の対象となる。

　クリエイターが情報開示を行わない場合、コンテンツ削除やYouTubeパートナープログラムへの参加停止などの罰則の対象となる。YouTubeは、クリエイターの理解を得ながら本施策を実施していくとする。

　視聴中のコンテンツが合成・改変されている可能性がある場合、説明欄にそのことを示すパネルが追加される。また、よりセンシティブな話題に関するコンテンツについては、再生画面にパネルが表示されるようになる。YouTubeの生成AIツール「YouTube AI Dream Screen」で作成されたコンテンツも、表示の対象となる。

説明欄に表示されるパネルのイメージ

再生画面に表示されるパネルのイメージ

　情報開示の有無にかかわらず、コミュニティガイドラインに違反している合成コンテンツは削除されることになっている。

合成コンテンツの削除要請が可能に

　特定可能な個人の顔や声が生成AIによって模倣されたり、合成・改変されたりした場合、コンテンツの削除を要請できるようになる。コンテンツが著名人を取り上げているかなどが、削除されるかどうかの判断基準となる。

　また、音楽アーティストの歌声が生成AIによって模倣された場合、そのコンテンツの削除要請も可能となる。削除申し立てができるのは、YouTubeの音楽AIに関する初期テストに参加したアーティストの代理レーベルなど。今後、ほかのレーベルも申し立てができるようになる予定となっている。

コンテンツ管理におけるAIの活用

　YouTubeでは2万人以上の審査員とAIテクノロジーの組み合わせでコンテンツの管理をしている。AIはいままでなかった形式の不正行為の識別にたけており、ポリシー違反を見つけるシステムの速度や精度の向上につながっているとする。

　YouTubeは「一番になることを目指すより、時間をかけて物事を正しく進める」をモットーとしており、違反コンテンツを防ぐためのAIツールの開発においてもユーザーのフィードバックを受けながら慎重に進めていくとする。