YouTubeが「リアルなAI生成コンテンツ」にラベル付けするためのツールを展開して生成AI使用の開示を動画クリエイターに要求

生成AIの発展によりまるで本物のようなコンテンツを生成できるようになった現代では、一般のネットユーザーが「見ている画像や動画が本物なのか、それともAIによって生成されたコンテンツなのか」を見分けることが難しくなっています。そこでYouTubeは現地時間の2024年3月18日、動画クリエイターが生成AIで作られたリアルなコンテンツにラベル付けするためのツールを展開しました。
How we're helping creators disclose altered or synthetic content - YouTube Blog
https://blog.youtube/news-and-events/disclosing-ai-generated-content/

Hey YouTube creators, it’s time to start labeling AI-generated content in your videos | CNN Business
https://edition.cnn.com/2024/03/18/tech/youtube-ai-label-for-creators/
YouTube adds new AI-generated content labeling tool - The Verge
https://www.theverge.com/2024/3/18/24104743/youtube-ai-generated-content-disclosure-label
YouTube says it will require creators to label some AI content
https://www.nbcnews.com/tech/tech-news/youtube-says-will-require-creators-label-ai-content-rcna143937
生成AIはクリエイターにとって有力な作業支援ツールとなる可能性を秘めていますが、視聴者が生成AIで作られたコンテンツを見て「本当の映像だ」と誤解してしまう危険もはらんでいます。特に2024年のアメリカ大統領選挙を控える中、リアルなAI生成コンテンツがユーザーに与える影響を緩和することは重要です。そこでYouTubeは2023年11月に、AIで生成された動画にラベル付けすることをクリエイターに義務づける方針を明らかにしていました。
YouTubeがAI生成・改変動画をはっきり明示する方針を発表、クリエイターに情報開示を義務づけ違反するとパートナープログラム停止も - GIGAZINE

そして2024年3月18日、YouTubeはクリエイター向けツールのYouTube Studioに、生成AIで作られたリアルなコンテンツにラベル付けする機能を導入すると発表しました。YouTubeは、「新しいラベルは視聴者との透明性を高め、クリエイターと視聴者間の信頼関係を築くことを目的としています」と述べています。
YouTubeによると、新たに動画の詳細設定画面に「Altered Content(変更されたコンテンツ)」の項目が追加され、リアルなコンテンツの生成にAIを使用した場合は「Yes」にチェックを入れることがクリエイターに義務づけられるとのこと。なお、実際に日本語版YouTubeに動画をアップロードしてみたものの、記事作成時点ではラベルの追加項目が確認できませんでした。海外メディアのNBCニュースも、YouTubeの発表後に新しい動画をアップロードしたもののラベル追加機能が表示されていなかったと報告しています。

「生成AIを利用した」というラベル付けが必要なコンテンツの例として、YouTubeは以下のものを挙げています。
実在する人物の肖像を使用する：コンテンツをデジタルで編集して、ある個人の顔を別の誰かの顔に置き換えたり、人の声を合成して動画のナレーションを生成したりするもの。
実際のイベントや場所を編集する：実在する建物が火事になったかのように見せかけたり、現実の町並みを改変して実際とは異なる印象を与えたりするもの。
リアルなシーンの生成：竜巻が実在する町に向かって移動する様子など、架空の大きな出来事をリアルに描写したもの。
一方、生成AIが動画の脚本やコンテンツのアイデア、字幕生成といった生産性向上のために使われた場合、生成AIのラベル付けは不要だとのこと。YouTubeは、クリエイターに生成AIを利用したことの開示を求めないケースとして、以下の例を挙げています。
・明らかに非現実的なコンテンツ(アニメーションやユニコーンに乗ってファンタジー世界を駆ける人物など)。
・色調整または照明フィルター。
・背景ぼかしやビンテージ加工などの特殊効果。
・美化フィルターやその他の視覚的効果。
クリエイターが「生成AIを利用した」とラベル付けした動画では、概要欄に「Altered or synthetic content(変更または合成されたコンテンツ)」というラベルが表示されます。

また、健康・ニュース・選挙・金融といったよりデリケートなトピックに関わる動画では、動画自体にも目立つ場所にラベルが表示されるとのことです。

YouTubeは今後数週間のうちにラベルを展開する予定で、将来的には生成AIの使用を開示しないクリエイターに対し、コンテンツの削除や収益化の停止といったペナルティを科すことも検討しています。さらに、識別可能な個人の顔や声を模倣したAI生成コンテンツや合成コンテンツの削除リクエストを可能にするため、プライバシープロセスの更新についても取り組んでいくとYouTubeは述べました。