MetaがInstagram・Facebook・ThreadsでAI生成された画像に対しラベル付けを行うことを発表

Metaが現地時間2024年2月6日、InstagramやFacebook、Threadsに投稿されたAIが生成した画像を検出し、ラベル付けを行う方針であることを発表しました。この機能は早ければ数カ月以内に全ての言語で導入される予定です。
Labeling AI-Generated Images on Facebook, Instagram and Threads | Meta
https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/

Meta to start labeling AI-generated images from companies like OpenAI, Google | Reuters
https://www.reuters.com/technology/meta-start-labeling-ai-generated-images-companies-like-openai-google-2024-02-06/
Meta pushes to label all AI images on Instagram and Facebook in crackdown on deceptive content | Meta | The Guardian
https://www.theguardian.com/technology/2024/feb/06/meta-ai-images-instagram-facebook-label-crackdown
Metaによると、AI生成画像の検出とラベル付けは、画像ファイルに埋め込まれた目に見えないメタデータなどを利用することで行うとのこと。具体的には、GoogleやOpenAI、Microsoft、Adobe、Midjourney、Shutterstockなどの企業と協力して、AI生成情報を容易に識別できる業界標準の指標の開発を行っています。
そのため、これまでMeta独自の画像生成モデル「Emu」が生成した画像にしかラベル付けを行うことができませんでしたが、今後はさまざまな企業の画像生成モデルが生成した画像に対してラベルを付けることが可能になります。
AIが生成した画像を含む投稿には「AI info」というラベルが付けられ、ユーザーがAI生成された画像であることを容易に識別できるようになり、透明性が向上します。なお、Emuを用いて生成した画像を含む投稿にはすでに「Imagined with AI」のラベルが付けられています。

Metaのグローバルアフェアーズ担当プレジデントのニック・クレッグ氏は「人間が作成したコンテンツとAIが生成したコンテンツの差が曖昧になるにつれて、人々はその境界がどこにあるのか知りたがるようになってきています」と述べています。
クレッグ氏によると、この機能は構築段階にあり、今後数カ月のうちに、各アプリがサポートする全ての言語においてラベルの適用を開始する予定とのことです。クレッグ氏は世界中で複数の重要な選挙が行われる2025年までには同機能を実装したいと記しています。
また、Metaは将来的に音声や動画を含むコンテンツにもこの機能を適用する予定であることを明かしています。クレッグ氏は「今後はAI生成されたコンテンツに対しラベルを付けるようユーザーに要求し、ユーザーがそれを怠った場合は罰則を適用する予定です」「一般の人々に著しく誤解を招きかねない、特に高いリスクを持つAI生成コンテンツには、より目立つラベルを貼る方針です」と報告しました。

クレッグ氏は「AIが生成したコンテンツで積極的に人々を欺こうとする人々や組織は、AI生成コンテンツを検出するために導入されている安全対策を回避する方法を探すでしょう。私たちの業界や社会全般において、私たちは一歩先を行く方法を常に模索し続ける必要があります」と述べました。