孫娘の胸元に手を伸ばすジョー・バイデンのコラ動画をMetaの監査機関が「AI製ではないしポリシーにも反しないからセーフ」と判断、ただし現状の支離滅裂なポリシーは改善すべきだと苦言

ジョー・バイデン大統領が孫娘の胸元を不適切に触っているかのように編集された動画がMetaのポリシー違反ではないかと訴えられた事件で、Metaの監視委員会が「Metaのポリシーには違反していない」との判断を下しました。
Oversight Board Upholds Meta's Decision in Altered Video of President Biden Case | Oversight Board
https://www.oversightboard.com/news/1068824731034762-oversight-board-upholds-meta-s-decision-in-altered-video-of-president-biden-case/
Oversight Board calls on Meta to rewrite ‘incoherent’ rules against faked videos | TechCrunch
https://techcrunch.com/2024/02/05/meta-facebook-oversight-board-biden-video-cheapfake/
問題の動画は、2022年10月の中間選挙において撮影されたバイデン大統領の映像を編集したものでした。当時、バイデン大統領は成人した孫娘の初投票を祝い、孫娘の指示に従って「I Voted(投票しました)」と書かれたステッカーを孫娘の胸元に貼り、頬にキスをしました。
ところが、動画ではバイデン大統領が胸元に触った様子がループするように改変され、「女の子たちよ、おっぱいをもめ」という歌詞を含んだ曲を背景に、「病んだ小児性愛者」「バイデンに投票した人は精神的に病んでいる」との字幕が付けられるなど、明らかに大統領をけなすような編集が行われていたとのこと。
別のユーザーがこの投稿をヘイトスピーチとしてMetaに報告しましたが、Metaは何の審査もすることなく、この報告を機械的に処理しました。ユーザーはこの決定を不服としてMetaに再度訴えたものの、人間のレビュアーが「コンテンツは違反ではない」と判断し、投稿は放置されたままとなりました。最終的に、ユーザーは監視委員会に訴え出ました。
バイデン大統領を「小児性愛者」とレッテル貼りする動画の削除をMetaが拒否した件でFacebookの独立監査機関がポリシー見直しの議論を開始 - GIGAZINE

監視委員会(Oversight Board)とは、2020年にMeta(当時Facebook)によって設立された独立裁定機関です。
監視委員会はパブリックコメントを求めるなどしてしばらく調査を続けていましたが、最終的に下した判断は「Metaが当該動画を放置したことに問題はない」というものでした。
監視委員会によると、記事作成時点のMetaが敷いている情報操作に対するポリシーでは、「人が言ってもいないことを言ったように見せかけるような編集をした動画」が禁止されているだけであり、さらにこれは「AIによって作成された動画」にのみ適用されます。Metaによれば、ポリシーで違反と規定される「操作されたメディア」の主な特徴は、平均的なユーザーに「それが本物であり、改変されていないと誤解させる可能性がある」という点を含んだコンテンツであり、こうした誤解を招くようなコンテンツがAI製だった場合にのみ、ポリシーに基づいた対応を行うとのことです。
今回の動画は、「人がやってもいないことをやったように見せかけた動画」であり、さらにAIではなく人間によって作成されたものであることに加え、映像のワンシーンがループしていることから改変されていることも明らかです。したがって、監視委員会は当該動画を「問題ない」と判断しています。

とはいえ、監視委員会は現在の情報操作に対するポリシーに懸念を抱いており、「今のポリシーは支離滅裂で、説得力のある正当性に欠けている。具体的な被害を防ぐ目的というよりは、コンテンツがどうやって作成されたかに焦点が当てられており、これは不適切である」と指摘しています。
監視委員会は「現状のように、AIによって改変または生成されたコンテンツ、そして人が言ってもいない言葉を言っているように見せかけるコンテンツにのみポリシーを適用するのは狭すぎる。人がやってもいないことをやっているように見せるコンテンツにもポリシーを拡大すべきである」とコメントし、さらにパブリックコメントで得られた知見を基に「AIに頼らない改変コンテンツは広く普及しており、ポリシーはAI製の『ディープフェイク』と、非AI製のコンテンツを区別して扱うべきではない」と指摘。「現在の方針は誤情報によって引き起こされる被害が何であるかを明確に特定するものではないため、これを早急に改定する必要がある」と続けました。
具体的な策として、監視委員会は「投票権や公務執行への干渉を妨害するものなどは一括して『操作されたメディア』と定義すること」「ポリシー違反がない場合は、コンテンツを削除するのではなく『誤解を与える可能性がある』と示すラベルを貼ること」などの案を提示。監視委員会は「2024年に選挙があることを考えると、Metaはこの政策を早急に再考すべきである」と意見しました。