InstagramとFacebookで有名人が画像を改変されたAIディープフェイクポルノ事件をMetaの監督委員会が調査へ

by Budiey
2024年4月16日、Metaのプラットフォーム上で削除されるコンテンツについて監視を行う第三者組織の監督委員会がFacebookとInstagramで起こったディープフェイクポルノに関する事例2件について調査を開始したことを明らかにし、「Metaのポリシーと施行慣行がディープフェイクポルノに対処するのに効果的かどうかを評価する」と発表しました。
Oversight Board Announces Two New Cases on Explicit AI Images of Female Public Figures | Oversight Board
https://www.oversightboard.com/news/361856206851167-oversight-board-announces-two-new-cases-on-explicit-ai-images-of-female-public-figures/

Explicit AI Images Case Bundle | Transparency Center
https://transparency.fb.com/ja-jp/oversight/oversight-board-cases/explicit-ai-images/

Meta’s oversight board to probe subjective policy on AI sex image removals | Ars Technica
https://arstechnica.com/tech-policy/2024/04/metas-oversight-board-to-probe-subjective-policy-on-ai-sex-image-removals/
監督委員会は、AIによって生成されたディープフェイク画像に関する2つのケースについて調査したと報告しています。
1つ目のケースでは、インドの女性著名人のヌード画像がAIで生成され、インド人女性のAI生成画像のみを共有するInstagramアカウントに投稿されました。目撃したユーザーがこの投稿を報告しましたが、Metaが48時間以内に審査しなかったため、レポートは自動的に閉じられてしまったとのこと。
投稿を報告したユーザーは異議申し立てを試みましたが、報告は再び自動的に閉じられてしまい、ユーザーが監督委員会に訴えるまでMetaは画像を削除しなかったことが問題視されています。委員会は「Metaの判断が誤っていた」と認め、いじめ・嫌がらせに関するコミュニティ規定に違反するとして投稿を削除しました。

by ApolitikNow
2つ目のケースでは、AIで生成されたアメリカの女性著名人のヌード画像が、AI作品を投稿するFacebookグループに投稿されました。投稿のキャプションには、女性著名人の名前が含まれていたとのこと。しかし、別のユーザーがすでに同じ画像を投稿しており、Metaは安全チームによる審査を行い、いじめ・嫌がらせ防止ポリシーに違反するとしてこの画像を削除していました。また、この時に投稿された画像は、「人間のレビュアーによってポリシーに違反していると特定された画像を自動的に検知して削除する自動施行システム」にも登録されていたとのこと。
FacebookグループにAI生成画像を共有しようとしたユーザーは、自分の投稿が自動的に削除されたことについて異議を申し立てましたが、やはりレポートが自動的に閉じられたため、監督委員会に訴えました。
監督委員会は「ディープフェイクポルノがもたらす被害の性質と深刻さ、特に女性著名人への影響について」「ディープフェイクポルノの問題がアメリカとインドでどの程度深刻化しているか」「ディープフェイクポルノに対処するための最も効果的な方針と施行プロセス」「1つ目のケースのように自動システムに依存することで報告が閉じられてしまうことの問題点」について、2024年4月30日までパブリックコメントを求めています。

by thủ thuật Sforum
監督委員会の発表を受けて、Metaは「監視委員会の決定に従う」とコメントしました。