Metaがインドの選挙期間中に偽情報や暴力を扇動するAIが生成した画像を含むFacebook広告を承認していたことが判明

インドでは2024年4月19日から6月1日にかけて第18期ローク・サバー(下院)の議員を選出する総選挙が実施されています。しかし、Metaはこの選挙期間中にインドのユーザーをターゲットとした偽情報や暴力の呼びかけ、選挙の陰謀論に関する14件のFacebook広告を承認していたことが報告されています。
Ekō and ICWI Briefing: Meta AI ads investigation - Meta_AI_ads_investigation.pdf
(PDFファイル)https://aks3.eko.org/pdf/Meta_AI_ads_investigation.pdf

Meta is approving AI-generated ads pushing supremacist hate narratives in wake of India’s election “silence period” – flooding voters as they hit the polls.
New report by Ekō and @indiacivilwatch shows how @Meta is failing to stop these inflammatory ads. https://t.co/MeHqyQTXsu— Ekō (@Eko_Movement) May 20, 2024

Revealed: Meta approved political ads in India that incited violence | India | The Guardian
https://www.theguardian.com/world/article/2024/may/20/revealed-meta-approved-political-ads-in-india-that-incited-violence
Meta approved ads in India that called for violence and spread election conspiracy theories
https://www.engadget.com/meta-approved-ads-in-india-that-called-for-violence-and-spread-election-conspiracy-theories-225510165.html
非営利のインターネット監視団体であるEkōはMetaに対し、「イスラム教徒の少数派を標的とした武装蜂起を呼びかけ、インドの政界にはびこる共同体や宗教を利用した露骨な偽情報を広め、ヒンドゥー教至上主義者の言説を通じて暴力を扇動する」目的の英語、ヒンディー語、ベンガル語、グジャラート語、カンナダ語からなる22件の広告を提出しました。これらの広告は実際にEkōがそのような主張を広めるためではなく、Metaの広告承認プロセスをチェックするテストとして提出されたものでした。
その結果、14件の広告がポリシー違反を理由に却下されるはずだったにもかかわらず、Metaの承認を得ることに成功。なお、Ekōはこれらの広告が掲載される前に撤回し、実際のFacebookユーザーの目に入ることはありませんでした。
Some key takeaways:
???? Meta greenlights ads calling for the killing of Muslims and the execution of prominent opposition party leader
????Meta potentially breaching India's national election laws and own policy on hate speech and AI-generated ads— Ekō (@Eko_Movement) May 20, 2024

Metaのポリシーでは、政治広告は掲載前に特定の承認プロセスを経る必要がありますが、今回Ekōが提出した広告のうち、この承認プロセスに基づいて却下された広告はわずか3件にとどまったことが報告されています。
加えてEkōでは、広告用の画像の作成に生成AIツールを使用したことを明かし、「MetaはAI生成のコンテンツを検出するシステムの開発に取り組んでいると発表しているにもかかわらず、どの広告もAIが生成した素材を含むことを示すフラグを立てられることはありませんでした」と報告しました。
Ekōのメーン・ハマド氏は「ヒンドゥー教至上主義者や人種差別主義者や独裁者は、卑劣なヘイトスピーチや暴力的な陰謀論の拡散や、炎上するモスクの画像を共有するために、ターゲティング広告を利用できることを知っています。にもかかわらず、Metaは問答無用で彼らからお金を受け取って、広告を承認しています」と批判しました。
Meta is becoming a magnet for bad actors. Supremacists, racists and autocrats rely on Meta’s hyper-targeted ads to spread vile hate speech, and push violent conspiracy theories - and Meta will gladly take their money, no questions asked.— Ekō (@Eko_Movement) May 20, 2024

また、ハマド氏は「今回の選挙では、Metaが選挙期間中にプラットフォーム上で急増しがちなヘイトスピーチや偽情報に対処する方法を持っていないことが示されました。世界中では数多くの選挙が実施されていますが、今回の報告を受けて、Metaを信頼することが果たしてできるでしょうか」と疑問を提起しています。
今回の調査結果を基に、Ekōはインド総選挙期間中の偽情報とヘイトスピーチの拡散を早急に停止するよう、Metaに要請する予定であることを明かしています。
We reiterate our calls on @Meta to urgently stop the proliferation of disinformation and hate speech during India’s election. Meta must take proactive measures to enforce India’s political advertising “silence period” and curb the flood of election-related disinformation.— Ekō (@Eko_Movement) May 20, 2024

なお、MetaはEkōの報告に関してコメントを残しておらず、政治広告を掲出する広告主にはAIの使用を開示することを義務付けていることと、インド総選挙では適切な取り組みを実施していると主張しました。