中国やイスラム国がニュースに見せかけたAI生成プロパガンダを発信している実態が報じられる

生成AIの性能と使いやすさが飛躍的に向上した近年では、AIによって生成されたプロパガンダやフェイクニュースの氾濫が課題となっています。中国やイスラム国(ISIS)がAI生成のプロパガンダを発信している実態について、海外メディアが報じています。
How China is using AI news anchors to deliver its propaganda | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/article/2024/may/18/how-china-is-using-ai-news-anchors-to-deliver-its-propaganda

How ISIS allies are using AI fakes to spread propaganda quickly - The Washington Post
https://www.washingtonpost.com/technology/2024/05/17/ai-isis-propaganda/
イギリスの日刊紙であるThe Guardianによると、インターネットでは2024年5月20日に台湾(中華民国)総統を退任した蔡英文(さいえいぶん)氏を、「ヨウサイ」にたとえて批判するニュース番組らしき動画が拡散されているとのこと。これは、中国語のヨウサイ(空芯菜)と「中身のない蔡(さい)」をかけただじゃれです。
この動画でニュース内容を読み上げているのは人間ではなく、「AIによって生成された偽のニュースキャスター」だとThe Guardianは指摘しています。動画の出どころや制作者は不明ですが、これは台湾独立を支持する人々に疑念を抱かせることを目的としているため、中国に近しい存在によって作られた可能性が高いとみられます。

こうしたAI生成のアバターを利用したプロパガンダやフェイクニュースは、すでにソーシャルメディア上で広まりを見せています。偽情報調査会社のGraphikaでディレクターを務めるテイラー・ウィリアムズ氏は、「AI生成のプロパガンダは完璧である必要はありません。ユーザーがX(旧Twitter)やTikTokをスクロールしているだけでは、小さな画面から小さなニュアンスを拾うことができません」と述べています。
中国はAI生成によるフェイクニュースの最前線で、Microsoft脅威分析センター(MTAC)は2024年4月のレポートで、「中国がAI生成コンテンツを悪用してアメリカ・韓国・インドの選挙を妨害しようと計画している」と警告しました。MTACのクリント・ワッツ氏は、中国国内のメディア企業は合成ニュースキャスターを公式に使用しており、これによって合成ニュースキャスターのフォーマットに磨きをかけることができたと指摘。「中国はプロパガンダやフェイクニュースといった自分たちのシステムにAIを組み込もうとしています。中国はあらゆることを試しており、特にAIの効果が高いというわけではありません」と、ワッツ氏は述べています。
中国がアメリカ・韓国・インドの選挙をAI生成コンテンツで妨害するだろうとMicrosoftが警告、すでに台湾の総統選挙で使用か - GIGAZINE

また、ワシントン・ポストはイスラム過激派のISISも、AIをプロパガンダに利用していることを報じています。2024年3月、ロシア・モスクワのコンサート会場で100人以上が亡くなるテロ事件が起きました。このわずか4日後にテロ組織と関連のある民間プラットフォームで、ヘルメットと軍服を着たニュースキャスターが「この攻撃はテロではなく、ISISと対立する諸国との激しい戦争にみられる通常の状況だ」と主張する映像が公開されました。
テロリストや過激派のオンライン活動を追跡するSITE Intelligence Groupによると、この映像でしゃべっているニュースキャスターはAI生成のアバターであり、「News Harvest(ニュースハーベスト)」と呼ばれるAI生成メディアプログラムの一環として、ISIS支持者らが作成したものだったとのこと。
ISISの特徴として、活発なオンラインでのプロパガンダ戦略が挙げられます。以前からSNSや動画投稿サイトを利用して中近東、あるいは世界中から戦闘員や支持者を集めてきたISISが生成AIに目を向けたのは、ある意味で自然な流れといえます。SITE Intelligence Groupの共同創設者であるリタ・カッツ氏は、「ISISにとってAIはゲームチェンジャーを意味します。これは彼らにとって、血なまぐさい攻撃の結果を世界の隅々にまで広げる手っ取り早い方法となるでしょう」と述べています。
以下の画像は、ISIS支持者が作成したニュース動画のスクリーンショットです。ワシントン・ポストは、AI生成のニュースキャスターに「AI-GENERATED」とラベルを付けていますが、静止画からAI生成であることを見抜くのはかなり困難です。

ISISの支持者らはプロパガンダにAIを使用することについて熱心です。「Al Kurdi 500」というISIS支持者は2024年3月、ISIS支持者のプライベートメッセージングサーバー上で、「アルジャジーラなどのニュースチャンネルのように、テキストでニュースを読んだり画像を見たりする代わりに、兄弟が日々のニュースに関するビデオを制作してくれたら最高です。テクノロジーは大きく進化しており、特にAIの使用によって今日では簡単に実行できるでしょう」とコメントしました。
ロシアのテロ事件以降、6件の「ニュースハーベスト」の動画が投稿されており、その中でISISの支持者が世界中のISIS関連組織の活動について説明していたとのこと。中東報道研究機関(MEMRI)のエグゼクティブディレクターを務めるスティーブン・スターリンスキー氏は、これらの動画はISISの公式部門によって作成されたものではないため、ISISの包括的な戦略と一致するかどうかは不明なものの、ISISは以前から最新テクノロジーの導入に積極的であるため、ISIS内部にAIメディア部門が設立されていても不思議ではないと述べています。
実際、MEMRIが4月23日に入手したISISのメッセージには、ISISのメディア部門が「ポスター作成・記事執筆・動画編集の専門家」を募集しており、特に「Adobe PhotoshopおよびPremiere、そしてAI」に精通した人物を求めていることが記されていました。その投稿には、「メディアのムジャーヒディーンよ、メディアはあなたの攻撃を待っています」と書かれていました。
他にも、アルカイダ系グループが2024年2月にオンラインでAIワークショップを主催するなど、その他のイスラム過激派組織もAIの可能性に目を向け始めています。
ワシントン近東政策研究所の上級研究員であるアーロン・ゼリン氏は、AIは世界中の人々がプロパガンダに触れ、過激派グループと関わる機会を提供することで、国外の過激派の台頭につながる可能性があると指摘した上で、「スパゲッティを壁にたくさん投げつければ、最終的にはどれかがくっつくでしょう。この種のコンテンツがバイラルになる道をAIが提供する可能性があります」と警告しました。