AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている

AIを使って作成された著名人などの偽動画・ディープフェイクを用いた詐欺的広告動画が、YouTube上で横行していると指摘されています。ディープフェイクを作成された著名人にはジョー・ローガン、テイラー・スウィフト、アンドリュー・テイト、スティーブ・ハーベイ、ドウェイン・ジョンソン、オプラ・ウィンフリーなどが名を連ねており、ディープフェイク広告動画はYouTube上で合計1億9500万回以上再生されているようです。
Deepfaked Celebrity Ads Promoting Medicare Scams Run Rampant on YouTube
https://www.404media.co/joe-rogan-taylor-swift-andrew-tate-ai-deepfake-youtube-medicare-ads/

No, That’s Not Taylor Swift Peddling Le Creuset Cookware - The New York Times
https://www.nytimes.com/2024/01/09/technology/taylor-swift-le-creuset-ai-deepfake.html
That's Not Taylor Swift You're Seeing: Inside the Rise of Celebrity Deepfakes - The Messenger
https://themessenger.com/entertainment/the-rise-of-celebrity-deepfakes
ディープフェイクで作成された偽の著名人が登場する動画が、YouTube上で何百万人もの人々に詐欺的商品を売りつけるための広告として利用されていると、複数のメディアが報じています。海外メディアの404 Mediaに情報提供した人物がまとめたリストにはディープフェイクを用いて作成された詐欺的動画が1633本リストされており、これらの動画の総再生数は合計で1億9500万回を超えています。
ただし、記事作成時点ではこれらの詐欺的広告動画のほとんどがYouTubeにより削除されています。404 Mediaの調査によると、これらの詐欺的広告動画のほとんどが2023年10月以降にアップロードされており、これらの動画を問題視するYouTuberやYouTubeユーザーの指摘により広く知られるようになりました。
ディープフェイクで作成された詐欺的広告動画のひとつでは、「こんにちは、テイラー・スウィフトです。州はすべての請求をカバーするために、6400ドル(約93万円)のホリデーパッケージを提供しています。これはインフレによるホリデーシーズンの補助金で、返済する必要はありません。家賃・ガソリン・食料品に使える現金なので、メディケアやメディケイドを持っていない限り、ホリデーパッケージは承認されます。ウェブサイトにアクセスして2つの簡単な質問に答えるだけで、あとは担当者が対応してくれます。あなたもホリデーパッケージが利用できるように、以下にリンクを記しています」と、政府による架空の助成金を偽のテイラー・スウィフトがユーザーに語り掛けています。この動画は記事作成時点でYouTube上から削除されているものの、404 Mediaによると発見した段階で30万回以上再生されていたそうです。
偽のテイラー・スウィフトが宣伝する架空の助成金を宣伝する動画は複数あり、偽のスティーブ・ハーベイが登場する詐欺的広告動画は1800万再生されており、記事作成時点でもYouTube上で再生可能です。
826b 1 - YouTube

これらの詐欺的広告動画の多くはAIが作成した合成音声と、著名人の既存の動画を組み合わせたものですが、中にはディープフェイクを使用して作成された動画もあります。著名人が登場しない動画もありますが、どの動画も同じ詐欺的ウェブサイトにユーザーを誘導しており、動画を投稿しているもの同じ広告主だった模様。
これらの動画はアメリカ保健福祉省(HHS)が警告する詐欺的手段のひとつを実行しているそうで、HHSは「詐欺師は偽のHHSをかたるウェブサイトやソーシャルメディアスキームを通じ、偽の助成金を提供するとうたって国民から金銭を盗んでいます」と説明しています。
404 Mediaは「著名人やYouTubeユーザーがこの種の詐欺的広告動画に対して怒りの声を上げているにもかかわからずこのような事態が起きるのは、AIが作成した詐欺的コンテンツがYouTube上でまん延している、あるいはGoogleがユーザーを保護する気がないことを表しています」と記しています。
なお、ディープフェイクで自身の偽動画を作成された著名人の中には、訴訟を計画していると語る人もいます。The New York Timesの報道によると、トム・ハンクス、オプラ・ウィンフリー、ゲイル・キングなどが、自身の肖像権を侵すディープフェイクに対して言及しているそうです。マーケティングインフルエンサーのブランドン・ボウスキー氏も、Discord上で「クソみたいなAIセレブ広告がまん延してるね。最悪だ」と語りました。
Reddit上でも2023年10月頃からYouTubeでまん延するディープフェイクを使った詐欺的広告動画の存在が指摘されており、数十人のプレイヤーがこれらの広告動画をYouTubeに報告したと主張しています。
人気YouTuberのMrBeastは詐欺的広告動画について、「多くの人が私のディープフェイク詐欺的広告動画を再生しています。ソーシャルメディアプラットフォームはAIを用いたディープフェイクの台頭に対処する準備ができているのでしょうか？これは深刻な問題です」と言及しています。
Lots of people are getting this deepfake scam ad of me… are social media platforms ready to handle the rise of AI deepfakes? This is a serious problem pic.twitter.com/llkhxswQSw— MrBeast (@MrBeast) October 3, 2023

これらの詐欺的広告動画を誰が投稿したのかをGoogleの広告透明性センターを使って調査したという匿名の学生によると、Mantilla Marketing、Idea Clan、LOOKFINITY、MILKIT OUなどの企業が1万6000件以上の詐欺的広告動画をYouTubeに投稿していることが明らかになりました。Googleに登録されている情報からこれらの動画が詐欺的広告であると判断するのは比較的簡単であると404 Mediaは指摘しており、「Googleは広告動画を時間をかけて調査していないようです」と批判しました。