Facebookアカウントを乗っ取ってChatGPTなどのAIサービスを提供するように見せかけつつマルウェアを配布する活動が観測される

既存のFacebookアカウントを乗っ取り、ChatGPTやMidjourneyなどのAIサービスを装いつつAIで生成した画像やニュースコンテンツを配信して、ユーザーを最終的にマルウェアへ感染させるよう導く活動が行われていることが判明しました。多いもので120万人のフォロワーを抱えるアカウントが詐欺に利用されていたことがわかっています。
AI meets next-gen info stealers in social media malvertising campaigns
https://www.bitdefender.com/blog/labs/ai-meets-next-gen-info-stealers-in-social-media-malvertising-campaigns/

Fake Facebook MidJourney AI page promoted malware to 1.2 million people
https://www.bleepingcomputer.com/news/security/fake-facebook-midjourney-ai-page-promoted-malware-to-12-million-people/
セキュリティソフトウェアの「Bitdefender」の開発に携わる研究者らの調査により、Midjourney、Sora、DALL-E 3、Evoto、ChatGPTなどになりすましたマルウェアの配布活動が行われていることがわかりました。
悪意のある人物は、まずFacebookのアカウントを乗っ取り、アカウントのプロフィールを各種AIサービスの公式のものであるかのように設定します。その後、AIで生成した画像や動画、ニュースなどを投稿し、さらにFacebook広告なども利用してユーザーを取り込み、新機能を提供すると装って、マルウェアをダウンロードさせるとのことです。

悪意のある人物はMidjourneyの公式ページのようなサイトを作り上げ、そこにファイル共有サービスのGoFileのリンクを設置していたそうです。ユーザーがマルウェアを実行してしまうと、クレジットカード情報や仮想通貨のウォレット情報、アカウントの各種認証情報やオートコンプリートの情報などを収集されてしまいます。
偽装サイトのFacebook広告にだまされたユーザーは、偽装であることを気づかないままFacebookコミュニティのメンバーとなり、「近日公開予定」といったユーザーの目を引く情報におもわずアクセスしてしまうとのこと。研究者らが広告を追跡したところ、ヨーロッパだけで約50万人が偽アカウントの広告にアクセスしていたそうです。
こうした偽広告は、AIによって「クリエイティブ」なものに仕上げられていました。

研究者らによると、これまでに約120万人のフォロワーを抱えるMidjourneyの偽アカウントなどが確認されているとのことです。このMidjourney偽アカウントは2024年3月8日に閉鎖されましたが、実に1年近く活動を続けていたそうです。

攻撃者がアカウントをどのように乗っ取ったのかは不明ですが、前述のMidjourney偽アカウントは複数の個人によって管理されていたそうで、どこからか認証情報が漏れてしまった可能性が考えられるとのこと。
テクノロジー系メディアのBleepingComputerは「現在、AIに対する人々の関心は非常に高いため、こうした活動は場合によっては驚異的なものになります。人々が真偽を見分けるのは容易ではありません。このような活動が成功したという事実は、ソーシャルメディアの広告を使った戦略の巧妙さと、オンライン広告に触れるユーザーは警戒しなければいけないという事実を浮き彫りにしています」と述べました。