イーロン・マスクが推し進めるAI「Grok」がユーザーにより投稿された「イランが攻撃開始」などのフェイクニュースをまとめて公式トレンドがめちゃくちゃに

イーロン・マスク氏は2023年にAIスタートアップの「xAI」を設立し、11月にはチャットAI「Grok」をリリースしました。しかし、悪意のあるユーザーが広めた偽のイラン攻撃ニュースがGrokによってまとめられ、X(旧Twitter)のトレンドに入ってしまったことが報告されています。
X's AI chatbot Grok made up a fake trending headline about Iran attacking Israel | Mashable
https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore

Investors in talks to help Elon Musk's xAI raise $3 billion, WSJ reports | Reuters
https://www.reuters.com/technology/investors-talks-help-elon-musks-xai-raise-3-billion-wsj-reports-2024-04-05/
Xは2024年4月4日、トレンドや検索画面が表示される「Explore」タブに関するアップデートを実施し、トレンドをクリックすると関連する上位の投稿に加えて「Grokで生成したトレンドに関するわかりやすい要約」をニュースのように表示する機能を追加しました。ところが、Grokにより事実ではない情報が要約され、まるで本当の出来事であるかのように表示されていることが判明しました。
DEMO: Updated demo of the upcoming explore page.
pic.twitter.com/4KeFuIyZpT pic.twitter.com/tBGiGxBP9n— X Daily News (@xDaily) April 3, 2024

2024年4月4日には、トレンドに「イラン、ヘビーミサイルでイスラエルのテルアビブを攻撃」との見出しが表示されましたが、記事作成時点でそのような事実はなく、フェイクニュースとされています。

この見出しをクリックすると、フェイクニュースを広める認証バッジ付きのアカウントによる投稿が多数確認されたとのことです。海外メディアのMashableは「フェイクニュースが広がっていることに気付いたXのアルゴリズムがトレンドを作成し、Grokがまるで事実のように見える要約を生成してしまったと考えられます」と述べています。

こうした事例はイラン・イスラエル問題だけでなく、Grokがただのジョークを本物の記事として扱ってしまうことも報告されています。以下の投稿では「ニューヨーク市警が地震発生を防ぐために1000人の警察官を動員。さらにはロボコップの出動も検討」といった要約が表示されていますが、これは明らかに真実ではなく、ユーザーのジョーク投稿がまとめられてしまったものです。
this is Twitter’s trending news section, powered by Elon Musk’s Grok AI. it pulled in a bunch of joke tweets about this and is treating it as if it’s a real news story pic.twitter.com/kDMGN7mGhU— Brett (@BrettRedacted) April 5, 2024

この件に関して複数のユーザーが「マスク氏がコンテンツモデレーションに関わる従業員を解雇したことが一因」と指摘しています。Xユーザーのhasanabi氏は「マスク氏が従業員を多数解雇した結果、トレンドとExploreが正しく情報を集約しなくなっています。『イランがテルアビブを攻撃している』といった偽のニュースが宣伝されてしまう要因は、マスク氏がモデレーションチームを解雇し、AIで情報を集約しているからです」と批判しました。
earlier today i noticed the trending and explore tab was no longer aggregating hashtags like it has been since elon fired the content team... turns out it's ai aggregation and it's promoting false stories like iran striking tel aviv right now. pic.twitter.com/sDkwjiA3fD— hasanabi (@hasanthehun) April 4, 2024

行動科学者のキャロライン・オア・ブエノ氏は「簡潔に言うと、マスク氏はrokを使ってフェイクニュースの記事を作成し、自身のプラットフォームであるXを使ってそれを増幅し、拡散させ、ファクトチェッカーからも隠しています」と批判。さらに「マスク氏がなぜこのプラットフォームを購入したのか、これでお分かりでしょう。マスク氏はは自分自身だけの現実を創りたいのです」と述べています。
So what you’re saying is that Elon Musk used his in-house AI tool (Grok) to create a fake news article, then used his own platform to amplify it, spread it, & shield it from fact-checkers?
Now you can see why he bought the platform. He wants to create his own reality. https://t.co/sJJvjqHfRK— Caroline Orr Bueno, Ph.D (@RVAwonk) April 6, 2024

なお、Grokを開発するxAIは、最大30億ドル(約4500億円)の資金調達を目指し、複数の投資家と交渉を実施していることが報じられています。この資金調達に成功すると、xAIの企業価値評価は180億ドル(約2兆7300億円)に上ることになります。