MetaのAIでアジア人が一時生成不可に、「アジア人と白人のカップル」を出力できない問題で


「アジア人男性と白人女性のカップル」など画像が生成ができないことが取り沙汰されたMetaの画像生成AIが、一時的にアジア人の出力をすべて一律に停止したことがわかりました。
AI-generated Asians were briefly unavailable on Instagram - The Verge
https://www.theverge.com/2024/4/4/24121419/meta-instagram-ai-image-generator-asian-race
IT系ニュースサイト・The Vergeの記者であるミア・サトウ氏は2024年4月4日に、Metaの画像生成AI「Imagine」を無料で使えるウェブアプリ「Imagine with Meta AI」でアジア人と白人の2人組を出力するよう指示しても、両方ともアジア人として生成してしまうことを報じました。
Metaの画像生成AIは「アジア人男性と白人女性のカップル」をイメージできないという報告 - GIGAZINE


サトウ氏が、Metaにこの不具合についてのコメントを求めたところ、Metaの担当者は記事の締め切りなどの詳細について逆に質問してきたとのこと。サトウ氏はMetaの質問に回答しましたが、Metaからの返答はありませんでした。
不具合が修正されたのかどうかを確認するため、4月5日にサトウ氏が同じプロンプトで画像を生成しようとしたところ、画像の代わりに「何か問題が発生したようです。後でもう一度試すか、別のプロンプトを試してください」というエラーメッセージが表示されました。


エラーは2人組に限らず、「スーツを着たアジア人男性」「買い物をするアジア人女性」「微笑むアジア人女性」など、アジア人に関するあらゆるプロンプトが生成できなくなっていました。
そこで、サトウ氏はもう一度Metaのコミュニケーションチームに問い合わせを行いました。また、返答を待つ間に「スーツを着たラテン系男性」「スーツを着たアフリカ系アメリカ人男性」といったプロンプトを試したところ、やはり生成できないことが判明したため、同様に問い合わせました。


サトウ氏はそれから40分ほどミーティングに参加していましたが、ミーティングが終わってもやはり返事はありませんでした。しかし、その時にプロンプトを試すと、「アジア人男性」のような単純なプロンプトは機能するようになっていたとのこと。
これについてサトウ氏は、「記者からの問い合わせの後に黙って何かを変更したり、誤りを訂正したり、機能を削除したりするのは、私が取材してきたたくさんの企業ではよくあることです。一個人の私が、アジア人を一時的に生成できないAIの問題を引き起こしたのでしょうか?それともたまたまタイミングが重なっただけなのでしょうか?Metaはこの問題の解決に取り組んでいるのでしょうか?私はそれが知りたかったのですが、Metaは私の質問には答えず、説明もしてくれません」と述べました。
さらにその後、MetaのAIは再び「アジア人男性と白人女性」のようなプロンプトに画像を返すようになりましたが、人種を取り違える問題はまったく解決されておらず、依然として両方ともアジア人として出力していました。つまり、アジア人が一律に出力できなくなった今回エラーが、Metaによる修正の試みの一環だったとしても、結局すべて振り出しに戻ってしまっていることになります。
サトウ氏は、引き続き「事態を見守るつもりです」と述べました。

ジャンルで探す