ThreadsとInstagramがBAN祭り状態、モデレーションの暴走が制御不能に

Metaが運営するソーシャルネットワーキングサービスのThreadsとInstagramで、問題のない投稿やアカウントが削除されたり制限されたりする問題が多発していると、IT系ニュースサイトのThe Vergeが報じました。
Instagram and Threads moderation is out of control - The Verge
https://www.theverge.com/2024/10/9/24266096/instagram-threads-moderation-account-post-deleted-limited
伝えられるところによると、Threadsでは「Threadsのモデレーション失敗」というトピックがトレンド入りしており、中には炎上中の話題を扱った記事にリンクしただけでアカウントが削除や制限を受けたと訴えるユーザーもいるとのこと。
あるThreadsユーザーは、サンフランシスコの熱波について冗談で「死にたいくらいだ」と投稿したところ一時的にアカウントがロックされてしまったと報告しています。
投稿者: @kylie.robison Threadsで見る

The Vergeの記者であるUmar Shakir氏も、子どもではないのに「13歳未満」だという理由でInstagramのアカウントが規制されてしまったユーザーのひとりで、SNSでは多数のユーザーが同様の不満を訴えています。
Just had my instagram account suspended because they don't allow people under the age of 13 on the app... pic.twitter.com/7iLcHCzo5k— Ricky Babcock (@Ricky_Babcock) October 8, 2024
ほかにも、自動システムが誤って投稿を「政治的」と判断したとの指摘や、ハリケーンに関する正確な災害情報が抑制されて表示されにくくなっているとの指摘、「cracker jacks(スナック菓子のブランド)」や「saltines(塩味のクラッカー)」を含む投稿が自動的に規制されるとの指摘などが相次いでいます。クラッカーに言及すると規制されてしまう問題は、ユーザーの間で「クラッカーゲート」と呼ばれているとのこと。
また、今回の一件とは別に、Metaが運営するサービスでは「『さよならMeta AI(goodbye meta AI)』と投稿すると自分のデータを勝手にAIのトレーニングに使用されるのを防げる」というデマが広がっていますが、ソーシャルメディアコンサルタントのマット・ナバラ氏がこのデマについて解説したところ、Threadsアカウントのランクが下げられてしまったそうです。
ナバラ氏に対し、InstagramとThreadsの責任者であるアダム・モッセーリ氏は「調査中です……」と述べました。
投稿者: @mosseri Threadsで見る