Amazonで「AIが生成した低品質の伝記」が急増、AI生成書籍の氾濫を食い止めるためAmazonが一部ジャンルの出版制限を開始

2024年2月27日、ベテランのテクノロジー系ジャーナリストであるカラ・スウィッシャー氏の回顧録「Burn Book」が発売されました。この本が発売される少し前から、Amazonで「AIが生成したスウィッシャー氏の伝記」が大量に出版されていたことが報じられています。
AI-Generated Kara Swisher Biographies Flood Amazon
https://www.404media.co/ai-generated-kara-swisher-biographies-flood-amazon/

Kara Swisher among authors decrying AI-generated books on Amazon - The Washington Post
https://www.washingtonpost.com/technology/2024/03/01/amazon-ai-fake-books-authors/
AI Grifters Fill Amazon With Kara Swisher Memoir Ripoffs
https://gizmodo.com/ai-grifters-fill-amazon-with-kara-swisher-memoir-ripoff-1851293150
スウィッシャー氏の回顧録である「Burn Book」は、シリコンバレーのテクノロジー企業を取材してきた数十年のキャリアを振り返った本であり、世界に多大な影響を及ぼしてきたテクノロジー企業の創設者らの裏話なども含まれています。

スウィッシャー氏の妻は「Burn Book」の発売数週間前に、明らかにAIが表紙画像を生成したと思われる「スウィッシャー氏の伝記を名乗る書籍」が発売されていることに気づきました。著者はスウィッシャー氏が知らない人物で、本の内容は大部分またはすべてがAIによって生成されており、スウィッシャー氏に関して知られている一般的な事実を述べただけだったそうです。
スウィッシャー氏はAIによって生成された書籍をいったんは放置したものの、「Burn Book」の発売後に再び確認すると「スウィッシャー氏のスパム的なクローンの伝記」が数十冊に急増していました。それぞれの書籍はタイトルや著者が異なるものの、表紙にはAIで生成されたスウィッシャー氏の画像が用いられていたとのこと。スウィッシャー氏は、「そこには偽の本が何十冊もありました。『Amazonで何が起きているのだろう？なぜAmazonはこれを止めないのか？』と思いました」と述べています。
実際にウェブメディアの404 Mediaが発見した「スウィッシャー氏の偽の伝記」の一例がこれ。タイトルは「Kara Swisher: Silicon Valley’s Bulldog (A Biography)」、著者は「Jane Coelho」となっていますが、表紙の女性はスウィッシャー氏と別人です。この「Jane Coelho」という人物は、他にもイギリスの政治家であるローリー・スチュアートや俳優のトム・セレックの伝記を2024年に出版していました。

他にも、「Cheryl J Stackhouse」という著者は「Kara Swisher Book: How She Became Silicon Valley’s Most Influential Journalist」というスウィッシャー氏の伝記を出版していました。「Cheryl J Stackhouse」は2024年だけで23冊もの伝記を出版しており、その中にはウクライナ大統領のウォロディミル・ゼレンスキー氏や2024年2月26日に死去したロスチャイルド家元当主のジェイコブ・ロスチャイルド氏のものも含まれていたそうです。

こうした事態を受けて、スウィッシャー氏はかつて何度も取材してきたAmazonのアンディ・ジャシーCEOに直接メールで苦情を申し立てました。その結果、記事作成時点ではAIが生成したスウィッシャー氏の伝記はほぼ削除されましたが、同じ著者による別の伝記は依然として多数販売されているとのことです。また、ほとんどの著者はスウィッシャー氏のように、Amazonの経営幹部と直接連絡を取ることができません。スウィッシャー氏は、「私が言いたいのは、『あなたは私のために行動してくれて、本を見守ってくれています。ではなぜ、他のみんなのために同じことをやってくれないのですか？』ということです」と述べています。
AmazonはユーザーがAIで生成した書籍を販売することを禁止していませんが、知的財産権を侵害したり、誤解を招いたり、あまりにも低品質だったりする書籍の販売は禁止されています。Amazonの広報担当者であるリンゼイ・ハミルトン氏は、「私たちは可能な限り最高のショッピング・読書・出版体験の提供を目指しており、生成AIツールの急速な進化と拡大など、その体験に影響を与える開発を常に評価しています」とコメント。Amazonはスパム書籍を制限する最新の措置として、人間が書いた本の「要約」や「ワークブック」だと主張する書籍の出版を制限し始めたとのことです。
近年はAmazonにおけるAI生成書籍の急増が問題視されており、2023年8月には「Amazonで無関係の人物が実在の作者になりすましてAI生成書籍を売っている」と報じられました。この件について全米作家協会が動き出したことで、ようやくAmazonも自費出版サービス「Kindle ダイレクト・パブリッシング(KDP)」のコンテンツガイドライン更新などの対策に取り組み始めています。
AIが書いて他人名義で販売される「ゴミ本」に沈黙していたAmazonが作家組合の訴えに応じて重い腰を上げる - GIGAZINE

作家の業界団体であるAuthors GuildはAmazonに対し、AIで生成された本をプラットフォーム上で開示するように働きかけているとのこと。また、民主党のブライアン・シャッツ上院議員が2023年末に提出した法案では、AI開発企業は自社のAIが生成するコンテンツに「AI生成であることを示すマーク」を付与することを義務づけています。
過去にAI生成の低品質の伝記を出版された経験があるジャーナリストのバイロン・タウ氏は、「Amazonがこうした行為を取り締まる方法を見つけることを願っています。なぜなら、AI生成の伝記は実際に何年もかけて調査し、本を書いている人々の仕事の価値を下げてしまうからです。これは、私たち全員が依存しているAmazonのシステムが、ゲーミフィケーションに対して非常に弱いことを示しています」と述べました。