AI弁護士サービスが虚偽の宣伝をしたとして連邦取引委員会から訴えられて罰金約2800万円の支払いに同意

アメリカの連邦取引委員会(FTC)は、人工知能(AI)に関する誇大広告や詐欺的なスキームに対する取り締まり「Operation AI Comply」の一環として、複数の企業に対し訴訟を提起したと発表しました。その中には、「世界初のAI弁護士」の提供をうたう企業であるDoNotPayも含まれており、FTCは「AIチャットボットの出力が人間の弁護士レベルであるかどうかのテストを行っていない」と主張しました。
FTC Announces Crackdown on Deceptive AI Claims and Schemes | Federal Trade Commission
https://www.ftc.gov/news-events/news/press-releases/2024/09/ftc-announces-crackdown-deceptive-ai-claims-schemes

DoNotPay has to pay $193K for falsely touting untested AI lawyer, FTC says | Ars Technica
https://arstechnica.com/tech-policy/2024/09/startup-behind-worlds-first-robot-lawyer-to-pay-193k-for-false-ads-ftc-says/
DoNotPayは2015年に駐車違反の異議申し立てを無料支援するサービスとしてスタートしました。その後、契約違反申し立てや離婚調停まで、法律における200分野以上をカバーするまでになり、急速に拡大しました。
2019年からは、DoNotPayは2カ月で36ドル(約5200円)の有料サービスとなり、「世界初のAI弁護士」「ボタン1つで誰でも訴えられる」という大胆な宣伝文句を用いてサービスの拡大を図りました。
罰金を支払わずに済むようアドバイスする無料ソフトウェア「DoNotPay」が16万件もの駐車違反切符の取り消しに成功 - GIGAZINE

しかし、DoNotPayは利用者から訴訟を提起されていました。例えば、2023年には少額訴訟や雇用差別の訴訟申込み文書の作成において、DoNotPayは「水準以下の結果」しか提供しなかったとして、ユーザーから訴訟を起こされています。この裁判では、DoNotPayは自社のサービスで提供しているAI弁護士を使って争う姿勢を見せましたが、最終的に弁護士会から脅迫が殺到したことと、「法的リスクが高すぎる」という判断から、AI弁護士の起用は中止されています。
AIを使った「ロボット弁護士」出廷が人間の弁護士からの「刑務所にぶち込む」との脅迫殺到で中止 - GIGAZINE

FTCの調査によると、DoNotPayのサービスは基本的にChatGPTのAPIを利用したチャットボットに過ぎず、最新の法律や判例などで訓練したモデルを使っているわけではありませんでした。また、DoNotPayが広告で使っていた推薦文が高校生の書いた意見記事から引用したものだったことや、サービスの品質や回答の精度を検証するための人間の弁護士を雇用していなかったことも判明しました。

FTCによれば、DoNotPayはFTCとの和解案に同意。この和解案には「19万3000ドル(約2800万円)を支払う」「2021年から2023年の間にサービスに登録したユーザーに対して、機能制限を通知する」「今後、明確な根拠がないままに法律事務所の代替になると主張することを禁じる」という条項が盛り込まれていたとのこと。
DoNotPayの広報担当者はIT系ニュースサイトのArs Technicaに対して「DoNotPayはFTCと建設的に協力してこの案件を解決し、これらの問題を完全に解決できたことを喜んでいます」とコメント。ただし、「今回の申し立ては数年前に廃止されたサービスに関するもので、何百万人といる顧客のうちの数百人が対象となっているものです」と主張しました。
FTCのリナ・M・カーン委員長は、「AIツールを使って人々を騙したり、誤解させたり、詐欺を働いたりすることは違法です。FTCの法執行活動は、AIに対する法律の適用除外はないということを明確にしています。これらの市場における不公正または欺瞞的な慣行を取り締まることで、FTCは誠実な企業やイノベーターが公平な機会を得られるようにし、消費者が保護されるようにしています」とコメントしています。