AIデバイス「Rabbit R1」をジェイルブレイクしたところ「ユーザーの位置情報を勝手に送信」「オープンソースのライセンス違反」などが次々発覚

AIデバイス「Rabbit R1」には基本システムソフトウェアとして「RabbitOS」が搭載されています。そんなRabbitOSをジェイルブレイクしたところ、位置情報やWi-Fiネットワーク名などをストレージのテキストファイルに保存していたことが、ソフトウェアエンジニアのデヴィッド・ブキャナン氏によって報告されています。
Jailbreaking RabbitOS: Uncovering Secret Logs, and GPL Violations | Blog
https://www.da.vidbuchanan.co.uk/blog/r1-jailbreak.html

技術系スタートアップのRabbitが開発したAIデバイス「Rabbit R1」は話しかけるだけで音楽を再生したり食事を注文したりできるAIアシスタントデバイスとして期待されていましたが、実態は既製APIを用いてAndroidアプリを動作させているにすぎず、機能やパフォーマンスも期待外れだったとして、数多くのユーザーから不評の声が挙がっています。
AIデバイス「rabbit r1」を買ったら「その機能は準備中」を連発する詐欺的製品だったという報告 - GIGAZINE

そんなRabbit R1を手に入れたブキャナン氏は、Rabbit R1が起動する瞬間に自身が用意したデータに置き換えるジェイルブレイクを実施してRabbitOSの動作を分析しました。ブキャナン氏は自身のジェイルブレイク手法を「Carroot」と名付けており、Carrootを実行するデモムービーも公開しています。
carroot: rabbitOS tethered jailbreak demo - YouTube

ブキャナン氏が実際にRabbitOSをジェイルブレイクして分析したところ、RabbitOSが取得したデータログは全て内部ストレージのテキストファイルに保存していたことが明らかになりました。
さらに、データログには「ユーザーの正確な位置情報」「ユーザーが使用するWi-Fiネットワーク名」「近くの携帯電話基地局のID」「ユーザーのIPアドレス」「デバイスがRabbitのバックエンドAIPで認証するために使用されるユーザー識別用のトークン」「ユーザーがRabbit R1に音声入力した際の全ての音声データとそのテキストトランススクリプト」が含まれていました。なお、ブキャナン氏によると、位置情報や携帯電話基地局のIDは、SIMカードが挿入されていない場合でも、Rabbitのサーバーに送信されていたとのこと。
ブキャナン氏は「これほど多くのデータをログに記録する必要はありません。バックエンド側であるRabbitがこのようなデータを何に使用しているのか考えるだけで恐ろしい」「Rabbit R1にはユーザー側がデバイスを工場出荷時の状態にリセットする方法がありません。そのため、ログの取得が永続的に続けられています。もしもRabbit R1が中古市場に出回った場合、ユーザーの個人情報が不特定多数の目にさらされるおそれがあります」と批判しています。

なお、RabbitはRabbitOSのv0.8.112で工場出荷時に戻すオプションを追加しています。
さらにブキャナン氏はオープンソースをうたうRabbitOSの一部に、クローズドソースのドライバが使用されていることを指摘しています。具体的には、クローズドソースであるスクロールホイールセンシングとカメラ回転ステッピングモーター制御用のドライバが、オープンソースライセンスのGNU一般公衆ライセンス(GPL)のカーネルイメージにリンクされているそうです。ブキャナン氏は「RabbitはGPLライセンスに違反しています」と批判しています。
ブキャナン氏はRabbitに対し、ジェイルブレイクから得られた情報や、GPLライセンスに準拠する計画があるかについて尋ねました。しかし、2024年7月17日時点でRabbitからの返答は得られていないとのことです。

Rabbit R1を巡っては、ソースコードにAPIキーが直接書き込まれているという致命的なセキュリティ問題を抱えていることが発覚しています。このAPIキーを利用して得られる管理者権限を使えば「個人情報を含む、R1がこれまでにユーザーに行ったすべての返答の閲覧」「すべてのR1を文鎮化させること」「すべてのR1の応答を変更すること」「すべてのR1の音声を変更すること」が可能であることが指摘されています。
AIデバイス「Rabbit R1」にユーザーデータがダダ漏れになるセキュリティ問題があることが発覚 - GIGAZINE

なお、ブキャナン氏はCarrootを実行できるウェブサイトを公開しています。
carroot: rabbitOS tethered jailbreak
https://retr0.id/stuff/r1_jailbreak/