Googleのロボット工学チームが「ロボット工学三原則」にインスピレーションを得た「ロボット憲法」を作成

GoogleのAI研究部門「Google DeepMind」のロボット工学チームが、ロボットに簡単な命令を出すだけでタスクを実行してもらう未来に向けての研究成果を発表しました。その中のトレーニングデータ収集システム「AutoRT」には、アイザック・アシモフの「ロボット工学三原則」をもとにした「ロボット憲法」が含まれているそうです。
Shaping the future of advanced robotics - Google DeepMind
https://deepmind.google/discover/blog/shaping-the-future-of-advanced-robotics/

Google’s DeepMind ‘Robot Constitution’ will make sure its AI droids won’t kill you - The Verge
https://www.theverge.com/2024/1/4/24025535/google-ai-robot-constitution-autort-deepmind-three-laws
「AutoRT」は、現実世界で役立つロボットを生み出すための適切なトレーニングを実現する、より実践的で多様なトレーニングデータを収集するシステムです。実際に7ヶ月間の実証実験で、さまざまなビルにおいて20台のロボットを同時に制御し、合計52台のロボットで6650のユニークなタスクにわたる7万7000回の試行からなる多様なデータセットが収集できました。
ロボットといっても形状はさまざまですが、この実験で用いられたロボットは「カメラ」「アーム」「移動ベース」からなるシンプルなもので、カメラで捉えた映像をもとに、視覚言語モデル(VLM)が環境と見えている物体を理解します。大規模言語モデル(LLM)は、ロボットが実行可能な創造的タスクのリストを作り、そこから実行すべき適切なタスクを選択するという、意思決定者の役割を果たしたとのこと。
こなしたタスクの一例、テーブルを拭くロボット。
???? The system first uses a VLM to understand its surroundings. Next, an LLM proposes creative tasks for each robot and selects which one they should perform.
In evaluations over 7 months, AutoRT safely orchestrated as many as 20 robots simultaneously across various offices. pic.twitter.com/6IKNqEOIS5— Google DeepMind (@GoogleDeepMind) January 4, 2024
現実世界でロボットを動かすにあたって大事なのは安全性です。アイザック・アシモフは「ロボットは人間を傷つけてはならない」「先の原則に反しない限り、ロボットは人間の命令に従わなければならない」「先の原則に反しない限り、ロボットは自らを守らなければならない」という「ロボット工学三原則」を自らのSF小説で示しました。
AutoRTはこの三原則にインスパイアされた、ロボットがタスクを実行するにあたって遵守すべき「ロボット憲法」を意思決定者、つまりLLMに提供しています。さらに、安全規則で「人間や動物、鋭利なもの、電化製品にまつわる作業をロボットが試みてはならない」ことも定められているとのこと。
しかし、こうした「ロボット憲法」や安全規則があっても安全性は保証されないとして、AutoRTには「関節にかかる力が一定以上になると自動的に停止する」などの対策が含まれているほか、すべてのアクティブなロボットは、物理的なキルスイッチを持つ人間の監視者の視界内に保たれるそうです。
このほかにGoogle DeepMindはTransformerモデルのさらなる効率化を実現する「SARA-RT」、トレーニング用映像に視覚的アウトラインを追加することでロボットの動きの一般化を支援する「RT-Trajectory」を発表しています。