OpenAIとGoogle DeepMindのスタッフが「AI企業の暴走」を警告する公開書簡に署名

OpenAIとGoogle DeepMindの現役および元従業員が2024年6月4日に、AI企業の閉鎖的な体質や内部統制の欠如を告発する公開書簡を発表しました。AI開発の最前線に立つ技術者らはその中で、「AI技術のリスクを回避しつつその恩恵を受けるには十分な監視が必要」とした上で、現状の監視体制では内部告発者の保護や責任の明確化が不十分だと訴えました。
A Right to Warn about Advanced Artificial Intelligence
https://righttowarn.ai/
OpenAI and Google DeepMind workers warn of AI industry risks in open letter | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/article/2024/jun/04/openai-google-ai-risks-letter
Microsoftに支援されているOpenAIと、Alphabet傘下のGoogle DeepMindは、いずれも巨大資本の後ろ盾を受けてAI開発をリードするパイオニア企業ですが、特にOpenAIはサム・アルトマンCEOの電撃解任に端を発する内紛や、退職する従業員に会社の批判を禁じる強圧的な企業風土などが社内外から批判されています。
OpenAIの社内文書から退職する従業員への「攻撃的戦術」が判明、アルトマンCEOは謝罪 - GIGAZINE

OpenAIとGoogle DeepMindの現役従業員と元従業員が署名した書簡「高度な人工知能について警告する権利」によると、両社のようなAI企業には企業責任についての追及を妨げるような広範な守秘義務契約があるとのこと。
AI企業は自社のシステムの性能や限界、さまざまなリスクについての非公開情報を大量に保有していますが、それを政府や他企業と共有する義務はないため、自発的に情報が公開されることは期待できません。
また、AI技術に関する法的な制度作りが遅れているため、企業の不法行為の告発を想定した通常の内部告発制度では告発者の保護が不十分なことも指摘されています。
AI企業の従業員らは「私たちは最先端のAI企業の現従業員および元従業員であり、AI技術が人類に前例のない利益をもたらす可能性を信じています。また、私たちはAI技術がもたらす重大なリスクも理解しており、科学界、政界、そして市民による十分な監督があればそうしたリスクは十分に軽減できると期待しています。しかし、AI企業には効果的な監督を回避する強い経済的インセンティブがあり、個々の企業独自のコーポレートガバナンス構造では、現状を変えるのに不十分であると考えています」と訴えました。
こうした状況を改善するため、書簡はAI企業に対して、「批判を禁止する契約や批判に対する報復をしないこと」「AI企業の従業員が経営陣や規制当局、外部機関に懸念を表明するための匿名制度を促進すること」「企業秘密や知的財産権を侵害していない限り、従業員が自社のAIのリスクに関する懸念をオープンに表明できるようにすること」「他の方法では目的が達成できなかった際に、リスクに関連した機密情報を公にした従業員に対して、会社が報復を行わないこと」の4点を求めました。

Googleは、メディアからのコメントの要請に応えませんでした。
また、OpenAIの広報担当者は「当社は最も有能かつ安全なAIシステムを提供してきた実績を誇りに思っており、リスクに対処するための科学的アプローチを信じています。この技術の重要性を踏まえ、厳密な議論が不可欠なことには同意しており、今後も世界中の政府、市民社会、そのほかのコミュニティと連携して参ります」と述べました。
書簡にはOpenAIの現従業員と元従業員11人と、Google DeepMindの現従業員と元従業員2人が署名しており、その中には「汎用(はんよう)人工知能(AGI)が登場する時にOpenAIが責任ある行動をとるか確信が持てない」としてOpenAIを去ったダニエル・ココタイロ氏や、OpenAIでAGIに関する潜在的リスクの洗い出しを担当するSuperalignmentチームに所属していたウィリアム・サンダース氏も名を連ねています。