AIモデルに「キルスイッチ」を義務付けるカリフォルニア州のAI安全法案はAIスタートアップの撤退を余儀なくするだけでなくオープンソースモデルなどに損害を与えるとして非難が集まる

シリコンバレーのベンチャーキャピタリストやテクノロジー業界で働く人々は、カリフォルニア州議会で審議中の「AI安全法案」が大手AI企業の一部に事業方法の変更を迫る可能性があるとして、警鐘を鳴らしています。
Silicon Valley in uproar over Californian AI safety bill
https://www.ft.com/content/eee08381-962f-4bdf-b000-eeff42234ee0
Tech Companies Challenge California AI Safety Legislation - WinBuzzer
https://winbuzzer.com/2024/06/08/tech-companies-challenge-california-ai-safety-legislation-xcxwbn/
Silicon Valley on Edge as New AI Bill Advances in California
https://www.pymnts.com/artificial-intelligence-2/2024/silicon-valley-on-edge-as-new-ai-regulation-bill-advances-in-california/
The misguided backlash against California’s SB-1047
https://garymarcus.substack.com/p/the-misguided-backlash-against-californias
Uproar in California tech sector over proposed new bill
https://www.cryptopolitan.com/uproar-in-california-tech-firms-over-ai-bill/
Silicon Valley Is On Alert Over An AI Bill in California - Bloomberg
https://www.bloomberg.com/news/newsletters/2024-06-06/silicon-valley-is-on-alert-over-an-ai-bill-in-california
アメリカのカリフォルニア州で審議されている「SB 1047」、通称「AI安全法案」は、同州のスコット・ウィーナー上院議員が提出したAI関連の法案です。同法案は、特定のサイズやコストのしきい値を超える大規模なAIモデルを作成する企業に対して、「常識的な安全基準」を制定させることを目指しています。AI安全法案は2024年5月にカリフォルニア州の上院を通過しており、記事作成時点では下院の通過を目指している段階です。
AI安全法案では、AI開発者に対して「AIモデルが『重大な危害』を引き起こすことを防ぐための措置として、AIシステムを確実にシャットダウンできる『キルスイッチ』を設けること」を求めています。さらに、カリフォルニア州技術局内に新設される「フロンティアモデル部門」にコンプライアンスへの取り組みを開示することが義務付けられるそうです。企業がこれらの要件を順守しない場合、訴訟を提起され、民事罰を受ける可能性があります。

記事作成時点ではアメリカにはAIに関する連邦法が存在しておらず、各州が独自の規制を推進する傾向が強まっているとBloombergは指摘。AI安全法案の制定が進められているカリフォルニア州には、OpenAIやAnthropicといった大手AI企業が拠点を置いているため、AI安全法案が施行されることとなれば、「AI業界の先頭を走る企業が直接的な影響を受ける可能性がある」とBloombergは指摘しました。
AI安全法案の考案者であるウィーナー氏は、Bloombergに対して「議会が前進し、合理的で強力なAIとイノベーション、安全性に関する法律を可決してくれるなら、それは素晴らしいことです。この種の法律を連邦レベルで施行すべきです。しかし、データプライバシー、ソーシャルメディア、ネット中立性、さらには超党派の強力な支持がある技術問題でさえ、議会が行動するのは非常に困難で、時には不可能でした」と語っています。
AI安全法案は、AIの存在に対する脅威の可能性について主張してきたジェフリー・ヒントン氏とヨシュア・ベンジオ氏によって支持されています。ヒントン氏はAI安全法案について、「それらの懸念のバランスをとるために非常に賢明なアプローチを取っている」と称賛しました。しかし、AI安全法案は大きな反発も招いています。
AI安全法案に反対する専門家は、「コードを誰でもレビューおよび変更できるように公開しているオープンソースの開発者に、悪意のある人物にサービスが悪用されないことを保証するための実現不可能な負担を課す可能性がある」と批判。さらに、AI安全法案の施行に伴い新設されることとなるフロンティアモデル部門が、より大きな権限を持つようになる可能性についても懸念の目が向けられています。

オープンソースソフトウェアを開発するAIスタートアップ・Reworkd AIの創業者であるロハン・パンディ氏は、AI安全法案について「こんなものが可決されるとは誰も思っていませんでした。かなり馬鹿げたもののように思えます。恐らく、AIモデルが安全か危険かを判断する基準が何年か先に分かれば、規則は意味をなすようになるかもしれません。しかし、GPT-4が登場したのはわずか1年前です。法律制定に飛びつくにはあまりに時期尚早です」と語りました。
ベンチャーキャピタルのアンドリーセン・ホロウィッツでゼネラルマネージャーを務めるマーティン・カサド氏は、スタートアップの創業者から「AI安全法案を懸念している」「カリフォルニア州を離れるべきか」と相談されたことを明かしています。
スタートアップコミュニティでは、「AI開発者がシステムを悪用する人々に対して責任を負うべきか否か」が注目されています。論点となるのは1996年に成立した通信品位法230条で、同法律は「プラットフォーマーはユーザーがプラットフォーム上で作成したコンテンツに対する責任を免除される」という法的根拠として重宝されるものです。これがAIツールにも適用されるか否かについて、議論が白熱しているというわけ。
AI安全法案の考案者であるウィーナー氏はこうした懸念の一部を反映して法案に変更を加えていると語っており、同法案の対象となるAIモデルの要件を修正し、オープンソース開発者は技術が悪用されても責任を負わないことを明確にし、シャットダウン要件もオープンソースモデルには適用されないと明言しました。さらに、ウィーナー氏は「私はAIの強力な支持者です。オープンソースの強力な支持者でもあります。AIの革新を妨げようとしているわけではありません。しかし、こうした進展が起きる際、人々が安全性に気を配ることが重要だと思います」と語り、AI安全法案にさらに手を加える準備があるとしました。
また、オンライン上で多くの支持者を持つ強硬派のAI推進派が、「AI安全法案について声高に主張し始め、時には非常に扇動的に不正確な情報を流布している」とウィーナー氏は主張しています。特に、ウィーナー氏は「企業がAIモデルをトレーニングするために政府機関から許可を得る必要がある」という条項はAI安全法案に存在しないと述べ、法案による賠償責任リスクは「極めて限定的である」と強調しました。

この他、カサド氏はAI安全法案の起草プロセスに問題があると指摘。カサド氏は「AIが人類におよぼす長期的なリスクについて悲観的な懸念を抱く『やや異端の』人々の意見が反映されています。しかし、これはテクノロジー業界の総意を代表したものではありません」と主張しています。
これに対してウィーナー氏は、AI安全法案は過去18カ月の間にAI業界の関係者と行った夕食会や会合から生まれたものであり、OpenAI、Meta、Google、MicrosoftといったAI業界のフロントライナーや、カサド氏が働くアンドリーセン・ホロウィッツとも会談したことがあると言及しており、「非常にオープンな議論のもとで起草された法案」であると主張しています。
なお、AI安全法案は2024年8月末までに州議会で採決される予定となっており、ウィーナー氏は「知事に提出できる道筋があると楽観視している」と語りました。一方で、カリフォルニア州のギャビン・ニューサム知事は、AI規制について「過剰な規制をしたり、過度に甘やかしたり、魅力的なものを追い求めたりすると、自分たちを危険な立場に置くことになるかもしれない」と語っており、過剰な規制に対する慎重な姿勢を示しています。