開発に1億ドル以上の費用がかかるAIモデルに安全性テストを義務付けるAI安全法案をカリフォルニア州議会が可決

カリフォルニア州議会が、AIモデルに安全性テストを義務付ける州法案「最先端のAIモデルのための安心で安全なイノベーション法(SB1047)」を可決しました。法案はその後、もう一度投票を経た後に、ギャビン・ニューサム知事から署名されることで成立します。
Contentious California AI bill passes legislature, awaits governor's signature | Reuters
https://www.reuters.com/technology/artificial-intelligence/contentious-california-ai-bill-passes-legislature-awaits-governors-signature-2024-08-28/

California State Assembly passes sweeping AI safety bill - The Verge
https://www.theverge.com/2024/8/28/24229068/california-sb-1047-ai-safety-bill-passed-state-assembly-governor-newsom-signature
SB1047は開発に1億ドル(約145億円)以上の費用がかかる、あるいは一定量の計算能力を必要とするような最先端のAIモデルにおいて、安全性テストを義務付ける法律です。また、カリフォルニア州内で活動するAIモデルの開発者は、AIモデルに問題が生じた時に停止させるキルスイッチのような仕組みを搭載させることも義務付けられます。
さらに、電力インフラなどの政府システムがAIによって脅かされ続けている状態の時に開発者が従わない場合、州司法長官に訴訟を起こす権限が与えられます。さらにSB1047は開発者に対し、安全対策を評価するために第三者の監査人を雇用したり、AIの悪用を非難する内部告発者に保護を提供したりすることも義務付けています。
しかし、多くのハイテク企業が本拠地を構えるカリフォルニア州でSB1047が成立してしまうことは、AI企業の事業内容に大きな影響を与えるとして、反対の声が挙がっています。
AIモデルに「キルスイッチ」を義務付けるカリフォルニア州のAI安全法案はAIスタートアップの撤退を余儀なくするだけでなくオープンソースモデルなどに損害を与えるとして非難が集まる - GIGAZINE

民主党のナンシー・ペロシ下院議員は「SB1047は根拠に乏しく、利益よりも害をもたらす可能性があります」と述べ、カリフォルニア州から開発者を追い出しかねないほか、オープンソースAIモデルの成立を脅かす可能性もあると主張しました。
Googleの親企業であるAlphabet、OpenAI、Metaはウィーナー州上院議員宛ての書簡の中で、SB1047についての懸念を表明しています。また、Claudeを開発するAnthropicはSB1047法案の作成に協力しているものの、「法案のメリットはコストを上回る可能性が高くなるでしょうが、依然として懸念すべき点や曖昧な点もあります」と述べています。

ベンチャーキャピタルのAndreessen Horowitzでゼネラルパートナーを務めるマーティン・カサド氏は、「これは私がこれまで見た中で最も強く、党を超えて反対されています」と述べ、ニューサム知事が法案への拒否権を発動することを望むと語りました。
一方、AI企業「xAI」のイーロン・マスクCEOはこの法案に賛成しており、「カリフォルニア州はSB1047法案を可決すべきだと思います。20年以上にわたり、私は公衆に潜在的なリスクをもたらすあらゆる製品やテクノロジーを規制するのと同様に、AI規制を提唱してきました」と述べています。
This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.
For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…— Elon Musk (@elonmusk) August 26, 2024