世界初のAI規制法にEUが合意、政策執行機関の委員長は「世界初のAI法」であることを強調

欧州連合(EU)で提案された人工知能(AI)を規制するための世界初の法案について、欧州連合(EU)の政策執行機関である欧州委員会(EC)、EUの政策決定機関であるEU理事会、EUの立法機関である欧州議会の三者協議が進められていたのですが、ついに合意に至りました。EUのAI規制法は2021年4月に提案されたもので、欧州企業から猛抗議を受けながら調整が進められていたものです。
Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament
https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

EU lawmakers bag late night deal on ‘global first’ AI rules | TechCrunch
https://techcrunch.com/2023/12/08/eu-ai-act-political-deal/
EU agrees to landmark rules on artificial intelligence | Ars Technica
https://arstechnica.com/information-technology/2023/12/ai-regulation-will-begin-in-the-eu/
現地時間の2023年12月8日(金)の深夜から9日(土)の未明にかけて、EU理事会・欧州議会・ECの三者の代表者が記者会見を開き、AI規制法が合意に至ったことを発表しました。記者会見の中で、三者は「AI規制法の合意は激戦の末の画期的な成果であり、歴史的なものである」と称賛しています。
ECのウルズラ・フォン・デア・ライエン委員長も自身のX(旧Twitter)アカウントでAI規制法の合意を発表しました。ライエン委員長はXで「世界初のAI法です。信頼できるAI開発のための独自の法的枠組みとなります。そして、人々と企業の安全と基本的権利のための法律となるでしょう。我々は政治的ガイドラインを取り入れた約束を実行し、それを実行します。AI法の政治的合意を歓迎します」と投稿しています。なお、ライエン委員長はECの委員長に就任する際、AI規制法の制定を自身の任期における優先事項に挙げていた人物です。
The ???????? AI Act is a global first.
A unique legal framework for the development of AI you can trust.
And for the safety and fundamental rights of people and businesses.
A commitment we took in our political guidelines - and we delivered.
I welcome today's political agreement.— Ursula von der Leyen (@vonderleyen) December 8, 2023
三者協議でついに合意に至ったAI規制法の完全な詳細は最終法案が編集・公開されるまで明かされることはありません。なお、最終法案の公開には数週間の時間がかかる可能性があるそうです。しかし、欧州議会は合意に達したAI規制法の一部を発表しています。
記事作成時点では以下の目的でのAI使用が全面的に禁止されることとなります。
・デリケートな特性(政治的、宗教的、哲学的信念、性的思考、人種など)を使用する生体認証分類システムにAIを利用すること
・顔認証データベースを作成するために、インターネットまたは監視カメラの映像から顔画像をターゲットを絞らずにスクレイピングするためにAIを利用すること
・職場や教育機関における感情認識にAIを利用すること
・社会的行動や個人的特徴に基づく社会的スコアリングにAIを利用すること
・人間の自由意志を回避するために人間の行動を操作するようなAIシステムの作成
・AIを使った人々の脆弱性(年齢、障害、社会的あるいは経済的状況など)の悪用

ただし、法執行機関による公共の場での生体認証技術の利用は完全には禁止されず、厳密に定義された犯罪リストに対してはAIの利用が許可されます。具体的には「重大な犯罪を犯した疑いのある人物、あるいは有罪判決を受けた人物に対象を絞った捜査」では、AIテクノロジーの使用が許可されます。生体認証システムでAIを利用可能となる具体的なケースは以下の通り。
・被害者に的を絞った捜索(誘拐、人身売買、性的搾取)
・特定のテロリズムの脅威の防止
・規制に記載されている特定の犯罪(テロリズム、人身売買、性的搾取、殺人、誘拐、強姦、武装強盗、犯罪組織への参加、環境犯罪など)のいずれかを犯した疑いのある人物の特定あるいは位置特定
さらに、高リスクに分類されたAIシステム(健康、安全、基本的権利、環境、民主主義、法の支配に重大な害を及ぼす可能性があるもの)について、明確な義務が課せられることとなっています。欧州議会は「他の要件の中でも特に、保険および銀行セクターに適用される必須の基本的権利影響評価を含めることに成功しました」と説明しました。また、「選挙の結果や有権者の行動に影響を与えるために使用されるAIシステム」も、高リスクAIシステムに分類されるそうです。国民は高リスクAIシステムに分類されたAIに対して苦情を申し立てたり、国民の権利に影響を与えるリスクの高いAIシステムに基づく決定について説明を受けたりすることが可能です。

また、ChatGPTのような生成AIアプリケーション(汎用AI：GPAI)およびこれを支えるAIモデルの作成者には、「AIに関する技術文書を作成・公開すること」「EUの著作権法を順守すること」「トレーニングに使用されるコンテンツに関する詳細を明らかにすること」などが義務付けられます。なお、GPAIに対して透明性要件の順守を求めることも、欧州議会の提案だそうです。
なお、商業化されたAIモデルやGPAIはEUのAI規制法による規制に直面する可能性が高くなりますが、研究開発分野は法の対象となることが意図されていません。また、完全にオープンソースのAIモデルは、クローズドソースのものよりも規制要件が軽くなります。
AI規制法に違反した場合の罰則は、違反内容と企業の規模に応じて「750万ユーロ(約12億円)あるいは売上の1.5％」から「3500万ユーロ(約55億円)あるいは売上の7％」が適用されます。なお、今回の合意では法律採択後の段階的な発効も認められており、禁止事項に関する規制が施行されるまでは6か月、透明性とガバナンスに関する要件については12か月、その他の要件については24か月の猶予期間が与えられることとなります。
したがって、EUのAI規制法の完全な効力は2026年まで感じられない可能性があると海外メディアのTechCrunchは指摘しました。