FCCが「ロボコールのためのAI音声利用は違法」と宣言

AI音声を利用したロボコール(自動音声通話)で選挙運動や詐欺を働く事例が相次いだため、連邦取引委員会法(FCC)が「ロボコールのためのAI音声利用は違法」と宣言し、各州にこうした詐欺を取り締まるための権限を与えました。
FCC Makes AI-Generated Voices in Robocalls Illegal | Federal Communications Commission
https://www.fcc.gov/document/fcc-makes-ai-generated-voices-robocalls-illegal

FCC declares AI-generated voices in robocalls are illegal - CBS News
https://www.cbsnews.com/news/fcc-declares-robocalls-illegal/
2024年11月に大統領選挙を控えるアメリカではAI音声によるロボコールを用いた選挙運動が増加していますが、中には有名人に似せた声で有権者に誤った情報を伝えるなどの悪徳な運動も相次いでいるとのこと。2024年1月には、バイデン大統領のような声で「投票権を節約して家にとどまれ」と促す電話が民主党優勢地域の住民宛にかかってきたという事例が何件か確認されたそうです。
選挙運動だけでなく詐欺や脅迫にもAI製ロボコールが使われる事件が増加していて、年間170億円もの被害額を出しているとの試算もあります。こうした詐欺行為を撲滅すべく、FCCは通信会社に対して「ロボコール発信者へのサービス停止を行わないと通信遮断も辞さない」と警告するなど強気の姿勢に出ていました。
自動音声で詐欺を働く違法な「ロボコール」を停止しないと通信遮断も辞さないとFCCが通信事業者のTwilioに警告 - GIGAZINE

2024年2月8日、FCCは電話消費者保護法における新たな裁定を採択したことを明らかにし、消費者を狙ったロボコール詐欺のために音声生成技術を利用する行為を「違法」と宣言しました。
電話消費者保護法はFCCが迷惑電話を制限するために使用する法律であり、もともと電話勧誘やオートコール、電話における人工的または録音された音声メッセージの利用を制限していました。今回の裁定によりAI音声も「人工的」な音声と定義されることとなり、これまで「AI音声による詐欺」を取り締まれる権限が与えられていた各州の検事総長に対し、新たに「詐欺を行うためにAIで音声を作成する行為そのもの」も取り締まれる権限が与えられました。
FCCのジェシカ・ローゼンウォーセル委員長は「各州の検事総長は、このような詐欺を取り締まり、国民を詐欺や誤った情報から守るための新たな手段を手にすることになる」と述べました。