18歳未満に対して「中毒性」のある推奨アルゴリズムをソーシャルメディアが使用することを禁止する法案をニューヨーク州が可決

現地時間の2024年6月7日(金)、ニューヨーク州議会が「ソーシャルメディアプラットフォームが子どもに対して中毒性のある推奨アルゴリズムを使用すること」を禁止する法案を可決しました。
New York passes legislation that would ban 'addictive' social media algorithms for kids
https://www.nbcnews.com/tech/social-media/new-york-passes-legislation-ban-addictive-social-media-algorithms-kids-rcna155470

Prodded by fed up parents, some in Congress try to curb kids’ use of social media - Nextgov/FCW
https://www.nextgov.com/policy/2024/06/prodded-fed-parents-some-congress-try-curb-kids-use-social-media/397204/
ニューヨーク州議会は、TikTokやInstagramなどのソーシャルメディアプラットフォームが推奨アルゴリズムに基づいて18歳未満のユーザーにコンテンツを提供することを禁止する「The Stop Addictive Feeds Exploitation(SAFE) for Kids act(子どものための中毒性フィード搾取防止法：SAFE法)」を可決しました。これによりソーシャルメディア企業は子どものユーザーに対して時系列の逆順にフィードを提供しなければならなくなります。
SAFE法では、ユーザーやそのデバイスに関連する情報に基づいてメディアを推奨・選択・優先順位付けする「中毒性のあるフィード」が、子どもたちの精神衛生に悪影響を及ぼす恐れがあるとして禁止されます。なお、違反が判明した企業は、30日以内に問題を修正しなければ、18歳未満のユーザーひとりにつき最大5000ドル(約78万5000円)の賠償金を科せられることとなるそうです。
なお、SAFE法には「0時から6時までの期間にプラットフォームが子どもに通知を送ることを禁止する」という条項が存在しましたが、法案の修正時にこの項目は削除されています。

SAFE法のような「子どもがソーシャルメディアを使用することを制限する法律」は、アメリカで人気を集めており、2024年5月にはカリフォルニア州でSAFE法によく似た法案(CAADCA)が州の上院を通過しました。アメリカ政府も「Kids Online Safety Act(児童オンライン安全法)」の制定が進められています。
GoogleやMeta、TikTokなどの大手テクノロジー企業やソーシャルメディア企業を代表する業界団体のNetChoiceは、過去2年間で憲法修正第1条に違反しているとして複数の州法に異議を唱えてきました。SAFE法とよく似たカリフォルニア州のCAADCAに対しても、NetChoiceは裁判所で違憲であるとして訴訟を起こしています。
立法機関によるソーシャルメディア規制に対して否定的な意見を持っているのはNetChoiceだけではありません。非営利のデジタル権利擁護団体であるFight for the Futureでディレクターを務めるエバン・グリア氏は「何かを子どもを守るためのものとして位置づけることができれば、自動的に政治的な影響力が増します」と言及。

一方で、SAFE法を支持する人々も多くいます。SAFE法を支持するのは主に子どもの親たちで、中にはソーシャルメディアで有害なコンテンツを見て自殺したとされている子どもの親もいるそうです。実際、The New York Timesの元記者であるジュリー・セルフォ氏が、メディア中毒に反対する母親の会(MAMA)を創設し、SAFE法を支持しています。
セルフォ氏は「私たちは若者のメンタルヘルスに関する国家的緊急事態の真っただ中にいます。その大きな原因のひとつがソーシャルメディアと、その中毒性のあるアルゴリズムであることは極めて明白です。ソーシャルメディア自体の問題ではなく、子どもたちの感情が利益のために利用される原因となっている中毒性のある設計の問題です」と語りました。
なお、SAFE法は民主党のアンドリュー・グルナーデス議員によって提出された法案で、ニューヨーク州議会では20人以上の州上院議員や超党派から支持を得ています。これに対して、グリア氏をはじめとする公民権擁護者はSAFE法が企業やユーザーの権利を踏みにじるものであると主張しており、「強力なプライバシーおよび独占禁止法」を検討すべきと主張しました。
グリア氏は「裁判所は実際、企業が行う商業的な監視行為を規制できる、自動再生や無限スクロールのような特に有害なビジネス行為を規制できると明確にしています。若者がオンラインで見ることができるものと見られないものを政府に管理させることはできません。そうなるとコンテンツの問題となり、憲法修正第1条に抵触することになるためです」「ある州が匿名性とは相容れない侵入的な年齢確認を行う方向に企業を誘導する法律を可決すると、実際に世界中で人権問題が生じることになります。発言したり、匿名でインターネットを個人的に利用したりする能力は、地球上で最も弱く疎外された人々にとって非常に重要なため、保護されるべき基本的人権であるという点で、人権専門家の間では幅広い合意があります」 と主張しています。