イギリスの主要駅でAmazonのAI監視システムが国民への説明なしに導入されていたことが判明

イギリスの主要駅でAmazonのAIを用いた監視システムが稼働していたことが判明しました。監視システムではカメラで撮影した人物の顔を自動認識して年齢や感情などを読み取っていたそうです。
Managed Stations_Service Realisation_Report_redacted - DocumentCloud
https://www.documentcloud.org/documents/24757665-2executive-summary-managed-stations_service-realisation_report_redacted
Wired - UK train stations trialled Amazon emotion detection that could feed you adverts — Big Brother Watch
https://bigbrotherwatch.org.uk/press-coverage/wired-eight-uk-train-stations-trialled-amazon-emotion-detection-that-could-feed-you-adverts/
Cameras using Amazon AI analyzed emotions of train travelers in the UK | TechSpot
https://www.techspot.com/news/103442-cameras-using-amazon-ai-analyzed-emotions-train-travelers.html
政府による監視や検閲に反対する団体「Big Brother Watch」は、イギリスの鉄道網を管理する公営企業の「ネットワーク・レイル」に対して監視システムについての文書開示請求を実施。その結果、ネットワーク・レイルから「監視システムの効果に関するレポート」を入手することに成功しました。
レポートを分析した結果、ロンドンのユーストン駅やウォータールー駅を含むイギリス国内の8カ所の駅で「AmazonのAIを用いた監視システム」が稼働していたことが明らかになりました。監視システムでは駅の利用者の顔を自動認識して「年齢」「性別」「感情」を読み取っていたとのこと。また、監視システムはAIによって「線路への侵入者」「ホームの混雑状況」「走る、叫ぶ、スケートボードに乗る、喫煙などの反社会的行動」を検出していたそうです。
⚠️We’ve uncovered documents revealing that eight train stations trialled Amazon’s AI surveillance software with their CCTV cameras - with some analysing passengers's age, gender and emotions
“The rollout and normalisation of AI surveillance in these public spaces, without much… pic.twitter.com/dJLS75ZURH— Big Brother Watch (@BigBrotherWatch) June 17, 2024

さらに、ネットワーク・レイルは監視システムで得た情報を広告主に提供する可能性を示唆していたとのこと。Big Brother Watchの調査責任者を務めるJake Hurfurt氏は「ネットワーク・レイルには、何も知らない乗客に対して信用できない感情認識技術を配備する権利はありません。公的機関が国民に周知することなくAmazon製のAIシステムの大規模な実験を展開したことは憂慮すべきことです」と述べ、ネットワーク・レイルの周知が足りなかった点や顔認識システムを採用した点を非難しています。
なお、顔認識を用いた防犯システムや安全確保システムについては世界中でプライバシーに関する議論が進んでおり、日本でも個人情報保護委員会が「犯罪予防や安全確保のための顔識別機能付きカメラシステムの利用について」と題した文書をまとめて顔認識システム導入時の留意点を周知しています。
犯罪予防や安全確保のための顔識別機能付きカメラシステムの利用について　資料一覧 ｜個人情報保護委員会
https://www.ppc.go.jp/news/camera_related/