公民権活動家らは長い間、完全な禁止を求めてきたが、一部のEU議員らはAI法を、自分たちは（人権の）正しいことをしていると主張する機会とみなしているかもしれない、そして実際にはその逆を行っている、とエラ・ジャクボウスカは書いている。
2023 年 6 月、欧州議会は公共の場でのライブ顔認識の全面禁止に賛成票を投じ、歴史を作りました。
新しい人工知能法案を通じて、EUは企業や当局が私たち全員を歩くバーコードとして扱うのを止めることができるだろう。しかし、EU政府からの圧力により、この可能性がジョージ・オーウェルの悪夢に変わる恐れがある。
2023 年の夏の終わり以来、EU 政府と国会議員は人工知能 (AI) 法に関する合意に達するために努力してきました。この画期的な法律は、EU が AI イノベーションと保護のバランスを取る世界のリーダーになることを約束していますが、現実はそれほど楽観的ではありません。
EUの議員らは11月を通じて、警察に公的に顔認証を使用する余地をどの程度与えるかについて議論している。
これらの制度は世界中で人権侵害に結びついており、最近ではパレスチナ人に対するイスラエルの抑圧制度を助長しているとしてアムネスティ・インターナショナルによって非難されているにもかかわらず、強力な禁止に対する欧州議会の公約が危険にさらされている。
最も機密性の高いデータの商品化と悪用
過去 10 年間で、世界中のほぼすべての人の顔、指紋、目など、私たちの物理的存在のあらゆる側面に関する情報が共通通貨になりました。
生体認証データとして知られるこの情報は、私たちを構成する最も微細かつ親密な詳細と特徴を数学的に表現したものです。人間の違いの活気から、私たちは集合的に 1 と 0 の文字列に要約されます。
生体認証データは近年、香港やロシアの民主化運動参加者を抑圧し脅迫することから、米国の黒人コミュニティへの迫害に至るまで、人々の監視や監視に利用されている。
国民身分証明書など、一見ありふれた用途であっても、実際には、正当な理由なく人々の顔や体をスキャンするシステムの大きな実現要因であることが判明しています。これは、生体認証による大量監視に相当します。
EU は自らを民主主義と人権の先駆けであると主張していますが、もちろん、生体認証による大量監視に相当する行為を免れているわけではありません。
ドイツとベルギーの交通拠点、オーストリアの抗議活動参加者、チェコ共和国で日々を過ごす人々、イタリアで粗末に眠っている人々など、非常に多くの人々がすべて公共の顔認識監視の対象となっている。
つい最近、フランスは生体認証による大量監視への願望を明確にし、来たるオリンピックとパラリンピックで使用する自動監視システムを展開する法律を可決した。
羊の皮をかぶった狼
人権活動家らは、人々の顔や体を使って大規模に個人を特定し追跡することはすでにEUの人権とデータ保護法に違反していると長年主張してきた。
ライブモードであれ過去に遡って使用されたとしても、信頼性が低く差別的なことで悪名高い公的顔認証は、私たちの人権と本質的な尊厳を大きく侵害します。
しかし、そのようなシステムの使用は、多くの場合「公共の安全」という漠然とした主張のもとで広く普及しており、それらに対する法的保護はつぎはぎで、適用も一貫性がありません。
AI監視業界は議員に対し、「国家安全保障上の理由から、これらのシステムが機能するという証拠は開示できないが、機能することは保証できる」とほぼ述べている。さらに悪いことに、議員たちはその言葉をそのまま信じているようだ。
公民権活動家らは長い間、完全な禁止を求めてきたが、一部のEU議員らはAI法を、自分たちは（人権の）正しいことをしている、そして実際にはその逆を行っていると主張する機会とみなしているかもしれない。
ブリュッセルからのメディア報道によると、生体認証による大量監視行為を非合法化するというこれまでの公約にも関わらず、欧州議会は現在、顔やその他の人間の特徴のライブ認識の禁止に対する「狭い」例外を検討しているという。
AI法で全面禁止する以外に何もない
しかし、この問題の核心は、水門を開けずにほんの少しの生体認証による大量監視を許可することはできないということだ。
これは仮説ではありません。EUの執行部門によってAI法草案に書かれたとされる「狭い」例外規定を利用して、セルビア政府は数千台のファーウェイの顔認識機能を搭載したカメラの展開を合法化しようと二度試みました。
EU AI 法が EU 加盟国に対象を絞らない公共の顔認識の利用を許可する例外を認めれば、EU 27 か国すべてで生体認証大量監視法と闘う日も遠くないでしょう。
報道によると、禁止の例外として検討されている使用理由の一つは、重大犯罪の容疑者や有罪判決を受けた人物の捜索だ。しかし、公共の場にいる全員の特徴をスキャンすることなしにこれを行う方法はありません。これが民主主義に深刻な萎縮効果をもたらすことが研究で証明されています。
必要性についても大きな疑問がある。本当に緊急事態が発生した場合、顔認識のような危険で信頼性の低いテクノロジーは実際に役立つのでしょうか?
ブリュッセルの報道陣は、欧州議会は安全策の追加を望んでいるが、人々がどこへ行っても肩越しに監視しなければならないことを防ぐために、これらの安全策でできることはほとんどない、と指摘している。基本的人権の侵害を守ることはできません。
自由か、それとも集団監視か？
EU は、真に人間を中心に据える AI 法という大きな成果を目前にしています。
しかし、下手をすれば、私たちはむしろ、EUが人々やコミュニティよりも監視産業を優先していることを全世界に伝える法律の崖っぷちに立たされることになるだろう。
当局は公的顔認証の例外を利用して、これらのシステムのほぼ永久的な使用を正当化できるようになるだろう。
そして、強力なプロセッサによって支えられた公共カメラとセンサーの広大なネットワークである大規模監視インフラストラクチャは、ボタンを押すだけで準備が整い、私たちを待っています。
もうカメラに向かって微笑む必要はありません。好むと好まざるにかかわらず、あなたは撮影されるでしょう。
エラ・ジャクボウスカは、欧州デジタル著作権 (EDRi) の上級政策顧問です。EDRi は、大陸全体のデジタル著作権の擁護と推進に取り組む非営利団体、専門家、擁護者、学者のネットワーク集合体です。
ユーロニュースでは、あらゆる意見が重要であると信じています。お問い合わせ先[email protected]提案や提出物を送信し、会話に参加します。
