エラ・ジャクボウスカ氏、ハジラ・マリアム氏、マット・マフムーディ氏は、AI法により、EUは大規模監視技術によって促進された横行する虐待を終わらせるまたとない機会を手にしたと書いている。
2019年にフランスの物流会社で起きた強盗事件では、犯人を特定するために事件の防犯カメラの映像に顔認識技術（FRT）が使用された。
FRT は、たとえば、閉回路テレビ (CCTV) カメラからの画像を、多くの場合、知識や同意なしに収集された何百万もの顔画像のデータベースと照合しようとすることによって機能します。
この場合、FRT システムは 200 人を潜在的な容疑者としてリストしました。
警察はこのリストから「H氏」を選び出し、彼を犯罪に結び付ける物的証拠が不足していたにもかかわらず、窃盗の罪で起訴した。
同氏の公判では、裁判所は、H氏を起訴する決定の中心となったシステムがどのようにリストを作成したかに関する情報共有を求めるH氏の弁護士の要請を拒否した。
裁判官はこの悪名高い差別的なテクノロジーに依存することを決定し、H氏に懲役18か月の判決を下した。
顔認証で起訴
「ライブ」FRT は、個人をリアルタイムで追跡および監視するために技術が使用されるため、しばしば (当然のことながら) 批判の対象となります。
しかし、事件発生後に遡って顔認識技術を使用することは、H氏のような事件で使用されているにもかかわらず、あまり精査されていない。
遡及的 FRT は、セキュリティ カメラの映像が広く利用可能になり、この技術用にすでに整備されたインフラストラクチャによって、より簡単になり、より普及しました。
現在、人工知能（AI）を規制する新しい法律、AI法に向けた交渉の一環として、EU各国政府は、警察、地方自治体、さらには民間企業まで、一般大衆に対して遡及的顔認識の日常的な使用を許可することを提案している。 。
EU が提案している AI 法は、遡及的な FRT が「実際の」反復よりも害が少ないという前提に基づいています。
EU幹部は、遡及処理によって得られる時間の余裕によってリスクと被害を軽減できると主張した。
この議論は間違っています。余分な時間は、匿名性の破壊と権利と自由の抑圧という重要な問題に取り組むことができないだけでなく、さらなる問題も引き起こします。
「ポスト」打点: 聞いたこともない最も危険な監視手段?
遠隔生体認証 (RBI) は、離れた場所にいる人の顔 (または体の他の部分) を使用してスキャンして識別する FRT のようなシステムの総称です。
遡及的に使用される場合、EU の提案されている AI 法では、これを「Post RBI」と呼んでいます。 Post RBI とは、フィードがキャプチャされてから数時間、数週間、場合によっては数か月後に、ソフトウェアを使用して公共の場からフィード内の人物を識別できる可能性があることを意味します。
たとえば、設置されたCCTVカメラに映ったデモ参加者に対してFRTを実行する。あるいは、H 氏の場合のように、監視カメラの映像を 800 万枚もの驚くべき顔画像の政府データベースと照合することもできます。
これらのシステムの使用は社会に萎縮効果をもたらします。抗議活動に参加したり、医療行為（犯罪とされている場所での中絶など）を求めたり、ジャーナリストと話したりすることがどれだけ快適であるかについて。
遡及的 FRT が使用されている可能性があると知っただけで、私たちの個人的な生活に関する情報が将来どのように私たちに対して悪用されるのかと不安になる可能性があります。
FRTは人種差別を助長する可能性もある
研究によると、FRT の適用は人種差別化されたコミュニティに不釣り合いな影響を与えています。
アムネスティ・インターナショナルは、人種差別的な取り締まりによる取り締まり（有色人種に圧倒的な影響を及ぼしている）のリスクがより高い地域に住んでいる個人は、より多くのデータ収集や侵襲的な顔認識技術にさらされる可能性が高いことを実証した。
例えば、ニューヨークのブラック・ライブズ・マター抗議活動主催者のドレック・イングラムは、ブラック・ライブズ・マターに参加した後、ポストRBIによって身元が特定されたというだけの理由で、令状も正当な容疑もなしにアパートで警察から4時間にわたる嫌がらせを受けた。問題の抗議。
イングラムは、警察がこの実験技術を彼に使用したことが明らかになった後、彼に対する冤罪を取り下げるために長い法廷闘争に終わった。
リストは続きます。デトロイト在住のロバート・ウィリアムズが、他人による窃盗容疑で不当逮捕された。
ランドール・リードは、警察がFRTによる強盗の容疑者として誤認したため、一度も訪れたことのないルイジアナ州の刑務所に送られた。
特に人種差別化されたコミュニティにとって、顔認識の正規化は、永続的な仮想ラインナップの正規化を意味します。
オンラインで存在している場合は、おそらくすでに FRT データベースに登録されているでしょう。
このディストピア技術は、オランダのサッカークラブでも禁止されているファンをスキャンし、問題の試合に参加しなかったサポーターに誤って罰金を課すために使用されている。
伝えられるところによると、オーストリアの警察でもデモ参加者に対して使用され、フランスでも都市を「より安全」かつ効率的にするという名目で使用されているが、実際には大規模な監視が強化されている。
これらのテクノロジーは、多くの場合、低コストまたはまったく無料で提供されます。
このようなサービスを提供する企業の 1 つが Clearview AI です。同社は、ヨーロッパ、米国、その他の地域の数千の法執行官や政府機関に、侵襲性の高い顔認識検索を提供してきました。
欧州では各国のデータ保護当局がこうした行為に対して強い姿勢を示しており、イタリアとギリシャの規制当局は法的根拠なくEU国民の顔を削ったとしてClearview AIに数百万ユーロの罰金を科した。
スウェーデンの規制当局は、Clearview AIを使用して個人を識別する際に個人データを違法に処理したとして国家警察に罰金を科した。
AI法は大規模監視の乱用を終わらせるチャンスになる可能性がある
データ保護当局による遡及的な顔認識から私たちの人権を守るこうした有望な動きにもかかわらず、EU各国政府は現在、こうした危険な行為を構わず実行しようとしている。
世界中の国々で行われた生体認証の実験は、これらのテクノロジーとそれに伴う大量のデータ収集が、人種化されたコミュニティ、難民、移民、亡命希望者など、最も疎外されている人々の権利を侵食していることを何度も示してきました。
欧州諸国はさまざまな生体認証による集団監視行為を合法化し始めており、EU全域でこれらの侵入システムの使用が常態化する恐れがある。
だからこそ、私たちはこれまで以上に、ポストRBIの阻止を含め、地域社会やEU国境におけるあらゆる形態のライブおよび遡及的な生体認証集団監視を捕捉する強力なEU規制を必要としているのです。
AI法により、EUは大量監視技術によって促進された横行する虐待に終止符を打つまたとない機会を手にした。
特に、新興テクノロジーが社会における既存の不平等を拡大する場合には、新興テクノロジーの使用に対する人権保護のための高い基準を設定する必要があります。
エラ・ジャクボウスカは、欧州デジタル著作権 (EDRi) の上級政策顧問です。EDRi は、大陸全体のデジタル著作権の擁護と推進に取り組む非営利団体、専門家、擁護者、学者のネットワーク集合体です。
Hajira Maryam はメディア マネージャーであり、Matt Mahmoudi は、デジタル時代の人権を擁護する擁護者、運動家、ハッカー、研究者、技術者の世界的な集合体である Amnesty Tech の AI および人権研究者です。
ユーロニュースでは、あらゆる意見が重要であると信じています。お問い合わせ先[email protected]提案や提出物を送信し、会話に参加します。
