議員らは「大規模監視」を行わずに児童性的虐待の取り締まりを求める

すべての政治団体にまたがる司法委員会の委員54人中51人という圧倒的多数が、首席交渉官のハビエル・サルサレホス氏が「デリケートで複雑かつ物議を醸す」プロセスと表現したプロセスに従って、この立場を支持した。

EU加盟国との交渉が始まるには、来週の本会議で委員会の立場が承認される必要がある。

2022年5月、欧州委員会は、児童性的虐待資料（CSAM）を検出、報告、削除するために、メタのWhatsappなどのプラットフォーム上でエンドツーエンドの暗号化メッセージをスキャンする新興技術の使用を提案した。

この提案がきっかけとなり、苦い話、プライバシー活動団体と子どもの権利擁護団体を対立させ、EU内務委員のイルバ・ヨハンソン氏がこれに応じたのを見た。疑惑不当な影響力のこと。

批評家らは、オンラインのプライバシーに対する基本的権利の重大な侵害のほか、何百万もの法的コンテンツに誤ってフラグを立てたり、ユーザーを不当に有罪にすることなくCSAMを正確に特定できるほど技術が成熟していないのではないかとの懸念を挙げた。

議会の妥協案は、デジタルプラットフォームに対し、サービスがオンライン性的虐待や子どもの手入れに利用されるリスクを軽減することを義務付けている。また、司法当局がデジタルプラットフォームにいわゆる「検出命令」を発行することも認められ、児童性的虐待資料（CSAM）を検出するためにいわゆる永久ハッシュ関数などの新興技術の使用を義務付ける。しかし、欧州委員会の提案とは対照的に、これらの命令は対象を絞り、期間を限定し、「合理的な疑いの理由」がある場合の「最後の手段」として使用する必要がある。

サルサレホス氏は投票後にユーロニュースに語り、議会はオンラインで子どもたちを守ると同時に、デジタルプライバシーの基本的権利も守るという綱渡りをなんとか成功させたと断言した。

「これは、子どもの保護と、同時にプライバシーとデータ保護が保証される法的枠組みを提供することとの間で適切なバランスをとることである」とザルザレホス氏は述べた。 「法的な観点から見てもいくつかの複雑さがあるが、児童の性的虐待の内容を検出して削除するために導入すべきテクノロジーの侵入性の観点からも複雑だ。」

「このバランスは達成されています。そして、このファイルが得た広範な支持は、妥協の精神とすべての政治団体がこの提案に注力している重要性を非常に物語っていると思います」と彼は付け加えた。

議会はまた、管轄国の当局やハーグに本拠を置くEU法執行機関ユーロポールと協力して、新規則の実施を支援するためのEU児童保護センターを設立するという提案を支持した。

同センターは、検出技術の開発、調査の実施、必要に応じてプラットフォームに対する罰金の発行を支援する予定だ。

欧州議会議員らはまた、被害者の声を確実に届けるために新たな協議の場を設けることも提案した。

「EUセンターは極めて重要な機関となり、初めて被害者と生存者が欧州センター内の協議の場で認められることになる。したがって、総合的に見て、このファイルは必要なツールを提供すると思う」法的に健全であると同時に効果的である必要がある」とザルザレホス氏は語った。

「ターゲットを絞った」検出命令

欧州委員会の提案に含まれる激しく争われた検出命令は、デジタルメッセージングサービスに対し、ユーザーの暗号化されたメッセージを利用するためにクライアントサイドスキャン（CSS）技術を導入することを義務付けることになる。

昨年5月に発表されたこの提案に対する厳しい意見の中で、EU理事会の法務部門は、探知命令とその潜在的なEU法に規定されている「基本的権利への重大な干渉」について「重大な法的懸念」を提起した。

議会の見解草案では、暗号化通信を探知命令の対象から除外するよう求めている。 CSS技術は、暗号化通信の「完全性と機密性」を危険にさらす、と侵害文書には書かれている。

また、欧州議会議員は、探知命令の範囲を、合理的な疑いがある状況において裁判所が発行する命令に大幅に限定した。

欧州委員会の提案に断固として反対してきた欧州のデジタル権利団体EDRiは議会の妥協を歓迎している。

EDRiの上級政策アドバイザー、エラ・ジャクボウスカ氏は、「EUが暗号化を破れば、ネット上で誰も安全ではなくなるということを、市民の自由議員らは正しく認識している」と述べた。

「これは、インターネット規制がAI企業からの約束ではなく、証拠と法的・技術的現実に基づいていることを保証するための重要な一歩だ」とヤクボウスカ氏は付け加えた。

しかし、子どもの権利擁護者らは、議会が委員会の野心を弱める近視眼的な態度をとっていると非難している。児童の性的搾取をなくすための世界的なプラットフォームである ECPAT International によると、摘発命令を対象となる容疑者に限定することで、加害者は法執行機関の監視下で虐待を続けることが可能になるという。

ECPATの児童保護・技術責任者エイミー・クロッカー氏は、議会の見解草案は「オンラインでの子どもの安全に対する憂慮すべき後退」であると述べた。

「これは欧州国民の期待に全く反しており、さらに重大なことに、デジタル空間における子どもたちの安全を積極的に損なうものである。子どもの福祉よりも官僚主義を優先する決定だ」と彼女は述べた。

グルーミングは検出されない可能性があります

未成年者のオンライングルーミングに取り組むため、欧州議会議員らは火曜日、子どもを対象としたデジタルサービスに対し、一方的なメッセージに対してユーザーの同意を求めること、ブロックやミュートのオプションを設けること、ペアレンタルコントロールを強化することなどの要求を支持した。

しかし、委員会はさらに進んで、AI ベースの言語モデルを使用して、オンラインの犯罪者を捕まえるために子供のグルーミングに相当する可能性のある行動パターンを検出したいと考えていました。

ECPATは、「グルーミングを検出しないという決定は、そもそも将来の危害の発生を防ぐ可能性を放棄することを意味する」と述べた。

新しい報告WeProtect Global Alliance が 10 月に発表した報告書は、ソーシャル ゲーム プラットフォームが、大人と子供の交流にとって危険な新たな環境になりつつあることを示唆しています。そこでは、会話がわずか 19 秒以内にリスクの高い身づくろいの状況にエスカレートする可能性があり、身づくろいの平均時間は 45 分です。

しかしザルザレホス氏によれば、プラットフォームに対する新たなリスク軽減策は、子どもたちをこうした危険から守るのに役立つという。

「グルーミングは規制の範囲内であることを明確にしておきたい。特にグルーミングの防止には緩和策が講じられるだろう」と同氏は述べた。

「私たちが合意した唯一の変更は、検出監査からグルーミングを取り除くことです」と彼は付け加えた。