教皇フランシスコは木曜日、人工知能（AI）の開発と倫理的な使用を確保するための国際条約の制定を求め、同情、慈悲、道徳、許しといった人間の価値観をテクノロジーが欠如するリスクはあまりにも大きいと主張した。
法王は、カトリック教会が毎年1月1日に祝う世界平和デーに向けた年次メッセージの中で、AIに対する拘束力のある世界的な規制を求める声が高まっていることへの声を加えた。バチカンは木曜日、メッセージの本文を発表した。
フランシスにとって、その訴えはいくぶん個人的なものである。
今年初め、AIが生成した高級な白いダウンジャケットを着た彼の画像が急速に拡散し、リアルなディープフェイク画像がいかに急速にオンラインで拡散するかを示した。
法王のメッセージは、EUの交渉担当者が暫定承認を獲得した数日後に発表された。世界初の包括的なAIルールこれらは、独自の規制を検討している政府にとってのゴールドスタンダードとして機能すると期待されています。
人間のようなテキスト、写真、歌を作成する能力でユーザーを驚かせた OpenAI の ChatGPT などの最先端システムによる驚くべき進歩のおかげで、AI は過去 1 年間で世界の注目を集めてきました。
しかし、この技術はまた、急速に発展する技術が雇用、プライバシー、著作権保護、さらには人間の生命そのものにもたらすリスクについての懸念も引き起こしている。
フランシスコは、AIが提供する約束を認め、人間の知性の創造性の現れとしてテクノロジーの進歩を賞賛し、多くの世界の指導者がテクノロジーの約束と危険性を提起した今年の国連総会でバチカンが発したメッセージを繰り返した。
しかし、彼の新たな平和メッセージはさらに踏み込んで、民主的な選挙から芸術に至るまであらゆるものを混乱させる可能性のある方法で日常生活を変革すると約束されているテクノロジーについて、倫理学者や人権活動家によって提起されている重大かつ実存的な懸念を強調した。
木曜日の記者会見でこのメッセージを紹介したバチカン開発局のミヒャエル・ツェルニー枢機卿は、「人工知能は、我々の将来にとって、一か八かの賭けとなるかもしれない」と述べた。
「もし結果が悪ければ、責任は人類にある」
この文書は、AIの技術開発と導入においては、基本的人権の保障、平和の促進、偽情報、差別、歪曲からの防御を最優先に考慮しなければならないと主張した。
フランシスコが最も警戒したのは、伝統的な武器メーカーさえも「死の商人」と呼んだイエズス会の教皇が頻繁に焦点を当ててきた兵器分野でのAI利用だった。
同氏は、遠隔兵器システムがすでに「戦争の計り知れない悲劇から遠ざかり、それらの兵器システムによって引き起こされる惨状とその使用に対する責任の負担に対する認識の低下」につながっていると指摘した。
「道徳的判断と倫理的意思決定のための独特の能力は、複雑なアルゴリズムの集合以上のものであり、その能力を機械のプログラミングに還元することはできない」と彼は書いている。
同氏は自律型致死兵器システム（LAWS）に対する「適切で有意義かつ一貫した」人間による監視を求め、単に「戦争の愚かさを促進するだけの」新技術は世界には必要ないと主張した。
より基本的なレベルでは、市民をランク付けしたり分類したりする自動システムが人類に与える深刻な影響について警告した。
テクノロジー企業は自主規制すべきではない
ロボットによって行える世界中の仕事に対する脅威に加え、教皇フランシスコは、この技術が住宅ローン申請者の信頼性、移民が政治亡命を受ける権利、あるいはロボットによる再犯の可能性を決定する可能性があると指摘した。以前に犯罪で有罪判決を受けた人。
「私たちが人権をどのように理解するかをアルゴリズムが決定したり、思いやり、慈悲、許しといった人間の本質的な価値観を脇に置いたり、個人が変化して過去を捨て去る可能性を排除したりすることをアルゴリズムが許されるべきではない」と同氏は書いた。
フランシスコにとって、この問題は、社会的不正を非難し、移民を擁護し、囚人や社会の片隅にいる人々に奉仕するという教皇としての優先事項の一部に当たる。
教皇のメッセージは、ベストプラクティスを推進し、有害な協定を防ぐために世界レベルで交渉する必要があると述べた以外、拘束力のある条約の可能性については詳細には踏み込まなかった。テクノロジー企業だけが自社を規制できると信頼することはできない、と同氏は述べた。
彼は、地球の国家資源を荒廃させ、その資源で生計を立てている先住民族を貧困に陥れた多国籍企業を非難するために、以前に使用した議論を再利用した。
「人間が利己主義、私利私欲、利益への欲望、権力への渇望の誘惑に屈するときはいつでも」、自由と平和的共存が脅かされると彼は書いた。
トリノ工科大学人工知能ハブのバーバラ・カプト教授は、EUの規制とジョー・バイデン米国大統領が10月に発表した大統領令の両方において、いくつかの基本的な倫理的問題と定義についてすでに収束していると指摘した。
「これは小さなことではない」と彼女はバチカンの会見で語った。 「これは、誰が人工知能を開発しようとしても、共通の規制基盤があることを意味します。」
