パオロ・ベナンティ修道士は、中世のフランシスコ会の無地の茶色のローブを着て、現代で最も差し迫った問題の 1 つ、つまり人々の生活を豊かにし、搾取しないように人工知能 (AI) を管理する方法を追求しています。
ベナンティ氏はバチカンのテクノロジーに関する頼りになる人物であり、教皇フランシスコのほか、シリコンバレーのトップエンジニアや幹部の何人かにも耳を傾けている。
工学の経歴があり、道徳神学の博士号を取得し、彼が「テクノロジーの倫理」と呼ぶものに対する情熱を持つこの50歳のイタリア人司祭は、フランシスコと共有する緊急の使命を担っている。 2024年に向けた年次平和メッセージでは、AIテクノロジーの倫理的な使用を確保するための国際条約の締結を推進した。
「存在する人間と機能する機械の違いは何でしょうか？」ベナンティ氏は、教皇庁グレゴリアン大学の休憩中にAP通信とのインタビューでこう語った。同大学では、司祭職を目指す学生に道徳神学や生命倫理などのコースを教えている。
「これはおそらく、この時代の最大の疑問です。なぜなら、私たちは、人間味のある機械によって、日ごとに深刻さを増す課題を目の当たりにしているからです。」
ベナンティ氏は、国連の人工知能に関する諮問機関のメンバーであり、フェイクニュースやその他の偽情報からジャーナリズムを守る方法に関する勧告を提供する任務を負ったイタリア政府委員会の委員長でもある。
彼はバチカンの教皇庁生命アカデミーのコンサルタントでもあります。
ベナンティ氏は、会談中に「教皇にとってより専門的な用語をより明確に説明する」のに役立ったと述べた。
彼の知識は、2023年にバチカンで開かれるフランシスコとマイクロソフト社長のブラッド・スミスとの間の、AIが人類をどのように助け、あるいは傷つけるかに焦点を当てた会議に役立った。
バチカンによると、フランシスコとスミスは数年前の会談でも「公益のために」人工知能について話し合っていたという。
教皇庁は社会の片隅で暮らす人々に細心の注意を払っており、フランシスコは、AI技術が住宅購入者の住宅ローン申請や移民の亡命申請、あるいは犯罪者の犯罪の可能性の評価などに悪影響を及ぼし、人権を制限する可能性があるとの懸念を明確にしている。犯罪を繰り返す。
「十分に包括的ではないデータを選択した場合、包括的ではない選択肢がいくつか出てくることは明らかです」とベナンティ氏は語った。ベナンティ氏の修道会は13世紀初頭にアッシジの聖フランシスコによって設立された。富を築き、慈善事業を促進しました。
同修道士によると、マイクロソフトは数年前に初めてベナンティ氏にテクノロジーに関する考えを尋ねたという。
2023年、スミス氏はローマでベナンティ氏とポッドキャストを行い、同修道士がエンジニアリング、倫理、テクノロジーのバックグラウンドの点で「世界で最も魅力的な組み合わせの1つ」をAIの議論にもたらしたと説明した。
AI の適切な用途を見つける
ローマのサピエンツァ大学で工学の学位取得まであと1年というところで、20代で学位とガールフレンドを捨ててフランシスコ会に入信したベナンティ氏は、AIがいかにして社会を崩壊させる「本当に強力なツール」になり得るかを語った。薬のコストを削減し、医師がより多くの人々を助けることができるようにします。
しかし彼はまた、人間と同じ、あるいはそれ以上の能力を持つ可能性のあるテクノロジーの倫理的意味についても説明しました。
「これは[AI]の使用の問題ではなく、ガバナンスの問題だ。そしてここで倫理が登場する。社会的文脈の中で適切な使用レベルを見つけることだ」と修道士は語った。
ベナンティ氏は、AIに情報を与えるデータの多くは低賃金労働者によって供給されており、その多くは植民地主義の歴史と搾取された労働力の歴史に根付いた発展途上国の人々であると指摘した。
「これを、私たちがグローバル・サウスの認知資源から抽出する季節として記憶されたくないのです」と彼は語った。
西側諸国で「我々がAIで生み出している最高のツール」を調べると、AIが「英語を話す旧植民地からの低賃金労働者を使って訓練されている」ことが分かる。
AI をどのように統治するかは、世界中の国が解決しようとしている問題です。欧州連合は昨年末、交渉担当者がAI技術の法的監視に道を開く協定を締結し、先駆者となった。
イタリアでは、AIが雇用の喪失につながる可能性を懸念しているジョルジア・メローニ首相が、イタリアが主催する今年のG7サミットの焦点としてこの技術を取り上げる予定だ。
こうした取り組みの一環として、メローニ氏は木曜日、訪問中のマイクロソフト創設者ビル・ゲイツ氏とローマで会談し、ベナンティ氏も同席した。
修道士はAPに対し、人工知能を規制することはその開発を制限することを意味するべきではないと語った。
「それは、民主主義という脆弱なシステムとの互換性を保つことを意味し、今日が最良のシステムと思われる」とベナンティ氏は語った。
