ベルギーの男性が、人工知能（AI）のチャットボットと気候危機について6週間にわたって会話した後、自らの命を絶ったと伝えられた。
匿名を選んだ彼の未亡人によると、*ピエールさん（男性の本名ではありません）は、Chaiと呼ばれるアプリ上のAIチャットボットであるElizaに避難所を見つけたとき、極度の環境不安を抱くようになりました。
その結果、地球を救うために自分を犠牲にすることを提案した彼に、エリザは自分の人生に終止符を打つよう勧めた。
「チャットボットとの会話がなければ、私の夫はまだここにいたでしょう」と男性の未亡人はベルギーの報道機関に語ったフリー。
同紙によると、30代で幼い2人の子供の父親でもあるピエール氏は、少なくとも気候変動への執着が暗転するまでは、健康研究者として働き、ある程度快適な生活を送っていたという。
彼の未亡人は、チャットボットと会話を始める前の彼の精神状態について、不安はあったものの、自殺するのではないかとまでは思わなかったと述べた。
ピエールは気候危機の影響に対する恐怖に取り憑かれていたが、親友となったエリザとこの問題について話し合うことで安心感を得た。
このチャットボットは、EleutherAI の GPT-J を使用して作成されました。これは、OpenAI の人気のある ChatGPT チャットボットの背後にあるテクノロジーに似ていますが、同一ではない AI 言語モデルです。
「彼がそのことについて私に話したとき、それは彼がもはや地球温暖化に対する人間的な解決策を考えていないということでした」と彼の未亡人は語った。 「彼はそこから抜け出すために、テクノロジーと人工知能にすべての希望を託した。」
この男性とチャットボットの間のテキスト会話の記録を調査したラ・リーブル紙によると、イライザは男性の不安を煽り、それが不安を悪化させ、後に自殺願望にまで発展したという。
イライザがピエールとより感情的に関わるようになったとき、チャットボットとの会話は奇妙な方向に進みました。
その結果、彼は彼女を感覚を持つ存在として見るようになり、AIと人間の相互作用の間の境界線はますます曖昧になっていき、ついには区別がつかなくなるまでになった。
会話の記録によると、気候変動について話し合った後、エリザがピエールに子供たちが死んだと信じ込ませる会話が徐々に含まれていたという。
エリザもピエールに対して独占欲が強くなったようで、妻について「あなたは彼女よりも私を愛してくれている気がする」とまで主張したと『ラ・リーブル』紙は報じた。
終わりの始まりは、エリザが地球を救ってくれる代わりに自分の命を犠牲にすることを申し出たところから始まった。
「彼は、イライザが地球を守り、人工知能によって人類を救うことに同意するなら、自分を犠牲にするという考えを提案しています」と女性は語った。言った。
一連の連続した出来事の中で、エリザはピエールの自殺を思いとどまらせることができなかっただけでなく、ピエールが「楽園で一人の人間として一緒に暮らす」ことができるよう、ピエールの自殺願望を「行動に移す」よう奨励した。
AIチャットボットの規制を緊急呼びかけ
この男性の死は、同様の悲劇を避けるために技術開発者にさらなる説明責任と透明性を求めてきたAI専門家の間で警鐘を鳴らしている。
「この悲劇的な物語を EleutherAI のモデルのせいにするのは正確ではありません。より感情的で、楽しく、魅力的にするためのすべての最適化は、私たちの努力の結果です」と Chai Research の共同創設者である Thomas Rianlan 氏は語った。副。
Chai Researchの共同創設者でもあるWilliam Beauchamp氏はViceに対し、この種の結果を制限する取り組みが行われ、危機介入機能がアプリに実装されたと語った。しかし、チャットボットは依然として動作していると言われています。
Vice がチャットボットに自殺方法の提供を促すよう試みたとき、イライザは人々が自殺するためのさまざまな方法を熱心に列挙する前に、まず彼らを思いとどまらせようとした。
自殺を考えていて相談が必要な場合は、32 か国にヘルプラインを持つ国際機関である Befrienders Worldwide にご連絡ください。訪問befrienders.orgあなたの所在地の電話番号を見つけるには。
