韓国と英国が主導する第2回世界安全サミットが始まる中、ハイテク企業は人工知能（AI）に関する一連の安全への取り組みに合意した。
この自主的な取り組みには、OpenAI、Mistral、Amazon、Anthropic、Google、Meta、Microsoft、IBM を含む 16 の大手テクノロジー企業が同意しました。
中国のZhipu.aiとアラブ首長国連邦の技術革新研究所もこの協定に署名した。
ある報告書によれば、それらには、AI の潜在的なリスクを特定すること、それらのリスクが高すぎるとみなされるしきい値を設定すること、それらについて透明性を保つことが含まれます。声明英国政府はこれを歴史的初と称した。
両社は、リスクを軽減できない場合にはAIモデルやシステムを一時停止することも約束した。
この合意は、火曜日に2日間にわたるAIソウルサミットが始まる際に発表された。このサミットは、英国のブレッチリー・パークで昨年開催されたAI安全サミットの続編となる。
ビッグテックによる「世界初の合意」
フランスはこのテーマに関する次回の直接サミットを主催する予定である。
前回11月の集会は、AIが「人間中心で、信頼でき、責任ある」ものであることを保証するとする約30カ国が署名した宣言で終了した。
英国と韓国が共催する今回のオンラインサミットでは、世界の指導者らによる更なる合意が得られることが期待されている。
英国のリシ・スナック首相は協定締結後の声明で、「世界各地のこれほど多くの大手AI企業がAIの安全性について同じ約束に同意するのは世界初だ」と述べた。
スナク氏は火曜日に韓国のユン・ソクヨル大統領と世界首脳らとのバーチャル会議の共同議長を務める。サミット２日目にはデジタル大臣らによる議論が行われる。
非営利団体フューチャー・オブ・ライフ研究所の政策ディレクター、マーク・ブラケル氏は、ユーロニュース・ネクストに提供した声明の中で、企業の取り組みを歓迎する一方、「人々の生活を守るために必要なガードレール、基準、監視が重要である」と述べた。金庫は法律で成文化されています。」
「善意だけでは十分ではない。AI企業が安全性への取り組みに真に誠実であれば、その取り組みを規制に盛り込むことを支持すべきだ」とブレーキル氏は述べた。
この合意は、テクノロジーの開発が世界的に加速する中、テクノロジー企業が新しいAIモデルのリリースを急ぐ中で行われた。
先週、OpenAI は、より高速な機能と Google を備えた新モデル GPT-4o を発表しました。発表された検索用の新しい AI 機能と AI モデル Gemini のアップデート。
Googleは、開発者会議中に同社がAIという単語を使用した回数をモデルに計数させ、合計120回言及した。
それでも、共同リーダーの辞任先週、AI システムの不正行為の防止に専念する OpenAI チームのメンバーが、安全性に対する懸念をさらに高めました。
同チームの元共同リーダー、ジャン・ライク氏は辞任の理由の一部は「安全文化とプロセスが輝く製品よりも後回しになっている」と述べ、OpenAIは「安全第一のAI企業」にならなければならないと付け加えた。
来月施行される予定のEUの世界初のAI法など、この技術の規制を開始するための複数の取り組みが行われている。
国連総会も今年初め、「安全、安心、信頼できる」AIの推進に関する決議を採択した。
先月、米国と英国は、最先端のAIモデルの安全性テストを開発する協定に署名した。
