国際政府は人工知能（AI）に関する「世界初」の協定に署名した。英国での世界サミットテクノロジーがもたらす可能性のある「壊滅的な」リスクと戦うためです。
英国のAI安全サミットには、27カ国と欧州連合から技術専門家、世界的リーダー、代表が出席している。このサミットは、かつて第二次世界大戦の暗号解読者の本拠地だったブレッチリー・パークで水曜から木曜まで開催される。
英国はAIスーパーコンピューターに投資すると発表したが、テスラとXの社長イーロン・マスク氏はイベントの傍らで、AIは「人類に対する最大の脅威の1つ」であると述べた。
しかし、テクノロジーコミュニティの多くは、オープンソースからオープンサイエンスに至るまで、また科学者、テクノロジーリーダー、政府が協力することなど、さまざまなアプローチを求める公開書簡に署名した。
イベントからの重要なポイントは次のとおりです。
AI の安全性に関するブレッチリー宣言は、米国、中国、EU を含む 28 か国の代表および企業によって署名された声明です。これは、いわゆるフロンティア AI モデル、つまり OpenAI などの企業によって開発された大規模な言語モデルのリスクに取り組むことを目的としています。
英国政府はこれを署名国間の「世界初」の協定と呼び、「共通の懸念事項であるAIの安全性リスク」を特定し、「各国にわたるそれぞれのリスクベースの政策」を構築することを目的としている。
ChatGPTなどの生成モデルで使用されているテクノロジーの最も洗練された形式であるフロンティアAIには、「これらの最も重要な機能に起因して、意図的か非意図的かにかかわらず、深刻な、さらには壊滅的な危害をもたらす可能性がある」と警告している。 AIモデル」。
英国のミシェル・ドネラン科学・イノベーション・技術担当国務長官は、この合意は「画期的な成果」であり、「今日の議論の基礎を築く」と述べた。
しかし専門家らは、この合意は十分に進んでいないと主張している。
AI対応調査会社AMPLYFIのCEO、ポール・ティーザー氏はユーロニュース・ネクストに対し、「倫理原則を支持するために大国が結集することは成功とみなせるが、具体的な政策と説明責任の仕組みを策定するという取り組みは迅速に続けられなければならない」と語った。
「曖昧な用語は誤解の余地を残していますが、AI に関して世界的に認められたベスト プラクティスを促進するには自発的な協力のみに依存するだけでは不十分です。」
その他の AI サミット
英国政府はまた、将来的にAI安全サミットを開催すると発表した。
韓国は今後6か月以内にAIに関する別の「ミニバーチャル」サミットを開催し、フランスは来年、次回の対面でのAIサミットを主催する。
誰が何を言いましたか？
億万長者のハイテク起業家イーロン・マスク氏はサミットに到着し、会談中は沈黙を保ったものの、AIのリスクについて警告した。
「私たちは他の生き物よりも強いわけでも、速いわけでもありませんが、より賢いのです。そして私たちは、人類史上初めて、私たちよりもはるかに賢い生き物を手に入れたのです。」
ChatGPT開発者のOpenAIの共同設立者であり、xAIと呼ばれる新事業を立ち上げたマスク氏は、ハイテク企業には「審判」が存在すべきだが、規制は慎重に導入されるべきだと述べた。
「私たちがここで目指しているのは…まず、審判機能があるべきだと確立することだと思います。私はそうすべきだと思います。
「そして、規制の適用方法には注意して、AI の良い面を阻害するような規制を導入しないようにしてください。」
マスク氏は木曜後半、自身のプラットフォームX（旧ツイッター）上で英国首相リシ・スナックと会談する予定だ。
ウルスラ・フォン・デア・ライエン
欧州委員会のウルズラ・フォン・デア・ライエン委員長は、AIにはリスクと機会が伴うと警告し、量子物理学が原子力エネルギーだけでなく原爆などの社会的リスクにもつながった経緯を賞賛した。
「私たちはまったく異なる時代に入りつつあります。私たちは今、機械が知的に行動できる時代の幕開けにいます。今後 5 年間の私の願いは、過去から学び、迅速に行動することです。」彼女は言いました。
フォンデアライエン氏は、独立した科学コミュニティによる客観的な科学的チェックアンドバランスのシステムと、世界中で受け入れられるAIの安全基準を求めた。
同氏は、EUのAI法は立法プロセスの最終段階にあると述べた。同氏はまた、「監督責任を持って最先端のAIモデルを扱う」ことができ、世界中の同様の組織と協力する欧州AI局の可能性についても議論されていると述べた。
カマラ・ハリス
カマラ・ハリス米国副大統領は、サイバー攻撃や生物兵器の開発の脅威に対する「実存的な」恐怖だけでなく、AIリスクの「あらゆる領域」に対処するための行動が今必要であると述べた。
同氏はロンドンの米国大使館で「われわれの行動を必要とするさらなる脅威が存在する。脅威は現在危害を及ぼし、多くの人々にとっても存在意義を感じている」と述べた。
チャールズ 3 世国王
英国国王チャールズ3世は、AIの発展を原子の分裂と火の利用の重要性と比較するビデオ演説を送った。
同氏は、AIは「人類の努力の歴史の中で最大の技術的進歩の1つ」であり、「ネットゼロへの道を加速し、潜在的に無限のクリーンなグリーンエネルギーの新時代の実現」に役立つ可能性があると述べた。
しかし同氏は、「私たちはその重大なリスクと戦うためにも協力しなければならない」と警告した。
テクノロジーコミュニティからの反発
メタの国際問題担当社長ニック・クレッグ氏は、新技術を巡って「道徳的パニック」が起きていると述べ、政府の規制がハイテク企業からの反発に直面する可能性があることを示唆した。
「新しいテクノロジーは常に誇大宣伝につながります」とクレッグ氏は言います。 「それらはしばしば、擁護者の間で過度の熱意をもたらし、批判者の間で過度の悲観をもたらします。
「80年代を思い出します。ビデオゲームに関しては道徳的なパニックが起きていました。ラジオ、自転車、インターネットに関して道徳的なパニックが起きました。」
ブラウザFirefoxに関連するMozilla Foundationの社長兼エグゼクティブディレクターであるマーク・サーマン氏も、サミットは民間企業が自らの利益を推進するための世界舞台のプラットフォームであると懸念を表明した。
Mozillaは木曜日、学者、政治家、民間企業、特にメタ社の従業員とノーベル平和賞マリア・レッサ氏が署名した公開書簡を公開した。
「私たちは、一般のアクセスと監視の強化によってテクノロジーがより危険になるのではなく、より安全になることを何度も見てきました。基礎的な AI モデルを厳格に独自に制御することが、社会規模の危害から私たちを守る唯一の道であるという考えは、良く言えば単純で危険です」最悪の場合でも」とサーマン氏はユーロニュース・ネクストへのコメントで語った。
「私たちは政策立案者に対し、AIの安全性を実現する競争において、オープンソースからオープンサイエンスに至るまで、さまざまなアプローチに投資するよう求めています。AI時代に私たちの安全と安心を保つためには、オープンで責任ある透明性のあるアプローチが不可欠です」と同氏は付け加えた。 。
新しいAIスーパーコンピューター
英国は、19世紀の英国人技術者イザムバード・ブルネルにちなんでイザムバード-AIと呼ばれる新しいAIスーパーコンピューターに2億2,500万ポンド（2億5,700万ユーロ）を投資すると発表した。
この装置はイングランド南部のブリストル大学で建設される予定で、英国政府は英国の現在最も速いマシンよりも10倍速いと発表した。
最近発表された別の英国のスーパーコンピューター「Dawn」と合わせて、政府は両方が核融合エネルギー、医療、気候モデリングの分野で画期的な進歩を遂げることを期待している。
両方のコンピューターは来年夏に稼働することを目指しています。
英国の野望
スナク氏が英国がAIのリーダーになることを望んでいることは周知の事実だが、AIがどのように規制されるかは不明であり、他の国はすでに独自のAI規制を設けている。米国、中国、EUとの激しい競争がある。
ジョー・バイデン大統領は10月30日にAI大統領令に署名した後、「米国はこの技術変革の時期に先導するだろう」と述べた。EUも独自のAIガイドラインを策定しようとしている。
しかし、EUとは異なり、英国はAIを規制するための新たな法律を制定する予定はなく、代わりに英国の既存の規制当局に自国の分野のAIに対する責任を負わせるつもりだと述べた。
中国も生成型 AI を管理する独自のルールを推進しています。
同国の技術省の呉兆輝次官はサミットで、中国は「（AIに関する）国際メカニズム、参加の拡大、幅広い合意に基づく統治の枠組みに貢献し、国民に利益をもたらし、運命を共有するコミュニティを構築する」と述べた。人類のために。」
競争にもかかわらず、元Google DeepMindおよび英国政府顧問であり、現在はArup社のグローバルデジタルリーダーであるウィル・カベンディッシュ氏は、英国は世界のAI舞台で地位を獲得できると主張する。
同氏はユーロニュース・ネクストに対し、「英国はすでに世界で第3位のAIセクターを擁しており、英国がこのエキサイティングな分野で世界のリーダーの1つになることを目指すのは当然だ」と語った。
しかし同氏はまた、「すべての人の未来を切り開くために」各国が団結する必要があるとも述べた。
