カリフォルニア州知事ギャビン・ニューサムが拒否権発動画期的な法案大型人工知能（AI）モデルに対する国内初の安全対策を確立することを目的としており、いくつかのテクノロジー企業が反対の声を上げていた。
日曜日の決定は、ほとんど監視されずに急速に進化する国内産業を抑制しようとする取り組みにとって大きな打撃となる。
請求書支持者らは、国内の大規模AIモデルに関する初の規制の一部を制定し、全国規模でのAI安全規制への道を切り開いただろう、と述べた。
今月初め、民主党知事はソフトウェア大手セールスフォースが主催する年次カンファレンス「ドリームフォース」の聴衆に対し、連邦政府の無策に直面してカリフォルニア州はAI規制を主導する必要があるが、この提案は「業界に萎縮効果をもたらす可能性がある」と語った。
この提案は新興企業、ハイテク大手、数名の民主党下院議員から激しい反対を呼び、厳格な要件を設けることで国内産業に悪影響を与える可能性があるとニューサム氏は述べた。
代替案
ニューサム氏は日曜、同州がAIの先駆者フェイフェイ・リー氏を含む複数の業界専門家と提携して、強力なAIモデルの周りにガードレールを開発すると発表した。リー氏はAIの安全性に関する提案に反対した。
AIによって生み出される潜在的なリスクを軽減することを目的としたこの措置では、企業に対しモデルをテストし、例えば州の送電網を破壊したり化学兵器の製造を支援したりする目的でモデルが操作されることを防ぐための安全プロトコルを公表することが求められる予定だった。
専門家らは、業界が急速に進歩し続けるにつれ、こうしたシナリオが将来的に可能になる可能性があると述べている。また、内部告発者の保護も労働者に提供されただろう。
この法案の起草者である民主党州上院議員のスコット・ウェイナー氏は、この拒否権発動について「国民の安全と福祉、そして地球の将来に影響を与える重要な決定を下している大企業の監督を信じているすべての人にとって後退だ」と述べた。
「高度な AI システムを開発している企業は、これらのモデルが一般にもたらすリスクが現実であり、急速に増大していることを認識しています。大規模な AI 研究所は、これらのリスクを監視し軽減するために立派な取り組みを行っていますが、業界からの自発的な取り組みには強制力がないというのが真実です。そして一般大衆にとってうまくいくことはめったにない」とウィーナー氏は日曜の声明で述べた。
ウィーナー氏は、この法案を巡る議論でAIの安全性の問題は劇的に前進したとし、今後もこの点を主張し続けると述べた。
この法案は、AIの規制、ディープフェイクとの戦い、労働者の保護を目的として今年議会を通過した多数の法案の1つである。州議会議員らは、カリフォルニア州はチャンスがあったかもしれないのにソーシャルメディア企業を抑制できなかったことから学んだ厳しい教訓を挙げ、今年行動を起こさなければならないと述べた。
イーロン・マスク氏やアンスロピック氏を含むこの法案の支持者らは、開発者や専門家らはAIモデルがどのように動作し、なぜ。
この法案は、高レベルのコンピューティング能力と構築に 1 億ドル (9,000 万ユーロ) 以上を必要とするシステムを対象としていました。現在の AI モデルはそのしきい値に達していませんが、一部の専門家は、今後 1 年以内に変更される可能性があると述べています。
「これは、業界内での大規模な投資規模の拡大によるものです」と、OpenAIの元研究者で、同社がAIリスクを無視しているとして4月に辞任したダニエル・ココタジロ氏は述べた。
「これは、民間企業が説明責任を持たずにコントロールするのには途方もない量の権限であり、また信じられないほど危険です。」
米国はリスクを制限するためのAI規制においてすでに欧州に遅れをとっている。カリフォルニア州の提案は欧州の規制ほど包括的ではなかったが、雇用の喪失、誤った情報、プライバシーの侵害、自動化バイアスなどの懸念を引き起こしている急速に成長するテクノロジーの周囲にガードレールを設けるには良い第一歩だっただろう、と支持者らは述べた。
多くの大手AI企業は昨年、自社モデルのテストや情報共有など、ホワイトハウスが定めた安全策に従うことに自発的に同意した。同法案の支持者らによると、カリフォルニア州の法案では、AI開発者に対し、これらの約束と同様の要件に従うことが義務付けられることになるという。
しかし、ナンシー・ペロシ元米下院議長を含む批評家らは、この法案は「カリフォルニアのテクノロジーを殺し」、イノベーションを抑圧するものだと主張した。そうなれば、AI開発者は大規模モデルへの投資やオープンソースソフトウェアの共有を思いとどまるだろう、と彼らは述べた。
ニューサム氏の法案への拒否権発動の決定は、大手ハイテク企業とAI開発者にとってカリフォルニア州での新たな勝利を意味しており、彼らの多くは過去1年間、知事や議員にAI規制の推進を阻止するようカリフォルニア商工会議所とともにロビー活動を行ってきた。
他の2件の抜本的なAI提案もテクノロジー業界などからの反対が強まり、先月の立法期限を前に廃止された。
この法案では、AI開発者に対し、AIが生成したコンテンツにラベルを付けることや、雇用の決定に使用されるAIツールによる差別を禁止することが求められる予定だった。
「それは消えないよ」
知事は今夏初め、AIの世界的リーダーとしてのカリフォルニア州の地位を守りたいと述べ、世界トップ50のAI企業のうち32社が同州にあると指摘した。
同氏は、カリフォルニア州が高速道路の渋滞に対処し、税務指導を提供し、ホームレス対策プログラムを合理化するために間もなく生成AIツールを導入する可能性があるとして、カリフォルニア州を早期導入者として推進した。
同州は先月、学生、大学教員、開発者、データサイエンティストの研修を支援するため、AI大手エヌビディアとの自主提携を発表した。カリフォルニア州も、雇用慣行におけるAI差別に対する新たな規則を検討している。
しかし、ニューサム氏の拒否権にもかかわらず、カリフォルニア州の安全性に関する提案は他の州の議員にも同様の措置を講じるよう促している、とテクノロジーとプライバシーの提案に関して議員らと協力する非営利団体フューチャー・オブ・プライバシー・フォーラムの副所長タチアナ・ライス氏は述べた。
「彼らは潜在的にそれをコピーするか、次の議会で同様のことを行うつもりだ」とライス氏は語った。 「だから、消えないんです」。
