100名以上の現従業員と元従業員OpenAI、GoogleのDeepMind、Meta、人間的はカリフォルニア州の新たな人工知能（AI）規制法案を支持する声明を送り、同法案は今月末までにカリフォルニア州知事ギャビン・ニューサムの署名か拒否権発動を待っている。
世界中の政府が規制しようとしているAI とカリフォルニア8月に州議会と上院がAI安全法案を可決した後、この試みが行われる最新の場所となった。
月曜日に発表されたこの法案を支持する声明には、「最も強力なAIモデルが、生物兵器へのアクセス拡大や重要インフラへのサイバー攻撃など、近い将来深刻なリスクを引き起こす可能性があると考えている」と書かれている。
そこには、匿名を希望したチューリング賞受賞者のジェフリー・ヒントン氏と、Google DeepMind および OpenAI の現従業員の署名が含まれています。
新しい法律では、企業が開発中のAIモデルのリスクについて声を上げる従業員に対する内部告発者の保護やその他の措置も追加される予定だ。
カリフォルニア州の動きもこれに続く欧州の青写真 AI 法、今年初めに完成しました。これがそれらの比較方法であり、新しい規制が世界中の AI 企業に影響を与える可能性がある理由です。
EU AI 法には、AI モデルを許容できない、高い、限定的な、最小限のリスクに分類するリスクベースのシステムがあります。
医療や重要インフラで使用される AI システムなど、最大のリスクをもたらす AI システムには、より厳しい規制が適用されます。高リスクのシステムは厳格なテストとリスク管理を受けており、厳格な EU 基準に準拠する必要があります。
カリフォルニア州の法律は、正式には「フロンティア人工知能モデルのための安全かつ安全なイノベーション法」と呼ばれています (上院法案 1047）は、大規模な AI システム、特にトレーニングに 1 億ドル（9,000 万ユーロ）以上のデータを必要とするシステム向けの重要な安全プロトコルを確立することを目的としていますが、現在これを行っている AI 企業はありません。
AI開発者はモデルを徹底的にテストし、安全対策を公表する必要がある。
カリフォルニア州司法長官は、大量死傷者や5億ドル（4億5000万ユーロ）を超える物的損害と定義する重大な損害についてAI企業を訴える権限も持つことになる。
カリフォルニア州の法案により、AIモデルが安全でないと判明した場合は即座に停止し、AIモデルが「重大な危害を引き起こす」可能性があるかどうかを評価するテストを維持することも可能になる。
どちらの行為がさらに進んでいますか？
フューチャー・オブ・ライフ研究所のEU研究主任リスト・ウーク氏は、「カリフォルニア州の法案はある意味、より深刻に見えると言えるだろう。なぜなら、カリフォルニア州法案は閾値を非常に明確に定義し、5億人の大量死傷者数など非常に具体的な閾値を示しているからだ」と述べた。
「しかし実際には、EU AI法のシステミックリスクは実際にはもっと広範囲に及ぶ。それはより多くのものを捉えている。それらの大量の犠牲者を捉えているが、その中にある構造的差別などを捉えている」と同氏はユーロニュース・ネクストに語った。
「おそらくそれが、カリフォルニア州法案が非常に軽いタッチだと言う人がいる理由だろう」と彼は付け加えた。
カリフォルニア州の法案は、EU の AI 法よりも先進的であり、EU が「対象」と定義しているまだ存在しない AI モデルに特に焦点を当てています。
これらは、一定量の計算能力を使用してトレーニングされたモデル、または最先端の基盤モデルと同様のパフォーマンスを持つモデルとして定義されます。
EU は、教育や採用用の AI など、さまざまな AI システムを幅広くカバーしています。
しかし、カリフォルニア州の法案はより具体的であるため、他の側面でもさらに前進していると主張する人もいます。
「SB 1047は、基盤モデルに対して、例えば透明性など、より詳細なルールを導入している」と、欧州議会議員アクセル・ヴォスの事務所長兼デジタル政策顧問であり、EUのAI法に携わったカイ・ゼナー氏はユーロニュース・ネクストに語った。
同氏はさらに、「カリフォルニア州の法律は、過去数カ月間の新たな観察や技術開発のほとんどを考慮すると、2023年からのEUのアプローチをうまくアップデートしたものになるようだ」と付け加えた。
テクノロジーの反発: 彼らの共通点
EU AI法とカリフォルニア州法案の両方の批判者は、AI規則がイノベーションを遅らせると主張している。
このことを言っているのはAI企業だけではなく、政治家も同様だ。元米国下院議長で現カリフォルニア州下院議員のナンシー・ペロシ氏とサンフランシスコ市長のロンドン・ブリード氏は、イノベーションを抑制する可能性のある不必要な官僚主義を追加することになるとして、この法案に反対した。
EU AI法の交渉中、AI企業からの反発はあったものの、土壇場で「懲罰的」AI規制に反対したフランス大統領エマニュエル・マクロンを除いて、政治家からの反発はそれほどではなかった。
「米国では、自分の名前の横にチェックマークを付け、100万人のフォロワーがいて、（ソーシャルメディアで）この法案は新興企業の創業者を投獄し、多くの人々を懲役させることになると言うだけで済む」反応し、いいね！し、再共有してください」とワシントンDCに拠点を置く非営利団体Future of Life Instituteの米国政策専門家、ハムザ・チョードリー氏は語った。
AIロビー活動
同氏はユーロニュース・ネクストに対し、「そのようなことはサクラメントで起こっていたよりもブリュッセルでははるかに少なかったと思う」と語り、「広範な歴史的理由により、ロビー活動はブリュッセルよりもワシントンDCやサクラメントよりもはるかに大きい」と付け加えた。理由」。
「この（カリフォルニア州の）法案に対する反対運動で非常に興味深いのは、テクノロジーロビーがこの議論を、必ずしもそうする必要のない形で国有化することができたということだ」と同氏は述べた。
「彼女自身偉大な政策立案者である元下院議長は、何年もぶりに州法案について検討しました。あなたはワシントンDCの下院科学委員会にカリフォルニア州の州法案について検討してもらいました、私は少なくとも20年ぶりだと思います。」
チョードリー氏は、これが物議を醸すものか、それとも「これまで見た中で最悪の法案の一つ」なのかが問題になると述べた。
世界的な影響
カリフォルニア州法は、OpenAIなど世界トップ50のAI企業のうち35社が本拠を置く同州に適用されることになる。しかし、これはカリフォルニアに拠点を置く企業だけでなく、同州で事業を展開するAI企業にも適用されるだろう。
ヨーロッパや中国では既にAI規制が行われており、別のルールがあれば実際には企業にとって規制が容易になるだろう。
「カリフォルニア州の法案が可決されるか規制があれば、EUでも規制があり、中国でもAI規制があり、世界の他の主要なイノベーション拠点でも規制があれば、誰もが国際ビジネスを行うことがはるかに容易になる。特に、規制はある程度一致している」とウーク氏は語った。
カリフォルニア州の法案は「EUにとって大きな勝利であり、世界中で規制アプローチを調整するのにも役立つだろう」とゼナー氏は付け加えた。
「カリフォルニアでもブリュッセルでも、このようなダイナミックで新しい分野の法律は、最初は常に不完全なものだ。法律は定期的に調整し、規定する必要がある。EUは規範と基準でそれを行っている」と同氏は述べた。
