EU が AI 法で経験したように、イノベーションとリスクの間のトレードオフを見つけるには時間がかかります。しかし、AIを活用したバイオテロの特有のリスクには今から取り組むことができる、とケビン・エスベルト氏とベン・モラー氏は書いている。
AI規制は州間競争の分野となっている。 EUはAI法に関して合意に達したばかりだが、米国は以前にAIに関する広範な大統領令を発表しており、英国はAI安全サミットに政治家や業界のリーダーを招集した。
こうした議論の多くでは、AI 支援のバイオテロ、つまりパンデミック ウイルスにアクセスするために AI ツールを使用して大惨事を引き起こす個人の能力という 1 つのリスクがより注目されています。
私たちは最近、これが検討に値するリスクであることを示しました。非公式の実験では、パンデミックを引き起こす可能性のある病原体を入手するのに役立つように、保護手段が削除されたオープンソースの大規模言語モデルを使用するよう個人に課題を与えました。
参加者は 3 時間以内に、潜在的に壊滅的な流行を開始するために必要な手順の多くを特定しました。
特に懸念されるのは、このモデルが、既存のスクリーニング方法を回避しながら、ウイルス DNA (病原体を作成するための青写真) にアクセスする方法を参加者にアドバイスしていたことです。現在のモデルが、オンラインにすでに存在する情報を要約することによってバイオテロをどの程度支援しているかは、依然として不明である。
しかし、現在の機能はさておき、今回の調査結果は、堅牢な保護手段がない場合、より高度な将来のモデルによって、パンデミック ウイルスへのアクセス、構築、放出方法に関する合理化されたアクセス可能な情報が悪意のある個人に提供される可能性があることを示唆しています。
悪意のある攻撃者に無防備なテクノロジー
ウイルスをゼロから構築するために必要な DNA 構築物は、オンラインで注文できます。多くの遺伝子合成プロバイダーは、1,000 塩基対の DNA 断片を 200 ユーロ未満で製造します。ほんの数十年前には、研究者が何千時間もかけてノーベル賞を受賞できるようなものでした。 。
カスタム遺伝子合成の出現は現在、生物科学の柱となっており、研究者は他の多くの利点の中でも特に、mRNA ベースのワクチンや治療薬の設計を迅速に繰り返すことができます。しかし、遺伝子合成の進歩により新たな発見や治療が可能になるのと同様に、この技術は悪意のある者によってパンデミック病原体にアクセスするために悪用される可能性もあります。
多くの企業は、危険な病原体から DNA を検出するための注文をスクリーニングするという重要なステップを踏んでいます。
しかし、全員がそうするわけではありません。言語ベースの AI モデルはすでに、パンデミックの可能性のある病原体の DNA を入手するために、そのような抜け穴を特定して悪用する方法を個人にアドバイスすることができます。
この懸念を反映して、大手AI企業アンスロピックのCEOは最近、適切なガードレールが設置されない限り、次世代AIシステムは2年以内に大規模なバイオテロを可能にする可能性があると米国議員に警告した。
「AIのゴッドファーザー」の一人、ヨシュア・ベンジオ氏も同様の懸念を表明した。 EUの政策立案者がAIの急速な進歩に対する適切な対応を検討する中、1つの単純なガードレールは綿密な精査に値する。それは、すべての遺伝子合成命令を危険な配列についてスクリーニングする法的要件である。
高度に専門化された企業が DNA 合成サービスを提供しているのは 100 社にも満たないため、これは理想的な政策手段となります。EU が企業に対し、既知のパンデミック病原体の最新データベースと照合してすべての注文を選別し、顧客把握要件を実装することを要求するのであれば、それは好ましくありません。攻撃者は、次のパンデミックを引き起こすために必要な構成要素にアクセスできなくなります。
遺伝子合成スクリーニングの義務化の事例
米国はすでに遺伝子合成を確保するための措置を講じている。 AIに関する政府の最近の大統領令は、連邦政府から資金提供を受けた企業に対し、政府の新しい生物合成スクリーニングガイドラインに従うことを義務付けている。
EU自体はまだこの問題に関する規制を通過させていない。パンデミックレベルのバイオテロのリスクが増大していることを考慮すると、遺伝子合成スクリーニングの義務化は、最初の有意義なステップとなるだろう。
業界の 80% 以上を代表するプロバイダーが義務化に賛成しています。遺伝子合成スクリーニングの潜在的なコストについて正当な懸念を抱いている人や、潜在的な知的財産上の懸念を懸念している人もいますが、プライバシーを保護する無料のスクリーニングツールが間もなくリリースされるため、この問題は軽減されるはずです。
義務付けられたスクリーニングシステムは、いくつかの基準を満たす必要があります。注文はプライバシーを保護するために暗号化され、誤報がほとんどなく危険を独占的に検出するスクリーニングを受ける必要がある一方、認可された研究所には、許可された DNA 配列を遅滞なくシームレスに取得する方法が提供される必要があります。
さらに、すべてのスクリーニング システムは、新たに特定された潜在的なパンデミック病原体を検出するために即座に更新される危険な配列のデータベースと照合して注文を検証可能にチェックする必要があり、その方法をテストする「レッドチーム」の取り組みによって決定されるクラス最高のスクリーニングを使用する強力なインセンティブが必要です。容易に危険な配列が検出されずに取得される可能性があります。
最後に、ベンチトップ合成装置などの新しい DNA 合成およびアセンブリ装置には、上記の基準を満たす組み込みスクリーニング機能が組み込まれている必要があります。これらの基準に基づいた厳格なスクリーニングプロトコルを実施することは、バイオテクノロジーの広範な利点を十分に認識しながら、悪用を防止するために不可欠です。
生物学の約束を守る
バイオテクノロジーと人工知能の両方の進歩は、生命科学と医学の革命的な進歩を推進します。
カスタム遺伝子合成は、これらの顕著な利点を実現するための基本的な要素です。しかし、歴史的に穏やかな単一のパンデミックウイルスであるSARS-CoV-2によって引き起こされる害は、その誤用（生成AIの進歩により可能性が高まった）がこれらすべての利点を上回る規模で害を及ぼす可能性があることを示しています。
欧州連合が AI 法で経験したように、イノベーションの促進とリスクの軽減の間のトレードオフを見つけるには時間がかかります。
しかし、AI を活用したバイオテロの特有のリスクには、業界リーダーとバイオセキュリティ専門家の両方が認めており、今すぐに取り組むことができます。
遺伝子合成スクリーニングを義務付けることで、欧州連合はこれらのリスクを大幅に軽減し、進歩し続けるバイオテクノロジーの約束を守ることができます。
Kevin Esvelt は、マサチューセッツ工科大学メディア ラボの准教授で、スカルプティング エボリューション グループを指揮しています。彼はスイスに本拠を置く非営利団体である SecureDNA Foundation を共同設立しました。ベン・ミュラーは、MIT の研究員であり、将来のパンデミックから身を守るためのポリシーとテクノロジーに取り組む組織である SecureBio の COO です。
ユーロニュースでは、あらゆる意見が重要であると信じています。お問い合わせ先[email protected]提案や提出物を送信し、会話に参加します。
