公開日
この記事をシェアする 
OpenAIのCEOであるサム・アルトマン氏は、最新モデルのトレーニングが始まるにあたり、新しい安全委員会を率いることになる。
OpenAI は、最新の人工知能 (AI) モデルに関するトレーニングを開始するにあたり、新しい安全委員会を設立しました。
同委員会は、OpenAIの「重要かつセキュリティ上の決定」について同社取締役会に勧告を行う予定だ。
OpenAIのブログ投稿によると、CEOのサム・アルトマン氏、ブレット・テイラー氏、アダム・ディアンジェロ氏、ニコール・セリグマン氏が委員会を率いることになる。
彼らの最初の議題は、90 日以内に会社の現在の安全慣行を更新し、その推奨事項を取締役会と共有することです。その後、採択された勧告は一般に共有されます。
「私たちは安全性を、投資して成功させなければならないものだと考えています」とOpenAIの現在の安全性手順は述べている。
この発表は、OpenAIが共同議長らが会社を辞めたことを受けて、不正行為などのAIリスクを軽減することを目的とした研究チームであるスーパーアライメント・チームを解散させてから数週間後に行われた。稼働期間は1年未満でした。
OpenAIは先週、AIソウルサミットを受けて「安全性アップデート」を作成した。とりわけ、「中」の脅威レベルを超えた場合には、新しいAIモデルをリリースしないと述べている。
この評価は、トレーニング実行中のパフォーマンスに基づいて企業がモデルに保持している内部の「スコアカード」に基づいていますが、OpenAI はモデルの評価方法に関するより具体的な情報を共有していません。
OpenAIはAIソウルサミットの声明の中で、自社のプラットフォーム上で子供にとって有害なコンテンツにフラグを立てるための追加の保護にも取り組んでいるほか、ChatGPTの画像ジェネレーターであるDALL-E 3によってAIが生成した画像を識別する新しいツールの導入にも取り組んでいると述べた。
5 月 13 日、OpenAI は、「オーディオ、ビジョン、テキストをリアルタイムで推論」できる最新モデル GPT-4 Omni を発表しました。
同社によれば、この新モデルはわずか 232 ミリ秒で入力に応答できるため、「より自然な人間とコンピュータの対話」に向けた一歩となるという。
OpenAIの技術と政策の専門家であるアレクサンダー・マドリー氏とリリアン・ウェン氏、そして新たに主任科学者に任命されたヤクブ・パチョッキ氏も委員会のメンバーである。
安全委員会は、元サイバーセキュリティー当局者、OpenAIにセキュリティーに関して助言を与えるロブ・ジョイス氏とジョン・カーリン氏のアドバイスを受ける予定だ。
