IBMはロイターに対し、同社のAI倫理委員会が、コンピューターと脳を接続するインプラントやウェアラブルといった新たなフロンティアをどのように取り締まるかを議論し始めたと語った。
昨年9月、グーグルのクラウド部門は、金融会社が融資先を決定できるよう人工知能を活用することを検討した。
AIテクノロジーは人種や性別などの偏見を永続させる可能性があるため、このプロジェクトは倫理的に危険すぎると判断し、数週間にわたる社内議論の末、クライアントのアイデアを却下した。
グーグルも昨年初め以来、文化的無感覚を懸念して感情を分析する新たなAI機能をブロックしてきた一方、マイクロソフトは音声を模倣するソフトウェアを制限し、IBMは高度な顔認識システムを求める顧客の要求を拒否した。
米国のテクノロジー大手3社のAI倫理責任者へのインタビューによると、これらのテクノロジーはすべて、経営陣やその他のリーダーからなる委員会によって抑制されたという。
ロイター通信は、彼らの拒否権発動とそれに至った審議が、儲かるAIシステムの追求と社会的責任の一層の考慮とのバランスをとろうとする初期の業界全体の動きを反映していると初めて報じた。
Google Cloud で Responsible AI 担当マネージング ディレクターとして 2 つの倫理委員会の委員を務めるトレイシー ピッツォ フレイ氏は、「機会と害悪があります。私たちの仕事は機会を最大化し、害悪を最小限に抑えることです」と述べています。
AIの規制
例えばマイクロソフトは、音声模倣技術を利用して障害のある人々の発話を復元する利点と、政治的なディープフェイクを可能にするなどのリスクとのバランスを取る必要があったと、同社の最高責任AI責任者であるナターシャ・クランプトン氏は述べた。
権利活動家らは、社会に広範な影響を及ぼす可能性のある決定は社内だけで下すべきではないと主張する。彼らは、倫理委員会は真の意味で独立することはできず、倫理委員会の公的透明性は競争圧力によって制限されていると主張する。
ヨーロッパ自由人権協会の権利擁護責任者であるヤッシャ・ガラスキー氏は、外部の監視が今後の進むべき道だと考えており、米国と欧州の当局は確かに、この新興分野に関する規則を策定している。
企業のAI倫理委員会が「本当に透明で独立したものになるなら、そしてこれはすべて非常に理想主義的だが、これは他のどの解決策よりもさらに優れている可能性があるが、現実的ではないと思う」とガラスキー氏は語った。
両社は、AIの使用に関する明確な規制を歓迎し、これは自動車の安全規則と同様、顧客と社会の信頼の両方にとって不可欠であると述べた。彼らは、責任を持って行動することが経済的利益にもつながると述べた。
しかし彼らは、イノベーションとそれが生み出す新たなジレンマに対応できる十分な柔軟性を備えたルールを求めています。
IBMはロイターに対し、今後の複雑な検討事項の中で、AI倫理委員会が新たなフロンティア、つまりコンピュータを脳に配線するインプラントやウェアラブルをどのように取り締まるかを議論し始めたと語った。
IBMの最高プライバシー責任者のクリスティーナ・モンゴメリー氏は、こうしたニューロテクノロジーは障害のある人々の動きの制御に役立つ可能性があるが、ハッカーが思考を操作する可能性などの懸念を引き起こすと述べた。
倫理委員会
テクノロジー企業は、わずか 5 年前に倫理的な保護手段がほとんどない状態でチャットボットや写真タグ付けなどの AI サービスを立ち上げ、その後のアップデートで誤用や偏った結果に取り組んでいたと認めています。
しかし、AIの失敗に対する政治的および世間の監視が高まるにつれ、マイクロソフトは2017年に、グーグルとIBMは2018年に新しいサービスを最初から検討する倫理委員会を設立した。
グーグルは、金融サービス会社がAIが他の方法よりも人々の信用力をより正確に評価できると判断したのが昨年9月に、同社が貸金業に苦境に立たされたと述べた。
このプロジェクトは、異常な取引の検出などの分野で役立つ AI ツールの開発に関する Google Cloud の専門知識が、ドイツ銀行、HSBC、BNY メロンなどの顧客を魅了している Google Cloud に最適であるように見えました。
Googleの部門は、AIベースの信用スコアリングが年間数十億ドルの市場になる可能性があると予想しており、その足掛かりを求めていた。
しかし、潜在的な取引を検討する約20人の経営者、社会科学者、エンジニアからなる倫理委員会は10月の会合で満場一致でこのプロジェクトに反対票を投じたとピッツォ・フレイ氏は述べた。
AIシステムは過去のデータやパターンから学習する必要があるため、有色人種やその他の疎外されたグループに対して世界中で差別行為が繰り返される危険があると委員会は結論づけた。
さらに、社内では「レモネード」として知られるこの委員会は、こうした懸念が解決されるまでは、信用力に関連するすべての金融サービス取引をスキップする方針を制定した。
Googleはまた、アイスティーとして知られる第2回クラウド倫理委員会が今年、人々の写真を喜び、悲しみ、怒り、驚きの4つの表現で分類する2015年リリースのサービスを審査対象としたことも明らかにした。
この動きは、グーグルの全社倫理委員会である先端技術審査評議会（ATRC）が昨年、感情の読み取りに関連した新たなサービスを差し控える判決を下したことを受けたものである。
グーグルの創設者でレスポンシブル・イノベーション・チームのリーダー、ジェン・ジェンナイ氏によると、ATRC（十数人の経営幹部やエンジニアら）は、顔の合図は文化によって感情との関連性が異なるなどの理由から、感情を推測することは無神経である可能性があると判断したと述べた。
声や顔を再現する
一方、マイクロソフトは、短いサンプルから誰かの声を再現できるソフトウェアを開発したが、同社の機密使用委員会はその後、その使用に関する倫理について2年以上を費やし、同社社長のブラッド・スミスに相談したとAI上級責任者のクランプトン氏がロイターに語った。
同氏は、人権、データサイエンス、エンジニアリングなどの分野の専門家で構成される委員会が最終的にカスタムニューラルボイスを今年2月に完全リリースすることにゴーサインを出したと述べた。しかし、対象者の同意を確認し、企業ポリシーについて訓練を受けた「責任あるAIチャンピオン」のチームが購入を承認することなど、その使用に制限を設けた。
約20人の部門リーダーで構成されているIBMのAI委員会は、新型コロナウイルス感染症パンデミックの初期に、発熱や顔の覆いを発見するために顔認識技術をカスタマイズするという顧客の要望を検討した際、自らのジレンマに悩まされた。
モンゴメリー氏は、彼女が共同議長を務める理事会が招待を拒否し、写真はAIデータベースに保存されないため、プライバシーへの侵害は少なく、手動のチェックで十分であると結論付けたと述べた。
6か月後、IBMは顔認識サービスを終了すると発表した。
EUはそれについて何と言っていますか?
プライバシーやその他の自由を保護するために、欧州連合と米国の議員は AI システムに対する広範な制御を追求しています。
来年可決される予定のEUの人工知能法は、公共の場でのリアルタイムの顔認識を禁止し、テクノロジー企業に対し、採用、信用スコアリング、法執行に使用されるような高リスクのアプリケーションを精査することを義務付ける。
アルゴリズムが金融サービスや住宅分野でどのように差別を助長するかについて公聴会を開催した米国議会議員のビル・フォスター氏は、AIを管理する新たな法律がベンダーにとって公平な分野を保証すると述べた。
「社会目標を達成するために利益を犠牲にしてくださいと企業に頼むと、『株主や競合他社はどうなるの？』と言うでしょう。だからこそ高度な規制が必要だ」とイリノイ州選出の民主党議員は語った。
「交通規制が明確になるまで、ハイテク企業が意図的に外出を控えるほど敏感な地域もあるかもしれない。」
実際、一部の AI の進歩は、企業が膨大なエンジニアリング リソースを投入することなく倫理的リスクに対抗できるようになるまで、単に保留される可能性があります。
昨年10月にGoogle Cloudがカスタム金融AIの要請を断った後、Lemonaid委員会は営業チームに対し、同部門がいつかクレジット関連アプリケーションの開発を開始することを目指していると伝えた。
まず、不公平な偏見と闘うための研究は、「非常に機密性の高い」テクノロジーを通じて金融包摂を高めるというGoogle Cloudの野望に追いつく必要があると、スタッフに配布された方針の中で述べられている。
「それまでは、私たちはソリューションを展開できる立場にありません。」
