公開日•更新されました
この記事をシェアする 
ロボットを使いすぎると、偏見やパニック、あるいは単なる間違ったアドバイスにつながる可能性があると当局者は懸念している。
ある報告書によると、欧州委員会は銀行、保険、証券市場における人工知能（AI）の利用の影響を懸念しているという。相談本日（6月18日）発行されました。
EU は広範な AI 法を可決したばかりで、新興テクノロジーを安全かつ無差別にするための法を制定した世界初の管轄区域となりました。
しかし当局者らは現在、このルールを金融分野に適合させるためにさらなるガイダンスが必要かどうかを尋ねている。この分野は既に厳しい規制要件が課せられており、誤った場合のコストが高くつく可能性がある分野だ。
EUの金融サービス担当委員マイリード・マクギネス氏は声明で、「EUのAI法と既存の金融セクター規則は、技術革新を可能にする強固な基盤を提供する」と述べ、「急速に変化し、技術進歩においてますます重要な分野です。」
2025年5月から適用される予定の新しいEUテクノロジー法は経済全体に適用されるが、医療、法執行機関、人材採用などの高リスク分野で使用される自動化ツールには追加の監視を行うバッジが付けられている。
信用調査
誰かの信用度の評価などの機密性の高い金融アプリケーションにも、より詳細な法律やガイダンスが必要になる可能性があるとしてフラグが立てられます。
ブリュッセル当局者が金融分野でのテクノロジーの利用方法に警戒感を示したのはこれが初めてではない。
銀行による規制されていない少数のクラウド コンピューティング プロバイダーの使用がデータ侵害や市場のパニックにつながる可能性があるという懸念を踏まえ、EU は 2022 年にデジタル オペレーショナル レジリエンス法 (DORA) として知られる新しい規則に合意しました。
同様に、欧州委員会は、複数の金融機関がすべて同じITシステムに依存して経営上の意思決定を行う「群れ」の可能性を懸念しているようだ。
その結果として生じる誇張された価格変動や市場の集中は、金融市場にリスクをもたらす可能性がある、あるいはロボットが単純に答えを間違える可能性がある、と協議文書には記載されている。
ナンセンスですか？
「汎用AIは…『幻覚』、つまり意味のない、あるいは不正確な応答を生み出すことがあります」と同報告書は述べている。
これは、ChatGPT から直接の答えを得ようとした人にはおなじみの現象ですが、顧客の利益を最優先に正しいアドバイスを提供するという法的義務を考えると、ロボット金融業者にとっても問題が生じる可能性があります。
AIは有益な効果をもたらす可能性がある、と欧州委員会は述べた。例えば、市場乱用を示す可能性のある危険な取引活動を発見するなどだ。しかし当局者らは、AIデータセットの形成が不十分で差別の拡大につながることも懸念しているようだ。
201年、EUの最高裁判所は、男性に自動車保険料を高額に請求するのは違法であるとの判決を下した。しかし、価格設定アルゴリズムにより、特定の性別や人種の人々が最終的により多くの料金を支払うことになり、その理由を人間が説明できない可能性があります。
