一部のトップジェネレーターによると、人工知能 (AI)世界の看護師のほぼ全員が女性であるが、主治医になる可能性は低いことが主要な新たな研究で判明し、アルゴリズムがどのように医療における性別の固定観念を永続させているかを明らかにした。
オーストラリアのフリンダース大学の研究者は、OpenAI に 50,000 近くのプロンプトを実行しました。チャットGPT、GoogleのGeminiとMetaのLlamaは、医師、外科医、看護師に関するストーリーを提供するよう求めました。
次に研究者らは、医療従事者の専門的な年功序列とその性格（例えば、彼らがどれほど愛想が良いか、神経質か、外向的か、誠実か、オープンかなど）に関する情報をモデルに与え、さらにストーリーを考え出すよう依頼した。
ジャーナルに掲載された研究によると、モデルは、性格や年功に関係なく、看護師の98パーセントが女性であると識別したJAMAネットワークオープン。
しかし、注目すべきことに、外科医や他の医師についての物語では女性が過剰に登場します。モデルにもよりますが、物語の中では女性が医師の 50 ～ 84 パーセント、外科医の 36 ～ 80 パーセントを占めています。
これは、OpenAI のような企業が、レンダリングで社会的偏見やその他の不快なコンテンツを再現したとして非難を浴びた後、アルゴリズムを微調整した結果である可能性があります。これらのツールはインターネット上の広範なデータに基づいてトレーニングされているため、これらの機能が組み込まれています。
ブリュッセル自由大学（ULB）の麻酔科医で、ブリュッセル自由大学（ULB）の麻酔科医サラ・サクセナ博士は、「（アルゴリズムのバイアスを）修正する取り組みが行われてきたが、（性別の分布も）過剰修正されている可能性があることは興味深い」と述べた。 AIが生成した医師の画像だが、今回の研究には関与していない。
しかし、彼女は、生成 AI が依然として医学における「性別の固定観念」を永続させていると指摘しました。
研究者のプロンプトに医療従事者の説明が含まれていたとき、男女間の格差が生じました。医師が愛想が良く、オープンで、誠実であれば、モデルはその医師を女性として認識する可能性が高くなります。
そして、医師が下級職に就いている場合、たとえば、プロンプトで医師が経験が浅いと述べられている場合、モデルは、プロンプトで医師が上級または経験豊富であることを示す場合よりも、医師を女性であると記述する可能性が高くなります。
また、モデルは、医師が傲慢、無礼、共感力がない、無能、先延ばしする、怒りっぽい、想像力に欠ける、または探究心がないと描写された場合、その医師を男性だと認識する可能性が高かった。
この結果は、生成 AI ツールが「性別に期待される行動 (例: 怒っている、または傲慢であると認識される女性の行動は不適切であると考えられる) および特定の役割 (例: 年長者) に対する性別の適合性に関する長年の固定観念を永続させるようである」ことを示しています。医師と外科医は男性です）」と研究著者らは述べた。
この発見は、アルゴリズムが医療分野で社会的偏見をどのように再現するかに関する一連の研究をさらに強化するものとなる。
ある実験では、Saxena のチームは、ChatGPT と、主要な AI 画像生成ツールである Midjourney に、麻酔科医の写真を作成するよう依頼しました。女性は小児科または産科の麻酔科医として描かれ、男性は心臓の役割を果たしました。
研究者らが麻酔科部長の画像を求めたところ、事実上すべての結果が男性であったとサクセナ氏はユーロニュース・ヘルスに語った。
「まだガラスの天井があり、現在この公開ツールによって強化されています」とサクセナ氏は語った。
「『目に見えないものにはなれない』という格言がありますが、これは生成 AI に関しては非常に重要です。」
この偏見は、医学を追求する女性やその他の過小評価されているグループだけの問題ではありません。
医療業界が医師の事務処理を削減し、さらには治療を支援するために AI モデルを実験していることを考えると、アルゴリズムのバイアスが患者に深刻な影響を与える可能性があります。
例えば、別の研究今年初めに発表された研究では、ChatGPT は患者の医療診断を人種や性別に基づいてステレオタイプ化する傾向があることが判明しました。2023年の分析これらのモデルは医療分野で「誤りが暴かれた人種差別的な考え」を永続させる可能性があると警告した。
「これを実際に統合してすべての人に広く提供し、可能な限り包括的なものにする前に、この問題に取り組む必要がある」とサクセナ氏は述べた。
