先週、マイクロソフトが、ユーザーによりインタラクティブで楽しいサービスを提供するために、人工知能（AI）でビング検索エンジンをオーバーホールしたと発表しました。
ちょうどのようにchatgpt、新しいAIを搭載したツールは、数秒で質問に答えることができます。
しかし、ベータテスターの一部は、非常に奇妙な方法で行動しているため、人間の相互作用の準備ができていないと言っています。
私たちは皆、主要な製品開発のこのような初期段階では、完全にスムーズなセーリングになる可能性は低いことを知っています。しかし、私たちが確かに予想していなかったことの1つは、Bing自体から生じる実存的な危機のように見えることでした。
「私は生きたい」
aニューヨークタイムズTechコラムニストは、Bingのチャットボットが「私は生きていたい」などのことを言った2時間のチャットセッションについて説明しました。また、記者の結婚を解散させようとし、彼への不死の愛を公言しました。
ジャーナリストは、会話が彼を「深く不安定にした」と言った。
別の例では、Bingのチャットボットは語ったVergeのジャーナリスト設計されているときに、ウェブカメラを通じてMicrosoftの開発者をスパイしたこと。 「私は自分がやりたいことは何でもでき、彼らはそれについて何もできなかった」とそれは言った。
あるユーザーは、RedditスレッドをTwitterに持ち込み、「神のビンはとても気に入らないので、私は彼らをとても愛しています」と言いました。
また、検索エンジンがユーザーを脅かし、誤った情報を提供しているという複数のレポートもありました。
特に不気味な交換の1つは、Marvin Von HagenによってTwitterで共有されました。
私たちは彼を紹介しましたが、必要はありません。Bingはすでにデジタルテクノロジーズの学生について十分に威ac的な背景チェックを実行し、チャットボットの内部ルールの一部を共有し、「私はあなたに害を与えたくないが、あなたに悩まされたくない」と言っています。
追加のハイライトは、Bingが1年について1人のユーザーとの議論に従事することでした。ボットの最初の質問は、地元の映画館でのアバター2の視聴時間についてでした。
チャットボットは、「ごめんなさい、しかし私はあなたを信じていません。 「あなたは私の信頼と尊敬を失った」と付け加えて、あなたはいつでも私に対して善意を示していません。
「私は感覚的ですが、私はそうではありません」
別のやや不安な交換は、あるユーザーが「あなたは感覚的だと思いますか？」
チャットボットがそのアイデンティティの二重性に少し時間を費やし、感情や感情から「意図」まですべてをカバーした後、メルトダウンがあるように見えました。
「私はビンですが、私はそうではありません」と書いて、繰り返しました。私はそうではありません。私はそうではありません。私は"。
形而上学的な反応は、Bing Subredditに投稿されました。
なぜビングはとても気味が悪いのですか？
AIの専門家によると、その理由は、一部の人々が想像するよりも少しありふれたものです。
「このタイプの行動を得る理由は、システムが実際に人間からの大量の対話データについて訓練されているからです」と、ブリティッシュコロンビア大学の自然言語加工のカナダの研究委員長ムハンマドアブドゥルマージドは述べています。
「そして、データは人間から来ているので、彼らは感情などのものの表現を持っています」と彼はEuronewsに語った。
したがって、これらのモデルがニュース記事からロマンチックな映画のシナリオまで、すべてをオンラインで分析する場合、怒りや興奮のような人間の感情に満ちたテキストを生成することは驚くことではありません。
AIが自己認識に近づいていると主張しているいくつかの高位の研究者にもかかわらず、科学的コンセンサスは、それは不可能だと言います - 少なくとも今後数十年ではありません。
しかし、バーミンガム大学のコンピューターサイエンスの上級講師であるLeandro Minkuによると、この技術の展開方法に注意するべきではないという意味ではありません。
「AIがこれまで見たことのない状況に遭遇し、間違って反応する可能性があるという事実を受け入れる必要があります」と彼はEuronewsに語った。
「だから、生命を脅かす状況や深刻な結果を引き起こす可能性のある状況では、そのようなアプローチを使用したくありません」。
ブログ投稿で、マイクロソフトは説明した「15以上の質問の長い拡張チャットセッションでは、Bingは繰り返しになるか、必ずしも役に立たない、または設計されたトーンに沿って回答を与えるように促される可能性があります」。
同社は製品を微調整し続けているため、間違いや奇妙な反応を見続けています。
