家族から電話を受けたと想像してください。彼らは苦しそうな様子で、お金を送ってほしいと懇願します。
結局、騙されたことが分かります。あなたが受け取った電話は決して彼らではなく、人工知能 (AI) を使用して作成された偽の音声でした。
これは SF 小説のプロットではありません。実際、何千人もの人々にとって、それはまさに現実です。
この新しいテクノロジーは、オーディオディープフェイク（「ディープラーニング」と「フェイク」の造語）と呼ばれます。ほんの数ユーロの余裕があれば、多くの企業にお金を払って、誰かをだますのに十分な説得力のある高品質の音声クローンを作成できます。
最近話題になった例の 1 つは、オンライン フォーラムである 4chan のユーザーが、イギリス人女優エマ・ワトソンの声を再現アドルフ・ヒトラーの『我が闘争』を読んでいる。
彼らは、新興企業 イレブンラボ社の Prime Voice と呼ばれる音声クローン ツールを使用しました。彼らのテクノロジーが不気味なほど正確であることを示すもう 1 つの例は、国連で講演する俳優のレオナルド ディカプリオの複製です。
多くの専門家が懸念を抱き始めている。まず、このテクノロジーは誤った情報に使用される可能性があります。たとえば、政治家が実際にはしていなかった衝撃的な発言をしたと人々に信じ込ませることです。あるいは第二に、人々、特に高齢者を騙すことです。
コンピューターサイエンスの専門家によると、これには多くの労力は必要ありません。
ロチェスター工科大学コンピュータサイエンス学部長のマシュー・ライト氏はユーロニュースのインタビューで、「かなり良い再現をするのに、音声はそれほど必要ない」と語った。
「彼らが単に電話をかけ、販売員のふりをして、機能させるのに十分な音声をキャプチャするだけであることは想像できます。おそらく、彼らが誰かをだますために必要なのはそれだけでしょう」と彼は説明した。
最近、ヴァイスのジャーナリストが自分の声の AI レプリカを使って銀行口座への侵入に成功しました。彼は銀行を騙して自分の取引にアクセスするため、音声生体認証セキュリティ システムに疑問を投げかけました。
同社はかつてエマ・ワトソンの音声ディープフェイクを作成していた発表された彼らはサービスの価格を値上げし、新しいアカウントを手動で検証し始めました。
しかし専門家らは、将来このような詐欺を避けるために法律を制定する必要があると警告している。
詐欺に遭わないためにはどうすればいいでしょうか？
まず第一に、愛する人や職場からお金を要求する予期せぬ緊急の電話に注意する必要があると専門家は示唆しています。
ライト氏は、身元を確認するためにいくつかの個人的な質問をしてみるとよいと提案しています。
「別の発信元、別のチャネルを使用してみてください。言い訳をして、折り返し電話しなければならないと伝えてください。その後、相手の番号であるとわかっている番号に折り返し電話してください。相手が電話をかけてきて、その番号がなりすましだった場合は、電話番号を間違えると、折り返しの電話は受けられません」と彼はユーロニュースに語った。
「しかし一般的には、一歩下がって考えてください。これが理にかなっていることを確認してください。上司があなたに 250 ドル [231 ユーロ] のギフト券を 10 枚購入するように頼んでいるのは本当に理にかなっていますか? おそらくそうではありません。」
この記事の詳細については、上のメディア プレーヤーで The Cube からのレポートをご覧ください。
