ユーロポールは、犯罪者がChatGPTの権限を悪用する可能性があることを懸念している。その理由は次のとおりです

ChatGPT や同様の AI ツールはさまざまな状況で有用であることが証明されており、ユーロポールはそれらが犯罪者にとっても同様に有用である可能性があると懸念しています。

史上最も急速に成長しているアプリである ChatGPT は、インターネットからの情報の巨大なデータベースで訓練されたインテリジェントな大規模言語モデル人工知能 (AI) の力を指先で人々に提供しました。

この新しい力はすでに、多くの人々の仕事のやり方やインターネットでの情報検索のやり方に変化をもたらしており、OpenAI のテクノロジーは、AI が実現できる未来への期待とその変化に対する不安の両方を刺激しています。案内します。

ChatGPT のような AI テクノロジーに関する懸念の 1 つは、犯罪者やその他の悪者がその力を使って何をするかということです。

これは、欧州連合の法執行機関であるユーロポールが、「ChatGPT」に関する最近の報告書で調査したことです。大規模言語モデルが法執行機関に及ぼす影響'。

OpenAIのGPT3.5大規模言語モデル技術に基づいて構築されたChatGPTにより、「悪意のある攻撃者がさまざまな種類の犯罪をよりよく理解し、その後実行することが大幅に容易になる」可能性があると報告書は述べている。

その理由は、ChatGPT のトレーニングに使用されている情報はすでにインターネット上で自由に入手できる一方で、ユーザーから状況に応じた適切な質問があれば、この技術はあらゆる種類のトピックについて段階的な指示を提供できるからです。

チャットボット (LLM) が犯罪を手助けする可能性があるとユーロポールが警告している犯罪の種類は次のとおりです。

詐欺、なりすまし、ソーシャルエンジニアリング

ChatGPT や Google の Bard などの他のチャットボットは、ユーザーのプロンプトに基づいて、あらゆるトピックについて人間のような文章を提供できる能力でユーザーを驚かせてきました。

彼らは有名人の文体を真似たり、入力されたテキストから文体を学習したりして、その学習した文体でさらに文章を作成したりすることができます。これにより、誰かまたは組織の書き方になりすまそうとする犯罪者がこのシステムを使用する可能性が高まり、フィッシング詐欺に使用される可能性があります。

ユーロポールはまた、ChatGPT がさまざまなタイプのオンライン詐欺に正当性を与えるために使用される可能性があると警告しています。たとえば、詐欺的な投資オファーを宣伝するために偽のソーシャルメディアコンテンツを大量に作成するなどです。

電子メールやソーシャルメディアでのコミュニケーションにおける潜在的な詐欺の確実な兆候の 1 つは、コンテンツを作成した犯罪者による明らかなスペルまたは文法の間違いによるものです。

LLM の力を活用すれば、英語をほとんど理解できない犯罪者でも、こうした危険信号のないコンテンツを生成できるようになります。

この技術は、議論や物語を高速で作成することに長けているため、プロパガンダや偽情報を作成し広めようとする人々にも利用される機が熟しています。

ChatGPT は単語を書くのが得意であるだけでなく、多くのプログラミング言語にも精通しています。ユーロポールによると、これはサイバー犯罪に影響を与える可能性があることを意味します。

「ChatGPT の現在のバージョンでは、さまざまな悪意のある目的のための基本的なツールを作成することがすでに可能です」と報告書は警告しています。

これらは、たとえばフィッシングページを作成するための基本的なツールですが、コーディングの知識がほとんどまたはまったくない犯罪者でも、これまで作成できなかったものを作成できるようになります。

LLM 機能の必然的な向上は、今後数年間に犯罪者による搾取が「厳しい見通しをもたらす」ことを意味します。

OpenAI のトランスフォーマの最新バージョンである GPT-4 は、コードのコンテキストを理解し間違いを修正する能力が優れているという事実は、技術的な知識がほとんどない犯罪者にとって「これは貴重なリソースである」ことを意味します。

ユーロポールは、AI技術は今後も進歩するため、より高度なものになる可能性があり、「その結果、危険になる可能性がある」と警告している。

ユーロポールが警告した ChatGPT の使用例は、犯罪者に悪用される可能性のある AI の 1 つの領域にすぎません。

AIディープフェイクが人々を詐欺したり危害を加えたりするために使用されるケースはすでにあります。ある女性は、自分のポルノ写真がネット上に出回っているのを発見したのはまだ18歳だった、にもかかわらず、その写真を撮影したり共有したりしたことはなかったと語った。

彼女の顔は、別の人の体の画像にデジタル的に追加されていました。彼女はユーロニュース・ネクストに、それは「終身刑」だと語った。 2019年のDeeptrace Labsの報告書では、オンライン上のディープフェイクコンテンツの96パーセントが同意のないポルノであることが判明した。

別のケースでは、音声ディープフェイク技術を使用して、AI が誰かの声を模倣し、家族を騙すために使用されていました。

ユーロポールは、法執行機関が「こうした発展の最前線に留まり」、AIの犯罪利用を予測し防止することが重要であると述べて報告書を締めくくった。