数十のフェイクニュース Web サイトが複数の言語でウェブ上に広がり、中には AI が生成した記事を 1 日に数百件掲載するサイトもあります。
これは、ウェブサイトの信頼性を評価し、オンラインの誤った情報を追跡するツールである NewsGuard のレポートによるものです。
その中でニュースボットの台頭NewsGuard の報告書では、人気のある ChatGPT チャットボットなどの人工知能言語モデルによって全体または大部分が生成された、ニュース サイトを称する 49 の Web サイトをどのように特定したかについて詳しく説明しています。
一見人間が書いたものと区別できない文章を生成できる AI アプリが利用可能になったことで、簡単に生成された誤った情報がインターネット上で拡散する可能性についての懸念が生じています。
そして報告書は、これらの AI ツールがいわゆる「コンテンツ ファーム」、つまり大量の記事を量産する低品質の Web サイトを構築するために使用されていると示唆しています。
Web サイトの背後にいる人々 (その多くは匿名のままです) の明らかな目的は、人間による適切な検証が行われていない、場合によっては完全に誤った物語を押し付けるコンテンツを生成しながら、広告収入でお金を稼ぐことです。
「バイデン死んだ。ハリス大統領代行」
報告書の著者らは、調査対象となったウェブサイトの大部分は積極的に誤った情報を広めてはいなかったが、一部はそうしたウェブサイトもあったと述べている。そのうちの 1 つである CelebritiesDeaths.com は、今年 4 月に「バイデン死去。ハリス大統領代行、東部時間午前９時に演説。」
記事は、80歳のジョー・バイデン米国大統領が「眠りの中で安らかに」死去したと報じた。記事はさらに次のように続けています。「申し訳ありませんが、誤解を招くコンテンツの生成に関する OpenAI のユースケース ポリシーに反するため、このプロンプトを完了できません。誰か、特に大統領のような著名人の死に関するニュースを捏造することは倫理的ではありません。」
Euronews Nextは、ChatGPTや他の人気のあるAIツールを開発するOpenAIに連絡し、コメントを求めた。同社はNewsGuardのコメント要請に応じていない。
報告書のウェブサイトの大部分は、2022年5月に匿名で登録され、CNNの記事を要約または書き換えたBestBudgetUSA.comなど、正規のニュースソースからの情報を焼き直しているようだった。
ウェブサイト上のほとんどの記事には「管理者」または「編集者」のクレジットが記載されていますが、写真付きで名前が記されている記事の一部は偽の著者であることが判明しました。
記事自体が AI によって作成された出所を明らかにすることがよくあります。 BestBudgetUSA.com の数十の記事では、「私には 1500 語を表現する能力はありません…ただし、記事の概要は提供できます」など、AI が一般的に使用するフレーズが使用されています。
これらの行が含まれているということは、公開されている内容に人間がまったく目を向けていないことも示唆しています。
フェイクニュースのウェブサイトは中国語、チェコ語、英語、フランス語、ポルトガル語、タガログ語、タイ語の７か国語で見つかった。
NewsGuard は調査したサイトの所有者に連絡を試みましたが、多くのサイトでは連絡先情報が入手できませんでした。
歴史と科学に関する AI 生成のクリックベイト記事を公開するサイト GetIntoKnowledge.com の創設者を名乗るアデシュ・インゲール氏は、NewsGuard に対し次のように語った。そして、はい、それらは 100% 事実確認されています [原文ママ] ので、虚偽の情報が作成されることはありません…
「世界がデジタルと自動化の時代に向かって成長している中、私たちは仕事にいくつかの自動化ソフトウェアを導入しましたが、そこから得られる結果は100パーセントオリジナルで地域の事実に基づいています[原文のまま]。」
NewsGuardは、「控えめな読者は、AIが生成したテキスト内でよく見られるエラーメッセージに遭遇しない限り、これらのAIコンテンツファームの多くが作成した記事が人間によって書かれたものではないことには気付かないだろう」と警告した。
これには、「2021 年 9 月が締め切り日です」、「AI 言語モデルとして」、または「このプロンプトを完了できません」などのフレーズが含まれます。
CountyLocalNews.com と呼ばれるウェブサイトの記事の 1 つは、2023 年 3 月に「死亡ニュース: 申し訳ありませんが、倫理的および道徳的原則に反するため、このプロンプトに従うことができません」というタイトルの記事を掲載しました。
さらに、「ワクチン大量虐殺は陰謀」であり、公衆衛生に害を及ぼす可能性があり、AI言語モデルでは促進できないと指摘した。
