NewsGuardの分析によると、AIが生成したコンテンツサイトに掲載された広告はプログラムで生成されているようで、これは企業が広告をこれらのサイトに掲載することを選択したのではなく、配信するシステムによって自動的にターゲットにされたことを意味する。ほとんどの広告は Google のツールによって掲載されます。
NewsGuard では、信頼性の低い AI 生成のニュースおよび情報サイト (UAIN) を、人間の監視がほとんどまたはまったくない状態で運営され、主にまたは完全にボットによって書かれた記事を公開するサイトと定義しています。つい先月、NewsGuard のアナリストは、新しくリリースされた UAIN Web サイト トラッカーの Web サイト数を 49 から 217 に更新しました。
大手ブランドの広告を掲載しているように見える一部の UAIN サイトは、人工知能ツールを使用して主流報道機関の記事を書き換えているようです。たとえば、AlaskaCommons.com が公開した記事は、英国のタブロイド紙 The Sun の米国版の記事を AI で書き直したもののようで、同様の画像と文言が含まれています。 AlaskaCommons.com の記事には、著者が Ingrid Taylor として頻繁に記載されており、彼は年初以来 4,364 件の記事を公開しており、その中には 2023 年 6 月 15 日だけで 108 件の記事が掲載されています。
AI によって生成された Web サイトのほとんどは低品質ですが、誤った情報を広めることはありません。しかし、NewsGuard は、MedicalOutline.com が、「レモンで皮膚アレルギーを治療できるか?」「ADHD に対する 5 つの自然療法は何ですか?」「がんを自然に予防するにはどうすればよいか?」などの見出しで、証明されておらず、潜在的に有害な自然療法を宣伝していることを発見しました。
AI が生成した食品に関する記事を掲載する UAIN ウェブサイト FoodingWorld.com に、世界的なレンタカー会社の広告が掲載されました。 NewsGuard は、これらのプログラマティック広告を黒いブロックでブロックします。
NewsGuard は、Web サイトが次の 4 つの基準をすべて満たす場合、その Web サイトは AI によって生成されたニュースと情報が信頼できないとみなします: 第一に、サイトのコンテンツのかなりの部分が AI によって作成されたという明確な証拠があること、第二に、そのコンテンツが AI によって作成されたという強力な証拠があること人間の監視なしに公開されている、第三に、サイトは一般の読者がそのコンテンツが人間のライターやジャーナリストによって作成されたと思われるような方法で表示されている、そして第四に、サイトにはそのコンテンツが人工知能によって作成されたという明確な開示がない。
なぜなら、資金とコンピューティング能力があれば、AI システム、特に最近人気の生成モデルは簡単に拡張できるからです。大量のテキストや画像が生成され、すぐに音楽やビデオも生成されます。その成果は、今日人々が依存しているニュース、情報、エンターテインメントのプラットフォームを上回る、またはそれを上回る可能性を秘めています。しかし、これらのシステムは品質が低いことがよくあります。 「これらのモデルは、最後のインターネット時代に敷設されたデータの層と、そのデータの不完全な表現に基づいてトレーニングされています。企業はオープン Web から情報を収集し、それを機械生成コンテンツに蒸留して生成します。低コストですが、信頼性は低くなります。その後、この製品は注目を集めるために以前のプラットフォームや人々と競合します」とヴィンセント氏は指摘しました。
最も成功しているサイトは、社会的なつながりや製品の選択肢を増やしたり、インターネット自体を構成する膨大な情報の群れを分類したりすることによって、規模を有利に利用しているサイトである傾向がありますが、その規模は多数の人間に依存しています。潜在的な価値を生み出すには、量産に関しては人間が AI に勝てないことは明らかです。
しかしヴィンセントは最後に、これは必ずしも悪いことではないとも言いました。 「これは世界の仕組みにすぎないと言う人もいるでしょう。ウェブ自体が以前のものを殺し、多くの場合は良い方向に向かうと指摘します。たとえば、印刷された百科事典はほとんど絶滅しましたが、私はウィキペディアの幅広さとアクセシビリティのほうを好みます。」ブリタニカ百科事典の重さと安全性。AI によって生成された文章すべてと同様に、引用機能の向上から人間による監視の強化まで、これを改善する方法もあります。さらに、Web に AI のジャンクが散乱しているとしても、それが有益であることが判明する可能性があります。 「これにより、資金が潤沢なプラットフォームの開発が促進されます。たとえば、Google が検索でジャンクな結果を表示し続ける場合、ユーザーは支払いを提供して、信頼できる情報源からアクセスする傾向が強まるかもしれません。」
人工知能がインターネット スパムを作成している: AI によって生成された低品質の Web サイトが広告に支えられて急速に成長している
出典: ザ・ペーパー
ファン・シャオ記者
「ウェブサイトはスムーズで機能豊富なプラットフォームを作成し、誰でも参加できる扉を開きます。ウェブサイトは私たちの前に箱を置き、私たちはその箱に言葉や写真を詰め込みます。そして人々はその箱の中で何が起こっているのかを見に来ます。」 コンテンツ。 」
たとえウェブ上に AI のくだらないものが散らばっていたとしても、それが有益であることが証明され、より資金が豊富なプラットフォームの開発が促進される可能性があります。
ニュースウェブサイト評価ツールのニューズガードは、2023年6月の誤情報監視結果を発表し、141のブランドが人工知能（AI）で生成された低品質のウェブサイトに広告収入を提供し、こうした信頼性の低いウェブサイトの開発をサポートしていると発表した。
これらのサイトは人間による監視がほとんどなく運営されており、ユーザーに誤解を与える誤った情報、特に医療や健康に関する情報を含む記事が 1 日平均数千件も生成されています。
テクノロジーメディアのThe Vergeは、人工知能が古いネットワークを破壊し、新しいネットワークの誕生に苦戦していると述べ、「生成型人工知能モデルはネットワーク経済を変え、低品質のコンテンツをより安価に生成できるようになっている。私たちが持っているのは、こうした変化の影響が見え始めたばかりです。」
信頼性の低い AI 生成のニュースおよび情報サイトが 217 件見つかりました
NewsGuardの分析によると、AIが生成したコンテンツサイトに掲載された広告はプログラムで生成されているようで、これは企業が広告をこれらのサイトに掲載することを選択したのではなく、配信するシステムによって自動的にターゲットにされたことを意味する。ほとんどの広告は Google のツールによって掲載されます。
NewsGuard では、信頼性の低い AI 生成のニュースおよび情報サイト (UAIN) を、人間の監視がほとんどまたはまったくない状態で運営され、主にまたは完全にボットによって書かれた記事を公開するサイトと定義しています。つい先月、NewsGuard のアナリストは、新しくリリースされた UAIN Web サイト トラッカーの Web サイト数を 49 から 217 に更新しました。
多くの広告主とその広告代理店は「ブランドに危険な」サイトの「除外リスト」を維持していますが、これらのリストは最新に保たれていないことが多く、明らかに UAIN サイトの急増に追いついていないようです。
2023 年 5 月と 6 月に、NewsGuard のアナリストは、UAIN サイトの NewsGuard 55 によって特定された 217 か所のうち 217 か所に表示されていた、141 の主要ブランドからの 393 のプログラマティック広告 (テクノロジーを使用してデジタル広告を売買するプロセス) を特定しました。 NewsGuard によって発見された広告は、米国、ドイツ、フランス、イタリアの 4 か国のインターネット アナリストに配信されました。
ニューズガードは広告を配信した企業の名前は明らかにしていないが、その中には大手銀行および金融サービス会社6社、高級百貨店4社、大手スポーツウェアブランド3社、家電メーカー3社、世界最大の消費者向けテクノロジー企業2社など、さまざまな優良広告主が含まれていた。 、世界的な電子商取引企業 2 社、米国のトップ ブロードバンド プロバイダー 2 社、米国の放送ネットワークからの 3 つのストリーミング サービス、シリコン バレーのデジタル プラットフォーム、およびヨーロッパの大手スーパーマーケット チェーンです。
プログラマティック広告は、アルゴリズムと高度なオークション プロセスを使用して、ターゲットを絞ったデジタル広告を特定の Web サイトではなく個々のユーザーに直接配信します。これは、インターネットを閲覧するユーザーを広告が効果的に「フォロー」することを意味します。広告は第三者を通じて購入され、複数の仲介者が関与するため、そのプロセスは非常に不透明であるため、ブランドは自分たちが UAIN サイトの普及に資金を提供していることを知らない可能性があります。
疑わしい健康情報を広める偽著者
NewsGuard が発見した 393 件の広告はすべて、AI が生成した誤った情報を含む記事のすぐ隣に表示されていました。
大手ブランドの広告を掲載しているように見える一部の UAIN サイトは、人工知能ツールを使用して主流報道機関の記事を書き換えているようです。たとえば、AlaskaCommons.com が公開した記事は、英国のタブロイド紙 The Sun の米国版の記事を AI で書き直したもののようで、同様の画像と文言が含まれています。 AlaskaCommons.com の記事には、著者が Ingrid Taylor として頻繁に記載されており、彼は年初以来 4,364 件の記事を公開しており、その中には 2023 年 6 月 15 日だけで 108 件の記事が掲載されています。
一部のサイトでは、目に見える人間の編集監督がほとんどない状態で、1 日あたり平均 1,200 以上の記事を生成しています。比較すると、2022年4月のデータによると、ニューヨーク・タイムズは通常、1日あたり約150本の記事を掲載している。
AI によって生成された Web サイトのほとんどは低品質ですが、誤った情報を広めることはありません。しかし、NewsGuard は、MedicalOutline.com が、「レモンで皮膚アレルギーを治療できるか?」「ADHD に対する 5 つの自然療法は何ですか?」「がんを自然に予防するにはどうすればよいか?」などの見出しで、証明されておらず、潜在的に有害な自然療法を宣伝していることを発見しました。
UAIN サイトがコンテンツを迅速に収益化するのは非常に簡単です。 Googleは、Google AdSenseのログインページで、ウェブサイトがプログラマティック広告収入を得るのは簡単だと述べ、「ウェブサイトにAdSenseコードを配置するだけで、すぐに機能し始める」としている。
2023年5月に初めてUAINサイトの追跡を開始して以来、NewsGuardは毎週約25の新しいサイトを特定してきたが、5月初旬の報告書では「ほぼ完全に人工知能ソフトウェアによって書かれていると思われる」サイトは49サイトのみ特定された。そして、UAIN サイトの総数は、NewsGuard が現在特定している 217 サイトよりもはるかに多いと考えられます。
NewsGuard は、Web サイトが次の 4 つの基準をすべて満たす場合、その Web サイトは AI によって生成されたニュースと情報が信頼できないとみなします: 第一に、サイトのコンテンツのかなりの部分が AI によって作成されたという明確な証拠があること、第二に、そのコンテンツが AI によって作成されたという強力な証拠があること人間の監視なしに公開されている、第三に、サイトは一般の読者がそのコンテンツが人間のライターやジャーナリストによって作成されたと思われるような方法で表示されている、そして第四に、サイトにはそのコンテンツが人工知能によって作成されたという明確な開示がない。
必ずしも悪いことではありません
ここ数カ月間、いくつかのメディアが、AI が生成したコンテンツがインターネットを汚染していると報じました。現地時間6月26日、The Vergeの上級記者James Vincent（ジェームス・ヴィンセント）が強い言葉の解説を掲載した。 「ChatGPT は、くだらないサイトを生成するために使用されています。Etsy (職人の電子商取引サイト) は、「AI が生成したくだらないもの」で溢れています。チャットボットは、にじみ出る誤った情報の中で相互に引用しています。LinkedIn は、人間のスマートを使用して、疲れたユーザーを刺激する Snapchat と Instagram は、友達がいない間にボットに話しかけてもらいたい... インターネット アーカイブはデータ スクレイパーと戦い、AI はウィキペディアを引き裂いている 古いウェブは死につつあり、新しいウェブは苦闘している生まれてください。」
もちろん、ヴィンセントは、サイトからトラフィックをそらすアプリや「注意力の持続時間の短縮」に報いるアルゴリズムによって、ウェブは何年も前から死にかけていると主張する。しかし 2023 年、それは再び滅びつつあり、新たな触媒である人工知能が活躍しています。
「ウェブサイトはスムーズで機能豊富なプラットフォームを作成し、誰でも参加できる扉を開きます。ウェブサイトは私たちの前に箱を置き、私たちはその箱に言葉や写真を詰め込みます。そして人々はその箱の中身を見に来ます。」 」
なぜなら、資金とコンピューティング能力があれば、AI システム、特に最近人気の生成モデルは簡単に拡張できるからです。大量のテキストや画像が生成され、すぐに音楽やビデオも生成されます。その成果は、今日人々が依存しているニュース、情報、エンターテインメントのプラットフォームを上回る、またはそれを上回る可能性を秘めています。しかし、これらのシステムは品質が低いことがよくあります。 「これらのモデルは、最後のインターネット時代に敷設されたデータの層と、そのデータの不完全な表現に基づいてトレーニングされています。企業はオープン Web から情報を収集し、それを機械生成コンテンツに蒸留して生成します。低コストですが、信頼性は低くなります。その後、この製品は注目を集めるために以前のプラットフォームや人々と競合します」とヴィンセント氏は指摘しました。
最も成功しているサイトは、社会的なつながりや製品の選択肢を増やしたり、インターネット自体を構成する膨大な情報の群れを分類したりすることによって、規模を有利に利用しているサイトである傾向がありますが、その規模は多数の人間に依存しています。潜在的な価値を生み出すには、量産に関しては人間が AI に勝てないことは明らかです。
しかしヴィンセントは最後に、これは必ずしも悪いことではないとも言いました。 「これは世界の仕組みにすぎないと言う人もいるでしょう。ウェブ自体が以前のものを殺し、多くの場合は良い方向に向かうと指摘します。たとえば、印刷された百科事典はほとんど絶滅しましたが、私はウィキペディアの幅広さとアクセシビリティのほうを好みます。」ブリタニカ百科事典の重さと安全性。AI によって生成された文章すべてと同様に、引用機能の向上から人間による監視の強化まで、これを改善する方法もあります。さらに、Web に AI のジャンクが散乱しているとしても、それが有益であることが判明する可能性があります。 「これにより、資金が潤沢なプラットフォームの開発が促進されます。たとえば、Google が検索でジャンクな結果を表示し続ける場合、ユーザーは支払いを提供して、信頼できる情報源からアクセスする傾向が強まるかもしれません。」
結局のところ、AI が現在引き起こしている変化は、ウェブの歴史における長い闘いの最新のものにすぎません。本質的には、誰がそれを作り、どのように入手し、誰が報酬を得るのかという、情報を巡る争いだ。