悲惨な検索状況は AI 時代の不吉な兆し

最近の土曜日の夜、退屈したテクノロジー企業幹部は、噂に聞いていた人工知能アプリを試してみることにしました。 マシューと呼ぶこの幹部は、ほとんどの人がインターネットで何かを検索する方法を始めました。ラップトップを開いて、Google に AI 企業の名前「Midjourney」を入力しました。 彼は一番上の結果をクリックし、さらに数回クリックしてアプリをダウンロードしてインストールしました。

あるいは、それが彼がやったと思ったことだ。彼が実際にクリックしたのは、Google が知らず知らずのうちに Midjourney を装った詐欺師に販売していた広告だった。 マシュー氏は、自分のコンピュータにアクセスした人が自分の個人データを保持している可能性があるため、匿名を希望したが、誤って「インフォスティーラー」をインストールしてしまった。これは、被害者のコンピュータをくまなく調べてユーザー名とパスワードを探し、それをハッカーに送信するマルウェアの一種である。 Auroraとして知られるこの人物は、彼の暗号通貨ウォレット、ソーシャルメディアアカウント、その他にアクセスしていました。 ハッカーはマシューの Coinbase ウォレットの内容 (数十万ドルの仮想通貨) を彼のものではない銀行に移しました。 「それはあなたの人生のすべてです」とマシューは言います。 「あなたはとても裸で怖くて無防備だと感じます。」

Matthew さんは、もっと注意を払わなかった自分を責めていますが、明らかな詐欺が結果ページのトップに表示されることを許可した Google も責めています。 この失敗は、Google 検索結果のリンクが完全に客観的で信頼できるものであるかのような印象を与える一方で、誰かがお金を払ってそこにリンクを配置したためにどれがそこにあるのかを区別するのを困難にするデザインの選択によってさらに大きくなりました。 (Google では広告に「スポンサー付き」というラベルを付けていますが、このラベルは見落としがちです。)

マシュー氏の経験は、同社が検索市場を独占することの代償と、明らかに詐欺行為を抑制できないことについて、長年の疑問を投げかけている。 そしてそれは、Googleが実験的な（時には事実に異議を唱えられる）チャットボット検索エンジンから詐欺や誤った情報を排除するのに予想以上に困難な時間を費やしている可能性があることを示唆している。 知られているように、Google Bard では、同社が提供する情報の出所を特定することがさらに困難になる可能性があります。

7月下旬までにマシューがクリックした広告は消えたが、依然として偽のMidjourneyウェブサイトがGoogleの検索結果の上部付近に表示されていた。 「それが依然として結果に表れているという事実は非良心的だ」と彼は言う。 「私は彼らを信頼していましたが、それは誤った信頼でした。」 偽のMidjourneyリストは、ブルームバーグ・ビジネスウィークからの問い合わせ直後にGoogleから消えた。 Googleは偽のリストについてコメントを拒否したが、人間のレビュー担当者とソフトウェアを組み合わせてそのようなコンテンツを削除することを禁止していると述べた。 また、昨年は会社のポリシーに違反したとして52億件の広告を削除したことも指摘している。 同社広報担当のネッド・アドリアンス氏は、「Googleの保護を回避しようとする悪意のある者が存在する一方で、Googleのシステムは高品質の情報を表面化し、スパムや悪意のある行為と戦う上で非常に効果的である」と述べている。

Google が Matthew に表示した広告が悪意のあるものであることを特定するには、高度な詐欺対策システムは必要ありませんでした。 このリストには、Midjourney's を装った Web サイトが示されていましたが、会社名の「o」の文字がゼロに置き換えられており、これはよく知られた詐欺手口でした。 マシュー氏がクリックする前に、Redditにはまさにこのことについてユーザーに警告するスレッドが存在し、コネチカット州民主党上院議員リチャード・ブルーメンソール氏は2022年の書簡の中で、Googleが「危険な詐欺、なりすまし、サイバー犯罪への対処をいつも怠っている」と非難した。 さらに、Midjourney にはダウンロード可能なアプリさえありません。 チャットアプリDiscord経由でアクセスします。

同様の例は、Google の歴史を通じて定期的に現れてきました。 たとえば7月下旬、デジタルデザイナーのシュムリ・エヴァーズ氏は、詐欺師がグーグルをだましてデルタ航空や他の大手航空会社に偽の電話番号を与え、偽の航空券を販売させていたことを発見した。 エバーズ氏がこの問題についてツイートした後、グーグルは誤りを訂正したが、批評家らは、同社は同様の電話番号詐欺については以前から知っていたと主張している。 「こうしたハイジャックは過去15年間、毎年起きている」と、デジタルマーケティングや検索マーケティングについて企業にアドバイスを提供するNear Media社の共同創設者、マイク・ブルーメンソール氏は言う。 「Googleは長い間、こうした詐欺のコストを社会に押しつけてきた。」