AI生成の検索結果に伴う誤情報のスライディングドア＋「LilacSquid」について No.008

[taiimamu]

検索エンジンにおけるAI生成の近況

➢著者は、AIが仕事を代替できるかを長く考えてきましたが、現時点では私の執筆能力が脅かされることはなさそうです。しかし、AI生成の検索結果が検索エンジン最適化に影響を与えています。

➢ Googleの内部AIツールは、一般的なクエリに対する回答を信頼できるニュースソースの上に配置し、滑稽な混乱を引き起こしました。

➢ これが重要な話題について誤情報を広める可能性が懸念されます。Googleは重要な話題に関する誤情報を防ぐために変更を加えましたが、結果はまちまちです。

実際の検索結果

➢ 「赤ちゃんの発熱」や「タロスの暗号通貨詐欺」と検索するとAI生成の回答が表示されましたが、翌日同じ検索クエリで表示されないこともありました。Bingも同様にAIキュレーションコンテンツを使用しています。

➢ これらの回答が誤情報の多いニューストピックで生成される場合を懸念しています。選挙や公衆衛生などでは、わずかなミスが重大な影響を与える可能性があるからです。

➢ 多くの人々はメディアリテラシーが低く、簡単な要約を信じてしまうため、AIの検索エンジン統合はインターネットとの関わり方を変える可能性がありますが、現時点ではその結果には自信が持てません。

※子供の発熱に対して、実際の小児科のコメントと異なる見解が表示された例

----------------------

「LilacSquid」について

一番重要なこと
➢ Cisco Talosは最近、「LilacSquid」という新しい脅威アクターを発見しました。

➢ このアクターはIT業界と製薬業界をターゲットにし、ネットワークに持続的なアクセスをしようとします。

➢ 公開されているアプリケーションサーバーの脆弱性や侵害されたリモートデスクトッププロトコル（RDP）資格情報を利用して、MeshAgentやSSFなどのオープンソースツール、「PurpleInk」などのカスタマイズされたマルウェア、「InkBox」や「InkLoader」と呼ばれるマルウェアローダーを展開しています。

なぜ重要なのか？
➢ LilacSquidの被害者は、米国のIT企業、欧州のエネルギー部門、アジアの製薬部門の企業が含まれています。

➢ これにより、この脅威アクターがさまざまな情報源からデータを盗もうとしていることが示唆されます。Talosは、このキャンペーンが少なくとも2021年から活動していると確信しており、使用される戦術や技術は北朝鮮のAPTグループと一部重なっています。

次にすべきこと
➢ LilacSquidは脆弱なWebアプリケーションを悪用してアクセスするため、ネットワークに脆弱性がある場合は常にパッチを適用することが重要です。
➢ また、TalosLilacSquidの活動やマルウェアを検出する新しいSnortルール、ClamAV署名、その他のCisco Security検出をリリースしています。