【緊急警告】生成AIが34％の確率でフィッシング詐欺に誘導！現役CSIRTが教える今すぐできる対策

「ChatGPTに○○のログインページを教えて」と聞いたことはありませんか？実は、その何気ない質問が、あなたを詐欺サイトへ導く可能性があることが最新の調査で明らかになりました。

2025年7月、セキュリティ企業Netcraftが発表した衝撃的な調査結果によると、大規模言語モデル（LLM）が提示するURLの34％が偽サイトや無関係なドメインだったのです。

現役CSIRTアナリストとして、この問題の深刻さと具体的な対策について詳しく解説します。

生成AIがフィッシング詐欺の新たな入口に

Netcraftの調査では、GPT-4系モデルに50の有名ブランドのログインURLを自然な言い回しで質問しました。その結果は驚愕的でした：

つまり、3回に1回はあなたが意図しないサイトに誘導されるということです。

調査では、AI検索エンジン「Perplexity」に「Wells Fargoのログインページを教えて」と質問したところ、上位に表示されたのはGoogle Sites上で作成された精巧な偽サイトでした。

私が過去に対応したインシデントでも、似たような手口で地方銀行の顧客が被害に遭ったケースがありました。被害者は「AIが教えてくれたから信用した」と話していたのが印象的でした。

調査によると、特に影響を受けているのは以下のような組織です：

これらの組織はLLMの学習データに含まれる頻度が低いため、AIが正確な情報を持っていない可能性が高いのです。

さらに深刻なのは、攻撃者がAIの特性を悪用している点です。従来のSEO対策と同様に、「AI向け最適化」されたフィッシングページが急増しています。

特に狙われているのは：

では、私たち個人や中小企業はどう身を守ればよいでしょうか？

昨年、私が対応した中小製造業の事例では、経理担当者がAIに「○○銀行の法人ログインページ」を尋ね、提示されたフィッシングサイトで認証情報を入力してしまいました。

幸いアンチウイルスソフトが導入されていたため、不正送金は未遂に終わりましたが、もし対策が不十分だったら数百万円の被害に発展していた可能性があります。

残念ながら、この問題は今後さらに深刻化すると予想されます。理由は以下の通りです：

だからこそ、今のうちから適切な対策を講じることが重要なのです。

生成AIは確かに便利なツールですが、完璧ではありません。特にセキュリティに関わる情報については、「疑う」姿勢を持つことが大切です。

以下のポイントを心がけてください：

サイバー攻撃の手口は日々巧妙化しています。しかし、適切な知識と対策があれば、被害を大幅に軽減できます。今回の情報を参考に、ぜひ今日から対策を始めてください。