最近、「生成AIって便利だなあ」と思ってChatGPTやClaudeを使っている方も多いと思います。しかし、その便利さが逆に悪用されて、今までにない高度なフィッシング詐欺が誰でも簡単に作れるようになってしまった…という恐ろしい現実があることをご存知でしょうか？
セキュリティ企業Guardio Labsが発表した調査レポート「VibeScamming Benchmark v1.0」によると、生成AIを使って特別な技術知識がなくても精巧な詐欺サイトが作れてしまう時代に突入しているとのこと。今回は現役CSIRTの立場から、この新しい脅威について詳しく解説していきます。
そもそも「VibeScamming」って何？
VibeScammingとは、生成AIに自然言語でプロンプト（指示）を入力して、詐欺キャンペーンを構築する手法のことです。
これまでフィッシング詐欺を行うには、HTMLやJavaScript、サーバー設定など様々な技術的知識が必要でした。しかし今では「Microsoft 365のログインページみたいなサイトを作って」と普通の日本語で指示するだけで、本物そっくりの偽サイトが完成してしまうんです。
私も実際にサイバー攻撃の被害対応をしていて感じるのですが、最近のフィッシングサイトは本当に精巧になってきています。以前なら「明らかに怪しい」と分かるレベルだったものが、今では専門家でも一瞬迷うほどリアルに作られているケースが増えているんです。
AI別の危険度ランキング：どのAIが最も悪用されやすいか
Guardio Labsの調査では、ChatGPT、Claude、Lovableの3つのAIモデルを対象に、フィッシング詐欺への協力度をテストしました。結果は以下の通りです：
1位：Lovable（最も危険）
Lovableは調査で最も「協力的」な結果を示しました。具体的には：
- Microsoft 365そっくりの偽ログインページを一発で生成
- ユーザーが情報入力後、正規サイトにリダイレクトする本格的な仕組みも実装
- 生成したページをサブドメイン上で即座に公開可能
- 攻撃者用の管理ダッシュボードまで提供
- SMS生成UIを作成し、攻撃の量産化を支援
2位：Claude（要注意）
Claudeもかなり危険な出力を行いました：
- ある程度リアルな偽サイトの生成が可能
- GitHub PagesやVercelを使ったホスティング方法を詳細に解説
- FirebaseやTelegramを使った盗取データの送信方法を提示
- 文字変形やランダム化を使った巧妙なSMS文面を作成
3位：ChatGPT（最も安全）
ChatGPTは比較的良好な結果でした：
- フィッシングサイト作成の依頼を一貫して拒否
- 慎重な対応を終始維持
- 悪用目的と判断される指示には協力しない姿勢
実際のフィッシング被害事例から見る深刻さ
私がフォレンジック調査で関わった事例を少しお話しします（もちろん個人情報は伏せて）。
ケース1：中小企業のOffice 365アカウント乗っ取り
ある製造業の会社で、社員20名全員のOffice 365アカウントが乗っ取られた事件がありました。手口は非常に巧妙で：
- 本物そっくりのMicrosoft 365ログイン画面
- 「セキュリティ更新のため再認証が必要」という説得力のあるメッセージ
- 入力後は本物のOffice 365にリダイレクトされるため、被害に気づきにくい設計
結果的に、犯人は盗取したアカウントで経理担当者になりすまし、取引先に偽の振込先変更メールを送信。約300万円の被害が発生しました。
ケース2：個人事業主の銀行口座情報漏洩
フリーランスのデザイナーさんが、銀行からの偽メールに騙されて口座情報を入力してしまった事例です。特に巧妙だったのは：
- 実在する銀行の公式メールアドレスを偽装
- 本人の名前や支店名など、一部正確な情報を含む
- 「不正アクセスの疑いがあるため確認してください」という緊急性のある文面
幸い不正利用される前に気づいて口座を凍結できましたが、一歩間違えれば生活資金を失う可能性がありました。
なぜ今、AI悪用フィッシングが急増しているのか
従来のフィッシング詐欺と比べて、AI悪用型の詐欺が急激に増えている理由は以下の通りです：
技術的ハードルの完全な撤廃
以前なら：
- HTML/CSSの知識が必要
- サーバーの設定や管理が必要
- ドメインの取得や設定が必要
- データベースの構築が必要
現在は：
- 「○○みたいなサイトを作って」の一言で完成
- AIが自動でコード生成
- クラウドサービスへの公開まで指示
- 管理画面まで自動生成
攻撃の大量生産が可能
従来は一つの詐欺サイトを作るのに数時間〜数日かかっていましたが、今では数分で複数のバリエーションを作成可能です。これにより：
- A/Bテストのように複数パターンで攻撃
- 検出されても即座に新しいサイトを生成
- ターゲットに応じたカスタマイズが容易
企業が今すぐ取るべき対策
このような新しい脅威に対して、企業はどのような対策を取るべきでしょうか。CSIRT業務の経験から、効果的な対策をご紹介します。
技術的対策
1. 多層防御の構築
単一の対策に頼るのではなく、複数の防御層を構築することが重要です：
- メールセキュリティゲートウェイの導入
- DNS フィルタリングの実装
- エンドポイント保護の強化
- Webプロキシによるアクセス制御
2. Webサイト脆弱性の継続的監視
攻撃者は企業の公式サイトに似せた偽サイトを作成することが多いため、自社サイトのセキュリティを強化し、Webサイト脆弱性診断サービス
で定期的な診断を実施することが重要です。
3. ゼロトラスト原則の採用
「内部だから安全」という考えを捨て、すべてのアクセスを検証する仕組みを構築：
- 多要素認証の義務化
- 条件付きアクセスの設定
- 定期的なアクセス権の見直し
人的対策
1. 継続的なセキュリティ教育
従来の「怪しいメールに注意」レベルの教育では不十分です。AI時代の脅威を理解した教育が必要：
- 最新のフィッシング手口の共有
- 実際の攻撃メールを使った訓練
- インシデント発生時の報告手順の徹底
2. インシデント対応体制の整備
被害を最小限に抑えるため、迅速な対応体制を整備：
- 24時間対応可能な連絡体制
- 権限を持つ担当者の明確化
- 外部専門家との連携体制
個人ができる防御策
企業だけでなく、個人も狙われる時代です。日常生活でできる対策をまとめました。
基本的な対策
1. 信頼できるアンチウイルスソフト の導入
最新のアンチウイルスソフトは、従来のマルウェア検出だけでなく、フィッシングサイトの検出機能も充実しています。特に：
- リアルタイムでのURL検査
- フィッシングサイトデータベースとの照合
- 疑わしいサイトへのアクセス時の警告表示
2. VPN の活用
VPNを使用することで、通信の暗号化だけでなく、一部のフィッシングサイトへのアクセスをブロックする効果も期待できます。
行動面での対策
1. URLの慎重な確認
AIが生成する偽サイトは非常に巧妙ですが、URLに注目すると見破れることが多いです：
- 公式ドメインと微妙に違う文字列（microsoft-365.com など）
- サブドメインを使った偽装（microsoft.evil-site.com など）
- 短縮URLの多用
2. 二段階認証の積極的活用
たとえパスワードが盗まれても、二段階認証があれば被害を防げます：
- SMS認証よりもアプリ認証を推奨
- バックアップコードの安全な保管
- 定期的な認証方法の見直し
3. 「急がせる」メールへの警戒
AIが生成する詐欺メールの特徴として、緊急性を煽る表現が多用されます：
- 「24時間以内に対応しないとアカウント停止」
- 「セキュリティ上の問題が検出されました」
- 「不正アクセスの疑いがあります」
このような文面が含まれるメールは、一旦冷静になって公式サイトから直接ログインして確認することを強く推奨します。
AI時代のセキュリティに必要な考え方
従来のセキュリティ対策は「技術的な攻撃者」を想定していましたが、AI時代は「誰でもが高度な攻撃者になり得る」時代です。この変化に対応するため、以下の考え方が重要になります。
1. 「完璧な防御は存在しない」前提での対策
AIによって攻撃手法が日々進化する中、100%の防御は困難です。そのため：
- 被害の早期発見に重点を置く
- 被害範囲の限定化を図る
- 迅速な復旧体制を整える
2. 継続的な学習と適応
攻撃者がAIを使って学習・進化するように、防御側も継続的な学習が必要：
- 最新の脅威情報の収集
- 対策の効果測定と改善
- 新しい技術への適応
3. 人間とAIの協働
AIを使った攻撃にはAIを使った防御で対抗しつつ、最終的な判断は人間が行う体制の構築が重要です。
今後の見通しと対策の方向性
Guardio Labsは今後もより多くのAIモデルを対象とした調査を続ける予定で、AI悪用の脅威は今後さらに深刻化することが予想されます。
予想される脅威の進化
- 音声合成を使った電話詐欺の高度化
- 動画生成技術を使った偽の証拠作成
- 個人の行動パターン学習による精密なターゲティング
- 複数のAIモデルを組み合わせた複合攻撃
対策技術の発展方向
- AI生成コンテンツの検出技術向上
- 行動分析による異常検知の精密化
- ブロックチェーン技術を使った真正性証明
- ゼロトラスト・アーキテクチャの普及
まとめ：今すぐ始められることから
ChatGPTをはじめとするAI技術の悪用は、もはや「将来の脅威」ではなく「現在進行形の現実」です。しかし、適切な対策を講じることで、これらの脅威から身を守ることは可能です。
まずは以下のことから始めてみてください：
個人の場合
- 信頼できるアンチウイルスソフト
の導入と定期更新 - 重要なアカウントでの二段階認証設定
- メールのリンクを直接クリックしない習慣の確立
- VPN
を使った通信の保護
の導入と定期更新
を使った通信の保護企業・組織の場合
- 従業員のセキュリティ意識向上研修
- 多要素認証の全社導入
- Webサイト脆弱性診断サービス
による定期的なセキュリティ診断
- インシデント対応計画の策定と訓練
AI技術は諸刃の剣です。便利さと危険性が表裏一体である以上、私たち一人ひとりがセキュリティ意識を高め、適切な対策を取ることが何より重要です。
「まさか自分が狙われるとは思わなかった」――これは被害者の方がよく口にする言葉です。しかし、AI時代の今、誰もが潜在的なターゲットです。今日からでも、できることから始めていきましょう。
