生成AIフィッシングの破壊力：日本人のメール箱でいま何が起きているのか

ある朝、ゆうちょ銀行からの「重要なお知らせ」、日本郵便からの「再配達のお知らせ」、国税庁からの「還付金手続きのご案内」がほぼ同時に届く──日本語も敬語も完璧、レイアウトも本物そっくり。実はそのすべてが、海外の犯罪グループが生成AIで量産したフィッシングメール、という世界がすでに現実になりつつあります。

本記事では、ChatGPTのような生成AIが「日本語フィッシング」をどう変えたのか、そのビジネスモデル、実際に起きている典型パターン、家計や企業への影響、そして規制や技術対策の限界を整理します。目的は、犯罪のやり方を広めることではなく、「なぜこんなメールが増えているのか」を構造として理解し、防御の議論を前に進めることです。

日本語フィッシングは、生成AIで何が変わったのか

日本では以前から、銀行やクレジットカード会社を装うフィッシングメールが問題になってきました。警察庁やフィッシング対策協議会の統計を見ると、2020年代に入ってから報告件数は十万件規模で増加し、ゆうちょ銀行、三井住友カード、Amazon.co.jp、日本郵便などを騙るケースが繰り返し話題になっています。

しかし、2023年前後から状況が質的に変化しました。英語ベースで発展してきた「Large Language Model（大規模言語モデル）」が、日本語にも高精度に対応し始めたためです。これにより、犯罪側が直面していた次のハードルが一気に下がりました。

• 不自然な日本語・機械翻訳っぽさが消え、「ほぼネイティブ」の文章が一瞬で作れるようになった。
• 地方の方言や年齢層に合わせた言い回しも、プロンプト次第でそれなりに再現できるようになった。
• 大量の文面バリエーションを自動生成できるため、同じ文言で検出するブラックリスト型対策が効きにくくなった。

かつては、中国語や英語から不自然に翻訳された日本語が「見抜くヒント」になっていましたが、生成AIの登場で、この「違和感による防御」が徐々に封じられつつあります。

生成AIフィッシングのビジネスモデルとプレーヤー

生成AIフィッシングは、一人の天才ハッカーがすべてをこなしているわけではありません。実際には、ダークウェブやSNS上で役割分担された「小さなビジネスユニット」の集合体として動いています。

ざっくりした役割分担

• 文面デザイナー層：日本語が得意な人物やグループが、ChatGPT などの生成AIに投げるプロンプトを設計し、銀行・クレジット・宅配・行政など用途別のテンプレートを作る。
• リスト業者：流出したメールアドレスや電話番号を盗んだり買ったりして、ターゲットリストとして販売する。過去の情報漏えい事件やダークウェブ市場での売買が土台になる。
• 配信オペレーター：ボットネットや不正に乗っ取ったメールサーバーから、一気に数十万〜数百万通のメールやSMSをばらまく。
• 資金回収・マネロン担当：だまし取ったクレジットカード情報やインターネットバンキング情報を使い、暗号資産取引所やプリペイドカード経由で現金化し、さらにマネーロンダリングを行う。

生成AIが担っているのは、この中でも「文面の大量生成」です。犯罪グループは、欧州連合（EU）の銀行を狙う英語フィッシングと同じテンプレートを持ちながら、モデルに「日本語に変換して」「三井住友カードの利用明細風に」「国税庁らしさを出して」などと指示し、多言語対応・多ブランド対応を効率化しています。

コスト構造を見ると、メール1通あたりの「製造コスト」はほぼゼロに近づきました。OpenAI や Google のような事業者が提供するAPIを悪用するケースもあれば、オープンソースモデルをローカルで回しているケースもあります。どちらにせよ、「1通あたりの利益」が小さくても、数万〜数十万通ばらまけば採算が合うビジネスになっているのが現実です。

具体事例：ECサイトを装う生成AIフィッシング・キャンペーン

ここでは、日本でも繰り返し報告されている「大手ECサイトを装うフィッシング」を、生成AIが絡んだケースとしてモデル化してみます。実在の事案を単純化したものですが、構造は多くの国・多くの企業で共通しています。

ケースAの流れ：アカウント確認メールになりすます

• 海外の犯罪グループが、ダークウェブ市場で日本人のメールアドレス約数十万件のリストを購入する。
• 「Amazon.co.jp で不審なログインが検出されました」という趣旨の日本語メール文面を、生成AIに複数パターン作らせる。敬語の強さや「ご心配をおかけして申し訳ございません」などの日本的な言い回しまで指示する。
• 文面は、実際のAmazonから届く通知メールの構造（ロゴ位置、挨拶文、フッターの注意書き）を真似して手作業で整えつつ、本文の日本語だけはAIが量産する。
• メール内のリンク先は、本物に似せた偽サイト。TLS証明書も正規の認証局から取得されており、ブラウザ上では「鍵マーク」が表示される。
• 被害者が偽サイトでID・パスワード・クレジットカード情報を入力すると、その情報が即座に犯罪グループのサーバーへ送信され、別の担当者が実際のAmazonアカウントにログインしてギフト券購入などで資金を抜き取る。

このようなキャンペーンでは、「メール本文の違和感のなさ」が被害拡大の重要要因になります。従来は「変な敬語」「不自然な句読点」「明らかにおかしな宛名」などで怪しむことができましたが、生成AIによって「日本人がぱっと見て違和感を抱きにくい」文面が量産されるようになりました。

また、欧州刑事警察機構（ユーロポール）や米連邦捜査局（FBI）のレポートでも、英語圏で同様の「多言語・多ブランド対応フィッシング」が報告されており、日本だけの問題ではないことがわかります。国連薬物犯罪事務所（UNODC）や経済協力開発機構（OECD）が指摘するように、サイバー犯罪は国家を越えた組織犯罪の一部として組み込まれつつあります。

生活と企業にもたらされる影響：見えない「サイバー税」

生成AIフィッシングは、単に「うっかり騙されてしまう人が増える」というレベルの問題ではありません。社会全体に、じわじわと「見えない税金」のようなコストを強いていきます。

• 家計レベルの被害：数万円〜数十万円のクレジットカード不正利用、銀行口座からの不正送金など。金融機関が補償する場合でも、調査・再発行・口座凍結の間、生活資金が拘束される。
• 企業・団体への負担：日本の中小企業でも、従業員に対するフィッシング訓練やセキュリティ教育が必須になり、人件費・ツール費用が増大している。自治体や大学など公的機関でも同様です。
• セキュリティ産業の肥大化：メールフィルタリングやゼロトラストなどのセキュリティ製品への投資は、結果として「サイバー犯罪に対応するための追加コスト」として最終的に商品価格や税金に転嫁される。
• 信頼の劣化：金融庁や総務省、国税庁など公的機関を装うフィッシングが増えるほど、本物の通知メールまで「本当に信じてよいのか」と疑われ、行政サービスの効率も落ちていく。

UNODC や世界銀行が指摘するように、サイバー犯罪による世界全体の損失は、年間で兆ドル規模に達するとの試算もあります。生成AIフィッシングはその一部にすぎませんが、「メールを開くだけで巻き込まれる」点で、多くの人にとって最も身近なリスクになりつつあります。

規制・技術対策・教育はどこまで有効か

では、どのような対策が進んでいるのでしょうか。ここでは、日本と海外の動きをざっくり整理します。

• 技術対策：送信ドメイン認証とAI検知
  日本でも、総務省や情報通信研究機構（NICT）が中心となって、DMARC・SPF・DKIMといった送信ドメイン認証技術の普及が進められています。また、メールセキュリティ製品の多くは、こちらも生成AIを使った「不自然な文脈の検知」に取り組み始めています。
• 規制・ガイドライン
  欧州連合は「EU AI Act」を通じて、高リスクAIシステムの規制枠組みを整備しつつあり、日本でも個人情報保護委員会や内閣サイバーセキュリティセンター（NISC）がAI利用に関するガイドラインを出し始めています。ただし、「犯罪者がAIを使うこと」を直接止めることは難しいのが現実です。
• 金融庁・警察庁・業界団体の連携
  日本では、金融庁、警察庁、一般社団法人日本クレジット協会などが連携し、フィッシングSMSや偽サイト情報を共有する枠組みを整えています。フィッシング対策協議会による注意喚起も頻繁に行われています。
• 利用者教育の難しさ
  「怪しい日本語に注意しましょう」という従来の啓発は、生成AI時代にはあまり通用しません。「必ず公式アプリやブックマークからアクセスする」「メールのリンクを信用しない」といった行動変容を根付かせるには、教育と設計の両方が必要です。

結局のところ、技術・規制・教育のどれをとっても、「完璧な防御」には届きません。FATF（金融活動作業部会）がマネーロンダリング対策で強調するのと同じく、「リスクベースアプローチ」、つまりリスクが高い場面にリソースを集中し、人間とシステムの両方で多層防御を構築するしかないのが現時点の現実です。

まとめ：見分けがつかない世界で、何を意識すべきか

生成AIによって、「変な日本語だから怪しい」という直感はもはや通用しにくくなりました。これから重要になるのは、「文面の自然さ」ではなく、「チャネルとプロセス」を基準に危険を判断することです。

• 金融機関や行政からの重要連絡は、メールのリンクではなく公式アプリ・公式サイトから確認する。
• パスワードやクレジットカード番号をメール・SMS経由で入力しない設計を、自分の生活に徹底して組み込む。
• 企業側は、従業員教育だけでなく、二要素認証や取引フローの見直しなど「仕組み側の安全装置」を増やす。
• 国家レベルでは、警察庁、総務省、金融庁、国際機関などと連携し、統計・情報共有・国際捜査の基盤を強化する。

生成AIは、本来であればセキュリティの強化や業務効率化に役立つ強力なツールです。犯罪経済ラボとして重要だと考えるのは、「AIそのものを恐れる」のではなく、「AIが前提の犯罪ビジネスモデル」をきちんと観察し、そのうえで生活や制度の側をアップデートしていく視点です。

柏木 慧（AI・先端技術犯罪担当）／ 犯罪経済ラボ