AIと犯罪の最前線：生成AI・ディープフェイク・自動化ツールは何を変えたのか

AIと犯罪の話題がニュースに出ない日は、ほとんどなくなりました。「AI詐欺」「ディープフェイク動画」「自動生成スパム」。こうした言葉が並ぶと、まるでSFかホラー映画の世界のようですが、残念ながらこれはすでに現実のビジネス──ただし「闇のビジネス」の一部になりつつあります。

本稿は、犯罪経済ラボ編集部でAI・先端技術犯罪を追いかける柏木 慧による連載の一つです。「AIが犯罪に使われる」という話を、センセーショナルに煽るのではなく、もう少し冷静に分解していきます。

ポイントは一つ。AIは「犯罪のやり方」そのものよりも、「コスト構造・スケール（規模）・検知の難しさ」を大きく変えつつあるということです。技術自体は中立ですが、ビジネスとしての犯罪にとっては相性の良い道具にもなりうる。その現実を直視したうえで、私たちはどう備えるべきかを考えていきます。

なお、本記事では具体的な詐欺メールの文面やディープフェイクの作成手順など、違法行為に直結しうる情報には踏み込みません。あくまで構造とリスク、社会への影響に焦点を当てます。

導入――「AIが犯罪に使われる」とは具体的にどういうことか

まず、「AIが犯罪に使われる」という言葉から、多くの人が思い浮かべるイメージを整理します。

ニュースやSNSでよく見かけるのは、次のようなものです。

• 顔や声をそっくりコピーしたディープフェイクで、他人になりすます
• 生成AIで作った虚偽の記事や口コミをばらまき、世論や評判を操作する
• チャットボットが自動で詐欺トークを続けてくる「AIコールセンター」

どれも現実に起きている（起こりうる）事例ですが、これだけを見ていると「AIは恐ろしい悪の道具だ」という印象だけが先行してしまいます。しかし、実際に大きく変わったのは「やり方」そのものではなく、その裏側にある構造です。

具体的には、次の3点が大きく変化しています。

• コスト：人間が1件ずつ作っていた文面や画像を、ほぼゼロに近い追加コストで大量生産できるようになった。
• 精度：以前は「いかにも怪しい」日本語や画像が多かったが、AIの登場でかなり自然で違和感の少ないコンテンツが増えた。
• スピードとスケール：1人の詐欺師が1日で相手にできる人数は限られているが、ボットや自動化ツールを組み合わせることで、桁違いの人数に同時アプローチが可能になった。

この結果、犯罪の「ヒット率」自体はそれほど変わらなくても、母数が爆発的に増えることで、最終的な売上（＝被害額）が大きくなりうる構造が生まれています。

本記事で焦点を当てるのは、まさにこの構造的な変化です。

• AIが具体的にどんな使われ方をしているのか
• それによって「コスト構造」「スケール」「検知の難しさ」がどう変化しているのか
• 防御側（私たち・企業・社会）がどのように対応している／すべきなのか

技術を悪者にするのでも、逆に擁護しきるのでもなく、リスクと可能性の両方を冷静に見ていくことを目指します。

セクション1　生成AIと詐欺・情報操作

生成AIは、文章・画像・音声など「コンテンツ」を自動で作る技術です。正しく使えば、翻訳・要約・資料作成・クリエイティブの補助など、仕事や生活にとって非常に便利なツールになります。

一方で、犯罪側から見れば「人件費のかかる単純作業を安く自動化するツール」としても魅力的です。

フィッシングメール・スパムの文章生成の高度化

従来の詐欺メールには、いくつか分かりやすい特徴がありました。

• 不自然な日本語（機械翻訳の直訳）
• 妙に大げさな表現や、誤字脱字の多さ
• テンプレート感の強い決まりきった文面

こういった「違和感」が、一般の人にとっても一種の防御ラインになっていました。ところが生成AIの登場で、このハードルはかなり低くなっています。

• 自然な敬語やビジネス文書調で、違和感の少ない文章
• 相手の属性（顧客／会員／社員など）に合わせた文体の調整
• 単語の言い回しを微妙に変えた無数のバリエーション生成

これによって、従来「怪しいメールフィルター」で弾かれていたパターンとは別の形の攻撃が増える可能性があります。本文の具体例は挙げませんが、「日本語としてほぼ完璧な詐欺メール」が大量生産可能になっている点は、押さえておきたい現実です。

SNS・口コミ・レビューの自動生成による情報操作

生成AIは、長文だけでなく短文の大量生成も得意です。この特徴は、SNS・口コミ・レビューサイトなどの「評判」を操作したい人々にとって、非常に魅力的なポイントになります。

• 特定の商品やサービスを褒める投稿を大量に作る
• 競合をさりげなく貶めるコメントを混ぜる
• 実在する人物っぽいプロフィールを組み合わせて「それらしいアカウント」を量産する

ここで重要なのは、「1つ1つの投稿が完璧に騙せるかどうか」ではありません。多少不自然な投稿が混ざっていても、全体としての「空気」を作れてしまえば、それなりの効果が出てしまうことです。

例えば、検索したときに「なんとなく良さそう」「なんとなく評判が悪そう」という第一印象、レビューの星の数だけでなくコメントの雰囲気から受ける印象、SNSでの「みんなが言っているらしい空気」。こうした「雰囲気」をAIで操作されると、個人が一つ一つ真偽を確かめるのはほぼ不可能です。

情報の受け手側としては、「特定の1件が本物かどうか」ではなく、「全体が不自然に偏っていないか？」という視点を持つことが重要になります。

多言語対応・パーソナライズによる「騙しやすさ」の変化

生成AIの強みの一つが、多言語対応とパーソナライズです。

• 日本語以外の言語にも対応しやすく、海外からでも自然な日本語で攻撃できる
• 相手の名前、所属、取引履歴などと組み合わせて、「自分宛てだ」と思わせる文章が作れる

例えば、「実際に利用しているサービス名」「最近の取引っぽい金額」「日常的に使っているメールアドレス」などが文面に登場すると、たとえ文章が完璧でなくても「自分のことが書かれている」という感覚から、リンクをクリックしてしまいやすくなります。

ここでも重要なのは、「AIが文章を作ること」自体ではなく、ターゲットごとのカスタマイズが低コストで可能になったこと、海外からでも言語の壁をほぼ気にせず攻撃できることです。犯罪グループにとっての「マーケティングコスト」が下がり、ターゲティングの精度が上がっている、と見ることができます。

セクション2　ディープフェイクとなりすまし・恐喝

次に、顔や声をそっくり真似る「ディープフェイク」です。これは、画像や音声の特徴を学習し、それに似たデータを生成する技術の総称です。

ここでも詳細な作成手順には触れませんが、概念として押さえておくべきポイントがあります。

顔・音声のディープフェイクの基本的なイメージ

ディープフェイクの多くは、「元となる人物のデータ」（顔写真・動画・音声）と、それを学習して似たパターンを生成するAIモデルを組み合わせて作られます。ざっくり言えば、たくさんの「Aさんの顔・声」を学習させ、別の映像や音声に「Aさんっぽく」見える／聞こえる加工をする、という流れです。

実際にはさまざまな技術的ステップがありますが、ここで大事なのは「素材さえ集まれば、一般人レベルでもそれっぽいものを作れる時代になりつつある」という点です。

「なりすまし通話」「フェイク動画」による信用の悪用

ディープフェイクのリスクが大きいのは、「映像・音声は証拠になる」という前提を揺るがすところです。

• 親族や上司になりすました「緊急送金」を装う通話やメッセージ
• 有名人や政治家が、言っていないことを言っているように見える動画
• 企業の幹部が指示したように見せかける音声メッセージ

こうした「なりすまし」は、従来のテキストベースの詐欺よりも心理的なインパクトが強くなりがちです。「映像や声まであるなら本当だろう」という、人間の認知のクセを突いてくるからです。

個人・企業・政治に対する恐喝・信用失墜の危険性

ディープフェイクが厄介なのは、「本物か偽物か」という二択の問題を超えたところにリスクが存在することです。

• 本物そっくりのフェイク動画を作って「公開されたくなければ金を払え」と脅す
• フェイクだと証明するのが難しい内容で、企業や個人の評判を傷つける
• 選挙や世論形成のタイミングに合わせて、印象操作を目的とした動画を流す

ここで生じるのは、「何が本当かわからない状態」そのものです。たとえ本人が「これは偽物です」と主張しても、人々がそれを信じるかどうか、検証結果が広く届けられるかどうかは、また別の問題になります。

ディープフェイクは単に「偽物を作れる技術」ではなく、「証拠」の信用度を下げる技術、「疑い」をばらまくことで真実も含めてすべてを曖昧にする技術としても機能してしまうのです。

セクション3　自動化ツール・ボットと大規模犯罪

生成AIやディープフェイクと並んで重要なのが、「自動化ツール」との組み合わせです。AIそのものは「考える部分」を担いますが、それを大量に実行するためには、ボット（自動プログラム）やクローラー（自動巡回ツール）、繰り返し処理をするスクリプトといった仕組みが使われます。

ボットネット・クローラーとAIの組み合わせ

犯罪グループが狙うのは、「人手では面倒な作業」を機械に任せることです。

• インターネット上のログインページやフォームを自動で探し回る
• 使い回されやすいパスワードのパターンを試し続ける
• クレジットカード番号や認証コードを、さまざまな組み合わせで試行する

ここにAIが加わると、どのターゲットが脆弱かをデータから優先順位付けしたり、エラーやブロックのパターンから「効率の良い攻撃方法」を学習したり、防御側の挙動に合わせて攻撃手法を自動で微調整するといった「適応型」の動きが可能になります。

サイバー攻撃・ブルートフォース・クレカ試行の自動化

サイバー攻撃にはさまざまな種類がありますが、多くに共通しているのは「大量の試行錯誤を行い、その中で成功したものから利益を得る」という構造です。

• 総当たり攻撃（ブルートフォース）によるパスワード突破
• 盗まれたクレジットカード番号の少額決済試行
• 脆弱なウェブサービスに対する自動スキャン

人間が手でやれば、すぐに限界がきます。しかし、自動化ツールを使えば、24時間休みなく、何万・何百万回という試行を続けることができます。

ここにAIを組み合わせると、「どこにリソースを集中すれば効率よく突破できるか」を学習しながら攻撃できるようになります。これは、犯罪側にとって「マーケティングの最適化」に近い発想です。

「人手では不可能な規模で試行錯誤できる」ことの意味

重要なのは、1回1回の成功確率がそれほど高くなくても、試行回数が膨大で、コストが低く、自動化で疲れない、という三拍子が揃うと「ビジネスとして採算が取れてしまう」ということです。

例えば、成功確率が0.01％でも、100万回試せば100件の成功が見込めます。1件あたりの利益が数万円なら、トータルではかなりの額になる計算です。こうした「薄利多売型」の犯罪にとって、AI＋自動化は非常に相性のよい組み合わせです。

防御側からすると、「すべての試行を止める」のではなく、「いかに早く異常を検知し、被害を最小限にするか」が問われる時代になっています。

セクション4　AI犯罪がもたらす社会・経済への影響

ここまで見てきたようなAIと自動化の組み合わせは、個人・企業・社会それぞれに異なる形で影響を与えます。

個人情報・信用情報・生体情報が漏洩した場合の被害の広がり方

AI犯罪の厄介な点は、「一度盗まれた情報が、何度でも使い回される」ことです。

• 氏名・住所・電話番号・メールアドレスといった基本情報
• クレジットカードや銀行口座に紐づく情報
• 顔写真・音声データ・指紋や虹彩のような生体情報

これらがセットで漏洩してしまうと、フィッシングメールにリアルな個人情報が差し込まれたり、ディープフェイクの素材として顔や声が利用されたり、「本人確認」プロセス自体が危うくなったりします。

特に生体情報は「パスワードのように変えることができない」という性質があり、漏洩した場合のダメージが長期化しやすい点で、非常に重いリスクを孕んでいます。

金融・決済・EC・SNSなどの「信用基盤」に対する影響

AI犯罪が広がると、「何を信じられるのか」という基盤そのものが揺らぎます。

• 金融機関からのメールやSMSが本物かどうか分からない
• ECサイトのレビューがどこまで本物で、どこからが自動生成なのか区別できない
• SNSで流れてくる動画や発言が、本当に本人のものか判断できない

これは単に「不安になる」という感情的な問題ではありません。本物の通知や警告を無視してしまう、正当なビジネスの評判がAI生成のデマで損なわれる、選挙や社会的な議論が偽情報でねじ曲げられるなど、非常に現実的なコストを生み出します。

信用の揺らぎは、そのまま「取引コストの増大」に直結します。本人確認を厳格にするほど利用の手間もコストも増え、デマ対策のためのモニタリング・調査・広報が企業の負担になります。AI犯罪は、こうした「見えにくいコスト」を社会全体にじわじわと押しつけていきます。

「何を信じてよいのか分からない世界」になることのコスト

ディープフェイクや生成AIが広がると、最終的には次のような「疲れ」が社会に蓄積されます。

• 毎回いちいち真偽を確認するのが面倒になり、情報に対して無関心になる
• 逆に、何でもかんでも「どうせフェイクだ」と決めつけてしまう
• 本当に助けが必要な人の声や、重要な警告が埋もれてしまう

これは、社会全体のリスク管理能力を弱める方向に働きます。AI犯罪の本当の怖さは、「個別の被害額」だけでなく、こうした「信用インフラの摩耗」という形で、長期的に私たちの足元を削っていく点にあります。

セクション5　対策・規制・技術的防御の方向性

ここまで読むと、気が重くなっているかもしれません。しかし、防御側も黙っているわけではありません。AIが攻撃側に使われるなら、同じくAIを防御側に活用する取り組みも進んでいます。

AI検知AI・ディープフェイク検出・異常行動検知など、防御側の技術

防御側で注目されているのは、「AIで作られたものをAIで見抜く」というアプローチです。

• 文章や画像の特徴量を解析し、「人間らしさ」との違いをスコア化する
• 動画や音声の不自然な点（瞬きのリズムや口元の動き、音の揺らぎなど）を検出する
• ログインや決済の挙動パターンから、「通常とは違う振る舞い」を自動で警告する

もちろん、攻撃側も検知を回避しようと工夫してくるため「イタチごっこ」の側面は避けられません。それでも、被害が発生する前に異常な振る舞いを検知したり、被害が出た場合でも早期に範囲を特定し拡大を防いだりするうえで、防御の自動化は重要な役割を担っています。

法規制・ガイドライン・プラットフォーム側のポリシー

技術だけでなく、ルールづくりも重要です。

• ディープフェイクコンテンツに対するラベリング義務や禁止範囲の明確化
• プラットフォーム上での自動生成コンテンツの扱いに関するポリシー整備
• AI開発・提供側に求められる透明性や安全性に関するガイドライン

こうした動きは国や地域によってスピードと方向性が異なりますが、共通しているのは「技術そのものを禁止するのではなく、使い方のルールを整える」という発想です。一方で、規制一辺倒になりすぎると、正当なイノベーションまで抑え込んでしまうリスクもあります。「どこまでを許容し、どこからを明確にNGとするのか」というライン引きは、今後も議論が続いていくテーマです。

ユーザー・企業が取るべき基本的な防御策（意識・運用レベル）

個人や企業ができる対策は、派手さはないものの、やはり基本に尽きます。

個人レベルでは、次のようなポイントが重要です。

• メールやSNSのリンクを安易にクリックしない
• 重要な連絡（お金・パスワード変更など）は、公式アプリや公式サイトから確認する
• 動画や音声だけを根拠にせず、「別の経路」で確認する癖をつける

企業レベルでは、次のような取り組みが求められます。

• 多要素認証やゼロトラスト的なアクセス管理の導入
• 決済や送金のフローに、「人の目による最終確認」を組み込む
• 従業員向けに、AI時代の詐欺・なりすましのパターンを教育する

地味に見えるかもしれませんが、こうした運用レベルの対策こそが、AI犯罪の多くを未然に防ぐ最後の砦になります。

「技術は中立で、使い方次第」という前提に立つ

最後に強調しておきたいのは、「AI＝悪」ではないということです。同じ技術が、攻撃にも防御にも使われます。

• 被害を早期に検知するための監視ツールとしてのAI
• ディープフェイクを検出するためのAI
• 詐欺パターンを学習し、フィルタリング精度を高めるAI

重要なのは、「どうせ悪用されるからダメだ」と投げ出すのではなく、リスクを正しく理解し、防御のためにも技術を活用し、ルールと教育で社会全体の耐性を高めていくことです。少し長い目線での付き合い方が、現実的な生存戦略になります。

まとめ――AIと犯罪をどう捉え、どう付き合うべきか

最後に、本記事の要点をいくつかのポイントに整理します。

• AIは「犯罪のコスト構造・スケール・検知難易度」を変える──特に、低コストで大量の試行錯誤ができる点が、ビジネスとしての犯罪と相性が良い。
• 生成AIは、詐欺メールや情報操作コンテンツを自然で大量に作ることを可能にした──文章が自然だからといって、内容まで正しいとは限らない。
• ディープフェイクは、「証拠の信用性」を揺るがす技術でもある──本物か偽物かだけでなく、「何もかも疑わしく見える」状態そのものがリスクになる。
• 自動化ツールとの組み合わせにより、「人手では不可能な規模の犯罪」が現実的になりつつある──成功率が低くても、試行回数と自動化でトータルの被害額が増えうる。
• 防御側もAIを活用し始めているが、最終的には「人間の運用」と「社会のルール」が鍵を握る──技術だけではなく、教育・ガバナンス・法律・プラットフォームポリシーが重要。

覚えておくべきキーワードとして、次のようなものがあります。

• 生成AI（文章・画像・音声の自動生成）
• ディープフェイク（顔・声のなりすまし）
• 自動化・ボット・ボットネット
• 異常行動検知・AIによる防御
• 信用インフラ（金融・決済・SNS・レビューなど）

犯罪経済ラボとしては、今後も「サイバー犯罪の損益分岐点：ボットネットと自動化ツールのコスト構造」「ダークウェブ経済の基礎知識：麻薬・偽造ID・個人情報が売買される匿名市場」「数字で見る犯罪経済：闇市場推計の方法と統計データの限界」「世界のマネロン・金融犯罪規制の現在地：FATF・制裁・KYCはどこまで有効か」など、関連テーマを掘り下げていく予定です。

AIと犯罪は、これからもしばらく、人類の頭を悩ませるテーマであり続けるでしょう。それでも、「よく分からないから怖い」で思考停止するのではなく、構造を理解し、リスクと付き合いながら活用していくことが現実的な選択肢だと考えています。