―― 動画生成AI時代の詐欺を、私たちはどこで見誤ったのか
動画生成AIによる詐欺が社会問題になっている。
有名人の顔、自然な声、もっともらしい言葉。
かつてなら見破れたはずの虚構が、いまや日常の風景として流通している。
多くの論調は、ここで立ち止まる。
「技術が進みすぎた」
「見分けがつかなくなった」
「生成AIは危険だ」
だが、それは本当に問題の核心だろうか。
借金を帳消しにする“裏の法律”など存在しない。
銀行が隠している“魔法の制度”などあり得ない。
それは動画生成AI以前から、誰もが知っていたはずの常識だ。
それでも人は騙される。
それでも詐欺は成立する。
そして、犠牲者は今日も生まれている。
ここで問うべきは、「映像の信頼性」ではない。
ましてや、「生成AIが悪いのかどうか」でもない。
問うべきなのは、
なぜ詐欺は、等価の裁きを受けてこなかったのか
なぜ国家は、その責任を引き受けてこなかったのか
という、ずっと先送りにされてきた問題だ。
生成AIは、この社会に突然現れた異物ではない。
それは、長年放置されてきた歪みを、
可視化してしまった“空気”にすぎない。
詐欺が人命を脅かす。
しかし詐欺師は、被害と等価の罰を負わない。
刑事と民事に分断され、
復讐権は奪われ、
救済は不完全なまま放置されてきた。
この不均衡の上に、動画生成AIが乗った。
それだけの話だ。
本稿は、生成AIを裁くためのものではない。
同時に、生成AIを擁護するためのものでもない。
ここで扱うのは、
詐欺という行為を、なぜ社会は本気で裁いてこなかったのか
その結果として、何がスケープゴートに選ばれたのか
という、主体の問題である。
動画生成AIは、引き金ではあった。
だが、銃を置き続けてきたのは、別の存在だ。
その名前を、これから一つずつ、静かに確認していく。
序章：生成AIが人を殺した、という言説
生成AIが人を殺した。
そうした言葉が、近ごろ珍しくなくなった。
有名人を装った投資広告。
もっともらしい語り口。
「銀行はこの事実を知られたくない」
「実は、借金を帳消しにする合法的な方法がある」
信じた人間は、金を失う。
老後の蓄えを失い、尊厳を失い、
やがて人生そのものを失う。
結果だけを見れば、確かに人は死んでいる。
だから、この問いは避けられない。
――生成AIは、人を殺したのか。
この問いは、感情的には理解しやすい。
新しい技術が現れ、被害が発生する。
人は原因を一つにまとめたくなる。
だが、ここで立ち止まらなければならない。
問いは本当に、正しく立てられているのか。
詐欺は、生成AIが誕生するはるか以前から存在した。
電話でも、郵便でも、テレビでも、インターネットでも、
人は騙され、人生を壊されてきた。
生成AIが登場する前から、
詐欺は人を破滅させ、命を奪っていた。
にもかかわらず、
なぜ今になって、
私たちは「技術」に罪を押し付けようとするのか。
これは、生成AIを擁護するための問いではない。
詐欺師を免罪するための問いでもない。
これは、
責任の所在を、意図的に単純化しようとする社会そのもの
への問いである。
もし本当に、生成AIが人を殺したのだとすれば、
それ以前に人を殺してきた詐欺は、
一体、何によって見過ごされてきたのか。
この問いを避けたまま、
生成AIだけを断罪することはできない。
本稿は、
「生成AIは悪か」という問いから出発し、
やがて、
国家、企業、そして国民という主体
そのものへと向かう。
感情的な断罪は行わない。
だが、逃げ道も用意しない。
静かに、構造だけを切り出していく。
第1章：詐欺はAI以前から存在していた
詐欺は、新しい犯罪ではない。
生成AIが生まれるよりも、
インターネットが普及するよりも、
さらに言えば、
現代的な金融制度が整うよりも前から存在してきた。
電話一本で騙される。
郵便一通で人生が狂う。
テレビに映った人物を信じて金を失う。
そのたびに、人は言った。
「自分は大丈夫だ」
「騙されるほうが悪い」
だが、被害はなくならなかった。
形を変え、媒体を変え、
詐欺は常に社会の内部に存在し続けてきた。
重要なのは、
詐欺が存在していたことではない。
詐欺が存在し続けることを、社会が許容してきたことだ。
被害者は、常に個別に扱われた。
「気の毒だが、自己責任だ」
「注意不足だった」
「世の中には悪い人がいる」
こうして詐欺は、
社会問題ではなく、
個人の失敗として処理されてきた。
制度は、
詐欺を“犯罪”としては扱った。
だが同時に、
人生を破壊する行為としては扱わなかった。
刑事罰はある。
だがそれは、
国家秩序を守るためのものだ。
被害者の人生がどうなったか、
老後の設計がどう崩れたか、
尊厳がどこまで踏みにじられたかは、
制度の関心外に置かれてきた。
ここで一つ、冷静な事実を確認しておく必要がある。
生成AIが登場する以前から、
詐欺は人を破滅させ、
人を追い詰め、
そして命を奪ってきた。
この事実を認めない限り、
生成AIをめぐる議論は、
最初から歪む。
生成AIが現れたことで、
詐欺が「初めて」人を殺すようになったのではない。
殺してきた詐欺が、
ようやく可視化されただけだ。
にもかかわらず、
社会は今、こう語ろうとしている。
「生成AIが悪い」
「危険な技術が、人を殺した」
この語りは、分かりやすい。
そして、都合がいい。
なぜならそれは、
長年見ないふりをしてきた問題を、
一気に外部化できるからだ。
詐欺そのものではない。
制度でもない。
社会でもない。
――技術が悪い。
だが、その瞬間、
問いはすり替えられている。
本当に問われるべきなのは、
なぜ詐欺がこれほど長く、
「軽い犯罪」として扱われてきたのか、
という点だからだ。
この問いを回避したまま、
生成AIだけを断罪することはできない。
第2章：生成AIが「悪」に見える理由
生成AIが登場して以降、
詐欺の様相は明らかに変わった。
語りは滑らかになり、
映像は説得力を持ち、
登場人物は「信じてよい顔」をしている。
これは偶然ではない。
生成AIは、人を騙すために作られたわけではない。
だが、人を信じさせるための要素を、
ほぼ完全に内包している。
・権威ある話し方
・感情を刺激する構成
・理解しやすい物語
・反論を封じる論調
これらは、
教育にも、広告にも、娯楽にも使われる。
そして当然、詐欺にも使える。
ここで重要なのは、
生成AIが「新しい悪」を生み出したのではない、という点だ。
生成AIがしたのは、
既存の詐欺の成功率を跳ね上げたことに尽きる。
詐欺師にとって、
最大の障壁は「信用」だった。
- 有名人を名乗るには、顔が要る
- 専門家を装うには、語彙が要る
- 説得には、時間と試行錯誤が要る
生成AIは、
これらのコストをほぼゼロにした。
結果として何が起きたか。
詐欺は、
巧妙になったのではない。
大量生産可能になった。
生成AIがもたらした変化は、詐欺の「質」ではない。
「供給量」だ。
詐欺は、より巧妙になったのではない。
失敗を恐れず、無数に投下できるものになった。
成功率が低くても構わない。
人が考える前に、次の詐欺が流れてくる。
これは犯罪の進化ではない。
犯罪の工業化である。
これは、社会にとって致命的な変化だ。
なぜなら、
詐欺は確率の犯罪だからだ。
千人に一人でも騙せれば、
成立する。
一万人に一人なら、なおさらだ。
生成AIは、
この「試行回数」の壁を取り払った。
ここで、
多くの議論が誤った方向に進む。
「だから生成AIは危険だ」
「だから規制すべきだ」
だが、この結論は早すぎる。
なぜなら、
同じことは、リアルな映像でも起こりうるからだ。
巧妙に編集された動画。
台本通りに喋る俳優。
プロが作った広告。
それらと、
生成AIによる動画の間に、
本質的な差はない。
違いがあるとすれば、
誰でも、安価に、無制限に作れる
という点だけだ。
つまり、
生成AIは「悪」なのではない。
社会がこれまで、
“説得力の暴力”に対して
あまりにも無防備だった
という事実を、露わにしただけだ。
それでもなお、
人は生成AIを責めたくなる。
なぜか。
それは、
生成AIが「説明しやすい悪」だからだ。
- 新しい
- 目に見える
- 技術という言葉で括れる
これらはすべて、
責任を一箇所に集約するのに都合がいい。
だが、その瞬間、
本来問われるべきものが、
視界から消える。
詐欺を成立させてきた社会の構造。
被害を個人に押し付けてきた制度。
そして、
それを是正しなかった主体。
生成AIは、
そのすべてを照らす光源になったにすぎない。
光を憎んでも、
影は消えない。
第3章：ハンムラビ法典という起点
―― 復讐権を国家に委譲した瞬間
法が存在しなかった時代、
被害は被害者自身が晴らした。
奪われたなら奪い返す。
傷つけられたなら、より深く傷つける。
それは正義でも秩序でもなく、
終わりのない連鎖だった。
この連鎖を断ち切るために生まれたのが、
法という装置である。
その象徴が、
古代メソポタミアに刻まれた
ハンムラビ法典だ。
「目には目を、歯には歯を」
この言葉は、
しばしば野蛮な復讐の肯定として語られる。
だが、歴史的にはまったく逆の意味を持つ。
それは、
復讐を解禁した言葉ではない。
復讐を制限した言葉だった。
それ以上やるな。
奪われた以上のものを奪うな。
怒りに任せて殺し合うな。
ハンムラビ法典は、
こう宣言したのである。
そして同時に、
もう一つの重大な転換を行った。
復讐権を、個人から国家へと移した。
ここにおいて国家は、
単なる統治機構ではなくなった。
国家はこう約束した。
お前の怒りは、私が引き受ける。
お前の代わりに、裁く。
しかも、それは恣意ではなく、
等価で、公平な裁きである。
この約束が、
法の正当性の根幹である。
重要なのは、
国家が暴力を独占したことではない。
国家が、
被害者の感情と復讐衝動を
制度として引き受けたことだ。
ここで初めて、
私刑は否定され、
法による裁きが正当化された。
この構造は、
二千年以上を経た現代でも変わらない。
国家が刑罰を科す理由は、
秩序維持のためだけではない。
本来は、
被害者が自ら復讐に走らなくて済むようにするため
でもあった。
だからこそ、
裁きには一つの条件が課される。
それは、
被害と裁きの間に、
等価性が感じられることだ。
もしこの等価性が失われたとき、
何が起きるか。
被害者は、
裁かれたという実感を得られない。
国家が復讐権を奪ったにもかかわらず、
その代替を提供しないなら、
法は空洞化する。
この地点で、
私刑願望が生まれ、
厳罰論が台頭し、
社会は不安定化する。
ここまでが、
ハンムラビ法典が現代に残した
重い問いである。
そして次章では、
この問いに対して、
現代社会がどう答えられていないか
を、正面から扱う。
詐欺という犯罪が、
なぜこの構造破綻を最も露骨に示すのか。
第4章：現代詐欺法制という契約違反
現代国家は、
復讐権を個人から奪ったまま、
それを完全に代行できていない。
この欠陥が、
もっとも露骨に現れる犯罪が、詐欺である。
詐欺は刑法犯だ。
警察が捜査し、検察が起訴し、
裁判所が量刑を決める。
だが、ここで一つ確認しておく必要がある。
刑事裁判の当事者は、国家と被告人であって、
被害者ではない。
被害者は、
制度上「参考人」であり、
裁きの主体ではない。
刑事罰は、
社会秩序を乱したことへの制裁であり、
被害者の人生を回復するためのものではない。
では、被害者はどこで救済されるのか。
――民事だ。
損害賠償請求。
不法行為に基づく請求。
理屈の上では、
被害は金銭で填補されることになっている。
だが、ここで現実が顔を出す。
詐欺師は、
すでに金を使い切っているか、
隠しているか、
破産している。
勝訴しても、
金は戻らない。
時間だけが奪われ、
精神だけが削られ、
人生の再建は被害者自身に委ねられる。
つまり現代の制度は、
こうなっている。
- 国家は復讐権を奪った
- だが、等価の裁きを提供していない
- 被害回復は「自己努力」に任せている
これは、
ハンムラビ法典以来の約束から見れば、
明確な契約違反だ。
国家はこう言ってきたはずだ。
私刑は認めない
その代わり、
公平で、納得可能な裁きを行う
しかし詐欺において、
この約束は守られていない。
被害者が失うのは、
金だけではない。
- 老後の計画
- 社会的信用
- 自尊心
- 人間関係
- そして、生きる意味
だが制度は、
それらを評価しない。
「金銭被害」として処理し、
回収不能なら、そこで終わりだ。
ここに、
決定的な非対称がある。
詐欺は、
人生を破壊する犯罪であるにもかかわらず、
制度上は、
軽量な犯罪として扱われ続けてきた。
この事実を直視しない限り、
どれほど厳しい言葉で
生成AIを非難しても、
問題は解決しない。
なぜなら、
詐欺を“成立させてきた構造”が、
まったく変わっていないからだ。
次章では、
なぜこの構造が放置されてきたのか、
そして、
なぜ「等価の罰」を導入できないのか
その理由を、真正面から扱う。
ここが、
多くの議論が踏み込めない地点だ。
第5章：なぜ等価の罰が与えられないのか
詐欺に対して、
被害と等価の罰を与える。
この発想自体は、
突飛でも過激でもない。
むしろ、法の原点に忠実だ。
それにもかかわらず、
現代社会はこれを制度化できていない。
なぜか。
理由は、技術的困難でも、
人道的配慮でもない。
等価の罰を導入すると、
社会の上層が危険にさらされるからだ。
この事実から、
目を背けてはならない。
詐欺という犯罪は、
例外的な行為ではない。
金融、広告、営業、投資、勧誘。
これらはすべて、
「期待を操作する」行為を含んでいる。
- 将来の利益を強調する
- リスクを過小評価する
- 不利な情報を後景に退ける
これらは、
日常的に行われている。
ここに、
明確な線を引くと何が起きるか。
どこからが詐欺で、
どこまでが許容される誘導なのか。
この問いに、
国家は明確な答えを出してこなかった。
なぜなら、
明確な線を引けば、
その線は必ず、
権力と資本の足元を切るからだ。
等価の罰とは、
単に刑罰を重くすることではない。
「奪ったものと同じ重さを、
社会的に失わせること」を意味する。
詐欺で人生を破壊したなら、
その影響は、
加害者の人生にも及ぶ。
この原則を徹底すると、
何が起きるか。
- 大規模な誤認表示
- 意図的な情報操作
- 組織的な責任回避
これらも、
等価性の射程に入る。
つまり、
「一部の悪質な詐欺師」だけでは済まなくなる。
制度は、
社会の中枢にまで刃を届かせることになる。
現代国家は、
この事態を避けてきた。
その結果、
詐欺はこう扱われる。
- 悪質だが例外的
- 気の毒だが自己責任
- 制度全体の問題ではない
この扱いは、
社会の安定を保つ代わりに、
被害者を切り捨てる選択だ。
ここで、
一つの逆説が生まれる。
等価の罰を与えないことこそが、
詐欺を量産する土壌になっている。
奪っても、
人生は失わない。
捕まっても、
数年で戻れる。
破産すれば、
金銭的責任は消える。
この構造の上に、
生成AIという加速装置が乗った。
だから詐欺は爆発的に増え、
人は死に、
社会は混乱する。
だが、
原因は生成AIではない。
等価性を放棄した制度だ。
ここまで来れば、
次に問われるのは一つしかない。
この制度の隙間で、
誰が利益を得たのか。
次章では、
その問いに答える。
第6章：AI企業の責任
――「時代の流れ」という免罪符
生成AIをめぐる議論では、
AI企業はしばしばこう語る。
技術の進歩は止められない。
競争が激しい。
悪用は一部の例外だ。
社会とともに学び、調整していく。
これらの言葉は、穏健で、理性的で、
一見すると誠実に見える。
だが、ここで問われるべきは、
それが事実かどうかではない。
それが責任を免ずる理由になるかどうかだ。
結論から言えば、ならない。
AI企業は、生成AIの危険性を
誰よりも早く理解していた当事者である。
- 権威の偽装が可能であること
- 説得力の自動生成ができること
- 弱者が標的になりうること
これらは、
公開後に発覚した問題ではない。
研究段階、デモ段階、
社内議論の時点で、すでに認識されていた。
それでも企業は、
速度を落とさなかった。
理由は単純だ。
止める理由がなかったからではない。
止めると負けると分かっていたからだ。
競合が出す。
市場が求める。
投資家が待っている。
この状況下で、
「時代の流れ」という言葉は、
非常に便利な免罪符になる。
だが、ここで線を引かなければならない。
自然災害と、経営判断は違う。
生成AIの展開速度、
APIの開放範囲、
利用制限の設計、
収益化の優先順位。
これらはすべて、
人間による意思決定だ。
AI企業は、
国家が詐欺に対して
等価の罰と回復を用意できていないことを、
知っていた。
被害は、
最終的に個人が引き受ける。
国家は、
秩序維持以上のことはしない。
この構造を理解した上で、
技術を加速させたのなら、
それは「不運」ではない。
計算された無責任だ。
ここで重要なのは、
AI企業を「悪の主体」として
単純化しないことだ。
AI企業は、
詐欺師ではない。
直接、人を騙してはいない。
だが同時に、
無関係でもない。
正確に位置づけるなら、
こうなる。
AI企業は、
国家が果たしていない約束を
自らの利益のために利用した共犯者である。
国家が線を引かない。
制度が被害を回復しない。
ならば、
技術はどこまで進めても大丈夫だ。
この暗黙の了解の上で、
生成AIは社会に放たれた。
その結果、
矛先は企業ではなく、
技術そのものへと向かう。
生成AIが「悪」と呼ばれ、
企業は「中立」を装い、
国家は「規制」を検討する。
だが、
ここでもまた、
本質は後景に退く。
危険を知りながら拡散した責任と、
それを許容した社会構造は、
曖昧なまま残される。
次章では、
このすべてが交差する地点を扱う。
なぜ、
生成AIが真っ先に
スケープゴートにされたのか。
それは偶然ではない。
第7章：スケープゴートとしての生成AI
社会が混乱するとき、
必ず起きる現象がある。
原因の単純化だ。
複雑で、長年放置され、
誰の責任か分からなくなった問題は、
そのままでは扱えない。
だから社会は、
「分かりやすい悪」を探す。
生成AIは、
この条件をほぼ完璧に満たしていた。
- 新しい
- 可視的
- 技術という言葉で括れる
- 反論しない
- 叩いても社会的コストが低い
詐欺で人が死んだ。
被害者が救われない。
国家は機能していない。
企業は責任を曖昧にする。
この全てを一度に説明するのは、難しい。
だが、
「生成AIが悪い」と言えば、
話は終わる。
この瞬間、
社会は安堵する。
問題を理解した気になる。
怒りの矛先が定まる。
行動したつもりになれる。
だが、その代償として、
本来向けられるべき問いは消える。
- なぜ詐欺は軽く扱われてきたのか
- なぜ被害回復は制度化されないのか
- なぜ等価の罰を導入できないのか
- なぜ企業の判断は問われないのか
これらはすべて、
生成AIという言葉の背後に隠れる。
スケープゴートとは、
単なる身代わりではない。
集団が、自分自身を問わないための装置だ。
生成AIを断罪することで、
国家は自らの契約違反を問われずに済む。
企業は、
「時代の流れ」に乗っただけだと言える。
国民は、
「危険な技術を規制しろ」と叫びながら、
自らの沈黙を振り返らずに済む。
こうして、
誰もが少しずつ救われ、
誰もが本質から遠ざかる。
だが、
スケープゴートにされた技術は、
ただの鏡にすぎない。
そこに映っているのは、
長年積み重ねてきた怠慢と、
引き受けなかった責任だ。
鏡を割っても、
映っているものは消えない。
ここまで来れば、
最終章で扱うべき主体は、
もはや明らかだ。
国家でも、
企業でも、
技術でもない。
それらを許容してきた主体だ。
終章：主体の選択、あるいは放棄の帰結
国家は、
国民の代理人である。
AI企業は、
国民が許容した経済主体である。
生成AIは、
国民が使い、消費し、拡散した技術である。
この単純な事実から、
目を背けてはならない。
国家が動かなかったのは、
動かす圧力がなかったからだ。
詐欺が軽く扱われてきたのは、
それを問題として問い続けなかったからだ。
AI企業が倫理の際を見て見ぬふりをしたのは、
それを許容する市場と社会があったからだ。
ここにあるのは、
悪意ではない。
選択、あるいは放棄である。
選ばなかった。
問わなかった。
考えなかった。
その結果として、
制度は空洞化し、
技術は暴走し、
被害者は孤立した。
生成AIは、
その帰結を一気に可視化したにすぎない。
だからこそ、
生成AIを止めても、
問題は終わらない。
別の技術が、
別の形で、
同じ構造を露わにするだけだ。
必要なのは、
技術の断罪ではない。
主権者としての自覚だ。
復讐権を国家に委ねた以上、
その代行が果たされているかを
問い続ける責任がある。
等価の裁きがなされているか。
被害者が救われているか。
制度は約束を守っているか。
それを問うのをやめたとき、
社会は必ず、
別のスケープゴートを必要とする。
生成AIは、
たまたま最初に差し出された鏡だった。
だが、
鏡を叩いても、
映っているものは消えない。
