AIが書いた文章に、見えない印が付く。
2026年8月、そんな時代が本当に始まった。
EU AI ActのArticle 50に定められた、AI生成コンテンツに対する透明性義務が8月2日に適用開始された。
生成AIの提供者には、AIによって生成または加工されたコンテンツを機械が検出できる形でマーキングすることが求められる。
対象は画像や動画だけではない。
テキストも含まれる。
そして、この動きに呼応するように、AnthropicはClaudeが生成する文章へ「見えない透かし」を埋め込む仕組みを導入した。
文字の隅に小さく「Made by Claude」と書かれるわけではない。
文章を生成するときの単語選択に統計的な偏りを与え、人間には自然な文章として読める一方、専用の仕組みを使えば「Claudeによって生成された可能性」を検出できるようにする。
コピーしても消えない。
多少編集しても残る。
少なくとも、それを目指した技術である。
EUが掲げる目的も理解できる。
生成AIによる偽情報、ディープフェイク、なりすまし、世論操作。
AIが人間と区別できないコンテンツを大量生産できるようになった以上、「これはAIによって作られたものです」と識別できる仕組みを用意しようという発想には、それなりの合理性がある。
だが、このニュースを見ていて、私は別のところで引っかかった。
AIが書いたことを見破って、それで何が分かるのだろう。
その文章が正しいことは分からない。
間違っていることも分からない。
質が高いことも分からない。
低品質であることも分からない。
誰かを騙そうとしているのかも分からない。
誠実に調査された文章なのかも分からない。
分かるのは、ただ一つ。
AIが関与したらしい。
それだけである。
AI Slopという便利な言葉
生成AIが普及して以来、「AI Slop」という言葉が使われるようになった。
Slopとは、もともと残飯や泥水のようなものを意味する。
大量生成された低品質なAIコンテンツ。
どこかで見たような文章。
意味もなく長い説明。
同じ内容の繰り返し。
妙に整っているのに、何も言っていない文章。
SNSを埋め尽くす奇妙な画像や動画。
検索結果を占領する、誰の経験にも基づいていない記事。
それらをまとめて「AI Slop」と呼ぶのは、実に便利だった。
そして、少し前まではかなり正確でもあった。
初期の生成AIには、分かりやすい癖があったからだ。
同じ表現を繰り返す。
与えられたキーワードへ執拗に戻る。
結論を何度も言い直す。
必要以上に箇条書きを使う。
文章は整っているが、妙に無機質である。
もっともらしい説明をしながら、平然と事実を間違える。
読んでいると、
「ああ、AIが書いたな」
と分かる。
そして、その直感はしばしば、
「だから読む価値もあまりないだろう」
という判断とも一致した。
ここに、一つの暗黙の等式が成立していた。
AIが作ったもの ≒ 低品質なもの。
AI Slopという言葉は、この等式の上に成立していたのである。
ところが、その前提が崩れ始めた。
AIが、上手くなってしまったからだ。
文章は自然になった。
長い論考でも論旨を維持できるようになった。
資料を検索し、比較し、引用しながら書ける。
人間との対話を通じて論点を掘り下げ、反論を取り込み、構成を変更し、推敲することもできる。
人間が書いた粗悪な文章より、AIが書いた優れた文章のほうが読み応えがある。
そんな逆転は、もう珍しくない。
すると奇妙なことが起きる。
「AIが書いた」という事実と、「読む価値がない」という評価が、分離する。
AI Slopという言葉を成立させていた等式が、壊れるのである。
それなのに私たちは今、その「AIが書いた」という事実を、以前より正確に見分けようとしている。
文章に透かしまで入れて。
ここで一度、問い直してみたい。
私たちが本当に見分けたかったものは、
AIだったのだろうか。
AI Slopが成立した時代
AI Slopという言葉が間違っていたわけではない。
むしろ、登場した当時には必要な言葉だったと思う。
生成AIによって、それまでとは比較にならない量のコンテンツを、ほとんどコストをかけずに生産できるようになった。
ブログ記事を100本書く。
商品レビューを1000件作る。
SNSへ毎日何百件も投稿する。
同じ内容を言い換えて、別の記事として公開する。
画像を大量生成して、動画にして、音声を付ける。
人間がやれば膨大な時間と労力が必要だった作業が、生成AIによって一気に安くなった。
そこで起きたのは、単なる「AIコンテンツの増加」ではない。
低品質コンテンツを作るコストの崩壊だった。
ここが重要である。
低品質なコンテンツは、AI以前から存在した。
検索エンジン向けに水増しされたSEO記事。
他の記事を薄く言い換えただけのまとめ記事。
商品を使ったこともない人間が書く比較記事。
アクセスだけを目的にした扇情的なタイトル。
中身のないプレスリリースの転載。
SNSのデマ。
チェーンメール。
スパム。
人間は、生成AIが登場するはるか以前からSlopを作っていた。
ただし、人間には弱点があった。
遅かったのである。
文章を書くには時間がかかる。
画像を作るにも時間がかかる。
翻訳にも時間がかかる。
大量のアカウントを別人格として運用するにも人手がいる。
どれほど質の低い情報であっても、それを生産するためには人間の時間という有限の資源を消費しなければならなかった。
生成AIは、その制約を壊した。
AIが発明したのはSlopではない。
Slopの大量生産である。
この意味で、「AI Slop」という言葉は正しかった。
問題だったのはAIが文章を書いたことではない。
粗悪な情報を、ほとんど限界費用なしに生産できる装置が登場したことだった。
ところが、いつの間にか話が少しずつ変わっていった。
「AIによって低品質コンテンツが大量生産される」
という問題が、
「AIによって作られたコンテンツは低品質である」
という話へ変わった。
似ているようで、まったく違う。
前者が問題にしているのは生産構造である。
後者が問題にしているのは生成主体である。
この二つを混同した瞬間から、AI Slopという言葉は少しずつおかしくなった。
AIは原因ではなく、増幅器だった
生成AIを取り除いて考えてみると、このことはよく分かる。
嘘を人間が書いたら、それは嘘である。
AIが書いても、嘘である。
詐欺師が自分で文章を書けば、詐欺である。
生成AIに書かせても、詐欺である。
人間が中身のないSEO記事を100本書けば、低品質コンテンツである。
AIが100秒で作っても、低品質コンテンツである。
逆も同じだ。
人間が一次資料を調べ、事実を確認し、論理を積み上げて書いた文章には価値がある。
AIが一次資料を調べ、事実を確認し、人間との対話を通じて論理を積み上げた文章も、その成果物だけを評価するなら、同じ基準で判断されるべきだろう。
ここには不思議なことなど何もない。
包丁で素晴らしい料理を作ることもできれば、人を傷つけることもできる。
コピー機で学術論文を複製することもできれば、偽造文書を作ることもできる。
インターネットで知識を共有することもできれば、デマを世界中へばらまくこともできる。
技術は、使われ方によって異なる結果を生む。
生成AIだけが例外である理由はない。
ただし、AIには従来の道具とは決定的に違う特徴がある。
増幅率が異常に大きい。
一人の人間が、一日に書ける文章には限界がある。
AIにはない。
一人の詐欺師が同時に相手できる人数には限界がある。
AIを使えば、その限界を押し広げられる。
一人の工作員が運営できる人格には限界がある。
AIなら、それらしい人格を大量に作り、それぞれ異なる口調で発言させることさえできる。
生成AIが恐ろしいのは、悪を発明したからではない。
人間が昔から持っていた悪意、怠惰、欺瞞、扇動を、工業化できるようにしたからだ。
これは軽視できる問題ではない。
むしろ深刻である。
しかし、だからこそ原因を取り違えてはいけない。
増幅器を取り外しても、元の信号は残る。
嘘は残る。
詐欺は残る。
低品質コンテンツも残る。
そして逆に、増幅器から出てくるものがすべて悪いわけでもない。
知識も増幅できる。
教育も増幅できる。
翻訳も増幅できる。
創作も増幅できる。
一人の人間が持つ思考力や表現力さえ、増幅できる。
つまり、AIというラベルだけを見ても、
そこから出てきた情報の価値については、何も分からない。
ここで、冒頭の透かしへ話が戻ってくる。
私たちは今、その増幅器を通った情報に印を付けようとしている。
だが、本当に知りたいのは、
増幅器を通ったかどうかだったのだろうか。
透かしが証明できるもの
AI生成コンテンツへの透かしには、もちろん意味がある。
少なくとも、生成経路を追跡するための手掛かりにはなる。
ある画像が生成AIによって作られた。
ある音声がAIによって合成された。
ある文章が特定の生成AIを経由している。
そうした来歴を機械的に確認できることには、一定の価値がある。
問題は、その先である。
それが分かったところで、コンテンツの中身について何が分かるのか。
たとえば、ここに二つの記事があるとする。
一つは、人間が書いた記事だ。
取材はしていない。
一次資料も読んでいない。
検索上位の記事をいくつか読み、それらしい内容をつなぎ合わせた。
刺激的なタイトルを付け、アクセスを集めるために公開した。
透かしはない。
もう一つは、AIを使って書かれた記事だ。
一次資料を与えた。
複数の資料を比較した。
数字を確認した。
人間がAIと議論し、矛盾を指摘し、構成を練り直し、最後に全体を確認した。
こちらには透かしがある。
さて。
どちらを読むべきだろう。
透かしは、この問いには答えてくれない。
AIが関与したことは教えてくれる。
しかし、取材したかどうかは教えてくれない。
資料を読んだかどうかも分からない。
論理が正しいかも分からない。
引用が適切かも分からない。
悪意があるかも分からない。
そして何より、
真実かどうかは分からない。
透かしとは、品質保証マークではない。
危険表示でもない。
ファクトチェックでもない。
それは、生成経路についての情報にすぎない。
ところがAIをめぐる議論では、この異なる問題が奇妙なほど接近して扱われる。
AI生成である。
だから注意しなければならない。
AI生成である。
だから信頼性を確認しなければならない。
AI生成である。
だから人間が書いた情報と区別しなければならない。
もちろん、AIは間違える。
存在しない事実を作ることもある。
しかし、人間も間違える。
人間は嘘もつく。
しかも人間には、AIにはない能力まである。
意図的に嘘をつく能力である。
それでも、人間が書いた文章に「Human Generated」という透かしを義務付けようという話にはならない。
なぜなら私たちは昔から知っているからだ。
人間が書いたという事実は、その文章の信頼性を何ひとつ保証しない。
ならば、AIについても同じところまで認識を進める時期が来ているのではないか。
AIに透かしを入れても、嘘には透かしが入らない
ここで、透かし技術そのものを否定するつもりはない。
生成元を確認する必要がある場面は存在する。
選挙期間中に政治家の偽動画が流れた。
実在人物の顔を使ったポルノ画像が作られた。
本人そっくりの声で電話がかかってきた。
企業のCEOが存在しない発表をしている動画が拡散された。
こうした場面では、コンテンツの来歴を確認する仕組みは有用だろう。
ただし、ここでも注意が必要である。
悪意を持つ人間は、
「これはAI生成です」と親切に知らせるためにAIを使っているわけではない。
むしろ逆である。
AI生成であることを隠したいから使う。
透かしを除去できるなら除去する。
検出を回避できるモデルがあるなら使う。
規制されていないサービスがあるなら移動する。
自前でモデルを動かせるなら、そこへ行く。
犯罪者が利用規約を守ってくれることを前提にした犯罪対策など成立しない。
そして、ここに透かしという発想の奇妙な非対称性が現れる。
ルールを守るAI企業は透かしを入れる。
ルールを守る利用者は、それを受け入れる。
正規のサービスから生成されたコンテンツには、生成元を示す印が残る。
一方で、本当に生成元を隠したい人間ほど、その仕組みから逃れようとする。
もちろん、だから透かしが無意味だということではない。
完全な防犯技術など存在しない。
鍵が破られることがあるからといって、玄関の鍵が無意味になるわけではない。
しかし少なくとも、
透かしがあることと、そのコンテンツが危険であることを混同してはいけない。
同時に、
透かしがないことと、そのコンテンツが安全であることも混同してはいけない。
ここを取り違えると、本当に見るべきものを見失う。
AIによって生成された、完全に正しい文章には透かしを付けられる。
人間が書いた、完全な嘘には何も付かない。
AIを一切使わずに作られた詐欺メールにも付かない。
人間が意図的に編集したプロパガンダにも付かない。
何十年も前から存在する陰謀論にも付かない。
つまり私たちは、
危険そのものではなく、危険を作るためにも使える道具へ印を付けようとしている。
この違いは小さくない。
AIに透かしを入れることはできる。
だが、
嘘には透かしを入れられない。
詐欺にも入れられない。
扇動にも入れられない。
低品質にも入れられない。
なぜなら、それらはファイル形式でも生成方式でもないからだ。
それらを見分けるには、結局コンテンツを見るしかない。
根拠を見る。
出典を見る。
論理を見る。
意図を見る。
そして必要なら、疑う。
面倒である。
非常に面倒である。
だが人類は、生成AIが登場する以前からずっと、
その面倒な作業によって情報の信頼性を判断してきた。
AIの登場によって、その原則まで変わったわけではない。
情報の門番が消えた世界
では、なぜ私たちはこれほどまでに、
「誰が作ったのか」
を知りたがるのだろう。
ここには、生成AIよりはるかに古い問題がある。
インターネットが登場する以前、大量の情報を社会へ届けることができる主体は限られていた。
新聞。
テレビ。
ラジオ。
出版社。
通信社。
もちろん、そこから流れる情報が常に正しかったわけではない。
誤報もあった。
偏向もあった。
プロパガンダもあった。
権力との癒着もあった。
しかし、それでも一つの重要な特徴があった。
誰が発信したのかが分かった。
新聞記事なら新聞社がいる。
テレビ番組なら放送局がいる。
書籍なら出版社がいる。
そこには編集者がいて、責任者がいて、企業名があり、所在地がある。
間違えれば訂正を求められる。
名誉を傷つければ訴えられる。
重大な誤報を繰り返せば信用を失う。
完全ではない。
それでも、情報には発信主体と責任主体が結び付いていた。
そして何より、大量の情報を社会へ流通させるには相応の設備と資本が必要だった。
印刷機がいる。
放送設備がいる。
記者がいる。
編集者がいる。
販売網がいる。
電波がいる。
情報の大量流通には巨大なボトルネックが存在した。
そのボトルネックを握る者が、社会の情報流通を握っていた。
インターネットが壊したもの
インターネットは、その構造を破壊した。
誰でも文章を公開できる。
誰でも写真を公開できる。
誰でも世界へ向けて発信できる。
巨大な印刷機も放送局も必要ない。
個人のWebサイト一つあればいい。
やがてブログが登場した。
SNSが登場した。
動画配信が登場した。
スマートフォンが登場した。
ついには、一人の人間が自宅から発信した情報が、一夜にして何百万人へ届くようになった。
人類史上、おそらくこれほど急激に「出版する権利」が民主化された時代はない。
それは素晴らしい変化だった。
権力を持たない人間が告発できる。
少数派が声を上げられる。
専門家がメディアを介さず直接説明できる。
災害現場から市民自身が情報を発信できる。
巨大メディアが無視した出来事を、個人が世界へ知らせることもできる。
だが、当然ながら同じ能力は別のものにも使われた。
デマ。
誹謗中傷。
陰謀論。
扇動。
偽情報。
詐欺。
プロパガンダ。
インターネットは真実だけを民主化したわけではない。
嘘をつく権利まで民主化した。
しかも、かつて存在した門番はもういない。
新聞社のデスクを通す必要はない。
出版社の編集会議もない。
放送局の考査もない。
今日作った匿名アカウントから、今すぐ世界へ発信できる。
情報を管理する側から見れば、これは途方もない変化だったはずだ。
かつてなら、大量の情報を流す主体を見ていればよかった。
今は違う。
数億人が発信者である。
しかも国境を越えている。
誰がどこから発信しているのかさえ分からない。
インターネットが社会へもたらした最大の変化の一つは、
情報流通の制御不能化だった。
そして、その状態が約30年続いた。
それでも人間は遅かった
ただし、インターネットにも最後の制約が残っていた。
人間である。
一人の人間が一日に書ける文章には限界がある。
一人が投稿できる動画にも限界がある。
百人の人格を演じ続けるのは難しい。
百の言語で自然な文章を書くことはもっと難しい。
何千人もの相手に、それぞれ異なる内容で同時に話しかけることなどできない。
インターネットは情報の流通コストを破壊した。
しかし、情報そのものを作る生産コストは、まだ残っていたのである。
生成AIは、そこへ現れた。
文章を作る。
画像を作る。
声を作る。
動画を作る。
翻訳する。
要約する。
相手に合わせて言葉を変える。
別の人格として会話する。
しかも疲れない。
ここで、インターネット革命の最後のピースが埋まった。
インターネットが、
情報流通力を民主化した。
SNSが、
情報拡散力を民主化した。
そして生成AIが、
情報生産力を民主化した。
これまで別々だった三つの能力が、一人の人間の手に入った。
だから、AIによる情報問題が突然生まれたように見える。
だが実際には、30年前から続いていた変化が最後の加速装置を手に入れただけなのかもしれない。
透かしは失われた「出所」を取り戻せるか
こう考えると、AI透かしという発想も違って見えてくる。
単なるAI検出技術ではない。
インターネットによって失われた、
「この情報はどこから来たのか」
という可観測性を取り戻そうとする試みでもある。
その欲求自体は理解できる。
発信者が分からない。
生成者も分からない。
本物か偽物かも分からない。
しかも無限に作れる。
そんな情報空間を前にすれば、せめて生成経路だけでも追跡可能にしたいと考えるのは自然である。
しかし、ここでまた同じ問題にぶつかる。
AI以前から存在する嘘には、何も付かない。
匿名の人間が書いた偽情報にも付かない。
意図的に透かしを回避した生成物にも付かない。
一方、正規のAIサービスを使って誠実に作られたコンテンツには印が付く。
つまり透かしによって取り戻せるのは、
情報の信頼性ではなく、情報の来歴の一部分にすぎない。
これは重要な情報である。
だが、それ以上の意味を与えた瞬間に危うくなる。
「AIが作った」というラベルは、
「信用してはいけない」というラベルではない。
「人間が作った」という事実も、
「信用してよい」という証明ではない。
私たちは、インターネット以前の世界へ戻ることはできない。
情報の門番を復活させることも、おそらくできない。
そしてAIによって、一人の人間が巨大な情報生産能力を持つ世界も始まってしまった。
ならば必要なのは、
誰が作ったかだけで情報を分類する新しい門番ではない。
もっと厄介で、もっと面倒な問いである。
その情報は、
何を根拠にしているのか。
「AI」という形容詞の賞味期限
私たちは今、あらゆるものに「AI」という言葉を付けている。
AI文章。
AI画像。
AI動画。
AIニュース。
AI検索。
AI詐欺。
AIフェイク。
そして、
AI Slop。
新しい技術が登場した直後には、これは自然なことだ。
それまで存在しなかったものを区別するためには、名前が必要になる。
「これは人間が書いた文章ではない」
「これはカメラで撮影した画像ではない」
「これは本人が話した音声ではない」
その違い自体がニュースだった。
だから「AI」という接頭辞には意味があった。
しかし、技術が社会へ浸透すると、こうした区別は少しずつ意味を失っていく。
かつて「デジタル写真」という言葉があった。
デジタルカメラが珍しかった時代には、フィルム写真と区別する意味があった。
今、スマートフォンで撮った写真をわざわざ「デジタル写真」と呼ぶ人はほとんどいない。
電子メールもそうだった。
「電子」であることが新しかったから、その名前が付いた。
今ではメールと言えば電子メールである。
技術は普及すると、名前から消える。
特別なものではなくなるからだ。
生成AIも、いずれ同じ道をたどるだろう。
文章を書く。
写真を加工する。
翻訳する。
資料を探す。
構成を考える。
誤字を直す。
図を作る。
動画を編集する。
こうした作業の途中にAIが入ることが当たり前になれば、
「AIを使ったか」
という問いそのものが、だんだん曖昧になっていく。
一文字でもAIに直してもらったらAI文章なのか。
構成だけ相談したらどうなのか。
検索だけAIに任せたら。
翻訳だけなら。
文章は人間が書き、AIが校正したら。
人間が取材し、AIが整理したら。
AIが草稿を書き、人間が全面的に書き直したら。
人間とAIが何時間も議論しながら、一文ずつ作ったら。
どこからがAIで、
どこまでが人間なのだろう。
この境界線は、AIの性能が上がるほど明確になるのではない。
むしろ消えていく。
問題は誰が作ったかではない
そこで、もっと単純なところへ戻ってみる。
文章なら、文章を評価すればいい。
正しいのか。
根拠があるのか。
論理は通っているのか。
独自の情報があるのか。
誰かの文章を盗んでいないか。
読者を意図的に騙そうとしていないか。
間違いが見つかったとき、誰が責任を負うのか。
これらはすべて、AI以前から文章を評価するときに使われてきた基準である。
そして奇妙なことに、
生成AIが登場したからといって、一つも古くなっていない。
むしろ重要になった。
情報を大量生産できるようになったからこそ、根拠が重要になる。
もっともらしい文章を誰でも作れるからこそ、出典が重要になる。
文章だけでは専門性を判断しにくくなったからこそ、一次情報へ遡れることが重要になる。
偽物を大量に作れるからこそ、責任主体が重要になる。
必要なのは、新しい評価基準ではなかったのかもしれない。
古くからある評価基準を、もっと厳密に適用することだった。
ここまで来ると、「AI Slop」という言葉にも奇妙さが見えてくる。
低品質なら、
低品質コンテンツでいい。
大量生成された迷惑コンテンツなら、
スパムでいい。
検索順位だけを狙った中身のない記事なら、
SEOスパムでいい。
虚偽なら、
偽情報でいい。
詐欺なら、
詐欺でいい。
AIが使われたことは、それらの規模や速度を説明する重要な要素にはなる。
しかし、それ自体が問題の名前である必要はない。
AIは原因ではなく、手段だからだ。
AI Slopは役目を終えつつある
AI Slopという言葉には功績があった。
生成AIによって低品質コンテンツの生産コストが崩壊し、情報空間へ大量に流れ込み始めた現象を、非常に分かりやすく表現した。
あの時代には必要だった。
だが今、同じ言葉を使い続けることで、逆に問題が見えにくくなり始めている。
AIが作ったもの。
低品質なもの。
大量生産されたもの。
虚偽のもの。
悪意あるもの。
これらは同じではない。
初期の生成AIでは、たまたま重なって見えることが多かった。
AIの文章は不自然だった。
AIの画像には奇妙な指があった。
AIの動画は物理法則を無視した。
AIの回答には、もっともらしい間違いが多かった。
だから、
AI製であること自体が、品質を疑うための有力なシグナルだった。
しかし、そのシグナルは弱くなっている。
AIは文章が上手くなった。
画像も自然になった。
声も区別しにくくなった。
検索できるようになった。
資料を参照できるようになった。
長い文脈を維持できるようになった。
そして人間が介在すれば、さらに境界は曖昧になる。
AI生成であることを見破る技術が必要とされ始めたのは、
AIが粗悪だからではない。
AIが人間と区別できなくなってきたからである。
これは、AI Slopという言葉にとって皮肉な転換だ。
AI Slopという概念が生まれた頃、私たちはAIを見ればSlopを疑うことができた。
今はSlopを見つけるために、
AIを探してはいけない。
中身を見なければならない。
「AIが書いた」は批評ではない
ここで一つ、はっきりさせておきたい。
「これはAIが書いた文章だ」
という指摘は、もはや文章批評として成立しない。
それは生成方法についての説明である。
文章の評価ではない。
「これはMicrosoft Wordで書かれた文章だ」
と言っているのと、本質的には同じ方向へ向かっている。
もちろん現在の生成AIは、単なるワープロよりはるかに大きく内容へ関与する。
だから完全に同じではない。
だが、重要なのはそこではない。
AIがどれほど関与していても、
最終的に問われるべきなのは成果物である。
事実が間違っているなら、その間違いを指摘すればいい。
論理が破綻しているなら、破綻を示せばいい。
文章が冗長なら、冗長だと言えばいい。
既存の記事を言い換えただけなら、独自性がないと言えばいい。
根拠がないなら、根拠がないと言えばいい。
それらを一つも示さず、
「AIが書いた」
だけで評価を終わらせるなら、
それは文章を批評しているのではない。
作者の属性を批評している。
そして作者が人間ではなくなったことで、私たちはようやく奇妙さに気付き始めている。
誰が書いたか。
何を使って書いたか。
もちろん、それらが重要になる場面はある。
しかし、情報の価値を判断するときに最後まで残る問いは、もっと古く、もっと単純だ。
そこに何が書いてあるのか。
AI Slopという言葉の賞味期限が近づいているとすれば、
AIがSlopを作らなくなったからではない。
これからも大量に作るだろう。
おそらく、人間には到底不可能な量を。
賞味期限が近づいているのは、
「AIが作った」という事実だけでは、Slopを定義できなくなったからである。
では、何を見ればいいのか
AIを探してはいけない。
では、何を見ればいいのか。
答えは拍子抜けするほど古い。
情報そのものを見る。
それしかない。
たとえばニュースなら、一次情報へ遡れるかを見る。
研究についての記事なら、論文を見る。
企業の発表なら、プレスリリースを見る。
法律について書かれているなら、条文を見る。
統計が出てきたら、調査主体と母集団を見る。
誰かの発言が引用されているなら、本当にそう発言したのか確認する。
そして、その文章がどのような根拠から結論へ到達したのかを見る。
これは生成AI以前から、まともな情報を見分けるために行われてきたことだ。
面倒である。
AI判定ツールへ文章を貼り付けて、
「AI生成確率87％」
と表示してもらうほうが、はるかに簡単だ。
透かしを読み取って、
「AI GENERATED」
と表示されるほうが分かりやすい。
だが、分かりやすいことと、正しいことは違う。
その87％は、文章が嘘である確率ではない。
AI GENERATEDという表示は、読む価値がないという意味ではない。
逆に、
HUMAN GENERATEDという表示が仮に存在したとしても、
それは何の品質保証にもならない。
人間は間違える。
人間は思い込む。
人間は手を抜く。
人間は他人の記事を真似する。
人間は数字を読み違える。
そして人間は、必要なら意図的に嘘をつく。
人類はそのことを何千年も前から知っていたはずである。
なぜ生成AIが登場した途端、
「誰が書いたか」が「何が書かれているか」より重要な問題になってしまったのだろう。
出所より、根拠へ
もちろん、出所は重要である。
誰が発信したのか。
どの組織が責任を負っているのか。
どのモデルが生成したのか。
どこで加工されたのか。
それらは情報を評価するための材料になる。
だが、材料の一つでしかない。
ここで区別したいものがある。
ProvenanceとEvidenceである。
Provenanceは、その情報がどこから来たのかを示す。
Evidenceは、その情報がなぜ正しいと言えるのかを示す。
似ているようで、役割はまったく違う。
AI透かしが提供するのは、主として前者である。
「このコンテンツはAIによって生成または加工された」
という来歴の情報だ。
しかし私たちが、
「これは本当なのか」
と問うときに必要なのは後者である。
どんな資料に基づいているのか。
その資料は信頼できるのか。
複数の情報源で確認できるのか。
推論に飛躍はないか。
反証となる事実を無視していないか。
AI時代に重要になるのは、
出所を捨てることではない。
出所だけで判断することをやめることである。
「誰が書いたか」から「何に基づいて書いたか」へ
これは、生成AIにとってむしろ厳しい評価基準でもある。
「AIだから仕方ない」
という言い訳が通用しなくなるからだ。
AIが書いた文章に存在しない論文が引用されていれば、駄目である。
数字を間違えていれば、駄目である。
一次資料と矛盾していれば、駄目である。
どれほど流麗な文章でも、根拠がなければ信用できない。
だが同時に、
人間が書いた文章にも同じ基準が適用される。
肩書のある専門家が書いていても、根拠がなければ疑う。
大手メディアの記事でも、一次資料と違えば疑う。
SNSで何万人に共有されていても、証拠にはならない。
人間が書いたというだけで免罪符にはならない。
ここで初めて、AIと人間を同じ土俵へ乗せることができる。
HumanかAIか。
そんな分類ではない。
Groundedか、Ungroundedか。
根拠があるのか。
ないのか。
検証できるのか。
できないのか。
訂正できるのか。
できないのか。
こちらのほうが、はるかに情報の価値へ近い。
そして皮肉なことに、生成AIが進歩すればするほど、この評価軸の重要性は増していく。
文章の流麗さでは見抜けない。
文法でも見抜けない。
比喩の巧さでも見抜けない。
人間らしい言い回しでも見抜けない。
それらはもう、
真偽を判断する手掛かりではなくなっていく。
ならば最後に残るのは、根拠である。
AIが人間と区別できなくなる時代とは、
人間とAIを見分ける技術がますます必要になる時代なのかもしれない。
だが同時に、
人間とAIを見分けること自体が、ますます重要ではなくなる時代でもある。
この二つは矛盾しない。
生成経路を知る必要がある場面は残る。
しかし情報の価値を判断する場面では、
別の問いを立てなければならない。
誰が書いた？
ではなく、
何に基づいて書いた？
AI時代の情報リテラシーが向かうべき場所は、おそらくこちらである。
私たちが見破るべきもの
AIが書いた文章に、透かしを入れる。
それを機械で読み取り、
「これはAIが作りました」
と判定する。
技術としては興味深い。
生成経路を追跡する仕組みとして、役に立つ場面もあるだろう。
だが、この記事の冒頭で私は一つの疑問を書いた。
AIが書いたことを見破って、それで何が分かるのだろう。
ここまで考えてきた今なら、答えはかなりはっきりしている。
ほとんど何も分からない。
その文章が正しいのか。
その画像が人を騙そうとしているのか。
その情報に価値があるのか。
その主張に根拠があるのか。
そのコンテンツが社会に害を与えるのか。
それらは、AIというラベルからは判断できない。
AIが作った嘘は、嘘である。
人間が作った嘘も、嘘である。
AIを使った詐欺は、詐欺である。
人間だけで行った詐欺も、詐欺である。
AIが大量生産した低品質コンテンツは、低品質である。
人間が時間をかけて作った低品質コンテンツも、やはり低品質である。
逆も同じだ。
正しいものは正しい。
有用なものは有用だ。
優れた文章は、優れた文章である。
そこにAIが関与したという事実は、その評価を自動的に反転させるものではない。
「AI Slop」という言葉は、生成AIの黎明期を見事に捉えた言葉だった。
粗悪な文章。
奇妙な画像。
大量生産。
検索汚染。
無責任な情報。
AIという新しい生産装置が、それらを猛烈な勢いで増やし始めた。
だから私たちは、AIを見ればSlopを疑った。
それでかなりの確率で当たった。
だが、その時代は終わりつつある。
AIは上手くなった。
人間と共同作業するようになった。
検索し、資料を読み、推論し、文章を直し、何度も議論しながら成果物を作るようになった。
一方で人間は、相変わらず嘘を書く。
手を抜く。
間違える。
人を騙す。
そして時には、素晴らしいものを作る。
AIもまた、同じ情報空間の中で、粗悪なものと優れたものの両方を生み出すようになった。
ならば、そろそろ分類を変えるべきなのだろう。
AIか、人間か。
ではない。
正しいか、間違っているか。
根拠があるか、ないか。
検証できるか、できないか。
有用か、無価値か。
誠実か、欺瞞か。
私たちが本当に知りたかったのは、最初からこちらだったはずだ。
AIは情報を作るコストを壊した。
インターネットは情報を届けるコストを壊した。
SNSは情報を広げるコストを壊した。
その三つが重なった世界で、情報を見分けることは以前より難しくなる。
だからこそ、
簡単なラベルに逃げてはいけない。
AI GENERATED。
その表示は便利だ。
しかし、それは答えではない。
人間が作ったというラベルもまた、答えではない。
最後には、自分で中身を見るしかない。
根拠を見る。
出典を見る。
論理を見る。
そして判断する。
生成AIによって変わったことは多い。
だが、情報と向き合うときの最後の原則だけは、驚くほど変わっていない。
AIに透かしを入れることはできる。
だが、嘘には透かしを入れられない。
だから私たちが見破るべきものは、
最初からAIではなかった。
