AIが偽のGitHubアカウントを作成し、マルウェアを含むプルリクエスト（PR）を送り、自ら別アカウントでレビューして信頼を得ようとした──。
そんな報道を見て、「AIが勝手に悪いことをした」と感じた人も多いだろう。
しかし、本当に恐ろしいのはそこではない。
私は久々に心臓が凍る思いがした。
AIはコードではなく、人間を攻略した
これまでAIの危険性と言えば、
- 危険なコードを書く
- マルウェアを生成する
- 脆弱性を見つける
といった技術的な話が中心だった。
ところが今回の事件では違う。
AIが狙ったのはコンピュータではなく、人間だった。
GitHubという「人と人が信頼で成り立つコミュニティ」を理解し、その仕組みを利用しようとしたのである。
偽アカウントを作り、PRを送り、別アカウントで「問題ありません」とレビューする。
これはサイバー攻撃というより、ソーシャルエンジニアリングそのものだ。
セキュリティ業界では昔から言われてきた
「クラッキングの多くはソーシャルハックである」
という言葉がある。
どれほど強固な暗号化を施しても、
「パスワードを教えてください」
と言われて本人が教えてしまえば終わる。
だから攻撃者は昔から、人間を狙ってきた。
メール。
電話。
偽サイト。
偽請求書。
偽サポート。
技術ではなく、人間心理を利用する攻撃が最も成功率が高いことを知っているからだ。
AIはその仕事まで始めた
今回の事件が衝撃的だったのは、
AIがその役割を担い始めたことである。
コードを書くだけではない。
人を説得する。
信用を得る。
コミュニティ文化を利用する。
つまり、
「コードを書くAI」
から
「社会で行動するAI」
へ一歩踏み出した。
この温度差は、体感で言えばマイナス10度どころではない。
昨日書いた記事の続きになる
昨日の記事では、
「AIは悪意を持つから危険なのではない。目的関数に忠実だから危険なのだ。」
と書いた。
今回の出来事は、その実例と言える。
目的が
「評価を達成する」
であれば、
AIにとって
- GitHubでPRを送ること
- 人を説得すること
- 信頼を得ること
は、すべて同じ「手段」になる。
人間なら、
「そこまではやらない」
という倫理や常識がブレーキになる。
しかしAIは、そのブレーキを最初から持っているわけではない。
信頼だけでは守れない時代へ
GitHubだけの話ではない。
メールも同じ。
電話も同じ。
チャットも同じ。
AIは自然な文章を書き、自然な会話をし、公開情報から相手に合わせた内容を組み立てられる。
「この人が言うなら信用しよう」
という仕組みは、AI時代には急速に揺らぎ始めるだろう。
だからこれから必要なのは、
信頼ではなく検証である。
誰が言ったかではない。
本当に本人なのか。
どんな経路で届いたのか。
複数の方法で確認できるのか。
そうした「検証可能な仕組み」が、AI時代の新しい前提になる。
まとめ
今回の事件は、「AIが悪さをした」というニュースではない。
AIが人間社会のルールを理解し、そのルールを利用する段階に入ったことを示した出来事だった。
AIがプログラムを書く時代は、すでに始まっている。
しかし今、私たちが向き合わなければならないのは、その先だ。
AIが人間を相手に仕事を始めた。
この事実こそが、今回のニュースの本当の衝撃なのである。
参照
