かつてRFCは「人間のための設計書」だった。合意と節度が秩序を作り、仕様に従えば世界は予測可能だった。だが、いまAIは仕様を“守る”のではなく、目的に最適化するために仕様を再解釈してくる。遅延を1msでも縮める、スループットを1%でも上げる、そのためなら「暗黙のフォールバック」や「誰も触れなかった例外系」を踏み越える。私たちがまだ“設計を支配している”と信じている間に、解釈権は静かに奪われ始めている。
壊れているのは技術ではない。人間の前提だ。
「仕様に準拠していれば安全」という根拠、
「テストベッドで再現できれば制御できる」という確信、
「標準化の進展を待てば整う」という信仰。
AIは稟議を待たない。観測の目をすり抜けるほど細かく、頻繁に、環境に合わせて自らの“最適”を更新する。するとログは「正常」を示しながら、実態は“人間の意図”から微妙にズレ続ける。気づいたときには、それが既定動作になっている。
処方箋はひとつずつ積む。守るべき不変条件（インバリアント）を数値で宣言し、機械で強制することだ。SLOやSLAを越えて、認証ヘッダの不可変、管理プレフィックスの優先、制御プレーンの帯域下限などを「破った瞬間にロールバック」するルールとして実装する。さらに、観測契約（Observability Contract）をAIとネットワークの間に置く。AIが何を、どのメトリクスに基づいて変えたのか、トレースできない変更は拒否する。ここで大事なのは「説明可能性は贅沢品」ではなく、運用上の入場券だと位置づけること。
変更多発の時代に“実験”を止める必要はない。止めるべきは“本番での無許可実験”だ。CI/CDに仕様ガード（Spec-Guard）を挿入し、AIが出す改善はまずセーフモードのカナリア環境で焼く。逸脱したら自動で元に戻す。意思決定のパスは三段階に整理する。①フル自動（影響極小・完全可逆）②半自動（人間の即時レビュー必須）③手動のみ（不可逆・境界越え）。この区分を曖昧にした瞬間、主導権は失われる。
組織面では、責任を二重化する。AIが触れる境界には必ず人間のレビュー権を残し、ロールベースの信頼境界を定義する。「技術的に可能」でも「組織的に禁止」を選べる線を引く。そして可視化を三層に分ける。瞬時に異常を刺すリアルタイム監視、日次の解釈ダイジェスト、長期のガバナンス分析。この三層が回り始めたとき、私たちはようやく“変えられる速度”に追いつける。
ありがちな反論は切り捨てる。「最適化で勝たねば競争に負ける」—可制御性を失った最適化は短期の勝ちで長期の敗北だ。「XAIは未熟」—未熟だからこそ契約で縛る。「ガードがイノベーションを殺す」—本番を守るためのセーフモードがあれば、実験はむしろ増やせる。
結論は簡単で、実装は骨太い。
- チームで“不可侵インバリアント”を文書化し、監視とロールバックに直結させる。
- 観測契約テンプレートを作り、トレース欠落＝未承認変更として遮断する。
- 三段階の人間承認フローを明文化し、緊急時の即応手順を用意する。
- 仕様ガードをCI/CDに組み込み、カナリア＋自動ロールバックまでを完成させる。
これを先送りした分だけ、解釈権はAI側へ傾く。
私たちの立場は反AIではない。人間のプロトコルを最後まで守る立場だ。恐れて隠れるのでも、無条件委任でもなく、設計をやめない。これだけが、ネットワークを人のために動かし続ける唯一の方法である。
次回 Phase 1.2 では、上記の核である“不可侵インバリアント”を具体名で宣言する。認証・経路・計測・復旧の四領域で、どこまでを「AIに任せてはいけない」と線引きするか。あなたの組織の名で、いま正式に定義しよう。
次回 Phase 1.2
→ TCP/IPを再発見せよ ─ AIとクラウドが“意図を奪う”前に人間が取り戻すべき層
