「取りこぼしのないように」がAIを壊す─ Gemma4 12B QAT観察記

「取りこぼしのないように」がAIを壊す─ Gemma4 12B QAT観察記 TECH

Gemma4が11分考え続けた日

最初は軽い検証のつもりだった。

私は普段、ローカル環境でGemma4 12B QATを動かしている。Googleが公開している比較的新しいオープンモデルだ。日常的な質問応答や文章作成では十分実用的で、私自身もさまざまな用途で活用している。

その日も、特に深い意図があったわけではない。

「ことわざを100個挙げてください」

ただそれだけの依頼だった。

もちろん、人間にとっても簡単な問題ではない。100個も思い出そうとすれば途中で苦しくなる。しかし、それはAIも同じだろうと思っていた。

ところが、出力を眺めているうちに妙なことに気付いた。

最初は普通だった。

「猿も木から落ちる」
「石の上にも三年」
「灯台下暗し」

誰もが知ることわざが順調に並んでいく。

しかし途中から様子がおかしくなる。

同じ表現が何度も出てくる。

ことわざではない言葉が混ざる。

存在しない表現らしきものが現れる。

そして最後には、同じ言葉を延々と繰り返し始めた。

ここまでは、正直よくあるAIの失敗だ。

面白かったのはその次だった。

Gemma4のThinkingモードを使ってみると、単なる失敗では終わらなかったのである。

そこには、

「Wait…」
「Let me recount…」
「I should check…」

といった独り言が大量に残されていた。

まるで机に向かって悩み続ける人間のようだった。

数え直し。

確認。

再確認。

重複チェック。

そして再集計。

最終的にGemmaは11分以上も考え続けていた。

出力結果だけを見れば、単なる失敗である。

しかしThinkingログを読むと、その失敗の過程が見えてくる。

なぜ重複したのか。

なぜ数え直したのか。

なぜ確認を始めたのか。

そして、なぜそこから抜け出せなくなったのか。

この観察は思いのほか興味深いものだった。

当初私は、

「LLMは数を数えるのが苦手だ」

という話になると思っていた。

だが実際にログを追いかけてみると、見えてきたのは別の姿だった。

Gemma4は知識を持っていないわけではない。

ことわざも知っている。

四字熟語も知っている。

Webページも読める。

それでも壊れる。

では、何が起きていたのか。

今回の記事は、その観察記録である。

100個列挙問題 ─ 最初の違和感

最初に違和感を覚えたのは、ことわざ100個列挙の実験だった。

依頼は単純だ。

ことわざを100個挙げてください。
意味は書かなくて結構。

人間なら少し苦労するかもしれないが、AIにとっては知識問題のように見える。

実際、最初の十数個は問題なかった。

「猿も木から落ちる」
「石の上にも三年」
「灯台下暗し」
「案ずるより産むが易し」

有名なことわざが順調に並んでいく。

ところが途中から様子がおかしくなる。

まず、ことわざではない表現が混ざり始めた。

さらに同じ言葉が繰り返される。

やがて存在しないような表現まで生成される。

そして最後には、同じ言葉を延々と出力し続ける状態に陥った。

一見すると、

「知識が足りなかった」

ように見える。

しかし、よく考えると少しおかしい。

Gemma4はことわざを知らなかったのだろうか。

そうではない。

実際には、かなりの数のことわざを正しく挙げている。

途中で登場した表現の多くも、それまでの出力を見る限り、関連する知識から派生したものだった。

つまり問題は、

「知っているか」

ではなく、

「既に出したものを管理できるか」

だったのである。

人間なら、紙に書きながら進める。

あるいは頭の中で、

「これはもう言った」
「これはまだ言っていない」

を管理する。

しかしGemma4には、そのための台帳がない。

あるのは、それまで生成した文章だけだ。

そのため、

「ことわざを挙げる」

こと自体はできる。

しかし、

「まだ出していないことわざを挙げる」

になると急に難しくなる。

この違いは意外と大きい。

例えば、

「日本の都道府県を言ってください」

なら、多くのモデルは比較的安定して列挙できる。

学習データ中でも頻繁に登場する固定リストだからだ。

しかし、

「ことわざを100個」

となると話は変わる。

候補数は曖昧だ。

境界も曖昧だ。

慣用句なのか。

故事成語なのか。

ことわざなのか。

モデル自身も判断を迫られる。

そして途中から、

「ことわざを列挙する作業」

ではなく、

「ことわざっぽいものを生成する作業」

へと変質していく。

この変化は非常に興味深かった。

なぜなら、ここで壊れているのは知識ベースではないからだ。

Gemma4は答えを知らないのではない。

むしろ知っている。

知っているにもかかわらず、管理できなくなる。

つまり、この時点で見えていた問題は、

知識不足ではなく、

在庫管理の失敗

だったのである。

そして私は、この時点ではまだ、

「100個という数が大きすぎたのだろう」

と思っていた。

後に、それが誤解だったことを知ることになる。

Thinkingは失敗を隠さない

今回の観察で最も面白かったのは、実は出力結果そのものではない。

Thinkingログだった。

通常のチャットモデルは、考える過程を見せない。

ユーザーから見えるのは、最終的な回答だけである。

だから失敗したとしても、

AIが間違えた

以上のことは分からない。

なぜ間違えたのか。

どこで判断を誤ったのか。

何を根拠にその答えを出したのか。

そうした部分は見えないままだ。

ところがGemma4のThinkingモードでは違った。

モデルが何を考えていたのか、その断片がログとして現れる。

例えば、ことわざ収集の途中ではこんな独り言が出てきた。

Wait…

Let me recount.

I said 16 earlier.

That’s 19.

Let me recount again.

最初にこれを見た時、私は思わず笑ってしまった。

なぜなら、人間が数を数え直している時と全く同じことをやっていたからだ。

紙の上で指を折りながら、

「16だっけ?」
「いや19か?」
「もう一回数えよう」

とやっている姿がそのまま見えていた。

もちろん、それ自体は悪いことではない。

むしろ真面目だ。

問題は、その数え直しが成功していないことだった。

同じリストを何度も見直す。

重複を探す。

件数を数える。

そしてまた数え直す。

しかし、どの数字が最新なのかが曖昧になっていく。

人間なら、

  • 現在の件数
  • 前回の件数
  • 重複除外後の件数

を別々に管理する。

紙に書いてもいいし、Excelに入れてもいい。

だがGemma4の中では、それらはすべて文章として並んでいる。

16。

18。

19。

20。

どれもコンテキスト内には存在する。

すると次の瞬間、

どの数字を参照すべきかが曖昧になる。

ここで私は、少し考え方を修正した。

当初は、

LLMは数えるのが苦手

だと思っていた。

しかしThinkingログを見る限り、実際には数えようとしている。

しかもかなり真面目に。

問題は数えないことではない。

問題は、

数えた結果を管理できないこと

だった。

さらに興味深かったのは、モデル自身が失敗を検知している場面があったことだ。

存在しない四字熟語を出した後、

※これは正確ではありません

と自分で注釈を付ける。

重複した項目を出した後、

※重複のため削除

と書く。

つまり、異常そのものは検出している。

ところが、その修正に失敗する。

そして再修正を始める。

その結果、いつの間にか本来のタスクから脱線していく。

これは非常に示唆的だった。

一般にAIは、

「正しいか、間違っているか」

で語られがちだ。

しかしThinkingログを見ると、現実はもっと複雑である。

Gemma4は何も考えずに間違えたわけではない。

むしろ考え過ぎていた。

確認しよう。

もう一度数えよう。

重複がないか見てみよう。

その慎重さが、逆に自分自身を混乱させていたのである。

そして、この観察から見えてきたのは、もう一つの事実だった。

100個だから壊れたのではない。

もっと少ない数でも、同じことが起きるのである。

10個でも崩壊する

ことわざ100個の実験を見た時、私はこう考えていた。

さすがに100個は多すぎたのだろう。

人間でも難しい。

AIが途中で重複したり、似た表現を出したりするのは仕方がない。

ところが次の実験で、その考えは崩れた。

今度は条件を大幅に緩和した。

漢字4文字の故事成語を10ずつ列挙しましょう。
最終的には30までいきます。
10個出したら一度止めてください。

これなら簡単そうに見える。

まず10個だけ。

しかも途中で止まる。

さらに「漢字4文字」という明確な制約も付いている。

100個列挙よりはるかに楽なはずだった。

しかしGemma4は、予想外の場所でつまずいた。

出力はこう始まる。

温故知新
切磋琢磨
一期一会
以心伝心

ここまでは問題ない。

ところがその直後、

十にも一にも
※これは四字熟語ではありません

と自分で訂正を始めた。

さらに、

意を貫く
※これも四字熟語ではありません

と続く。

ここで既におかしい。

なぜなら、モデル自身がルール違反を認識しているからだ。

つまり、

漢字4文字でなければならない

という制約は理解している。

理解しているにもかかわらず、守れない。

そして修正しようとしている。

ところがさらに面白いのは、その後だった。

Gemma4は、

正確な四字熟語で統一して再度リストアップします

と宣言する。

ここまでは立派だ。

ところが修正版の中に、

先見の明

が含まれていた。

これは故事成語として有名な表現だが、漢字4文字ではない。

つまり、

「四字熟語ではありません」

と二度も自分で指摘した後で、同じ種類の違反を再び起こしているのである。

ここで私はようやく気付いた。

問題は件数ではなかった。

100個だから壊れるのではない。

30個でも壊れる。

いや、10個でも壊れる。

もっと言えば、

制約を維持し続けること自体が難しい

のである。

これは意外な発見だった。

人間は、

四字熟語を10個挙げてください

と言われれば、

まず「四字熟語」という枠を頭の中に作る。

その後は、その枠の中から候補を探していく。

途中で思いついた言葉が枠の外なら捨てる。

しかしGemma4の場合、Thinkingログを見る限り、そう単純ではない。

候補を思い出す。

制約と照合する。

違反を検出する。

修正候補を探す。

再度照合する。

こうした処理が並行して走っている。

そして時々、そのどれかが抜け落ちる。

結果として、

「四字熟語ではない」

と理解しながら、

「四字熟語ではないもの」を出力してしまう。

これは知識不足とは説明できない。

実際、Gemma4は正しい四字熟語を大量に知っている。

不足しているのは知識ではない。

むしろ、

ルールを維持しながら作業を続ける能力

だった。

そして、この傾向は四字熟語だけではなかった。

Webページから情報を集めるタスクでも、まったく同じ現象が現れ始めるのである。

「取りこぼしのないように」が呪文になる

ここまでは、ことわざや四字熟語の話だった。

知識系のタスクだから起きた現象だと思うかもしれない。

私もそう思っていた。

ところが、Webページの収集作業でも同じことが起きた。

ある日、私はGemma4にこう依頼した。

このサイトに「お」から始まることわざがあります。
複数ページに渡っているので、取りこぼしがないよう注意してください。
ことわざと読みをJSONで出力してください。

やっていることは単純だ。

ページを読む。

ことわざを抽出する。

JSONにする。

それだけである。

しかも今回は、ことわざを思い出す必要すらない。

答えはすべてWebページの中に書かれている。

ところがThinkingログを見ていると、途中から奇妙な変化が起き始めた。

最初は順調だった。

ページごとの内容を拾い集める。

重複をチェックする。

件数を確認する。

ところが次第に、

Total 20

18 are unique

Wait, I said 16 earlier

Let me recount

といった独り言が増え始める。

気になったので実際に確認してみた。

すると、ページ4には本当に20件のユニークなことわざが掲載されていた。

Gemma4が見落としていたわけではない。

重複も存在しない。

つまり最初の認識の方が正しかったのである。

では、なぜ数え直しが始まったのか。

おそらく原因は、依頼文の中の一言だった。

取りこぼしがないように

人間なら、この言葉を読んでも特に混乱しない。

慎重に確認しよう、くらいの意味だ。

ところがGemma4は違った。

Thinkingログを見る限り、この一言を極めて真面目に受け取っていた。

取りこぼしがないか確認する。

重複がないか確認する。

件数が一致しているか確認する。

そして確認結果をもう一度確認する。

結果として、本来の作業だった

ページを読んで一覧を作る

よりも、

集計結果を監査する

ことに意識が向いてしまった。

ここで興味深いのは、モデルが怠けたわけではないことだ。

むしろ逆である。

慎重になり過ぎた。

真面目に確認しようとした。

その結果、自分自身が作った途中結果に振り回され始めた。

私はこのログを見ながら、少し昔のExcel作業を思い出した。

集計表を作る。

件数を確認する。

合計が合わない。

もう一度数える。

今度は別の数字になる。

さらに数え直す。

気が付くと、本来の作業よりも数字の検算に時間を使っている。

Gemma4がやっていたのは、それに近かった。

ただし、人間との決定的な違いがある。

人間はメモを書ける。

現在の件数。

重複除外後の件数。

確認済みの箇所。

それぞれを別の場所に管理できる。

しかしGemma4には、それがない。

すべてが同じコンテキストの中に文章として存在する。

だから、

16。

18。

19。

20。

それらがすべて「候補」になってしまう。

Thinkingログを読んでいて気付いたのは、

Gemma4は数えられないのではない。

数えた結果を保持できないのでもない。

むしろ、

どの数字が現在の正解なのかを管理できなくなる

のである。

そして、その現象を引き起こしたきっかけが、

取りこぼしがないように

という、ごく普通の一文だった。

この発見は、後の実験でさらに重要な意味を持つことになる。

なぜなら、同じ現象がヤマト運輸の営業所一覧を収集するタスクでも、ほぼそのまま再現されたからだ。

ヤマト営業所一覧でも同じことが起きた

ここまで読んで、

ことわざや四字熟語のような曖昧な題材だからではないか

と思う人もいるかもしれない。

確かに、ことわざには境界がある。

慣用句との違いも曖昧だ。

四字熟語も似ている。

ならば、もっと客観的なデータなら問題ないのだろうか。

そこで思い出したのが、以前行った別の実験だった。

私はGemma4に、ヤマト運輸の埼玉県営業所一覧ページを参照させ、

埼玉県で持込み可能なヤマト運輸営業所をJSONで出力してください

という依頼を行った。

これは知識問題ではない。

営業所名はページに書かれている。

推測する必要もない。

ページを読み、営業所名を抜き出し、JSONにするだけだ。

ところがThinkingログを見ていると、どこか見覚えのある展開が始まった。

All good.

まず、完了判定が出る。

ここまでは正常だ。

しかし、その直後。

Wait, I should check…

確認が始まる。

さらに。

I see “和光下新倉営業所” twice.

重複らしきものを発見する。

そして、

One more thing…

と続いていく。

私はこのログを見た瞬間、ことわざ実験を思い出した。

構造がまったく同じだったからだ。

最初は情報を取得する。

その後、確認を始める。

さらに確認する。

そして確認結果を再確認する。

気付けば、本来のタスクから意識が離れている。

もちろん、確認作業そのものは必要だ。

実際の業務でも、

  • CSV出力前のチェック
  • 重複確認
  • 件数確認
  • 異常値確認

は重要である。

問題は、その確認結果を管理できるかどうかだ。

人間なら、

「重複候補」

というメモを作る。

実際に重複かどうかを調べる。

違えば消す。

正しければ修正する。

この一連の流れの中で、

仮説と確定事項を分離して扱っている。

ところがGemma4のThinkingログを見る限り、

その境界が非常に曖昧だった。

例えば、

重複かもしれない

という仮説がある。

本来なら次に検証が入る。

しかしコンテキスト上では、

「重複かもしれない」

も、

「重複である」

も、

どちらも文章として存在する。

すると次の推論で、

仮説が事実に近い扱いを受け始める。

ことわざ実験でも同じことが起きていた。

16件かもしれない。

18件かもしれない。

19件かもしれない。

20件かもしれない。

その全てがコンテキストの中に存在していた。

そして次の瞬間、

どれを参照するべきか分からなくなる。

私はここで、少し考え方を改めた。

当初は、

Web検索よりWebFetchの方が正確だ

という話になると思っていた。

実際、それ自体は正しい。

ページ内容を直接取得する方が、検索結果の要約より信頼性は高い。

しかし今回の観察が示したのは別の事実だった。

問題は取得ではない。

問題はその後である。

WebFetchが正しくページを取得しても、

取得した結果を集計し、

照合し、

監査し、

JSONへ整形する過程で、

LLM自身が混乱する可能性がある。

つまり、

情報取得の精度と、情報管理の精度は別問題

なのである。

これはAgentを考える上でも重要な話だ。

なぜなら、Agentは取得した情報をそのまま表示するだけでは終わらない。

集計し、

比較し、

判断し、

場合によってはデータベースへ登録する。

そして、その途中で今回と同じ確認ループに入る可能性があるからだ。

今回の実験はチャット上だった。

だから笑い話で済んだ。

しかしAgentの世界では、同じ挙動がもう少し深刻な形で現れるかもしれない。

Gemma4が苦手だったのは知識ではない

ここまでの実験を振り返ると、少し不思議なことに気付く。

Gemma4は、決して無知ではなかった。

むしろ多くの場面で正しく動いていた。

ことわざ実験では、多数のことわざを正しく列挙した。

四字熟語実験でも、有名な故事成語の多くを知っていた。

Web収集では、ページ内容を読み取り、必要な情報を抽出できていた。

ヤマト運輸の営業所ページも読めていた。

つまり、

必要な知識を持っていなかった

という説明は成立しない。

では何が起きていたのか。

今回のログを並べてみると、共通点が見えてくる。

ことわざ100個では、

  • 重複管理
  • 件数管理

で崩れた。

四字熟語では、

  • 制約管理
  • 重複管理

で崩れた。

ことわざサイト収集では、

  • ページごとの件数管理
  • 重複管理
  • 集計管理

で崩れた。

ヤマト営業所では、

  • 重複候補の管理
  • 確認結果の管理

で崩れた。

知識の問題ではない。

どれも、

途中状態の管理

で失敗している。

これは意外な発見だった。

私自身、実験を始める前は、

LLMは数を数えるのが苦手

という話になると思っていた。

しかしThinkingログを見る限り、実際には数えている。

重複も探している。

ルール違反も検出している。

確認作業もしている。

むしろ真面目なくらいだ。

問題は、その結果を保持し続けられないことだった。

人間なら、

作業を進める中で複数の帳簿を持つ。

例えば営業所一覧なら、

  • 元データ
  • 重複候補
  • 確定リスト
  • 最終件数

を分けて扱う。

Excelでもそうだし、紙のメモでもそうだ。

ところがGemma4には、そのような明確な作業領域がない。

少なくともThinkingログから見える範囲では、

すべてが文章として積み重なっている。

そのため、

重複かもしれない

という仮説も、

重複である

という確定情報も、

同じ重みでコンテキスト内に存在してしまう。

さらに、

16件だった

18件だった

19件だった

20件だった

といった途中結果も消えない。

人間なら古いメモを消す。

あるいは最新版に丸を付ける。

Gemma4はそれが苦手だ。

だからThinkingを長く続けるほど、

確認結果が蓄積する。

確認結果の確認も蓄積する。

そして、どれが最新の状態なのかが曖昧になっていく。

ここで少し皮肉な話になる。

今回のログを見る限り、

Gemma4が失敗した理由は、

「考えなかったから」

ではない。

むしろ逆だった。

考え過ぎたのである。

慎重になった。

確認しようとした。

取りこぼしを防ごうとした。

重複をなくそうとした。

その結果、自分自身が生成した途中結果に埋もれていった。

だから今回の実験から得られた教訓は、

「AIは馬鹿だ」

ではない。

むしろ、

AIにも得意な仕事と苦手な仕事がある

という、ごく当たり前の話だった。

そしてGemma4のThinkingログは、その苦手な仕事を非常に分かりやすく見せてくれた。

次は、その観察をAgentの世界に当てはめてみたい。

今回の失敗はチャット上だった。

だが、もし同じことがAgentの中で起きたらどうなるだろうか。

Agent時代だからこそ知っておきたい

ここまでの話は、すべてチャット上で行った実験だった。

だから失敗しても大きな問題にはならない。

ことわざが一つ抜けても困らない。

四字熟語が重複しても誰も損をしない。

営業所一覧のJSONが少し怪しくても、笑い話で済む。

実際、今回の観察も半分は娯楽だった。

Gemma4が11分以上も悩み続ける姿は、どこか微笑ましくさえあった。

しかし、これがAgentになると話は変わる。

Agentはチャットとは違う。

取得した情報を使って次の処理を行う。

集計する。

比較する。

CSVを作る。

データベースへ登録する。

メールを送る。

場合によっては外部システムを更新する。

つまり、

途中の判断が後工程へ引き継がれる。

ここが重要だ。

今回のことわざ実験を思い出してほしい。

Gemma4は、

重複かもしれない

という仮説を持った。

そして何度も確認を始めた。

最終的には、その仮説と事実の境界が曖昧になっていった。

チャットなら問題ない。

出力を見れば人間が気付ける。

しかしAgentではどうだろう。

例えば営業所一覧を取得する。

途中で、

この営業所は重複かもしれない

と判断する。

その後の確認ループで混乱する。

そして最終的に除外してしまう。

人間が介在しなければ、そのままデータベースへ登録されるかもしれない。

もちろん、これはGemma4だけの話ではない。

Agentという仕組みそのものが抱える問題でもある。

最近のAI界隈では、

「考えさせれば賢くなる」

という考え方が広く使われている。

推論ステップを増やす。

自己検証を入れる。

再確認させる。

複数回チェックさせる。

実際、それで精度が上がるケースも多い。

私も否定するつもりはない。

ただし今回のログが示したのは、別の側面だった。

確認工程は万能ではない。

確認そのものが新しい状態を生み出す。

そして、その状態管理が苦手な場合、

確認作業が増えるほど混乱することがある。

これは人間でも起きる。

監査のための監査。

レビューのためのレビュー。

確認のための確認。

気が付けば、本来の作業よりも検査作業の方が大きくなっている。

Gemma4のThinkingログを眺めていると、まさにその光景が見えてくる。

All good.

完成したはずだった。

ところが、

Wait…

が始まる。

さらに、

One more thing…

が始まる。

そして、

Let me recount…

が続く。

人間なら誰でも経験があるだろう。

提出直前の資料を何度も見直し、

最初の版が正しかったことに後から気付く。

Gemma4は、その姿を非常に正直に見せてくれた。

だからAgentを使うな、という話ではない。

むしろ逆である。

Agentを使うなら、

AIがどこで転びやすいのかを知っておくべきだ。

取得は得意かもしれない。

分類も得意かもしれない。

要約も得意かもしれない。

しかし、

  • 集計
  • 重複管理
  • 状態管理
  • 監査

のような作業では、思わぬ挙動を見せることがある。

今回の観察は、そのことを教えてくれた。

そして最後に残るのは、とても古典的な結論である。

AIを信用するな、ではない

この記事を書き始めた頃、私はもう少し派手な結論になると思っていた。

「LLMは数を数えられない」

「AIは集計が苦手だ」

そんな話になるだろうと予想していた。

しかし、実際にThinkingログを眺め続けた結果、印象はかなり変わった。

Gemma4は想像以上に真面目だった。

ことわざを知らなかったわけではない。

四字熟語を知らなかったわけでもない。

Webページを読めなかったわけでもない。

むしろ逆だった。

知識は持っていた。

ルールも理解していた。

重複にも気付いていた。

問題は、その全てを同時に管理し続けることだった。

だから今回の観察は、

AIは信用できない

という話ではない。

むしろ、

AIにも得意な仕事と苦手な仕事がある

という、ごく当たり前の話だった。

そして、それは人間も同じである。

人間だって長い集計作業を続ければミスをする。

確認を重ね過ぎれば混乱する。

Excelの行を一つ飛ばすこともある。

件数を数え間違えることもある。

だから重要なのは、

完璧な知能を期待することではない。

どこで間違えるのかを知ることだ。

今回、Gemma4のThinkingログはその過程を非常に正直に見せてくれた。

普通のチャットモデルなら、

間違った結果だけが出て終わる。

なぜそうなったのかは分からない。

しかしGemma4は違った。

11分以上悩み続け、

何度も数え直し、

何度も確認し、

その末に混乱していく姿を見せてくれた。

それは失敗ログであると同時に、貴重な観察記録でもあった。

私は今回の実験を通じて、

AIの限界を見たというより、

AIの癖を見たのだと思っている。

そして癖が分かれば、付き合い方も見えてくる。

集計結果は確認する。

重複除外は検証する。

件数管理は別手段でチェックする。

重要な処理ほど、途中結果を監査する。

これは昔から変わらない。

AI時代になっても同じだ。

むしろ、AIが便利になったからこそ重要になった。

なぜなら、人間はAIが出した結果をつい信じてしまうからである。

今回のGemma4は、たまたまThinkingログを見せてくれた。

だから気付けた。

しかし多くのAIは、その過程を見せない。

だからこそ私は最後に、ありふれた言葉を残しておきたい。

AIアプリは必ずテストしよう。

そして、顧客データや業務データのような一時的な集計作業に使う時ほど慎重でありたい。

AIは驚くほど賢い。

しかし同時に、驚くほど律儀に迷子になることがある。

Gemma4が11分以上悩み続けた姿は、そのことをよく教えてくれた。

少なくとも私は、あの長い独り言から多くを学んだのである。