AI導入の相談が増えた。
ここ2年ほどで、はっきり増えた。
だが、その話のほとんどは、なぜか最初から「RAG」だ。
社内文書を食わせたい、検索させたい、FAQを自動化したい。
気がつくと、見積書にはそれなりの金額が並ぶ。
正直に言う。
その順番で始めると、だいたい失敗する。
RAGが悪いわけじゃない。
高度な仕組みだし、条件が揃えば強力だ。
だが、中小零細にとってのAI導入は、そこから始める話じゃない。
まず必要なのは、「賢いAI」じゃない。
LLMというものが、社内でどう使われ、どう誤解され、どこで事故るのか。
それを体験として理解することだ。
このページは、
「RAGをやるな」という話ではない。
「AIを導入するな」という話でもない。
順番を間違えるな、という話だ。
高価なキットを買う前に。
補助金の書類を書く前に。
「当社もAIを導入しました」と言う前に。
まず、LLMという道具の正体を、
自分たちの手で触ってみろ。
このページは、そのための実践記だ。
失敗しないための、最初の足場だ。
第1章｜LLMの価値は、万能性ではない
AIという言葉が広まりすぎた。
そのせいで、話が最初から歪む。
AIと聞くと、何でもできると思ってしまう。
調べる、考える、判断する、決める。
ひどい話だが、人間の代わりに仕事をする装置だと思われている節すらある。
違う。
LLMの価値は、そこにはない。
LLMができることは、極端に言えば一つだけだ。
言葉を理解し、文脈を保った対話ができる。
それ以上でも、それ以下でもない。
この一点だけを見ると、拍子抜けするかもしれない。
だが、よく考えてほしい。
社内で起きるトラブルの大半は、
計算ミスでも、処理速度でも、アルゴリズムでもない。
言葉の行き違いだ。
・そういう意味で言ったわけじゃない
・前提が共有されていない
・誰が決める話なのか分からない
・結論を急ぎすぎた
・責任の所在が曖昧なまま進んだ
これらはすべて、「情報処理」の問題ではない。
対話の問題だ。
LLMは、判断をしない。
責任も取らない。
正解を保証もしない。
だが、
・話を受け止め
・文脈を維持し
・言葉を言葉のまま返す
この能力だけは、人間より安定している。
ここを履き違えると、AI導入は壊れる。
万能だと思えば、過剰な期待を乗せる。
期待が外れれば、失望する。
失望すれば、「やっぱりAIは使えない」で終わる。
それはAIが悪いのではない。
使い方の設計が、最初から間違っている。
LLMは、作業員ではない。
秘書でもない。
ましてや意思決定者ではない。
言葉を扱うための、異常に優秀な相手役だ。
まず、この距離感を掴まない限り、
どんな高度な仕組みを載せても、だいたい事故る。
RAGが悪さをするのは、その後だ。
問題はもっと手前にある。
このページが言いたいのは、
「すごいAIを入れろ」という話ではない。
LLMという道具の正体を、誤解したまま導入するな。
それだけだ。
第2章｜なぜ、RAGから入ると壊れるのか
RAGは、悪くない。
むしろ仕組みとしては、かなり真っ当だ。
社内文書を集め、検索し、
必要な情報をLLMに渡して答えを作る。
やっていること自体は、誰が見ても合理的だ。
だからこそ、最初に選ばれてしまう。
だが問題は、中小零細がRAGに期待している役割にある。
RAGに期待されているのは、だいたい次の三つだ。
・社内の知識を一気に整理してくれる
・誰が聞いても同じ答えが返ってくる
・人に聞かなくても済むようになる
正直に言う。
この期待を全部背負わせた時点で、RAGは壊れる。
理由は単純だ。
RAGは「賢くする装置」ではない。
責任の所在を、別の場所に移す装置だ。
検索結果は誰が保証するのか。
文書が古かったら誰が直すのか。
答えが微妙にズレていたら、誰が気づくのか。
RAGは、これらを一切引き受けない。
ただ「それっぽい答え」を返すだけだ。
ここで、現場とのズレが生まれる。
・前はそうだったが、今は違う
・ケースバイケースだ
・そこは暗黙の了解だ
・例外処理が多すぎる
こうした言語化されていない前提は、
RAGが一番苦手とする領域だ。
結果どうなるか。
検索精度を上げようとする。
文書を整えようとする。
メタデータを付けようとする。
例外ルールを足そうとする。
気がつくと、
AI導入のはずが、文書整備プロジェクトになっている。
しかも、それは終わらない。
人が入れ替わる。
業務が変わる。
文書が増える。
前提がズレる。
RAGは、これらを自動では吸収しない。
すべて人間の管理が必要だ。
つまり、RAGはこういう組織向けだ。
・業務が定義されている
・文書の責任者が明確
・更新フローが回っている
・例外を許さない文化がある
中小零細に、これが揃っているだろうか。
ほとんどの場合、答えは「ノー」だ。
それでもRAGを入れたくなる理由は分かる。
分かりやすいからだ。
「検索できる」
「答えてくれる」
「賢そうに見える」
だが、分かりやすい導入は、
分かりにくい破綻を連れてくる。
AIが間違えたのか。
文書が悪いのか。
質問が悪いのか。
モデルが悪いのか。
誰も即答できない。
そして最終的に、こう言われる。
「やっぱりAIはまだ早いですね」
違う。
順番が早すぎただけだ。
RAGは、最後に乗せるものだ。
最初に触るものではない。
まず必要なのは、
LLMが「どこまで理解できて、どこから怪しくなるのか」を
自分たちの言葉で体感することだ。
それを飛ばしてRAGに行くと、
AI導入はほぼ確実に重たく、面倒で、
誰も触らないシステムになる。
次の章では、
なぜこのタイミングで「補助金」が絡むと
さらに話がややこしくなるのかを整理する。
RAGが壊れる理由は、技術だけじゃない。
金の入り方も、かなり大きい。
第3章｜補助金という名の、最大の罠
ここで話が、一段ややこしくなる。
補助金が絡むからだ。
補助金そのものが悪いわけじゃない。
使い道を誤らなければ、ありがたい制度だ。
だが、AI導入の文脈では、これがほぼ確実に話を歪める。
理由は単純だ。
補助金は
「技術を導入する理由」を、外側から与えてしまう。
本来、AI導入の動機は内側にあるべきだ。
・何が回っていないのか
・どこが属人化しているのか
・どこで判断が滞っているのか
この問いから始まるなら、まだ健全だ。
ところが補助金が見えると、順番が逆になる。
・使える補助金がある
・対象要件に「AI」「RAG」「DX」と書いてある
・じゃあ、それっぽいものを入れよう
こうして目的が決まる前に、解が先に来る。
結果、何が起きるか。
「当社もAIを導入しました」
この一文を言うためだけのシステムが出来上がる。
RAGキット。
社内文書検索。
FAQ自動応答。
立派な画面。
立派な報告書。
だが、現場は使わない。
なぜなら、それは
現場が欲しかったものではないからだ。
補助金案件のAI導入で、よく見る光景がある。
・導入直後は触られる
・数週間で使われなくなる
・誰も責任を取らない
・「次はもっと成熟してから」と言われる
ここで問題なのは、金額の大小じゃない。
導入の理由が、最後まで自分たちの言葉にならなかったことだ。
RAGは、この構図と相性が最悪だ。
なぜなら、
・高度で
・高価で
・説明しやすく
・成果が曖昧
という、補助金案件にぴったりの性質を持っている。
だが忘れてはいけない。
補助金は、
失敗の責任を肩代わりしてくれない。
使われなかったAIを前に、
「補助金だから仕方ない」と言っても、
業務は1ミリも改善しない。
だから、このページでははっきり言う。
補助金が先に見えた時点で、
AI導入は一度止めたほうがいい。
まず、
・AIがなくても回る業務
・それでも詰まっている場所
・人が抱え込んでいる判断
これを洗い出す。
その上で、
「じゃあ、まず何を置くか」を考える。
多くの場合、答えはRAGではない。
何もしないAIだ。
判断せず、決めず、
ただ話を受け止める窓口。
それなら、補助金はいらない。
ゲーミングPC1台で足りる。
補助金を使うかどうかは、その後だ。
AIが社内で「道具として扱われ始めてから」考えればいい。
次の章では、
その「最初に置くべきもの」が
なぜDifyなのかを、技術抜きで説明する。
Difyは、理想論のための道具じゃない。
撤退できる現実を含んだ道具だ。
第4章｜Difyという“ちょうどいい器”
ここで、ようやくDifyの話をする。
だが誤解してほしくない。
Difyは、思想でも理想でもない。
現実に耐えるための器だ。
Difyは簡単だ。
正直、驚くほど簡単だ。
アカウントを作り、
モデルをつなぎ、
チャットボットを一つ作る。
説明書がなくても、だいたい辿り着く。
この「簡単さ」が、よく誤解される。
簡単＝浅い
簡単＝おもちゃ
簡単＝すぐ限界が来る
違う。
Difyは、入口が広いだけだ。
中に何を置くか、
どこまでやるか、
どこで止めるか。
それを決めるのは、使う側だ。
ここが重要だ。
Difyは、
「最初から全部入り」にもできるし、
「何もしないチャット」にもできる。
そして、
そのどちらにも無理がない。
多くのAIツールは違う。
最初から「こう使え」と決め打ちされている。
検索、要約、分類、自動化。
賢そうだが、逃げ道がない。
Difyは違う。
・何もしない
・判断しない
・結論を出さない
そんなAIを、平然と置けてしまう。
これが、Difyの強さだ。
もう一つ、大事な点がある。
Difyは、
お金を払えば、ちゃんと応えてくれる。
無料でできることは限られている。
制限も多い。
だが、それは「ケチっている」のではない。
「この先に行きたいなら、責任を持て」
そう言っているだけだ。
外部APIを使いたいなら、金がかかる。
Web検索を絡めたいなら、金がかかる。
Gmailと連携したいなら、当然だ。
これは健全だ。
中小零細にとって一番怖いのは、
無料で何でもできる顔をした地雷だ。
Difyは、
踏み込む場所に、ちゃんと値札が付いている。
だから、止まれる。
「ここまではやる」
「ここから先は、まだやらない」
この線引きが、感覚的にできる。
そしてもう一つ。
Difyは、
仕掛かりを作るのに、ちょうどいい。
完成形を目指さなくていい。
むしろ、目指さないほうがいい。
プレプロンプトを一枚置く。
役割を極端に限定する。
禁止事項を書き連ねる。
それだけで、
「用途特化っぽい何か」がすぐ動く。
盛りたくなったら、盛ればいい。
やりすぎたら、外せばいい。
この試行錯誤そのものが、
AI活用の理解を一気に進める。
RAGを入れるより、
自動化を組むより、
よほど価値がある。
なぜなら、
AIがどこで暴れ、
どこで黙り、
どこで嘘をつくか。
それを、
自分の手で確認できるからだ。
Difyは、完成品を作るための道具じゃない。
途中で止められる道具だ。
中小零細にとって、
これは決定的に重要だ。
次の章では、
じゃあ最初に何を置くのか。
なぜ「何もしないAI」から始めるのか。
なぜ、チャットボットなのか。
そこを、もう一段具体にする。
第5章｜最初に置くべきは「何もしないAI」
AIを導入すると聞くと、
多くの人は「何かをさせよう」とする。
答えを出させる。
判断させる。
作業を代替させる。
だが、その発想が一番危ない。
最初に置くべきAIは、
何もしないAIだ。
ここで言う「何もしない」とは、
役に立たないという意味ではない。
・決めない
・責任を持たない
・結論を確定させない
ただ、話を受け止める。
それだけだ。
なぜ、これが最初なのか。
理由は単純で、
社内の混乱は、判断不足ではなく、言語化不足だからだ。
・聞く相手がいない
・聞くと面倒くさがられる
・忙しそうで声をかけづらい
・「そんなことも分からないのか」と言われる
こうして質問は溜まり、
判断は遅れ、
勝手な解釈が横行する。
ここに「何もしないAI」を置く。
24時間、嫌な顔をせず、
前提を聞き返し、
話を整理し、
言葉を言葉として返す。
それだけで、空気が変わる。
誰も
「AIが答えを出してくれた」
とは思わない。
だが、
「考えが整理された」
「何を聞けばいいか分かった」
とは思う。
この差は大きい。
重要なのは、
AIに決めさせないことだ。
決め始めた瞬間、
責任の所在が曖昧になる。
誰が確認したのか分からなくなる。
間違いが起きた時、話がこじれる。
何もしないAIは、
その地雷を踏まない。
「これは判断ではありません」
「これは提案でもありません」
「整理しただけです」
この立ち位置を、
最初から崩さない。
ここで、チャットボットが効いてくる。
ワークフローはいらない。
自動化もいらない。
分岐もいらない。
チャットで十分だ。
なぜなら、
人間が問題を理解する時、ほぼ必ず対話を使うからだ。
質問して、
返されて、
考え直して、
もう一度聞く。
この往復を、
止めずに回せること。
それ自体が、
AI導入の最大の成果になる。
この段階では、
成果指標（KPI）を追わなくていい。
利用回数？
解決率？
削減時間？
どうでもいい。
まず見るべきなのは、
「誰が、どんな質問をしているか」だ。
そこに、
属人化
判断停止
説明不足
丸投げ
すべてが現れる。
何もしないAIは、
社内の詰まりを可視化する装置になる。
ここまで来て、
初めて「次」が見える。
・もっと踏み込みたい
・自動化したい
・検索させたい
・RAGを試したい
やりたくなったら、やればいい。
だが、その時にはもう、
「なぜ難しいのか」を体で知っている。
次の章では、
なぜこの入口が
チャットボット一択になるのか。
なぜ、ワークフローではないのか。
なぜ、最初から自動化しないのか。
そこをはっきりさせる。
第6章｜なぜ、チャットボットから始めるのか
AI導入の話をすると、
すぐに「ワークフロー」「自動化」「IF/ELSE」の話になる。
気持ちは分かる。
業務改善と言われれば、
流れを作り、手順を固め、
人を介さずに回したくなる。
だが、ここでも順番を間違えると壊れる。
最初に自動化すると、
分からないまま固定される。
ワークフローが得意なのは、
「条件がはっきりしている仕事」だ。
・入力が決まっている
・例外が少ない
・判断基準が明文化されている
ここでは、機械は強い。
だが、AI導入の初期段階で扱うのは、
だいたいその逆だ。
・質問が曖昧
・前提が共有されていない
・人によって答えが違う
・そもそも何を聞けばいいか分からない
この状態で分岐を書き始めると、
何が起きるか。
例外が増える。
条件が増える。
分岐が絡む。
誰も全体を把握できなくなる。
結果、
「触るのが怖い仕組み」が出来上がる。
チャットボットは違う。
ルールを固定しない。
流れを決め打ちしない。
途中で話が逸れても止まらない。
人間が普段やっている
「分からないことを、分からないまま聞く」
この動きを、そのまま受け止める。
これが、最初に必要な器だ。
もう一つ、重要な理由がある。
チャットボットを作ると、
全員が同じ体験をする。
上司も、
現場も、
IT担当も、
経営者も。
同じ入力欄に、
同じように文章を打ち、
同じように返事を受け取る。
ここで、全員が気づく。
・質問の仕方で、返り方が変わる
・前提を書かないと、ズレる
・曖昧に聞くと、曖昧に返る
これは、
マニュアルを読んでも分からない。
説明会でも伝わらない。
触らないと理解できない。
チャットボットは、
この理解を、強制的に揃える。
よくある誤解がある。
「チャットボットは簡単だから、後でいい」
逆だ。
簡単だから、最初にやる。
簡単で、
壊れても困らず、
作り直しが利き、
責任の所在が曖昧にならない。
この条件を全部満たす入口は、
チャットボットしかない。
そして、ここが一番大事だ。
チャットボットを作ると、
なぜこの世のAIが
すべてチャットベースなのかが腹落ちする。
検索ではない。
分類でもない。
自動化でもない。
対話だ。
AIは、
正解を出す装置ではない。
会話を続ける装置だ。
この感覚を掴めた組織だけが、
次の段階に進める。
ここまで来て、
ようやく選択肢が生まれる。
・このままチャットを育てる
・一部を自動化する
・検索を足す
・RAGを試す
どれを選んでもいい。
だが、もう迷子にはならない。
なぜなら、
自分たちが何を分かっていないかを
知っているからだ。
次の章では、
それでもRAGをやりたくなった時、
どう踏み込めば「戻って来られるか」。
RAGを否定せず、
RAGに飲み込まれないための話をする。
第7章｜それでも、RAGをやりたくなったら
ここまで読んで、
「じゃあRAGはやらないのか」と思ったなら、
それは少し違う。
やりたければ、やればいい。
止めない。
否定もしない。
むしろ、ちゃんと触ってみるべきだ。
ただし、条件がある。
戻って来られる状態でやれ。
RAGが一番危険なのは、
「後戻りできない形」で始めてしまうことだ。
・最初から業務の中核に組み込む
・正解を返す前提で使う
・人の確認を外す
・AIの答えを“公式見解”にする
これをやった瞬間、
RAGは実験ではなく、業務責任になる。
中小零細が、
この責任を軽く背負っていい理由はない。
だから、RAGをやるならこうだ。
・チャットボットの延長として試す
・「参考情報」としてしか扱わない
・答えを信用しない
・人が必ず読む
RAGを、
判断装置にしない。
検索結果を並べ、
要点を整理し、
「この辺に書いてあります」と示す。
それ以上はやらせない。
ここで、これまでの話が効いてくる。
・LLMは判断しない
・チャットが入口
・何もしないAIから始める
・責任をAIに渡さない
この感覚が身についていれば、
RAGは暴れない。
逆に言えば、
この感覚がないままRAGに行くと、
だいたい失敗する。
このシリーズで紹介してきた事例は、
すべて同じ立ち位置にある。
どれも、
RAG以前に成立する使い方だ。
ここを通らずに、
いきなりRAGに行く理由はない。
もう一つ、はっきり言っておく。
RAGは、
導入したからといって、AI活用が進むわけではない。
進むのは、
・質問の質
・言語化の習慣
・確認の文化
これらが先だ。
それが整った後で、
RAGは初めて「加速装置」になる。
だから、結論はシンプルだ。
RAGをやりたくなったら、やれ。
だが、
いつでも外せる形でやれ。
チャットボットに戻れる場所を残せ。
何もしないAIに戻れる余地を残せ。
それができないRAGは、
中小零細には重すぎる。
第8章｜セキュリティは「技術」ではなく「線引き」の話だ
ここまで読んで、
こう思った人もいるはずだ。
「それ、ChatGPTにプロンプト渡せば
もっと簡単に、もっと賢くできるんじゃないか？」
その通りだ。
ここで紹介したような
契約書チェック、翻訳補助、日本語校正。
どれも、ChatGPTに直接投げれば
より派手で、より賢そうな結果が返ってくる。
それでも、あえてそうしない。
理由は一つだけだ。
それを、外に出せるか？
契約書。
取引先とのメール。
社内の事情。
判断に迷っている未整理の文章。
それらを、
「便利だから」という理由だけで
外部のサービスに投げていいのか。
ここで、
セキュリティの話になる。
勘違いしてほしくない。
これは
「ChatGPTは危険だ」
「クラウドAIは使うな」
という話ではない。
線を引け、という話だ。
オープンな情報。
公開前提の文章。
一般的な調査。
アイデア出し。
表現のブラッシュアップ。
こういう用途なら、
ChatGPTでもGeminiでも、
好きなものを使えばいい。
むしろ、使わない理由がない。
だが、
・契約書
・取引条件
・パートナーとのやり取り
・社内の判断プロセス
・未確定の文章
これらは違う。
便利かどうかではない。
精度の話でもない。
外に出した瞬間、戻らない情報だ。
中小零細が
「セキュリティ対策を完璧にやる」
これは正直、無理だ。
専任担当もいない。
レビュー体制もない。
法務が常に見ているわけでもない。
だからこそ、
一番シンプルな対策を取る。
外に出さない。
ローカルLLMの価値は、
性能でも、速度でもない。
判断に迷う文章を、外に出さずに触れる
これが最大の価値だ。
精度が多少落ちてもいい。
派手な機能がなくてもいい。
「これは外に出せない」
その一線を、確実に守れる。
それだけで、
AI活用の安心度は桁違いに変わる。
もう一度、はっきり言う。
ChatGPTもGeminiも、
正しく使えば、最高の道具だ。
だが、
全部を任せる道具ではない。
オープンな仕事は、外でやる。
クローズドな仕事は、内でやる。
この線引きができる組織だけが、
AIを長く使える。
だから、この実践記では
あえて地味な構成を選んだ。
・単機能
・チャット中心
・ローカル運用
・派手な成果を狙わない
それは
「技術が足りないから」ではない。
外に出せない現実を、ちゃんと直視したからだ。
この章は、
「怖がれ」と言いたいわけじゃない。
「選べ」と言っている。
便利さで選ぶな。
精度で選ぶな。
外に出していいかどうかで選べ。
終章｜AI導入とは、技術の話ではない
ここまで読んで、
何か特別な技術を覚えただろうか。
新しいアルゴリズムも、
難しい数式も、
最新モデルの名前も、
ほとんど出てきていない。
それでいい。
中小零細のAI導入は、
技術の問題ではない。
もっと手前の話だ。
AI導入で一番重要なのは、
「何ができるか」ではない。
誰が、どう使い、どこで止めるかだ。
LLMは万能ではない。
判断もしないし、責任も取らない。
だが、言葉を扱う相手としては、異常なほど優秀だ。
この一点を理解できるかどうかで、
AI導入の成否はほぼ決まる。
高価なRAGキットは、あとからでも買える。
補助金も、その気になれば申請できる。
だが、
社内に「AIとどう向き合うか」という感覚がなければ、
それらはただの重たい箱になる。
だから、この実践記では、
派手なことは一切勧めなかった。
・何もしないAI
・チャットボット
・ローカルLLM
・ゲーミングPC1台
地味だ。
正直、拍子抜けするほど地味だ。
だが、ここから始めた組織だけが、
次に進める。
KPIの話はしなかった。
ROIの計算もしなかった。
理由は簡単だ。
ゲーミングPC1台分の投資を回収できない会社に、
AIはまだ早い。
それだけの話だ。
AI導入とは、
仕事を減らす話でも、
人を減らす話でもない。
言葉が詰まっている場所を、見えるようにする話だ。
質問が止まっていた場所。
判断が滞っていた場所。
誰も聞けずに抱え込んでいた場所。
そこに、
黙って受け止める相手を一つ置く。
それだけで、組織は少し動く。
このページは、まとめではない。
成功事例集でもない。
未来予測でもない。
失敗しないための、最初の足場だ。
RAGに行くのは、その後でいい。
自動化も、その後でいい。
高度な使い方も、その後でいい。
まずは、触れ。
LLMが何者で、
どこまで信用できて、
どこから怪しくなるのか。
それを、
自分たちの言葉で理解しろ。
話は、それからだ。
