プロローグ
AIを導入した企業の未来は、明るい話ばかりではないかもしれません。
爆速で作られたAIツール。誰かが組んだ自動化。便利そうに見えた社内GPT。
それらは、作った瞬間には拍手されます。
けれど数か月後、数年後、作った本人がいなくなったとき、現場には「説明できない仕組み」だけが残ることがあります。私は、そういう残骸を何度も見てきました。
RPAの時代にもありました。だから分かります。
次に増えるのは、野良ロボットではなく、野良AIです。
野良AIとは何か
新しいシステムやツールを入れるとき、大切なのは「誰の」「どの業務を」「どのように」「なぜ」楽にするのかという視点です。これを欠くと定着しないどころか、管理不全の残骸を築くことになる。
このAI時代であれば、さしずめ、
- 誰かが勝手に作ったGPT
- 目的不明の自動化フロー
- 責任者不明のAIアシスタント
といったところか。私はこれを「野良AI」と呼びます。
管理されていないAI活用も危険ですが、更新されず放置された仕組みはもっと危ないかもしれない。
なぜ増えるのか
AIを活用して開発をすることは、決して悪いことではない。しかし爆速で開発をすることが正義になっている風潮には、少し首を傾げたくなります。
AIツールに限ったことではないが、こんな光景を見たことはないでしょうか。
- 課題の洗い出しが不十分で、PoCで終わる。
- 導入責任者と運用責任者が別で、要件定義がズレる。
- 現場ヒアリング不足で定着しない。
- 導入目的や導入経緯が文書化されず、意義が失われる。
- 「使えればOK」で設計されるため、運用ルールや保守が疎かになる。
開発速度が桁違いに早いため、「野良AI」も量産される可能性が高い。
「前捌き」という調教を怠ると、野に放たれた犬と変わらない。
何がこわいか
AIの誤回答や誤処理は、現場を止めてしまうだけでなく、情報漏えいを引き起こすことがあります。
また、文書化されていないために属人化し、改修不能に陥りやすい。誤処理を止める手立てを失うわけです。
そんなツールに対して現場の不信感は増し、しまいには「AIは使えない」という誤学習につながります。
そう、悪いのは設計不足であるにもかかわらず、です。
誰が骨を拾うのか
ここが本丸です。
最終的に拾うのは、たいてい「現場を見て、業務を読み、構造を解きほぐせる人」です。
つまり、後始末はだいたい現場伴走型の人間に回ってくる。
「前捌き」不足を「後捌き」する。これを「本末転倒」といいます。
野良化を防ぐには
ツールやシステムを導入する前には、業務をほどく作業が必要です。
そしてそれも含めた準備、「前捌き」を行う。
- 目的を定義する
- 人とAIの役割分担を決める
- 更新ルールを決める
- ログと責任者を明確にする
- 小さく始めて、定着を見てから広げる
順番を逆にしてはいけません。「野良AI」を作らないために。
エピローグ
この記事を書きながら、少し嫌な未来を想像しました。
野良AI「ひゃっはー！この業務は俺が自動化したぜぇ！」
現場「誰が作ったのこれ？」
野良AI「知らねぇ！でも動いてるからヨシ！」
数か月後。担当者は異動し、APIは変わり、誰も仕組みを説明できない。
世紀末のどこかから声がする。
「お前はすでに死んでいる」
ただしAIの場合、少し厄介です。
死んでいても、それっぽい数字や文章を出し続けるかもしれません。
爆速開発のあとに広がる世紀末。
放置GPT、孤児Zapier、主不明GAS、古代プロンプト、誰も触れないRAG。
そんな荒野にならないことを、心から祈っています。
そして、もしなってしまったら。
……たぶん、誰かが骨を拾うことになります。
まとめ
- AI導入では「爆速で作る」ことばかりが評価され、運用や責任の設計が置き去りにされやすい
- 目的・責任者・運用ルールが不明なまま放置されたAIツールは「野良AI」となり、現場に残骸として残る
- 文書化されず属人化した野良AIは、誤作動しても止められず、現場の不信感や「AIは使えない」という誤学習につながる
- 前捌き（目的定義・役割分担・運用ルール・責任者の明確化）を怠ると、後始末はいつも現場伴走型の人間に回ってくる
- 後始末（後捌き）に追われるのは、前捌きを怠ったことの結果であり、順序が逆になっている
- 野良AIを増やさないために、小さく始めて定着を見てから広げるという順番を守ることが重要
編集後記
この記事の着想は、最近のプロ人材募集の内容の変化からでした。
数年前なら、「生成AIに詳しい方」「LLMの知見」「プロンプトエンジニアリング」「PoC経験」。求められるのは、個人の技術スキルでした。
ところが、実際に企業が導入を進めてみると、技術はある。PoCもできる。それでも、組織が動かない。現場で使われない。ROIも説明できない。そういう壁にぶつかったのだと思います。あるコンサルティング会社の調査によると、AIを導入した企業のおよそ90％が、PL（損益）にインパクトを感じないと回答したそうです。
その結果、今度は「AIの前後を回せる人材」が求められるようになりました。特定の製品に依存しない技術中立の立場で、クライアントの課題を起点に、構想から実装、定着までの推進体制を構築できる人。
この潮目の変化には、ちゃんと背景があります。
RPA万歳と言われていた数年後に、私が見た光景と同じでした。だから今回の記事は、あの頃の焼き直しにならないための、ちょっとした警鐘のつもりで書きました。
関連するNDL語彙：[前捌きとは] [ニューロデザインとは] [認知負荷とは] [MSBKOとは]
コメント