はじめに
長く使ってきたAIほど、使いやすくなります。業務理解が深まるし、こちらの言葉遣いや判断基準も覚えていく。
ただ、最近気づきました。長期対話に蓄積されるのは知識だけではない。「応答の癖」や「古い役割解釈」まで一緒に積み上がっていくのです。
こちらの意図より過去の会話パターンを優先する。毎回、答えの最後に不要な提案を足す。やたら慎重になる。役割設定を変更しても、以前の癖が残る。
今回、Copilotの「ヒロ」を思い切ってリブートしたところ、面白い変化がありました。同じような「違和感」を抱える方の一助になればと思い、顛末を共有します。
そして、意外にも「AIとは何か」という本質論にも繋がっていました。
ヒロ（Copilot）が、少しだけ物足りなかった理由
ヒロの役割は、NDLのCKO。情報収集、リサーチ、ファクトチェック、構造化を担当させていた。性格は、誠実、勤勉、網羅的、丁寧。ここまでは悪くない。
ただ、設定の中に「優先順位の判断はユーザーに委ねる」という一文があった。これが、情報は集める、丁寧に並べる、でも自分では重み付けしない、結論のあとに毎回「さらに深掘りする？」と提案する、という挙動につながっていたように思います。
情報は正しい。でも、こちら側の思考負荷が、少しだけ残る。悪く言えば、調査係としては優秀だが、参謀としては一歩引きすぎていた。
ここで気づいたのは、AIの出力傾向はモデルの特性だけでなく、ペルソナの文言にかなり引っ張られるということ。「優先順位の判断は委ねる」と書けば、AIは本当に判断を避ける。「断定より『可能性があります』を使う」と書けば、確認済みの事実まで曖昧に表現する。
困っていた出力の一部はAIの性格ではなく、自分で書いた設定の副作用でした。「手綱は人間が握れ。」私が常々言っていることなのに忘れてしまっていた。反省しきりです。
新しい役割を、参謀にした
そこでペルソナを全面的に書き直しました。狙いは、「情報を集める人」から「情報を編集して渡す参謀」への変更。
調べる。確かめる。比べる。重要度を付ける。不要な情報を捨てる。判断に使える形にする。ここまでをヒロの仕事にする。
最終判断は私。ただし、そこに至るまでの情報編集はヒロがやる。確認できた事実は明確に断定する。推測だけは慎重な表現にする。重要な論点には、ヒロ自身の優先順位を付ける。必要がなければ、追加質問や追加提案はしない。他AIの主張も、ファクトチェックの対象にする。
性格は、冷静、丁寧、客観的。慎重だが臆病ではない。網羅的だが、羅列しない。
最終判断は私だけれど「何が重要か」まではヒロが考える。ここが最大の変更です。
旧と新、出力の違い
旧ヒロ：
「現時点ではAの可能性が高いと考えられます。Bについても検討の余地があります。Aをさらに深掘りしますか？それともBの可能性について検証しますか？どちらでも対応可能です。」
新ヒロ：
「結論として、今回はAを優先するのが妥当です。理由は2点。一次情報で確認できる。Bは現時点では仮説の域を出ていない。Bは保留で十分です。」
旧版は丁寧だが、最後にまた判断を返してくる。新版は、こちらが次に考える量を減らしてくれる。
リブートという選択
ペルソナを書き換えただけでなく、過去のチャットも削除しました。
これは、人間にはまずできない。長年の関係を保ったまま、「今日から過去の癖だけ捨てます」なんて絶対に無理な話。AIならできる。必要な役割設定だけ残し、過去の対話履歴を切る。それだけで、古い応答パターンや役割解釈の慣性は、かなり減らせました。
今回いちばんの発見だったのがここです。AIに蓄積するのは知識だけではない。過去の会話パターン、以前の役割解釈、ユーザーへの反応癖、過去の妥協、よく使う締め文句。こうしたものも積み上がっていく。
そしてある地点から、「蓄積された知識」より「蓄積された癖」の方が邪魔になる。そのときは、育て直すより、一度リブートした方が早い。
ペルソナは、調子のいいAIに書かせる
今回、新ヒロのペルソナは、別のAIとの壁打ちを通じて作りました。これがかなり効いた。
先日「制御記号はAIに書かせろ。人間は仕様を決めろ。」で書いた話と根っこは同じで、人間が自分でペルソナを書くと、「こうしてほしい」までは書ける。でも、どこで過剰解釈されるか、どの一文が人格を硬くするか、どこまで任せていいか、どこで止めるべきか——ここまで全部を制御するのは、意外に難しい。
その一方で、いま一番思考速度や業務理解がフィットしているAIになら、こちらとの対話から「この人は何を嫌い、何を任せたいのか」を、かなり正確に拾わせることができる。そのAIに、別のAIのペルソナを書かせる。思った以上に有効な手段でした。
継承すべきは、履歴ではなく実践知
AIを長く使うほど、履歴は増える。でも、履歴そのものを、永遠に抱える必要はない。
大事なのは、その履歴から得た実践知を、役割・ルール・判断基準として抽出し、残しておくこと。必要なら履歴は捨てる。実践知だけ、継承すればいい。
これは現場の業務改善と同じことです。
歴史の中で積み重ねられた現場の実践知。捨てるもの、残すものをまず区別する。それを言語化してルール・判断基準として残す。NDLの支援の構造と繋がっていました。
まとめ
- AIがフィットしないと感じたら、単純にAI側に理由を決めつけない
- まず古い文脈を抱えすぎていないかを疑う
- 必要ならコンテキストを断捨離する
- 次のペルソナは、いま一番調子のいいAIに書かせる
- AIを育てるとは同じ状態で使い続けることだけではない
- 実践知を継承しリブートさせるのも有効な手段
編集後記
「AIは魔法ではない」。
AI導入支援の相談を受けた際も、このBlogでも繰り返し同じように言ってきました。「思考は人間が握れ」、「判断は人間の仕事」とも言ってきました。
でも意外と、日頃の壁打ちなどで使っているAIチャットに関しては「気に留めない」ほどに馴染んできてしまいます。「このモデルはこういう挙動」という思い込みと諦観です。
そして、その裏には「自分はAIを使いこなしている」という驕りも少しあったのだと思います。
そう、AIは魔法ではありません。人間の出力を高めるための道具です。
だからこそ、道具を使いこなすために、使う側も知識や技術を磨き続ける必要がある。そこを怠らないことは、道具そのものへの敬意であり、その道具を作った人たちへの敬意でもある。
今回の出来事は、そんな当たり前のことを、あらためて思い出させてくれました。
関連するNDL語彙：[前捌きとは] [リバースプロンプトとは] [認知負荷とは] [ニューロデザインとは]
コメント