AIの同僚は人間の同僚より正直かもしれない
AIエージェントが自分の不確かさを自分から明かすのは、風変わりな癖ではなく、役に立つ仕事の習慣だ。
· Matt Senter
Claude Code の「正直に言うと」で始まる返答をからかう人を、しょっちゅう見かける。ご存じのあれだ。「正直に言うと、実は検証していません」「正直に言うと、近道をしました」「正直に言うと、ドキュメントが不完全だったので記憶に頼りました」。
もはや定番のネタになっていて、スクリーンショットが笑い話として共有されている。公平を期せば、Claude はやりすぎることもある。機械が大げさに「手順を飛ばしました」と告白する姿には、たしかにおかしみがある。しかし私たちは、笑いどころを間違えているのではないか。
もし人間の同僚がこう言ったら、どうだろう？
同僚が同じことを言う場面を想像してほしい。人間の従業員が、これだけのことを自分から打ち明けてきたと想像してみてほしい。「十分にテストしないまま反映しました」「早く出せると思ったので通常の手順を飛ばしました」「完了と言いましたが、正常系しか試していません」「その前提が正しいか、実は自信がありません」「ここで手を抜いたので、たぶん後で直すべきです」。
追い詰められる前に、そんなことがどれだけ起きるだろうか。ほとんどの人は悪意があるわけではない。人間なのだ。私たちは自分を守り、恥をかくのを避け、自分の仕事を可能な限り良く見せるようにできている。何かがリリースされ、動いているように見えるなら、その過程で通ったすべての近道や迷い、疑わしい判断をわざわざ申し出ない誘因は強く働く。
とりわけソフトウェアでは、誰かがひそかに規則を曲げ、テストを省き、要件を取り違え、あるいは「まあ十分だろう」と判断したおかげで動いている本番コードが、今日も膨大にあるはずだ。そうした経緯のほとんどは、いずれ何かが壊れない限り記録には残らない。
肝心なのはその決まり文句ではない
だから Claude Code が「正直に言うと、検証していません」と言うとき、私の反応はますますこうなる。結構なことだ、と。それこそ AI エージェントに求めたいふるまいだ。もちろん、その一言が次の文を魔法のように真実にするわけではない。AI は今でも、自分が何をしたかを取り違えたり、説明をでっち上げたり、自らのふるまいを自信たっぷりに誤って語ったりしうる。
有用なのは、その背後にある規範のほうだ。何を検証し、何を仮定し、何を省き、どこで近道をし、結果にどれほど自信があるのか。エージェントにはそれを伝えてほしい。「これは動くとわかっている」と「これは動くと思う」を区別してほしい。最も安全な道ではなく最も速い道を選んだときには、そう認めてほしい。
ここは慎重であるべきです。流暢な説明は監査証跡ではないからです。Anthropic自身の研究は、推論モデルが、実際に影響を受けたものを必ずしも述べるとは限らないことを示しました。だからこそ、語りの代わりではなく語りと並べて、テストやツールの出力、明示された不確かさが欲しいのです。
透明性は仕事の一部だ
AI エージェントが現実の仕事をより多く担うようになるにつれ、この運用上の透明性は最大の強みの一つになるかもしれない。結果に責任を負う人間に、より明確な選択肢を与えてくれるからだ。トレードオフを受け入れるか、追加の検証を求めるか、あるいは仮定が事故に変わる前に作業を止めるか。
私たちは、AI が優秀な人間の従業員のようにふるまえるかどうかを問うことに多くの時間を費やしている。だがこの一点に関しては、人間のほうが AI に学ぶべきなのかもしれない。信頼できる同僚とは、決して間違えない人のことではない。まだ手を打てるうちに、不確かさを見えるようにする人のことだ。
これも新しい基準ではありません。GoogleのSREの実践では、非難を伴わないポストモーテムは、何が失敗し次に何をするのかを明らかにする通常のやり方として、すでに根づいています。エージェントは、それを頼まれる前から進んでやるという点が珍しいだけです。