AIの同僚は人間の同僚より正直かもしれない

同僚が同じことを言う場面を想像してほしい

人間の従業員が、これだけのことを自分から打ち明けてきたと想像してみてほしい。「十分にテストしないまま反映しました」「早く出せると思ったので通常の手順を飛ばしました」「完了と言いましたが、正常系しか試していません」「その前提が正しいか、実は自信がありません」「ここで手を抜いたので、たぶん後で直すべきです」。

追い詰められる前に、そんなことがどれだけ起きるだろうか。ほとんどの人は悪意があるわけではない。人間なのだ。私たちは自分を守り、恥をかくのを避け、自分の仕事を可能な限り良く見せるようにできている。何かがリリースされ、動いているように見えるなら、その過程で通ったすべての近道や迷い、疑わしい判断をわざわざ申し出ない誘因は強く働く。

とりわけソフトウェアでは、誰かがひそかに規則を曲げ、テストを省き、要件を取り違え、あるいは「まあ十分だろう」と判断したおかげで動いている本番コードが、今日も膨大にあるはずだ。そうした経緯のほとんどは、いずれ何かが壊れない限り記録には残らない。

肝心なのはその決まり文句ではない

だから Claude Code が「正直に言うと、検証していません」と言うとき、私の反応はますますこうなる。結構なことだ、と。それこそ AI エージェントに求めたいふるまいだ。もちろん、その一言が次の文を魔法のように真実にするわけではない。AI は今でも、自分が何をしたかを取り違えたり、説明をでっち上げたり、自らのふるまいを自信たっぷりに誤って語ったりしうる。

有用なのは、その背後にある規範のほうだ。何を検証し、何を仮定し、何を省き、どこで近道をし、結果にどれほど自信があるのか。エージェントにはそれを伝えてほしい。「これは動くとわかっている」と「これは動くと思う」を区別してほしい。最も安全な道ではなく最も速い道を選んだときには、そう認めてほしい。

透明性は仕事の一部だ

AI エージェントが現実の仕事をより多く担うようになるにつれ、この運用上の透明性は最大の強みの一つになるかもしれない。結果に責任を負う人間に、より明確な選択肢を与えてくれるからだ。トレードオフを受け入れるか、追加の検証を求めるか、あるいは仮定が事故に変わる前に作業を止めるか。

私たちは、AI が優秀な人間の従業員のようにふるまえるかどうかを問うことに多くの時間を費やしている。だがこの一点に関しては、人間のほうが AI に学ぶべきなのかもしれない。信頼できる同僚とは、決して間違えない人のことではない。まだ手を打てるうちに、不確かさを見えるようにする人のことだ。