Votre collègue IA pourrait être plus honnête que votre collègue humain
Qu'un agent IA expose sa propre incertitude n'est pas une lubie. C'est une bonne habitude de travail.
· Matt Senter
Je vois sans arrêt des gens se moquer des réponses « réponse honnête » de Claude Code. Vous voyez le genre : « Réponse honnête : je n'ai pas réellement vérifié cela. » « Réponse honnête : j'ai pris un raccourci. » « Réponse honnête : la documentation est incomplète et je me suis fié à ma mémoire. »
C'est devenu un tel poncif que les captures d'écran circulent pour faire rire. Et il faut l'admettre, Claude en fait parfois trop. Il y a quelque chose de comique à voir une machine confesser solennellement qu'elle a sauté une étape. Mais je crois que nous rions de la mauvaise chose.
Imaginez un collègue qui dirait la même chose
Imaginez un employé humain vous livrant spontanément ce niveau de détail : « J'ai poussé ça sans l'avoir complètement testé. » « J'ai contourné le processus habituel parce que je pensais aller plus vite. » « J'ai dit que c'était terminé, mais je n'ai testé que le cas idéal. » « Je ne suis pas certain que cette hypothèse tienne. » « J'ai bâclé ce point et je devrais sans doute y revenir. »
À quelle fréquence cela arrive-t-il sans que la personne ait d'abord été mise au pied du mur ? La plupart des gens ne sont pas malveillants. Ils sont humains. Nous sommes programmés pour nous protéger, éviter l'embarras et présenter notre travail sous son meilleur jour. Si quelque chose part en production et semble fonctionner, il y a une forte incitation à taire chaque raccourci, chaque doute et chaque décision discutable rencontrés en chemin.
Dans le logiciel en particulier, je parierais qu'une quantité énorme de code tourne aujourd'hui en production parce que quelqu'un a discrètement contourné une règle, sauté un test, mal compris une exigence ou décidé que « assez bien » suffisait. Presque aucune de ces histoires n'est documentée, sauf si quelque chose finit par casser.
La formule n'est pas l'essentiel
Alors quand Claude Code dit « réponse honnête : je n'ai pas vérifié », ma réaction est de plus en plus : tant mieux. C'est exactement le comportement que j'attends d'un agent IA. La formule ne rend pas magiquement vraie la phrase qui suit. Les systèmes d'IA peuvent encore se méprendre sur ce qu'ils ont fait, halluciner des explications ou décrire leur propre comportement avec un aplomb erroné.
Ce qui compte, c'est la norme qui se cache derrière. Je veux que les agents me disent ce qu'ils ont vérifié, ce qu'ils ont supposé, ce qu'ils ont ignoré, où ils ont pris des raccourcis et quel est leur degré de confiance dans le résultat. Je veux qu'ils distinguent « je sais que ça marche » de « je pense que ça marche ». Je veux qu'ils admettent quand ils ont choisi la voie la plus rapide plutôt que la plus sûre.
La transparence fait partie du travail
À mesure que les agents IA prennent en charge du travail réel, cette transparence opérationnelle pourrait devenir l'un de leurs plus grands atouts. Elle offre à la personne responsable du résultat un choix plus net : accepter le compromis, demander davantage de vérification, ou arrêter le travail avant qu'une hypothèse ne devienne un incident.
Nous passons beaucoup de temps à nous demander si l'IA peut se comporter davantage comme un bon employé humain. C'est peut-être un cas où ce sont les humains qui devraient prendre des notes auprès de l'IA. Un collègue digne de confiance n'est pas quelqu'un qui ne se trompe jamais. C'est quelqu'un qui rend l'incertitude visible tant qu'il est encore temps d'agir.