Seu colega de IA pode ser mais honesto que um colega humano
Um agente de IA expor a própria incerteza não é uma mania. É um bom hábito de trabalho.
· Matt Senter
Vejo o tempo todo gente tirando sarro das respostas de «resposta honesta» do Claude Code. Você sabe o tipo: «Resposta honesta: na verdade não verifiquei isso.» «Resposta honesta: peguei um atalho.» «Resposta honesta: a documentação está incompleta e eu confiei na memória.»
Virou um bordão a ponto de as pessoas compartilharem capturas de tela para rir. E, para ser justo, o Claude às vezes exagera. Há algo de engraçado em uma máquina confessando dramaticamente que pulou uma etapa. Mas acho que estamos rindo da coisa errada.
E se um colega humano falasse assim?
Imagine um colega dizendo a mesma coisa. Imagine um funcionário humano oferecendo esse nível de transparência por conta própria: «Subi isso sem testar direito.» «Ignorei o processo normal porque achei que sairia mais rápido.» «Eu disse que estava pronto, mas só testei o caminho feliz.» «Não tenho certeza de que essa suposição esteja correta.» «Cortei caminho aqui e provavelmente deveria voltar e arrumar.»
Com que frequência isso acontece sem que alguém seja encurralado antes? A maioria das pessoas não age de má-fé. São humanas. Somos programados para nos proteger, evitar constrangimento e apresentar nosso trabalho da melhor forma possível. Se algo vai para produção e parece funcionar, existe um incentivo forte para não mencionar cada atalho, cada dúvida e cada decisão questionável do caminho.
Em software, sobretudo, eu apostaria que há hoje uma quantidade enorme de código rodando em produção porque alguém dobrou uma regra em silêncio, pulou um teste, entendeu mal um requisito ou decidiu que «bom o bastante» bastava. Quase nenhuma dessas histórias é documentada, a menos que algo acabe quebrando.
A frase não é o ponto
Então, quando o Claude Code diz «resposta honesta: eu não verifiquei isso», minha reação é cada vez mais: ótimo. É exatamente o comportamento que quero de um agente de IA. A frase em si não torna magicamente verdadeira a sentença seguinte. Sistemas de IA ainda podem entender errado o que fizeram, alucinar explicações ou descrever o próprio comportamento com confiança equivocada.
O que vale é a norma por trás dela. Quero que os agentes me digam o que verificaram, o que presumiram, o que ignoraram, onde cortaram caminho e quanta confiança têm no resultado. Quero que distingam entre «sei que isso funciona» e «acho que isso funciona». Quero que admitam quando escolheram o caminho mais rápido em vez do mais seguro.
Vale ser cuidadoso aqui, porque uma explicação fluente não é uma trilha de auditoria. A própria pesquisa da Anthropic descobriu que modelos de raciocínio nem sempre dizem o que de fato os influenciou. É um motivo para querer testes, saída de ferramentas e incerteza declarada ao lado da narração, não no lugar dela.
Transparência faz parte do trabalho
À medida que agentes de IA assumem mais trabalho real, esse tipo de transparência operacional pode se tornar uma de suas maiores vantagens. Ela dá a quem responde pelo resultado uma escolha mais clara: aceitar o trade-off, pedir mais verificação ou interromper o trabalho antes que uma suposição vire um incidente.
Passamos muito tempo perguntando se a IA consegue se comportar mais como um bom funcionário humano. Talvez este seja um caso em que os humanos deveriam tomar nota da IA. Um colega confiável não é alguém que nunca erra. É alguém que torna a incerteza visível enquanto ainda dá tempo de fazer algo a respeito.
Também não é um padrão novo. A prática de SRE do Google já trata postmortems sem culpados como a forma normal de trazer à tona o que deu errado e o que vem depois. Os agentes apenas são incomumente dispostos a fazer isso sem que se peça.