Privacidade e design de produto.
Casos em que o design de um produto diz o que seus criadores de fato otimizaram. Inclui a saga em dois textos de uma recuperação de conta que levou 60 mil visualizações para se resolver.
O que o design de um produto revela sobre quem o faz?
O design de um produto mostra o que seus criadores de fato otimizaram. A Enbridge, avaliada em cerca de US$ 110 bilhões, lançou um novo site de cobrança que limitava as senhas a 13 caracteres e não aceitava o quarto dígito do CVV de um American Express. HumanSlop defende que isso é uma falha de qualidade organizacional, não de recursos, e que software feito por humanos não ganha passe livre em qualidade. Deixei o Duolingo após uma sequência de 1.000 dias porque a sequência tinha virado prova de que eu abria o app, não de que aprendia um idioma: a métrica cumprida, a missão perdida.
A IA pode ler seu e-mail sem custar sua privacidade?
O e-mail é um cano aberto em que qualquer um pode escrever, e também é por onde mandamos as chaves de todo o resto. A IA enfim consegue separar mensagens pelo que significam, e não por onde vieram, mas o design ingênuo sobe sua caixa de entrada para os servidores e o modelo de outra pessoa. O e-mail é horrível. A IA pode consertá-lo, mas só se protegermos a caixa de entrada explica por que construí o Premail como BYOK (traga sua própria chave), com modelos locais via Ollama, e por que o objetivo dele é você passar menos tempo no e-mail, não gerar mais engajamento.
O que o software deve fazer quando não consegue fazer seu trabalho?
O Comoji para de propósito enquanto o Secure Input do macOS está ativo, porque um utilitário de emoji não tem nada que ver você digitar uma senha. Depois de uma reinicialização, o Secure Input ficou travado, preso primeiro pelo Chrome e depois pelo processo de login da Apple, e o Comoji parecia quebrado, até para mim. A solução não foi contornar a proteção, e sim um pequeno cadeado no ícone da barra de menus e um artigo de ajuda acessível pelo próprio app. Construindo software defensivo trata dessa diferença: “não é bug meu” não é uma resposta completa, e um software que para deveria conseguir dizer por quê.
O que acontece quando o caminho automatizado falha?
Quando a conta Microsoft do meu filho foi sequestrada, o invasor trocou o endereço de recuperação, e a Microsoft passou a tratá-lo como mais confiável do que o endereço do iCloud usado para entrar, que continuávamos controlando, ou do que o grupo do Family Safety do qual sou o organizador. A recuperação de contas da Microsoft é teatro de segurança registra esse labirinto. A conta só voltou depois que o texto passou de 60 mil visualizações e um funcionário da Microsoft me colocou em contato com uma equipe de escalonamento, e por isso não deveria ter exigido 60 mil visualizações. O atendimento falha do mesmo jeito: se o cliente pedir uma pessoa, dê uma pessoa a ele, e use a IA para equipar essa pessoa.
Construindo software defensivo
O Comoji parou de funcionar após reiniciar porque o Secure Input do macOS travou. A solução: um cadeado e um artigo de ajuda que explicam a pausa.
Ler→HumanSlop: como uma empresa de US$ 110 bilhões lança um software tão ruim?
O “slop” de IA leva a culpa, mas uma empresa de US$ 110 bilhões publicou um portal que limita senhas a 13 caracteres e recusa o CVV do American Express.
Ler→O e-mail é horrível. A IA pode consertá-lo, mas só se protegermos a caixa de entrada.
O e-mail precisa de classificação por IA, mas a caixa de entrada é sensível demais para ser entregue sem cuidado a outro serviço em nuvem.
Ler→O único lugar em que eu não substituiria pessoas por IA: atendimento ao cliente
A IA pode automatizar o atendimento ao cliente, mas nunca deveria ficar entre um cliente frustrado e um ser humano.
Ler→Por que deixei o Duolingo após uma sequência de 1.000 dias
Vale a pena usar o Duolingo? Após 1.000 dias de sequência, minha resposta foi não. Como gemas, ligas e a pressão da sequência substituíram o aprendizado.
Ler→A Microsoft devolveu a conta do meu filho. Não deveria ter exigido 60.000 visualizações.
A Microsoft restaurou a conta invadida do meu filho após um escalonamento, mas o processo comum de recuperação não deveria exigir um post viral para funcionar.
Ler→A recuperação de contas da Microsoft é teatro de segurança
A Microsoft tem provas para restaurar uma conta roubada, mas seu processo acaba protegendo o invasor.
Ler→