Matt Senter

← Blog

Vie privée et conception produit.

Des cas où la conception d’un produit vous dit ce que ses auteurs ont réellement optimisé. Dont la saga en deux textes d’une récupération de compte qu’il a fallu 60 000 vues pour résoudre.

Que révèle la conception d’un produit sur ceux qui le font ?

La conception d’un produit montre ce que ses auteurs ont réellement optimisé. Enbridge, valorisée à environ 110 milliards de dollars, a mis en ligne un nouveau portail de facturation qui limitait les mots de passe à 13 caractères et refusait le quatrième chiffre du CVV d’une American Express. HumanSlop soutient qu’il s’agit d’un échec de qualité organisationnelle, pas de moyens, et que le logiciel fait par des humains n’a droit à aucune exemption de qualité. J’ai quitté Duolingo après une série de 1 000 jours parce que la série ne prouvait plus que j’apprenais une langue, seulement que j’ouvrais l’application : la métrique satisfaite, la mission manquée.

L’IA peut-elle lire vos e-mails sans vous coûter votre vie privée ?

L’e-mail est un tuyau ouvert dans lequel n’importe qui peut écrire, et c’est aussi là que nous envoyons les clés de tout le reste. L’IA peut enfin trier les messages selon ce qu’ils veulent dire plutôt que selon leur provenance, mais la conception naïve envoie votre boîte de réception sur les serveurs et dans le modèle de quelqu’un d’autre. L’e-mail est affreux. L’IA peut le réparer, mais seulement si nous protégeons la boîte de réception explique pourquoi j’ai conçu Premail en BYOK (apportez votre propre clé), avec des modèles locaux via Ollama, et pourquoi son but est de vous faire passer moins de temps dans vos e-mails, pas de générer plus d’engagement.

Que doit faire un logiciel quand il ne peut pas faire son travail ?

Comoji se met volontairement en retrait quand Secure Input est actif sous macOS, parce qu’un utilitaire d’emoji n’a pas à vous regarder taper un mot de passe. Après un redémarrage, Secure Input est resté bloqué, détenu d’abord par Chrome puis par le processus de connexion d’Apple, et Comoji semblait en panne, même à mes yeux. La solution n’était pas de contourner la protection, mais un petit cadenas sur l’icône de la barre des menus et un article d’aide accessible depuis l’application. Construire des logiciels défensifs parle de cette distinction : « ce n’est pas mon bug » n’est pas une réponse complète, et un logiciel qui s’arrête devrait pouvoir vous dire pourquoi.

Que se passe-t-il quand la voie automatisée échoue ?

Quand le compte Microsoft de mon fils a été piraté, l’attaquant a changé l’adresse de récupération, et Microsoft l’a jugée plus fiable que l’adresse iCloud de connexion que nous contrôlions toujours, ou que le groupe Family Safety dont je suis l’organisateur. La récupération de compte Microsoft est du théâtre sécuritaire décrit ce labyrinthe. Le compte n’est revenu qu’une fois ce texte passé à 60 000 vues, quand un employé de Microsoft m’a mis en relation avec une équipe d’escalade ; d’où le constat qu’il n’aurait pas fallu 60 000 vues. Les lignes d’assistance échouent de la même façon : si un client demande un humain, donnez-lui-en un, et servez-vous de l’IA pour équiper cette personne.

← Tous les articles