Privacidad y diseño de producto.
Casos en los que el diseño de un producto te dice qué optimizaron de verdad sus creadores. Incluye la saga en dos partes de una recuperación de cuenta que necesitó 60.000 visualizaciones para resolverse.
¿Qué revela el diseño de un producto sobre quienes lo hacen?
El diseño de un producto muestra qué optimizaron de verdad sus creadores. Enbridge, valorada en unos 110.000 millones de dólares, lanzó un nuevo portal de facturación que limitaba las contraseñas a 13 caracteres y no aceptaba el cuarto dígito del CVV de una American Express. HumanSlop sostiene que eso es un fallo de calidad organizativa, no de recursos, y que el software hecho por humanos no tiene carta blanca en calidad. Dejé Duolingo después de una racha de 1.000 días porque la racha ya solo demostraba que abría la aplicación, no que aprendía un idioma: la métrica cumplida, la misión perdida.
¿Puede la IA leer tu correo sin que pierdas tu privacidad?
El correo es una tubería abierta en la que cualquiera puede escribir, y también es donde enviamos las llaves de todo lo demás. La IA por fin puede ordenar los mensajes por lo que significan y no por su procedencia, pero el diseño ingenuo sube tu bandeja de entrada a los servidores de otro y al modelo de otro. El correo electrónico es horrible, y la IA puede arreglarlo solo si protegemos la bandeja de entrada explica por qué construí Premail con BYOK (trae tu propia clave) y modelos locales mediante Ollama, y por qué su objetivo es que dediques menos tiempo al correo, no más interacción.
¿Qué debe hacer el software cuando no puede hacer su trabajo?
Comoji se detiene a propósito mientras Secure Input de macOS está activo, porque una utilidad de emoji no tiene por qué ver cómo escribes una contraseña. Después de un reinicio, Secure Input se quedó atascado, retenido primero por Chrome y luego por el proceso de inicio de sesión de Apple, y Comoji parecía roto, incluso para mí. La solución no fue saltarse la protección, sino un pequeño candado en el icono de la barra de menús y un artículo de ayuda accesible desde la aplicación. Construir software defensivo trata de esa diferencia: «no es mi bug» no es una respuesta completa, y el software que se detiene debería poder decirte por qué.
¿Qué pasa cuando falla la vía automatizada?
Cuando secuestraron la cuenta de Microsoft de mi hijo, el atacante cambió la dirección de recuperación, y Microsoft la trató como más fiable que la dirección de iCloud con la que se inicia sesión, que seguíamos controlando, o que el grupo de Family Safety del que soy organizador. La recuperación de cuentas de Microsoft es teatro de seguridad documenta ese laberinto. La cuenta solo volvió cuando ese artículo superó las 60.000 visualizaciones y un empleado de Microsoft me puso en contacto con un equipo de escalado, y por eso no debería haber hecho falta 60.000 visitas. Las líneas de soporte fallan igual: si un cliente pide una persona, dásela, y usa la IA para equipar a esa persona.
Construir software defensivo
Comoji dejó de funcionar tras un reinicio porque Secure Input de macOS se quedó atascado. La solución: un candado y un artículo que explican la pausa.
Leer→HumanSlop: ¿cómo puede una empresa de 110.000 millones de dólares lanzar software tan malo?
Criticamos el «slop» de la IA, pero una empresa de 110.000 millones publicó un portal que limita las contraseñas a 13 caracteres y rechaza algunos CVV.
Leer→El correo electrónico es horrible. La IA puede arreglarlo, pero solo si protegemos la bandeja de entrada.
El correo necesita clasificación con IA, pero la bandeja de entrada es demasiado sensible para entregarla sin más a otro servicio en la nube.
Leer→El único lugar donde no reemplazaría a las personas con IA: la atención al cliente
La IA puede automatizar la atención al cliente, pero nunca debería interponerse entre un cliente frustrado y un ser humano.
Leer→Por qué dejé Duolingo después de una racha de 1.000 días
¿Vale la pena Duolingo? Tras una racha de 1.000 días, mi respuesta fue no. Cómo las gemas, las ligas y la presión de la racha desplazaron el aprendizaje.
Leer→Microsoft devolvió la cuenta de mi hijo. No debería haber hecho falta 60.000 visitas.
Microsoft restauró la cuenta secuestrada de mi hijo tras un escalado, pero recuperarla no debería exigir un artículo viral para funcionar.
Leer→La recuperación de cuentas de Microsoft es teatro de seguridad
Microsoft tiene pruebas para restaurar una cuenta robada, pero su proceso termina protegiendo al atacante.
Leer→