Technically Wrong: Los prejuicios de los algoritmos

Portada del libro Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech.

Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech de Sara Wachter-Boettcher no es un libro sobre UX writing, ni sobre diseño UX. Sin embargo, habla sobre algo que debería preocuparnos a todos quienes creamos páginas web o aplicaciones. Su tema central son los algoritmos sexistas, racistas y demás prejuicios indeseables.

Es un libro entretenido, repleto de ejemplos prácticos. Como el del padre al que la función Year in Review de Facebook mostró una foto de su hija fallecida entre dibujos bailando. Hay ejemplos faltos de tacto, como este, mientras otros muchos ya entrarían más en lo directamente sexista o racista.

Aunque parezca increíble, han pasado cosas como que una herramienta de autoetiquetado de fotos de Google etiquetara a las personas negras como «gorilas». Sin mencionar el gran número de webs y aplicaciones que presuponen que todo el mundo es heterosexual.

El libro no entra en temas demasiado profundos o filosóficos, pero es perfecto para entender por qué deberíamos prestar más atención a cómo construimos nuestras webs o aplicaciones.

Los algoritmos no tienen la culpa

Los algoritmos no tienen prejuicios. A veces, la culpa de este tipo de amenazas ni siquiera es de programadores o diseñadores racistas, machistas u homófobos. Además, los problemas de los que habla Wachter-Boettcher no son una novedad de la era digital. Los productos con prejuicios son constantes en toda la historia del diseño.

¿Cuál es la solución? ¿Se puede evitar caer en estos errores? Wachter-Boettcher afirma que normalmente el problema es que los equipos de diseño no son diversos. Son equipos formados, sobre todo, por hombres blancos heterosexuales de clase media. Aunque su intención no venga marcada por prejuicios, es obvio que no pueden diseñar desde la experiencia de una persona de color, LGTB+, etc.

La autora recalca además que todos somos víctimas de este tipo de descuidos. Ella misma explica una historia muy personal por la que pasó al tener que rellenar un formulario que le hizo una pregunta incómoda. Todos pasamos en algún momento por situaciones de dolor o estrés, por ejemplo. Y hay aplicaciones muy poco delicadas.

Lo que explica Wachter-Boettcher es muy valioso desde la perspectiva de la experiencia de usuario. Nos puede ayudar a pensar tanto en las funciones que añadimos a nuestros productos digitales como en la manera en que las implementamos y nos dirigimos al usuario.

Si no estáis convencidos del interés del libro, os recomiendo ver esta charla de la propia Wachter-Boettcher. Es hora de que empecemos a replantearnos las conjeturas que hacemos sobre los usuarios. No existe el usuario «normal» o «medio». Si diseñamos/escribimos con esa idea en la cabeza, es como si estuviésemos diseñando para un ser mitológico.

1 comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.