Enrique Dans

Un interesantísimo articulo en The New York Times, «Biased algorithms are easier to fix than biased people«, invita a reflexionar sobre el concepto del sesgo y la discriminación, muy de moda al hilo de noticias de algoritmos que contenían sesgos y provocaban desde problemas a la hora de contratar mujeres, a discriminación en apps de citas, determinar el riesgo en perfiles criminales, en el cuidado de la salud o en la administración de publicidad.

Un algoritmo, por el hecho de serlo, no asegura la inexistencia de sesgos. De hecho, un algoritmo obtiene sesgos de los datos que utilizamos para entrenarlo, que pueden perfectamente contener sesgos implícitos de diversos tipos, fácilmente apreciables o no por una supervisión humana. Los sesgos en los datos que alimentan los algoritmos son, sin embargo, relativamente fáciles de comprobar mediante técnicas matemáticas adecuadas, que de hecho son muy similares a las que se han utilizado toda la vida para determinar o corregir el sesgo muestral, y pueden por tanto corregirse de manera relativamente sencilla.

Los sesgos en las personas también existen, de hecho en algunos temas son tristemente muy habituales: no es difícil encontrar personas que introducen elementos de discriminación de diversos tipos en su toma de decisiones. La diferencia con los sesgos de los algoritmos de machine learning es que, aunque su existencia puede igualmente determinarse mediante los correspondientes análisis matemáticos, su corrección posterior es, sin embargo, muchísimo más difícil, en ocasiones puede, de hecho, ser imposible, y no solucionarse más que sustituyendo a la persona o mediante cambios en la cadena de genera la decisión.

Cuando critiquemos a un algoritmo por contener sesgos debido a los datos con los que lo hemos entrenado, por tanto, deberíamos tener en la cabeza que si utilizamos ese algoritmo para sustituir procesos de toma de decisiones llevados a cabo por humanos, como veremos cada vez más a menudo, estaremos dando lugar a una sustitución que se sitúa al mismo nivel en cuanto a la posibilidad de detectar esos sesgos, pero muy por encima en lo relacionado con la capacidad que tendremos para corregirlos. Entender la existencia de sesgos en un proceso de toma de decisiones algorítmico como algún tipo de enmienda a la totalidad es, simplemente, una prueba de no saber matemáticas. Los algoritmos pueden tener sesgos, sí, pero cambian, se reeducan y corrigen esos sesgos de forma mucho más sencilla y más eficiente que las personas. Con todo lo que ello conlleva. Plantéate cuántas decisiones se toman en procesos en tu compañía en función de criterios de personas que pueden tener sesgos, y hasta qué punto podrían mejorar esos procesos si esos sesgos inherentes a las personas pudiesen ser corregidos simplemente ajustando algunos parámetros matemáticos o incorporando mecanismos que corrigen el sesgo muestral, en lugar de depender de algo tan complicado como las percepciones, la experiencia o la supuesta intuición de una persona.

En el futuro, todo algoritmo contendrá analíticas que evalúen los posibles sesgos en los que incurre, generarán mecanismos de aviso cuando esos sesgos tengan lugar, y posibilitarán su posterior ajuste y corrección. Si fuese tan sencillo hacer lo mismo con el juicio de las personas, las sociedades y organizaciones humanas seguramente ganarían mucho.

This post is also available in English on my Medium page, «Which is easier to correct, an algorithm’s bias or a human’s?«