En la actualidad prima la idea de que los sistemas de aprendizaje automático o de inteligencia artificial (al trabajar con datos y realizar operaciones matemáticas) son objetivos y neutrales. Sin embargo, la reproducción de sesgos y prejuicios humanos empieza a hacerse cada vez más evidente.
Un algoritmo, en los términos más básicos, es un software que funciona a partir de datos y sigue instrucciones determinadas para realizar una tarea específica. Así funcionan, por ejemplo, el buscador de Google (que destaca algunos resultados de búsqueda por sobre otros), el muro de Facebook o el Feed de Instagram (que determinan el orden en que aparecen las publicaciones). Los algoritmos también se utilizan en otros sectores como la medicina, la investigación científica, los procesos penales, la concesión de hipotecas o incluso los procesos de selección de personal. Pero si bien hasta ahora la actividad algorítmica fue defendida por estar libre de desviaciones, se empezó a comprobar la presencia de sesgos y prejuicios heredados de los programadores.
Es importante recordar: los algoritmos son sistemas programados por seres humanos dotados de subjetividad, que muchas veces funcionan a base de datos que pueden no ser veraces ni verdaderamente representativos de la realidad. Un ejemplo claro puede ser la mismísima Silicon Valley: está interada en su mayoría por hombres blancos y eso afecta la creación de la herramienta. Kate Crawford, investigadora de la Universidad de Nueva York y de Microsoft Research declaró: “Los algoritmos pueden generar resultados sesgados en función de variados factores, tales como el diseño y la implementación o los datos que utilizan. La información con la que funcionan puede contener dichos prejuicios y sesgos, por lo cual los reproducen”.
Los sesgos de los sistemas algorítmicos tienen consecuencias claras para aquellos individuos que quedan al margen de sus resultados o salen peor rankeados en ellos. Estos individuos suelen formar parte de colectivos sociales que sufren sexismo, racismo u homofobia y no son tenidos en cuenta a la hora de asegurar que los datos reflejen la realidad en toda su complejidad social y humana. De ahí que cada vez sean más los pedidos de diversidad en la conformación de los equipos que desarrollan la tecnología, para detectar las desviaciones y minimizar los potenciales puntos ciegos culturales.
¿Querés conocer los beneficios de aprender a programar? Hacé click acá.
