Futuro

Sesgo de género en IA@Litoral: cómo crear algoritmos más justos

Martes 3 de diciembre de 2019 / Actualizado hace 3 días, 13 horas

La inteligencia artificial está cambiando nuestra vida, pero también puede transformarse en una arma de discriminación. Tenemos que comprender que la tecnología no tiene género, y para eso, es imprescindible conocer el rol de las mujeres en la ciencia.

En la era digital, las aplicaciones llegaron para conectarnos, entretenernos y facilitarnos la vida. Sin embargo, son tiempos revueltos para las y los programadores de inteligencia artificial (IA): nunca ha habido tanto potencial al alcance del aprendizaje automático, que se alimenta de los datos generados por los usuarios, pero también tienen un grado de error mayor con mujeres y con hombres de tez oscura. 

Así lo confirmó una investigadora del M.I.T. Media Lab, Joy Buolamwini, sobre softwares de IA de reconocimiento facial, utilizados por las compañías Microsoft, IBM y Face++. Tiempo atrás, luego de que se diera a conocer la noticia de que el algoritmo de Google tendía a mostrar mas anuncios de empleos ejecutivos con mayores salarios a los hombres que buscaban trabajo respecto a sus pares mujeres. Una vez detectados los sesgos, estas grandes compañías han buscado corregir sus algoritmos. Pero, dado el acelerado avance de la tecnología que estamos transitando, la gran pregunta es: ¿cómo aprovechar estas tecnologías sin generar sesgos de género?

Los días 28 y 29 de noviembre se llevaron a cabo en la sede del Hotel UNL-ATE, las Primeras Jornadas de Inteligencia Artificial del Litoral. El evento estuvo a cargo de la Facultad Ingeniería y Ciencias Hídricas (FICH), perteneciente a la UNL y el Instituto de Investigación en Señales, Sistemas e Inteligencia Computacional (sinc(i)) de UNL-CONICET. 

En esta edición, las conversaciones sobre cuestiones de género, estuvieron presentes, especialmente en el segundo panel “Sesgo de género y minorías en la inteligencia artificial", compuesto por Gabriela Henning, Laura Alonso Alemany, Enzo Ferrante, Victoria Peterson y la Ministra de Ciencia, Tecnología e Innovación Productiva, Érica Hynes. Tuvo lugar la discusión sobre los desafíos en la concepción de modelos basados en IA que eliminen los muchas veces presentes en los datos utilizados para su entrenamiento. Cabe recordar que las Primeras Jornadas estuvieron destinadas a estudiantes de grado y posgrado, investigadores o profesionales del área informática, y todos aquellos que se desempeñan en otras áreas y les interese aprender sobre aspectos técnicos, sociales y aplicaciones de la Inteligencia Artificial.

 

Datos en tiempo real

El decano de la FICH, Raúl Pedraza, consideró que “estas tecnologías digitales conocidas como 4.0 deben ser difundidas a la comunidad más allá de los ámbitos científicos por el fuerte impacto que van a tener en la producción, servicios y en el ámbito laboral”, y continuó: “La inteligencia artificial es indispensable para una transición a lo que se denomina 4° revolución industrial o industria 4.0 que está basada en la interconectividad, automatización y la disponibilidad de datos en tiempo real”. 

“Una de las preocupaciones son las sensaciones que hay en la sociedad con respecto a cómo van a impactar estas tecnologías de punta en el ámbito laboral. Sin duda que en gran parte van a repercutir en las tareas que se desarrollen de manera manual, reemplazando una máquina por una persona; estamos debatiendo sobre cómo dar una respuesta positiva a este gran cambio y comprender sus lógicas”, destacó Ulises Sedrán, director del Centro Científico Tecnológico del Conicet.

A su turno el becario de Conicet, Nicolás Nieto, recordó cómo surgió esta iniciativa. “Estábamos en una reunión nocturna, como surgen todas las buenas ideas, con Enzo Ferrante, Agostina Razabal y Victoria Peterson pensamos en la posibilidad de tener un espacio para hacer networking, para poder congeniar todos los actores que se involucran en la inteligencia artificial, las empresas, la comunidad académica y el sector estudiantil, así que tomamos partes en el asunto y nos embarcamos en esta experiencia, a casi 9 meses de empezar”. 

 

Tecnología inclusiva

“La historia de las mujeres en la computación está invisibilizada. Sin embargo, el enfoque de género puede cambiar realmente los algoritmos y hacerlos más certeros”, comenzó diciendo la Ministra de Ciencia, Tecnología e Innovación Productiva, Érica Hynes, como una forma de reivindicar el papel de las mujeres en la ciencia y sentar las bases de cómo minimizar los riesgos de la inteligencia artificial (IA), a la vez que se maximicen los beneficios de cambiar la cultura y las narrativas del sector. 

Cada vez que una nueva tecnología disruptiva llega al mundo de la producción, aparecen los temores de los cambios que podría producir, especialmente sobre el mundo del trabajo. “La dinámica se vuelve más compleja en los trabajos, donde el sesgo se intensifica: ambientes masculinizados, diferencias en la valoración de las capacidades, prácticas rígidas que impiden el equilibrio entre la vida personal y profesional”. 

Diseñar mejores estrategias, destacar sobre la competencia o conocer mejor a los clientes y a los propios productos son algunos de los beneficios de esta tecnología. “Hay un montón de productos que no alcanzaron niveles de excelencia porque no tenían perspectiva de género”, destacó Hynes. Es el caso de la aplicación de Salud de Iphone que recoge datos de distintas fuentes como el recuento de pasos del iPhone y de actividad del Apple Watch, y los organiza en función de su procedencia. Sin embargo, no contaba con un calendario menstrual que brinda la posibilidad de llevar un seguimiento médico y enfocado a la salud general de la mujer y/o cuerpos gestantes. 

Para que la revolución digital sea verdaderamente grande y transforme el mundo, tiene que ser inclusiva. “Sin lugar a dudas, la educación, la Educación Sexual Integral (ESI) son pilares fundamentales. Naturalmente uno piensa que la sociedad va a ir cambiando y se va a ir dando esta equidad que tanto se necesita. Lo que hay que entender es que esto no es un problema del futuro, sino del presente y el momento de accionar es ahora”. 

 

Agenda