Última hora
This content is not available in your region

El sexismo de los algoritmos puede hacernos retroceder décadas en igualdad

El sexismo de los algoritmos puede hacernos retroceder décadas en igualdad
Derechos de autor  Eddie Worth/1946 AP
Tamaño de texto Aa Aa

La primera persona que escribió un algoritmo fue una mujer en el siglo XIX.

Dos siglos más tarde, los algoritmos "tienen la capacidad de hacernos retroceder décadas" en paridad de género, según Susan Leavy, investigadora de la University College Dublin que forma parte de un proyecto para evitar que los algoritmos de Inteligencia Artificial aprendan prejuicios de género.

"Pueden exacerbar la masculinidad tóxica y las actitudes que hemos estado combatiendo durante décadas en la sociedad", añade.

No es culpa de los algoritmos, sino de la historia de la humanidad.

La Inteligencia Artificial (IA) aprende de los datos que se ponen a su disposición y la mayoría están sesgados, dice Leavy. "Incluso aquellos que describen el mundo, debido a la discriminación histórica de las mujeres".

El problema es que las máquinas aprenden de datos de los últimos 10-20 años, reproduciendo los prejuicios que había entonces y no incorporando los avances sociales recientemente conquistados. Así que no han oído hablar del movimiento feminista global #MeToo o del himno chileno 'un violador en tu camino', por ejemplo.

"Continuamos repitiendo los errores del pasado", señala la investigadora.

Y este sesgo en la programación, tiene un impacto diario en la vida cotidiana de todas las mujeres: desde la búsqueda de trabajo hasta pasar un control de seguridad en un aeropuerto.

Como todas las tecnologías anteriores, la inteligencia artificial reflejará los valores de sus creadores
Kate Crawford
Co-directora del Instituto AI Now de la Universidad de Nueva York

Las pioneras en el mundo de la programación

Ada Lovelace (1815-1852) se convirtió en la primera programadora de la historia, un siglo antes de que se inventaran los ordenadores. A mediados del siglo XIX, esta matemática británica escribió el considerado como primer algoritmo para una máquina computadora ideada por su colega, el científico Charles Babbage.

De hecho, las pioneras en el mundo de la programación fueron mujeres - consideradas más proclives a tareas minuciosas - como las programadoras de la ENIAC (siglas en inglés de Integrador Numérico Electrónico y Computadora). Como parte de un proyecto del ejército estadounidense secreto de la Segunda Guerra Mundial, seis mujeres programaron la primera computadora electrónica.

Sin embargo, sus nombres pasaron al olvido cuando se presentó al público en 1946.

AP
El general mayor del Ejército estadounidense Gladeon M. Barnes y dos investigadores observan la tabla de funciones de la supercomputadora ENIAC el 9 de febrero de 1946.AP

Cuando solo son hombres los que programan

Las mujeres están infrarrepresentadas en ciencia y en tecnología. El sector de la programación se masculinizó a partir de la década de 1980. En Europa, el 59% de los científicos e ingenieros son hombres, según los últimos datos de Eurostat.

Y esta desigualdad se traduce inconscientemente en la escritura de los algoritmos.

"Hay un gran problema de disparidad de género, especialmente en el proceso de aprendizaje de las máquinas", señala Leavy. "Esto significa que hay una falta de perspectiva crítica".

Para un hombre, va a ser más difícil encontrar prejuicios contra las mujeres en los datos a la hora de programar. "No creo que la mayoría de los ingenieros quieran desarrollar algoritmos que discriminan por género o raza", dice la investigadora. "Son malos algoritmos, no son ciencia".

Pero no es solo una cuestión de buenas intenciones, es necesario formar a los programadores para que sean capaces de detectar esos sesgos.

Para esta investigadora, lo ideal son equipos diversos, como el suyo, que busca intervenir en los datos de los que aprenden los algoritmos para eliminar los prejuicios antes de que las máquinas los aprendan. "Sabemos que los equipos que no son diversos no producen buenos resultados".

En las empresas que desarrollan tecnología, dice que es fundamental contar con mujeres en los equipos para que estas puedan probar los productos.

Un algoritmo puede formar un prejuicio muy estereotipado de ti
Susan Leavy
Investigadora de la University College Dublin
AP/Ahmad Seir
Mujeres afganas practican programación en el centro de capacitación informática 'Código para inspirar' en la provincia de Herat, al oeste de Afganistán., 22 de enero de 2018.AP/Ahmad Seir

¿Cómo discriminan los algoritmos a las mujeres?

"La Inteligencia Artifical y otras tecnologías basadas en algoritmos ahora dan forma a nuestras vidas de manera significativa y mundana", dice Joy Lisi Rankin, investigadora líder de Género, Raza y Poder en lnteligencia Artifical en el Instituto AI Now de Nueva York. "Rara vez entendemos esto porque las tecnologías son invisibles para nosotros, y la forma en que funcionan no es para nada transparente".

Estos sistemas de algoritmos determinan, por ejemplo, quién tiene acceso a recursos y beneficios importantes, añade.

Uno de los casos más conocidos de discriminación por el uso de Inteligencia Artificial fue el malogrado automatismo de contratación de Amazon.

En 2018, salió a la luz que la multinacional estadounidense había desechado su herramienta de Inteligencia Artificial con la que llevaba cuatro años seleccionando a los candidatos para sus puestos de trabajo porque era sexista.

Esto se debió a que los modelos informáticos de Amazon fueron entrenados siguiendo los patrones observados en currículos presentados a la empresa durante una década, explicaba entonces el artículo de Reuters que destapó la historia. Pero como el sector tecnológico está altamente masculinizado, la mayoría de los currículums que utilizaron para el aprendizaje del automatismo eran de hombres.

"La selección de currículums es un área muy problemática", dice Leavy. "Incluso si le dices a los algoritmos de IA que no miren el género, ellos encontrarán otras formas para averiguarlo".

El algoritmo de Amazon penalizaba los currículums que incluían palabras relativas al género femenino, incluso en las aficiones de los candidatas, como "capitana del equipo femenino de rugby".

La razón por la que existen los algoritmos es para analizar muchos individuos y agruparlos y crear generalizaciones y entonces dar información basada en esos estereotipos
Investigadora de la University College Dublin

No solo es una cuestión de género, este tipo de algoritmos castigan cualquier tipo de diversidad, al privilegiar una serie de patrones que acaban por favorecer a la parte más privilegiada y representada de la sociedad: los hombres blancos.

AP
Activistas se pintan la cara para confundir las cámaras de vigilancia de Huawei con el software de reconocimiento facial en Belgrado, Serbia, 25 de septiembre de 2019.APDarko Vojinovic

Los sistemas de reconocimiento facial son otro de los algoritmos problemáticos, explica la investigadora. "Si eres una mujer con piel oscura, funcionará peor".

La consecuencia puede ser leve, por ejemplo que a tu teléfono le cueste más desbloquearse con tu rostro, pero también puede significar tener dificultades a la hora de pasar un control de seguridad.

"Si eres un hombre blanco que va a un aeropuerto, obtienes un pase rápido, si eres una mujer con la piel oscura tienes muchas más posibilidades de hacer una cola más larga".

Tu país está construyendo una infraestructura y un sistema que privilegia a los hombres
Susan Leavy
Investigadora de la University College Dublin

Otro espacio en el que los algoritmos sexistas están teniendo un impacto crucial en la vida de las mujeres es en los motores de búsqueda y en las redes sociales.

"Categorizan y tratan a los usuarios de forma distinta teniendo en cuenta una serie de estereotipos", dice Leavy. Lo "más peligroso" es cuando utilizan estas clasificaciones para enviar publicidad personalizada, particularmente a la gente joven que es más influenciable, señala la Leavy.

La investigadora Joy Lisi Rankin pone ejemplos: "Facebook publicó anuncios para trabajos mejor pagados a hombres blancos, mientras que a las mujeres y a las personas de color se les mostraron anuncios para trabajos peor pagados. Las búsquedas en Google de 'chicas negras' o 'latinas' produjeron resultados sexistas y pornográficos".

¿Y si nos ayudaran a combatir el sexismo en vez de perpetuarlo?

Los nuevos reglamentos de la Unión Europea para el desarrollo de la IA señalan "una creciente concienciación", dice Leavy.

Es una cuestión que la Comisión Europea de Ursula von der Leyen está impulsando y priorizando, añade. "Puede que nos lleve 10 años".

Para que esto suceda dice que hay que involucrar a equipos multidisciplinarios, con las perspectivas tanto de los hombres como de las mujeres representados en los equipos.

Los algoritmos también podrían ayudarnos a combatir la discriminación, por ejemplo el sexismo en los procesos de contratación. Una máquina podría ser más imparcial que un humano a la hora de hacer la selección de candidatos, si el aprendizaje es el correcto.

"Tengo que ver más pruebas de esto para creerlo", señala Leavy. Pero, los algoritmos tienen este potencial, afirma, aunque "no es como los usamos por ahora".