Encuéntranos
Publicidad

El jefe de derechos humanos de la ONU alerta de una IA gobernada de forma casi medieval

Compartir Comentarios Sigue a Euronews en Google
Fuente: Foto AP
Fuente: AP Photo -  Derechos de autor  © KEYSTONE / SALVATORE DI NOLFI
Derechos de autor © KEYSTONE / SALVATORE DI NOLFI
Por Jonathan Benton & AFP
Publicado
Compartir Close Button

El alto comisionado de la ONU para los derechos humanos, Volker Türk, advirtió que, aunque la IA pueda sonar futurista, en el fondo se basa en un viejo relato de poder.

La inteligencia artificial se está gobernando de una forma casi medieval, ha advertido este jueves el alto comisionado de la ONU para los derechos humanos, con el poder concentrado en manos de unos pocos magnates tecnológicos.

PUBLICIDAD
PUBLICIDAD

Al intervenir en la cumbre RightsX, en Ginebra, el alto comisionado de la ONU para los derechos humanos, Volker Türk, señaló que, aunque la historia de la IA suena futurista, en el fondo es un relato antiguo sobre el poder.

"Un puñado de hombres sigue controlando buena parte de la capacidad informática de IA del mundo, los datos y la infraestructura. Y aún no tenemos normas comunes para marcar el ritmo o orientar el desarrollo de la IA", afirmó.

Türk indicó que existe un llamativo déficit democrático cuando cinco empresas tecnológicas poseen más del 70% de la capacidad informática de IA mundial.

"Tenemos la tecnología del futuro gobernada de una forma casi medieval: por unos pocos escogidos, prácticamente sin controles, sin contrapesos, sin participación y sin rendición de cuentas", dijo.

"La historia nos ha enseñado que, con este tipo de poder, los derechos y las libertades de la gente corriente son los primeros en sufrir".

Reiterando su llamamiento a una regulación de la IA centrada en los derechos, el alto comisionado de la ONU para los derechos humanos señaló que esta tecnología controla cada vez más la vida de las personas.

Y esto, advirtió, sucede a menudo sin que la gente lo sepa y puede distorsionar el debate público de formas "sutiles e insidiosas".

Al mismo tiempo, advirtió, los algoritmos sesgados pueden reproducir la injusticia a escala industrial.

'Colapso civilizacional'

"Nuestros sistemas de transporte, la alimentación y la sanidad están cada vez más digitalizados. Puede que no estemos lejos del día en que la IA pueda cortar la infraestructura crítica de comunidades o países enteros, ya sea por sí sola o en manos equivocadas", advirtió Türk.

"Cuando la gente debate sobre la posibilidad de un colapso civilizacional por culpa de la IA, tenemos que preguntarnos: ¿quién decide qué riesgos asumimos?"

Se mostró optimista de que, en última instancia, la gente cuestionará ese poder sin control, y el déficit democrático se convertirá en un déficit de confianza.

Citó como ejemplo a los jóvenes que ya se desconectan para recuperar un mayor control sobre sus vidas.

Türk señaló que los beneficios de la IA deberían compartirse de forma equitativa, algo que requeriría buena voluntad por parte de las empresas tecnológicas, pero también regulación y mecanismos de rendición de cuentas.

Explicó que ha escrito a las empresas punteras de IA instándolas a introducir salvaguardas efectivas "antes de que sea demasiado tarde".

Türk recordó que ni siquiera una botella de leche llega a una tienda sin pasar por varias capas de pruebas, normas y regulaciones.

Por eso, en el caso de la IA, "es evidente que necesitas algún tipo de regulación", dado su potencial de causar daño, señaló Türk.

En cuanto a la forma en que se entrenan los modelos, sugirió plantear la Declaración Universal de Derechos Humanos "como tarea para la IA".

Ir a los atajos de accesibilidad
Compartir Comentarios Sigue a Euronews en Google

Noticias relacionadas