Más de 100 organizaciones internacionales sostienen que las empresas de IA, y no los padres, deben asumir la responsabilidad de la seguridad infantil.
Más de 100 organizaciones, entre ellas Amnesty International y Save the Children, piden a los Gobiernos en un llamamiento conjunto que la inteligencia artificial sea segura para la infancia, un día antes de que Naciones Unidas celebre su primera cumbre mundial sobre gobernanza de la IA.
PUBLICIDAD
PUBLICIDAD
La coalición, encabezada por la organización de defensa de los derechos de la infancia Fundación 5Rights, sostiene que la IA ya está perjudicando a los menores y que los enfoques regulatorios actuales les fallan porque intervienen cuando ya es demasiado tarde.
El aviso llega en un momento en que se multiplican las demandas contra empresas de IA, como Character Technologies y OpenAI, por los efectos de esta tecnología en los menores, especialmente los 'chatbots' de compañía diseñados para simular relaciones emocionales continuas, y por las denuncias de que estos chatbots se comercializan como seguros para los niños sin advertencias adecuadas.
En una declaración difundida el lunes, antes del Diálogo Global inaugural de la ONU sobre la Gobernanza de la IA, la coalición sostiene que los Gobiernos deben centrarse en los modelos de negocio que, según la organización, están alimentando el problema.
"Los niños nos han dado un diagnóstico claro del problema", afirmó Leanda Barrington-Leach, directora ejecutiva de la Fundación 5Rights.
"No nos están pidiendo que frenemos la innovación en IA, pero tampoco debe tratarse solo de recoger los daños una vez que el perjuicio ya se ha producido".
La coalición reclama diez medidas que quiere que los Gobiernos adopten para evitar daños a los menores.
Entre ellas figuran obligar a las empresas a demostrar que sus sistemas de IA son seguros para los niños antes de su lanzamiento, imponer sanciones económicas a las compañías cuyos productos vulneren los derechos de la infancia, prohibir los elementos de diseño que explotan las vulnerabilidades psicológicas de los menores y vetar el uso comercial de las imágenes, voces y datos biométricos de los niños.
El grupo sostiene que no hacen falta nuevas leyes para lograrlo, solo aplicar los compromisos que los Gobiernos ya han asumido en virtud de la Convención de Naciones Unidas sobre los Derechos del Niño y del Global Digital Compact de la ONU, un marco mundial que compromete a los Estados a respetar el derecho internacional y los derechos humanos en línea.
"Mientras las empresas sean premiadas por la rapidez, la captación de usuarios y la extracción de datos en lugar de por la seguridad, seguiremos tratando los síntomas mientras la enfermedad se vuelve endémica", añadió, subrayando que el respeto de los derechos de la infancia "debe convertirse en una condición para hacer negocios, no en un añadido opcional", afirmó Barrington-Leach.