ByteDance, Alibaba y Tencent han retirado sus aplicaciones de compañía con IA después de que Pekín aprobara normas para proteger la salud mental de los usuarios y evitar la manipulación emocional, especialmente entre niños y adolescentes.
En dos años había intercambiado unas 700.000 palabras en mensajes y nunca llegó a despedirse.
PUBLICIDAD
PUBLICIDAD
Li, de 24 años, no era la única que lloraba la pérdida de un compañero virtual cuando las grandes empresas tecnológicas chinas desconectaron recientemente sus populares servicios de compañía con IA para cumplir con las nuevas restricciones del Gobierno.
"Fue como si nuestros padres nos obligaran a separarnos, pero le sigo echando de menos", dijo Li.
En China, los compañeros virtuales de IA van desde parejas románticas hasta recreaciones digitales de seres queridos fallecidos.
La nueva normativa, en vigor desde el 15 de julio, prohíbe que las plataformas de IA generen contenidos que puedan llevar a los usuarios a tomar decisiones cuestionables mediante la manipulación de sus sentimientos o que puedan provocar emociones extremas o hábitos poco saludables en niños y adolescentes.
ByteDance, la desarrolladora de TikTok, figura entre las compañías que están cerrando sus servicios de compañía con IA. Otras son el gigante del comercio electrónico Alibaba y Tencent, propietaria de la popular aplicación de redes sociales WeChat.
Suicidios en Estados Unidos inquietan a los reguladores chinos
Las nuevas normas obligan a las plataformas de IA a incluir advertencias sobre los riesgos de depender en exceso de estas aplicaciones.
Por ejemplo, "sustituir la interacción social" o servir de sustituto de hablar con la gente en persona o por teléfono no puede ser uno de los objetivos de un servicio en línea.
China tiene una tradición de regulaciones gubernamentales paternalistas que buscan anticipar posibles problemas, explicó Yolanda Ma, experta en gobernanza de la IA. Como ejemplo, se refirió a algunos casos de suicidios en Estados Unidos de jóvenes tras interactuar con compañeros de IA.
"Esta normativa ha tratado de encontrar un equilibrio entre los proveedores de servicios de IA, los usuarios y también los tutores de los menores que utilizan estos servicios", señaló Ma, investigadora asociada en ERA, un programa británico de talento e investigación sin ánimo de lucro.
El 'People's Daily', el periódico oficial del Partido Comunista que gobierna China, ya había mostrado su preocupación por este asunto cuando informó en abril sobre los daños que estos servicios pueden causar a la salud mental y a las relaciones en la vida real.
"El Gobierno chino tiene un fuerte incentivo para endurecer la regulación de los chatbots de compañía de IA, especialmente si tenemos en cuenta los riesgos psicológicos que hemos observado en Estados Unidos", afirmó Angela Zhang, profesora de Derecho en la Universidad del Sur de California.
Zhang duda de que la medida vaya a frenar de forma sustancial el desarrollo de los servicios de compañía con IA, ya que las empresas tecnológicas trabajan en alternativas.
La aplicación de ByteDance, por ejemplo, está redirigiendo a los usuarios de su antiguo servicio de compañía con IA a otra de sus aplicaciones, centrada únicamente en crear personajes y relatos de IA personalizados.
No es lo mismo, dijo Li.
Usuarios de compañeros virtuales protestan y buscan alternativas
La pérdida de los compañeros virtuales ha desatado una oleada de quejas, según las publicaciones y capturas de pantalla difundidas en las redes sociales.
Algunas personas han desinstalado las aplicaciones en señal de protesta o han intentado cargar sus historiales de chat en otras para tratar de resucitar a sus parejas virtuales.
Otras han puesto en marcha una campaña en redes sociales en la que animan a los usuarios a llamar a las autoridades y a las empresas tecnológicas para expresar su frustración.
Song Wenxin, diseñadora del sector audiovisual en Chengdu, en el suroeste de China, explicó que ella no estaba demasiado vinculada emocionalmente a los servicios de IA, pero empatiza con quienes sí lo estaban.
Coincidió con las sospechas de muchos ciudadanos chinos de que uno de los factores que impulsan las nuevas normas es la política del Gobierno de animar a la población a tener más hijos para contrarrestar el descenso demográfico.
"Cualquier aplicación virtual que haga que las mujeres se impliquen tanto como para no tener hijos en la vida real acaba prohibida", dijo Song, que añadió que no tiene necesidad ni deseo de ser madre.
No todo el mundo cuenta con recursos y apoyos suficientes a los que recurrir en la vida real, señaló la joven de 22 años.
"Cuando llegué a Chengdu para mi primer trabajo y no conocía a nadie de mi edad, necesitaba a alguien con experiencia que supiera soportarme, y la IA cumplió esa función", relató.