La organización Public Citizen ha exigido a OpenAI que retire su app de generación de vídeo con IA, Sora 2, alegando que su lanzamiento apresurado muestra un "desprecio temerario" por la seguridad, el derecho a la propia imagen y la estabilidad democrática.
La industria tecnológica vuelve a moverse a toda velocidad y a romper lo establecido, esta vez la realidad compartida de la humanidad y el control de nuestra imagen antes y después de la muerte, gracias a las plataformas de generación de imágenes con inteligencia artificial (IA) como Sora 2 de OpenAI.
El vídeo típico de Sora, creado en la aplicación de OpenAI y difundido en TikTok, Instagram, X y Facebook, está pensado para ser lo bastante divertido como para que hagas clic y lo compartas. Puede ser la reina Isabel II rapeando o algo más cotidiano y verosímil.
Un género popular de Sora son las falsas grabaciones de timbres con cámara que captan algo levemente inquietante, por ejemplo una boa constrictor en el porche o un caimán que se acerca a un niño imperturbable, y rematan con un susto suave, como una abuela gritando mientras ahuyenta al animal a escobazos.
Pero un coro creciente de grupos de defensa, académicos y expertos alerta de los peligros de permitir que cualquiera cree vídeos de IA sobre casi cualquier cosa que se pueda teclear en un prompt, lo que está provocando la proliferación de imágenes no consentidas y 'deepfakes' realistas en un mar de 'AI slop' menos dañino.
OpenAI ha endurecido el control sobre creaciones de IA con personajes públicos, entre ellos Michael Jackson, Martin Luther King Jr y Mister Rogers, haciendo cosas estrafalarias, pero solo tras el clamor de herederos y de un sindicato de actores.
La organización sin ánimo de lucro Public Citizen exige ahora que OpenAI retire Sora 2 del acceso público y sostiene en una carta enviada a la empresa y a su consejero delegado, Sam Altman, el martes que el lanzamiento apresurado de la app para adelantarse a sus competidores muestra "un patrón consistente y peligroso de OpenAI lanzando al mercado un producto intrínsecamente inseguro o carente de las barreras necesarias".
Según la carta, Sora 2 muestra un "desprecio temerario" por la seguridad del producto, así como por el derecho de las personas a su propia imagen y por la estabilidad de la democracia. El grupo envió también la misiva al Congreso de Estados Unidos. OpenAI no respondió el martes a las solicitudes de comentario.
El grupo alerta sobre la seguridad
"Nuestra mayor preocupación es la posible amenaza para la democracia", dijo en una entrevista JB Branch, experto en políticas tecnológicas de Public Citizen. "Creo que nos adentramos en un mundo en el que la gente no puede confiar realmente en lo que ve.
Y estamos empezando a ver estrategias en política en las que la primera imagen, el primer vídeo que se difunde, es lo que la gente recuerda". Branch, autor de la carta del martes, ve además problemas más amplios para la privacidad que afectan de forma desproporcionada a poblaciones vulnerables en internet.
OpenAI bloquea la desnudez, pero Branch dijo que "las mujeres están viendo cómo las acosan en internet" de otras formas, por ejemplo con contenidos fetichistas de nicho que sortean las restricciones de la propia app. El medio '404 Media' informó recientemente de una avalancha de vídeos hechos con Sora en los que se estrangula a mujeres.
OpenAI presentó su nueva app Sora en los iPhone hace más de un mes. La semana pasada se lanzó en teléfonos Android en Estados Unidos, Canadá y varios países asiáticos, entre ellos Japón y Corea del Sur. Gran parte de la oposición más contundente ha venido de Hollywood y de otros sectores del entretenimiento, incluida la industria del manga japonés.
OpenAI anunció sus primeros grandes cambios pocos días después del lanzamiento y afirmó que "la sobrerregulación es muy frustrante" para los usuarios, pero que es importante ser conservadores "mientras el mundo aún se acostumbra a esta nueva tecnología".
A ello le siguieron acuerdos anunciados públicamente con la familia de Martin Luther King Jr el 16 de octubre, para impedir "representaciones irrespetuosas" del líder de los derechos civiles mientras la empresa trabajaba en mejores salvaguardas, y otro el 20 de octubre con el actor de 'Breaking Bad' Bryan Cranston, el sindicato 'SAG-AFTRA' y agencias de talento.
"Todo eso está muy bien si eres famoso", dijo Branch. "Es, en cierto modo, el patrón de OpenAI, que está dispuesta a responder a la indignación de una población muy pequeño". "Están dispuestos a sacar algo y pedir perdón después", añadió Branch. "Pero muchos de estos problemas son decisiones de base que pueden tomar antes del lanzamiento".
OpenAI se ha enfrentado a quejas similares sobre su producto estrella, ChatGPT. Siete nuevas demandas presentadas la semana pasada en Estados Unidos sostienen que el chatbot llevó a personas al suicidio y a delirios dañinos incluso cuando no tenían antecedentes de problemas de salud mental.
Presentadas en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, las demandas afirman que OpenAI lanzó a sabiendas GPT-4o de forma prematura el año pasado, pese a advertencias internas de que era peligrosamente servil y psicológicamente manipulador. Cuatro de las víctimas se suicidaron.
Public Citizen no participó en las demandas, pero Branch dijo que ve paralelismos en el lanzamiento apresurado de Sora. Según explicó, "han pisado a fondo sin tener en cuenta los daños. Mucho de esto era previsible. Prefieren sacar un producto, que la gente lo descargue y que la gente se enganche antes que hacer lo correcto, someter estas cosas a pruebas de estrés de antemano y preocuparse por la situación de los usuarios de a pie".
OpenAI pasó la semana pasada respondiendo a las quejas de una asociación empresarial japonesa que representa a animadores de renombre como Studio Ghibli, de Hayao Miyazaki, y a desarrolladoras de videojuegos como Bandai Namco y Square Enix.
OpenAI dijo que muchos fans del anime quieren interactuar con sus personajes favoritos, pero que la empresa también ha establecido límites para impedir que se generen personajes muy conocidos sin el consentimiento de los titulares de los derechos.
"Estamos colaborando directamente con estudios y titulares de derechos, escuchando comentarios y aprendiendo de cómo la gente usa Sora 2, también en Japón, donde las industrias culturales y creativas están profundamente valoradas", dijo OpenAI en un comunicado sobre la carta de la patronal la semana pasada.