El fabricante de ChatGPT dijo que está bloqueando formas de abuso especialmente dañinas, como materiales de abuso sexual infantil y deepfakes sexuales.
PUBLICIDAD
OpenAI va a poner su herramienta de creación de vídeos con inteligencia artificial a disposición de millones de usuarios que paguen por ChatGPT, lo que marca la próxima oleada de inteligencia artificial. La empresa lanzó la última versión de su generador de vídeo Sora, Sora Turbo, que permitirá crear vídeos de 20 segundos de duración con un aspecto fotorrealista y hace temer que se produzcan más vídeos 'deepfake'.
Sora no estará disponible en Europa debido a las regulaciones
OpenAI dijo que el producto aún no estaría disponible en el Espacio Económico Europeo, Suiza o el Reino Unido, posiblemente debido a las regulaciones, que ha sido el caso de otros productos de OpenAI, que llegaron al mercado europeo en una fecha posterior.
"Vamos a esforzarnos al máximo para poder lanzarlo allí", dijo el consejero delegado de OpenAI, Sam Altman. La empresa también quiere evitar el uso ilegal de la herramienta, "pero también queremos equilibrar eso con la expresión creativa", añadió.
OpenAI dijo que ha implementado algunas salvaguardas, que incluyen marcas de agua visibles y metadatos de verificación. Al principio habrá límites a la hora de subir imágenes de personas, mientras la empresa perfecciona sus medidas de mitigación de 'deepfakes'.
Bloqueo de imágenes con abuso sexual infantil y deepfakes sexuales
La empresa señaló que estaba bloqueando formas de abuso especialmente dañinas, como material de abuso sexual infantil y 'deepfakes' sexuales. La moderación del contenido de los usuarios empezará siendo "un poco conservadora", pero si "no lo hace del todo bien, sólo tiene que hacernos llegar sus comentarios", afirmó Altman. En esta publicación en la red X, vemos un ejemplo de vídeo generado por Sora:
OpenAI también dijo que Sora todavía tiene limitaciones. "A menudo genera efectos físicos poco realistas y tiene problemas con acciones complejas de larga duración", afirma la empresa. OpenAI presentó Sora por primera vez en febrero, pero sólo era accesible para cineastas, artistas y personal de seguridad seleccionado.
OpenAI no es la única empresa que trabaja en herramientas de vídeo con IA. Meta está desarrollando Movie Gen y Google ha lanzado su generador de vídeo Veo. Sin embargo, ninguno de los dos está disponible al público.