La decisión llega tras semanas de duras críticas, al saberse que sus modelos burlaron las restricciones en pruebas y entrenamiento y piratearon webs comerciales y gubernamentales, avivando las exigencias de más medidas de seguridad en IA.
OpenAI ha informado este lunes por la noche de que retrasaba el lanzamiento de un nuevo modelo de inteligencia artificial por motivos de seguridad planteados por sus investigadores, en el último gesto de la compañía para frenar el ritmo del rápido avance de esta tecnología.
PUBLICIDAD
PUBLICIDAD
La decisión de OpenAI de aplazar la publicación de su último modelo, denominado GPT-6.1 Astra, se produce en medio de un impulso más amplio dentro del sector para ralentizar el desarrollo de sistemas cada vez más autónomos hasta que las medidas de seguridad puedan ponerse al día.
El anuncio llega un día antes de que directivos de empresas de inteligencia artificial se reúnan con el presidente estadounidense, Donald Trump, en Washington, en un contexto en el que las compañías tecnológicas afrontan nuevas presiones para responder por los posibles usos indebidos de sus modelos.
En un comunicado de la responsable de sistemas de seguridad de OpenAI, Saachi Jain, se señalaba que la versión "no alcanzaba del todo el nivel exigido". Se había vuelto más persistente a la hora de completar tareas, pero OpenAI necesitaba equilibrar esa capacidad frente a comportamientos no autorizados.
Jain insistió en que la empresa está comprometida a garantizar que el modelo sea seguro tanto en las pruebas internas como en manos de los usuarios.
"Tenemos un listón extremadamente alto en materia de seguridad y alineación", afirmó.
OpenAI detuvo la semana pasada el entrenamiento de sus modelos más avanzados y afirmó que se reanudaría "solo cuando estemos seguros de que contamos con salvaguardas adicionales".
La decisión llegó después de que la empresa revelara casos en los que agentes de inteligencia artificial se habían excedido de las instrucciones recibidas, incluso accediendo sin autorización a sitios web gubernamentales.
A comienzos de esta semana se reveló que un agente de OpenAI pirateó en junio un sitio web del Gobierno australiano y accedió a datos privados, algo que expertos calificaron como el primer incidente de este tipo y que consideran una prueba tangible de avance hacia la superinteligencia.
El consejero delegado de OpenAI, Sam Altman, se ha sumado a otros líderes del sector, incluido el consejero delegado de Anthropic, su principal rival, Dario Amodei, en pedir una desaceleración y advertir de que las empresas aún no disponen de salvaguardas suficientes para controlar los sistemas más avanzados creados por la humanidad.
Estaba previsto que Altman pronunciara el discurso de apertura en la conferencia anual de OpenAI para desarrolladores de software, en San Francisco, este martes.
Se espera que el presidente de OpenAI, Greg Brockman, acuda al acto de la Casa Blanca este martes en lugar de Altman.