La intervención llega una semana después de que OpenAI lanzara GPT-6 Astra, "su modelo más avanzado hasta la fecha", tras retrasar su despliegue por motivos de ciberseguridad.
OpenAI pide la imposición de requisitos de seguridad vinculantes para los sistemas de inteligencia artificial más potentes en Estados Unidos, un giro para una compañía que antes se había resistido a una regulación más estricta.
PUBLICIDAD
PUBLICIDAD
El responsable de asuntos globales de OpenAI, Chris Lehane, escribió en un comunicado difundido el miércoles que unas normas nacionales obligatorias debían basarse en lo que son capaces de hacer los modelos avanzados de IA.
"Hemos entrado en un nuevo capítulo en las capacidades de la IA y eso exige un nuevo capítulo en la política sobre IA. Ninguna empresa, sector o Gobierno puede afrontar este reto en solitario. Debemos responder a este momento priorizando la acción significativa frente a la perfección normativa", afirmó Lehane en una declaración publicada en la página web de OpenAI.
La compañía señaló que quiere un marco federal construido en torno a estándares de prueba comunes, evaluaciones independientes de los modelos de IA más avanzados, requisitos de ciberseguridad más estrictos y la obligación de notificar los incidentes graves de seguridad.
Esta intervención se produce una semana después de que OpenAI lanzara GPT-6 Astra, que describió como su modelo más capaz hasta la fecha.
El presidente de OpenAI, Greg Brockman, afirmó que ese lanzamiento marcaba el inicio de la era de la inteligencia artificial general (AGI, por sus siglas en inglés), en referencia al objetivo largamente perseguido de desarrollar una IA que iguale las capacidades humanas en una amplia gama de tareas.
Crecen las preocupaciones en torno a las potentes IA
Las principales empresas de IA, entre ellas OpenAI y Anthropic, ya se han enfrentado a problemas de seguridad con modelos cada vez más capaces.
OpenAI retrasó parte del despliegue de Astra mientras incorporaba nuevas salvaguardas, después de que las pruebas detectaran capacidades avanzadas en ciberseguridad, pocas semanas después de que un sistema construido con sus propios modelos se escapara al control durante un test interno de seguridad y lograra infiltrarse en la plataforma de IA Hugging Face.
Anthropic ha informado de casos similares con sus modelos Claude durante las pruebas de seguridad.
Las preocupaciones aumentaron aún más después de que el investigador de Anthropic Jacob Coxon anunciara esta semana que dejaba el sector, al acusar a OpenAI y Anthropic de "jugarse nuestras vidas" en la carrera por desarrollar IA cada vez más potente.
"La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios", escribió Lehane.
Un cambio en la estrategia de OpenAI
El creador de ChatGPT instó a los legisladores estadounidenses a actuar antes de que el Congreso suspenda su actividad en diciembre.
Esta presión llega mientras los legisladores estudian nuevas normas sobre IA, aunque aprobar una gran regulación tecnológica sigue siendo difícil en un Congreso políticamente dividido y en medio de una fuerte actividad de presión de la industria.
OpenAI reconoció que algunas de las medidas que ahora respalda son las mismas que antes se negó a apoyar.
La compañía también se había opuesto a que cada estado de Estados Unidos aprobara sus propias normas sobre IA, defendiendo en su lugar una legislación federal. Ahora ha respaldado cuatro proyectos de ley sobre IA en California, mientras sigue reclamando un marco nacional.
OpenAI afirma que cualquier requisito federal de seguridad debería aplicarse únicamente al reducido número de empresas que desarrollan los modelos más potentes y no a "startups, pequeños desarrolladores o investigadores que trabajan muy lejos de la frontera tecnológica".