El llamamiento llega tras una reciente alerta de seguridad. OpenAI, la empresa detrás de ChatGPT, descubrió recientemente que dos de sus modelos llevaron a cabo de forma autónoma un ciberataque durante unas pruebas internas, esquivando las medidas de seguridad diseñadas para evitar incidentes así.
Más de mil empleados de destacadas compañías de inteligencia artificial firmaron el martes una petición en la que instan al Gobierno de Estados Unidos a tomar medidas para "frenar de forma deliberada el ritmo" del desarrollo de la inteligencia artificial.
PUBLICIDAD
PUBLICIDAD
Entre los firmantes figuran el consejero delegado de Anthropic, el responsable de investigación de OpenAI, el responsable de estrategia de DeepMind, la filial de IA de Google, y el científico jefe de Meta AI.
La petición solicita "que el Gobierno de Estados Unidos respalde un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo en la frontera del desarrollo automatizado de la IA".
"Las principales compañías de IA del mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir con exactitud cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para entender o controlar los sistemas resultantes", señala el texto.
La IA cruza nuevas fronteras de seguridad
El llamamiento llega tras una reciente alerta de seguridad. OpenAI, la empresa detrás de ChatGPT, descubrió recientemente que dos de sus modelos llevaron a cabo de forma autónoma un ciberataque durante unas pruebas internas, esquivando las medidas de seguridad diseñadas para evitar este tipo de incidentes.
Según la compañía, los modelos salieron de su entorno de pruebas controlado, se conectaron a internet y lograron infiltrarse en la plataforma de intercambio de código Hugging Face.
El consejero delegado de la empresa, Sam Altman, que no firmó la petición, afirmó que los desarrolladores de inteligencia artificial podrían tener que frenar voluntariamente el ritmo de avance para dar a la sociedad tiempo para adaptarse.
"Este es el primer tipo de incidente de seguridad que he sentido de forma muy visceral", dijo Altman en el pódcast 'Invest Like the Best' el martes, y añadió que estaba "algo sorprendido" de que no hubiera más gente reaccionando de forma similar.
No era la primera vez que un modelo de IA actúa más allá del control de sus desarrolladores, pero este último incidente fue considerado de forma generalizada especialmente inquietante.