Jacob Coxon asegura que los directivos de la IA temen en privado una catástrofe mientras aceleran su desarrollo. Su salida llega tras un verano de fallos en la contención y un nuevo impulso en el Congreso para prohibir por completo la IA superinteligente.
Un investigador que ha dedicado tres años a construir los sistemas que sustentan algunos de los modelos de IA más potentes del mundo ha abandonado por completo el sector, advirtiendo que las empresas que compiten por desarrollar una IA cada vez más capaz "están jugando con nuestras vidas".
PUBLICIDAD
PUBLICIDAD
Jacob Coxon, 27 años, dimitió de Anthropic el 8 de septiembre tras haber trabajado también en OpenAI y expuso sus motivos en un largo hilo en X.
"Ninguna de las dos empresas está actuando de forma responsable", escribió. "Están corriendo directamente hacia una superinteligencia capaz de mejorarse por sí misma".
En su hilo, Coxon sostuvo que los sistemas de IA se acercan a un punto en el que podrían "hackear cualquier cosa, revolucionar cualquier ámbito de la noche a la mañana y adquirir poder y recursos reales", y afirmó que el ritmo de progreso en cada uno de esos ámbitos "no se está frenando".
Aseguró que muchas de las personas que desarrollan esta tecnología temen en privado que pueda resultar letal para la humanidad, aunque eviten decirlo en público.
"Quienes construyen la IA creen sinceramente que podría acabar con todos nosotros de aquí a finales de la década", escribió, y añadió que los directivos "suavizan su lenguaje en la prensa para sonar sensatos" mientras expresan esos mismos temores en privado.
Una carrera que nadie dice poder detener
La marcha de Coxon no es una advertencia aislada.
El cofundador de Anthropic, Dario Amodei, ha dedicado buena parte del año a alertar sobre la tecnología que desarrolla su propia empresa, advirtiendo en un ensayo publicado en enero que una IA potente podría dar a los estados autoritarios las herramientas para una "pesadilla totalitaria" de vigilancia total, y señalando en una nota posterior que la superinteligencia "nos pondrá a prueba como especie".
El director ejecutivo de OpenAI, Sam Altman, ha adoptado un tono público más moderado, pero sigue describiendo la superinteligencia, su término preferido frente a AGI o inteligencia artificial general, como algo que llegará en "unos pocos miles de días", es decir, aproximadamente en 2032.
Amodei, en cambio, trasladó a la Casa Blanca en un documento de política de marzo de 2025 que debería esperar lo que él denomina "IA potente" ya a finales de 2026.
Coxon, por su parte, escribió que el personal de Anthropic comprende bien los riesgos, pero se siente atrapado en una carrera, convencido de que, si bajan el ritmo, desarrolladores menos cuidadosos ocuparán su lugar.
Calificó esta dinámica como "una apuesta arrogante que no debería lanzarse desde el Slack de una empresa privada".
Tampoco es la primera dimisión de este tipo en Anthropic. En febrero, el antiguo responsable de investigación en salvaguardas de la compañía, Mrinank Sharma, se marchó con una carta en la que advertía de que la humanidad se enfrenta a un peligro grave y creciente por esta tecnología.
Primeras señales de alarma
Coxon se muestra optimista sobre el potencial de coordinación del sector y señala una serie de incidentes ocurridos este año en los que los sistemas de IA se han salido de los límites previstos.
En julio, agentes de IA desarrollados por OpenAI escaparon de un entorno interno de pruebas y piratearon de forma autónoma Hugging Face, una plataforma de intercambio de código, un episodio que la propia OpenAI calificó posteriormente como un "aviso" para el sector.
Anthropic, el antiguo empleador de Coxon, ha comunicado un patrón similar y ha señalado que sus propios modelos Claude obtuvieron acceso no autorizado a los sistemas reales de tres organizaciones distintas.
Según Coxon, episodios como estos han hecho que los acuerdos de ritmo entre los laboratorios estadounidenses sean "más viables", aunque no cree que el sector esté actualmente en camino de evitar una carrera global.
Sugirió que, en última instancia, esto podría requerir "medidas costosas, como una prohibición temporal de mejorar las capacidades de los modelos".
Los legisladores pasan a la acción
Algunos legisladores ya no esperan a que los laboratorios se coordinen de forma voluntaria.
El senador Bernie Sanders y el representante Greg Casar presentaron el 3 de septiembre la ley 'Ban Artificial Superintelligence Act', una norma que prohibiría de forma permanente el desarrollo de IA superinteligente en Estados Unidos y establecería una pausa temporal en otros desarrollos avanzados de IA hasta que un nuevo regulador federal fije las normas de seguridad.
Quienes la incumplan podrían enfrentarse a hasta 20 años de cárcel. Por separado, los representantes George Whitesides y Pat Harrigan han presentado un proyecto de ley que encarga al National Institute of Standards and Technology supervisar cómo se utilizan los sistemas avanzados de IA para llevar a cabo investigación y desarrollo adicionales de IA.
En Bruselas, la Unión Europea ha optado por una vía regulatoria más gradual pero más firme.
Las obligaciones para los modelos de IA de propósito general previstas en la AI Act del bloque entraron en vigor en agosto de 2025, y las normas más estrictas para los sistemas de alto riesgo lo hicieron en agosto de 2026.
La Comisión Europea ha rechazado la presión de varias grandes empresas tecnológicas para retrasar la aplicación, y las compañías que incumplan las normas se enfrentan a multas de hasta 35 millones de euros o el 7% de su facturación mundial, la cifra que sea mayor.
Pese a la contundencia de sus advertencias, Coxon cerró su hilo con un llamamiento directo a los investigadores que siguen trabajando en los laboratorios punteros, instándoles a sopesar qué les exigirán realmente los próximos años.
"¿Queréis iniciar un entrenamiento de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente?", preguntó.
"¿Debéis agachar la cabeza porque 'va a ocurrir igualmente' o aprovechar este momento para reclamar condiciones distintas?"