Dario Amodei, consejero delegado de Anthropic, advierte que hay que regular la IA, si no surgirían gobiernos autocráticos que la usen para reprimir a la población.
El mundo entra en una fase del desarrollo de la inteligencia artificial (IA) que pone a prueba "quiénes somos como especie", advierte el consejero delegado de Anthropic en un extenso ensayo.
Dario Amodei sostiene que la humanidad entra en una "adolescencia tecnológica", en la que la IA avanza más deprisa de lo que los sistemas jurídicos, los marcos regulatorios y la sociedad pueden mantener el ritmo.
En apenas dos años, sostiene que la IA podría llegar a ser "más inteligente que un premio Nobel" en la mayoría de campos relevantes, como biología, programación, matemáticas, ingeniería y escritura.
Cuando estos sistemas de IA trabajan en conjunto, Amodei los compara con "un país de genios en un centro de datos", capaces de completar tareas complejas al menos diez veces más rápido que una persona en ámbitos como el diseño de software, las operaciones cibernéticas e incluso el tejido de relaciones.
Esta combinación de inteligencia sobrehumana, autonomía y dificultad para controlar la tecnología es "a la vez plausible y una receta para un peligro existencial", escribió.
"La humanidad necesita despertar, y este ensayo es un intento, quizá inútil, pero merece la pena intentarlo, de sacudir a la gente", dijo.
El ensayo de Amodei llega después de que su empresa publicara la semana pasada una 'constitución' de 80 páginas para su chatbot Claude, que establece cómo ayudará a que su IA se comporte de forma segura y ética.
Amodei no es el único que alerta sobre los posibles peligros de la IA. Un informe de 2025respaldado por 30 países señalaba que los sistemas avanzados de IA podrían generar nuevos riesgos extremos, como pérdidas masivas de empleo, facilitar el terrorismo o perder el control sobre la tecnología.
Otros líderes tecnológicos, entre ellos OpenAI’s Sam Altman y el cofundador de Apple Steve Wozniak, también han advertido de los riesgos de la IA.
La IA es un 'desafío civilizacional'
Aunque Amodei no llega a afirmar que el desastre sea inevitable, advierte de que la IA supone un serio 'desafío civilizacional'.
"La IA es tan poderosa, un premio tan deslumbrante, que a la civilización humana le resulta muy difícil imponerle cualquier tipo de límites", escribió.
Amodei añadió que los sistemas de IA potentes podrían emplearse para asesorar a gobiernos, organizaciones o particulares en geopolítica, diplomacia o planificación militar.
El mayor peligro es que los autócratas utilicen esos consejos generados por IA para "arrebatar de forma permanente" la libertad de los ciudadanos bajo su control e "imponer un Estado totalitario del que no puedan escapar", escribió.
Añade que el uso masivo de la IA para la vigilancia debería considerarse un crimen contra la humanidad.
Amodei advirtió del riesgo de que el mundo se divida en esferas autocráticas, cada una usando la IA para vigilar y reprimir a su población.
"Una IA poderosa, capaz de analizar miles de millones de conversaciones de millones de personas, podría calibrar el sentimiento público, detectar focos de deslealtad en formación y extinguirlos antes de que crezcan", recoge el ensayo.
Amodei señala al Gobierno chino como principal motivo de preocupación, por su combinación de capacidad en IA, gobierno autocrático e infraestructura de vigilancia de alta tecnología ya existente.
Amodei añadió que las democracias competitivas en IA, los países no democráticos con grandes centros de datos y las propias empresas de IA son actores potenciales que podrían hacer un uso indebido de la tecnología.
Los chips, 'el mayor cuello de botella'
Controlar la venta de chips informáticos avanzados utilizados para entrenar modelos de IA es la forma más eficaz de plantar cara, escribió.
Las democracias no deberían vender estas tecnologías a Estados autoritarios, en particular a China, ampliamente considerada el principal competidor de Estados Unidos en la carrera por la IA, añadió Amodei.
"Los chips y las herramientas para fabricarlos son el mayor cuello de botella para una IA potente, y bloquearlos es una medida simple pero extremadamente eficaz, quizá la acción más importante que podemos emprender", afirmó.
Más allá de los controles a la exportación, Amodei abogó por la coordinación sectorial y la supervisión social. Reclamó leyes de transparencia que obliguen a las empresas de IA a revelar cómo orientan el comportamiento de sus modelos.
Cita como ejemplo la ley SB-53 de California, conocida como 'Transparency in Frontier Artificial Intelligence Act' (TFAIA), como uno de ellos.
La norma obliga a las empresas de IA a publicar en sus sitios web marcos que describan cómo incorporan a sus modelos las mejores prácticas y estándares nacionales e internacionales, según el gobernador de California, Gavin Newsom.
Pero Amodei también se mostró optimista sobre el futuro de la IA.
"Creo que si actuamos con decisión y con cuidado, los riesgos pueden superarse, diría incluso que nuestras probabilidades son buenas. Al otro lado hay un mundo muchísimo mejor. Pero debemos entender que se trata de un serio desafío civilizacional", dijo.