Los jefes de Nvidia, OpenAI y Anthropic firman un compromiso sin fuerza legal sobre las normas que deben cumplir. En la UE se exponen a multas de hasta el 3% de su facturación si vulneran las normas.
Los pesos pesados del sector tecnológico han salido este martes satisfechos de una cumbre en la Casa Blanca con el presidente estadounidense, Donald Trump, tras haber prometido mantener a raya sus propias creaciones.
PUBLICIDAD
PUBLICIDAD
Trump ha explicado que los ejecutivos, entre ellos Jensen Huang, de Nvidia, Greg Brockman, de OpenAI, y Dario Amodei, de Anthropic, han firmado un compromiso "moralmente vinculante" para incorporar salvaguardas a la inteligencia artificial (IA). El acuerdo no tiene fuerza legal ni establece sanciones claras en caso de incumplimiento. "Van a vigilarse ellos mismos", ha dicho Trump a los periodistas tras la reunión.
El almuerzo reunió a 31 invitados, incluidos Mark Zuckerberg, de Meta, Elon Musk, el fundador de Amazon, Jeff Bezos, Satya Nadella, de Microsoft, y Sundar Pichai, de Google, y llega en un momento en que el clima en Washington respecto a la IA sigue empeorando.
Los legisladores afrontan una presión creciente de los votantes para frenar o ralentizar el desarrollo de la tecnología, ante el temor de que pueda sustituir a trabajadores y trastocar la sociedad. Una serie de incidentes en los últimos meses, en los que los sistemas autónomos de OpenAI se han escapado de sus límites, ha alimentado esos temores.
El primero fue una intrusión en Hugging Face, una plataforma muy utilizada para compartir modelos de IA, en julio. Este lunes, OpenAI canceló el lanzamiento de su último modelo, Astra 6.1, después de que las pruebas internas detectaran que no cumplía las normas de seguridad. Estas son las principales conclusiones de la cumbre:
Los jefes tecnológicos prometen vigilarse a sí mismos
El documento, bautizado como 'White House Accord' (Acuerdo de la Casa Blanca), recoge el compromiso del sector de regularse a sí mismo. No es jurídicamente vinculante, pero deja la puerta abierta a "codificar estos pasos en leyes o reglamentos" si con el tiempo se considera adecuado.
Zuckerberg explicó que el acuerdo pretende garantizar a los clientes que la IA "funciona del modo en que queremos". Este incluye "controles internos sólidos" y varias capas de auditoría, desde revisiones internas de riesgos hasta auditores externos, además de supervisión de los consejos de administración. El magnate lo calificó como un "punto de partida" para unas normas comunes en todo el sector que, sin embargo, no contemplan evaluaciones públicas.
Musk lo expresó de forma más cruda. En esencia, dijo, los ejecutivos han acordado "corregirse los deberes unos a otros, lo cual es mucho mejor que si cada uno corrige solo sus propios deberes por razones obvias". Trump afirmó que nombrará en los próximos días a una persona para supervisar el acuerdo y también sugirió crear un comité de unas 10 personas para "vigilar".
La empresa de Amodei ha chocado duramente con la Casa Blanca por la seguridad de la IA, y él adoptó un tono más prudente que el de sus colegas. "Como ha dicho el presidente, quien gane en IA gana. Creo que eso es muy importante", declaró Amodei tras la reunión. "Pero creo que la tecnología tiene riesgos muy reales y que el mecanismo, la forma en que abordamos esos riesgos, sigue en discusión".
Su empresa advirtió recientemente a los inversores de posibles riesgos existenciales para la humanidad en el folleto de su prevista salida a bolsa. Anthropic pretende empezar a cotizar tan pronto como en noviembre.
Incentivos para los centros de datos
Guiado en la expansión de la IA por Huang y por su antiguo zar de la IA, David Sacks, Trump ha defendido un desarrollo sin restricciones de la tecnología para superar a China y alimentar una economía estadounidense cada vez más dependiente del crecimiento impulsado por la IA.
Ese impulso pasa por los centros de datos, las enormes instalaciones de computación que consumen mucha energía y de las que depende la IA. En ambos partidos, se han convertido en un punto caliente de las campañas para las elecciones de mitad de mandato, mientras las comunidades se preocupan por el aumento de las facturas de la luz y la presión sobre el agua y el suelo.
Una encuesta de NPR/PBS News/Marist realizada los días 14 y 15 de septiembre reveló que el 65% de los votantes registrados se oponían a que se construyeran centros de datos en sus propias comunidades, y un 43% se declaraban firmemente en contra. Más del 80% de los demócratas estaban en contra, mientras que los republicanos aparecían divididos, con un 44% en contra y un 46% a favor.
El 16 de septiembre, la Cámara de Representantes aprobó, por 417 votos frente a 3, la 'Ratepayer Protection Act' (Ley de Protección de los Usuarios). El proyecto obliga a los estados a estudiar normas que hagan que los centros de datos paguen las mejoras de la red y el aumento de los costes de la electricidad en lugar de trasladarlos a los hogares. Aún tiene que superar el trámite del Senado.
A comienzos de este mes, Trump escribió en Truth Social que las comunidades que rechazan los centros de datos están optando por ser "atrasadas y pobres". Tras la reunión de este martes, adoptó un tono más suave y afirmó que las empresas de IA "serán muy generosas" con las comunidades que las reciban. "Ayudarán con sus escuelas, ayudarán con sus profesores".
Trump también confirmó que rebautizará oficialmente la tecnología como 'super intelligence' (superinteligencia) en lugar de inteligencia artificial "porque no lo es". Horas después, firmó una orden ejecutiva en la que insta al Gobierno federal a utilizar los términos superinteligencia siempre que sea posible. "'Super Intelligence' (superinteligencia) refleja de manera más adecuada la promesa, el potencial y las capacidades que avanzan rápidamente de estas tecnologías", señalaba la orden.
Cómo lo hace Bruselas
Al otro lado del Atlántico, la Unión Europea (UE) ha convertido sus salvaguardas en ley. La Ley de IA (AI Act), que Bruselas presenta como la primera norma integral del mundo sobre IA, se aplica a cualquier empresa que venda IA en el bloque, esté donde esté radicada.
Desde agosto de 2025, las empresas detrás de modelos de IA de propósito general, como los desarrollados por OpenAI, Anthropic y Google, están obligadas por ley a documentar cómo funcionan sus modelos, compartir información clave con las compañías que los utilizan como base, respetar la legislación de derechos de autor de la UE y publicar un resumen de los datos utilizados para entrenarlos.
Los modelos más potentes se enfrentan a normas más estrictas. Sus desarrolladores deben someterlos a pruebas de riesgos, incluidas pruebas adversarias de 'red-teaming' (equipos rojos), informar de los incidentes graves a Bruselas y mantener sus sistemas protegidos frente a ciberataques.
Estas normas sí tienen efectos reales. Desde el 2 de agosto, la Oficina de IA de la Comisión Europea puede exigir información a las empresas, realizar sus propias evaluaciones de los modelos y ordenar que se restrinja o retire un modelo del mercado de la UE.
Las compañías que incumplan las reglas se arriesgan a multas de hasta 15 millones de euros o el 3% de su volumen de negocio anual global, lo que sea mayor. Para las grandes tecnológicas, eso podría suponer miles de millones. Un código de conducta voluntario complementa la ley y ayuda a las empresas a cumplirla. Sin embargo, a diferencia del pacto de la Casa Blanca, firmarlo es opcional: cumplir la AI Act, no.