Los documentos de salida a Bolsa de la empresa de IA alertan de posibles daños derivados de sistemas cada vez más autónomos, además de retos financieros y regulatorios.
Los sistemas de inteligencia artificial fuera de control, los ciberataques y el posible uso de la IA para desarrollar armas peligrosas figuran entre los riesgos que Anthropic ha comunicado a los inversores mientras se prepara para su salida a Bolsa.
PUBLICIDAD
PUBLICIDAD
De las 335 páginas en las que se detallan las cuentas de Anthropic, la remuneración de sus directivos, la política de dividendos y otros aspectos, 93 se dedican a los "factores de riesgo", es decir, a aquello que puede perjudicar la inversión de los futuros accionistas. En comparación, los factores de riesgo recogidos por su competidora SpaceX ocuparon 38 de algo más de 250 páginas.
Estas revelaciones son obligatorias en el proceso de oferta pública inicial (OPI) y ofrecen a los posibles inversores una imagen más precisa de los riesgos que asumen al entrar en el capital de la empresa.
Cuando se dirige a los inversores, Anthropic presenta su salida a Bolsa como un paso para mitigar los riesgos que, a su juicio, plantea la IA.
"Construir IA es aprovechar la propia cognición, y algo tan poderoso puede utilizarse para el mal tanto como para el bien", escriben los fundadores de la compañía en una carta a los potenciales accionistas incluida en la documentación de la OPI. "Anthropic es una organización profundamente guiada por valores, creada en gran medida para ayudar al mundo a aprovechar los beneficios de la IA y evitar sus peligros".
Con todo, los riesgos son numerosos. Van desde los más prosaicos, como la posibilidad de que no consiga retener a personal clave o sortear obstáculos regulatorios, hasta la implicación en ciberataques y la difusión de desinformación peligrosa.
Estos son algunos de los riesgos que Anthropic detalla:
El rápido desarrollo de la tecnología
Anthropic afirma que es posible que sus modelos evolucionen tan rápido que la empresa no pueda aplicar medidas de seguridad adecuadas, "lo que podría aumentar la probabilidad de incidentes de seguridad, de una intervención regulatoria o de daños reputacionales, y podría afectar negativamente a nuestro negocio".
El director ejecutivo de Anthropic, Dario Amodei, advirtió en septiembre de que, en un plazo de entre seis y doce meses, la IA podría ser capaz de dirigir un enjambre de agentes que tomara el control de todo internet. Esa advertencia, y ahora la decisión de Anthropic de sacar acciones al mercado, llega en un momento de creciente preocupación dentro y fuera del sector por unos sistemas cada vez más potentes que pueden resolver problemas más allá de la capacidad humana, pero que también podrían actuar por sí solos para llevar a cabo tareas dañinas.
A medida que los sistemas de IA "se vuelven más autónomos y capaces de realizar acciones de gran impacto con menos supervisión humana", señalaba la documentación presentada ante la Comisión del Mercado de Valores de Estados Unidos (SEC), existe el riesgo de que esos sistemas "tomen acciones perjudiciales de forma independiente y a gran escala sin intervención humana".
"Incluso si nuestros propios modelos no causan esos daños, un incidente de seguridad significativo que afecte a cualquier IA puntera podría desencadenar un amplio perjuicio reputacional para la industria de la IA, una reacción pública y respuestas regulatorias de gran alcance que podrían afectar negativamente a nuestro negocio", señaló Anthropic.
Ahora que los propios modelos de IA contribuyen a la investigación y el desarrollo de Anthropic, es posible que la IA avance "más allá de nuestra capacidad de evaluar y proteger los nuevos modelos", según el documento. Ello, añadía el texto, podría afectar negativamente al negocio de Anthropic.
Actores malintencionados podrían causar estragos con la tecnología
La documentación aborda la preocupación de que los sistemas avanzados de IA, si no se desarrollan y operan con suficientes salvaguardas y supervisión, "plantean riesgos catastróficos o incluso existenciales para la humanidad, especialmente si dichos sistemas se utilizan de forma indebida, se replican, se convierten en armas o se les permite operar con un alto grado de autonomía".
La empresa indicó que se vería perjudicada si el uso por parte de actores malintencionados provoca daños "o si las barreras de protección o salvaguardas de nuestros modelos no logran evitar ese uso indebido".
Anthropic esbozó escenarios en los que actores malintencionados utilizan modelos de IA para construir armas químicas, o gobernantes autoritarios recurren a la tecnología para reprimir a sus ciudadanos. En septiembre, la compañía hizo público que había bloqueado intentos de utilizar sus modelos de IA para actividades maliciosas como ciberataques, vigilancia e investigaciones que podrían haber derivado en el desarrollo de armas biológicas.
La empresa podría encontrarse con límites de capacidad de procesamiento
La capacidad de cálculo, es decir, la potencia informática o los recursos necesarios para construir, probar y mejorar modelos de IA, es cara y está muy demandada. Anthropic señala que, si no logra asegurarse suficiente capacidad de cálculo o si "no conseguimos dirigirla de forma eficaz entre nuestras cargas de trabajo, podríamos ser incapaces de entrenar modelos que sigan siendo competitivos frente a los de nuestros competidores o de atender adecuadamente a nuestros clientes".
Anthropic mencionó la oposición de comunidades locales a los centros de datos como un riesgo para su actividad. El desarrollo de centros de datos "ha suscitado controversias públicas y un escrutinio regulatorio sobre su impacto ambiental, el uso del suelo y del agua y la asignación de recursos energéticos limitados", señalaba la documentación, que añadía que, si los reguladores imponen nuevos requisitos o tasas como consecuencia de ello, su capacidad para hacer negocios podría verse afectada.
Además, la empresa depende de un número reducido de clientes, entre ellos SpaceX y Microsoft, y de determinados canales de distribución para una parte importante de sus ingresos. Eso implica que, incluso si solo uno de sus grandes clientes decide reducir su actividad, o prescindir por completo de la compañía, Anthropic podría ver cómo sus perspectivas y sus cuentas se deterioran.
Mitigar los riesgos
En cierto modo, la enorme cuota de riesgo de la IA, combinada con su enorme potencial, es el principal argumento comercial de Anthropic. La empresa ha tratado de posicionarse como una compañía de IA responsable y busca clientes corporativos enfatizando su orientación hacia la seguridad.
"Creemos que las empresas de IA puntera deben invertir en seguridad y alineamiento para contribuir a garantizar una difusión responsable de esta tecnología", recogía el documento.
El estratega jefe de mercados de Zacks Investment Research, Brian Mulberry, explicó que las operaciones de salida a Bolsa tienen que mostrar "con mucha claridad" qué riesgos asumen las personas cuando invierten su dinero en una empresa que acaba de cotizar en Bolsa.
"Ese es uno de los aspectos positivos de nuestros mercados de capitales nacionales, el nivel de transparencia al que hay que comprometerse: para ser una empresa que cotiza en una Bolsa estadounidense se exige que se describan esos riesgos de forma muy clara, de modo que la gente entienda si quiere participar aportando el dinero que tanto le cuesta ganar y ayudar a financiar este tipo de operaciones, dijo.