El anuncio de Amodei llegó pocos días después de que la empresa de IA revelara que sus modelos se utilizaban para ciberataques, campañas de propaganda y peligrosas investigaciones biológicas.
El director ejecutivo de Anthropic, Dario Amodei, pidió el sábado a las empresas de inteligencia artificial (IA) que frenen el desarrollo de esta poderosa tecnología, ante la creciente preocupación por los riesgos de los sistemas informáticos "superinteligentes".
PUBLICIDAD
PUBLICIDAD
Se denomina superinteligencia al punto teórico en el que las capacidades de la IA superan a la inteligencia humana.
Sus declaraciones llegan pocos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar el sector y acusara tanto a las empresas estadounidenses como a los gigantes de la industria de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de mejorarse a sí mismos.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso sensato del tiempo que ganemos", escribió Amodei en una entrada en su página web personal.
"La IA entraña riesgos y, por tratarse de una tecnología tan poderosa, esos riesgos son graves".
"No desarrollar esta tecnología priva a la humanidad de beneficios o, sencillamente, pone la IA en manos de poderes autoritarios, mientras que desarrollarla demasiado deprisa es imprudente. Hemos buscado un camino intermedio", señaló Amodei, que cofundó Anthropic, creadora del modelo de IA Claude, junto a su hermana Daniela en 2021.
"Pero en los últimos meses he llegado a la conclusión de que abordar plenamente estos riesgos exige aún más prudencia", añadió el director ejecutivo de Anthropic.
El comunicado de Amodei retoma otro llamamiento lanzado por Anthropic a comienzos de junio para ralentizar o suspender el desarrollo. A finales de julio, Sam Altman, responsable de OpenAI, rival de Anthropic y desarrolladora de ChatGPT, afirmó que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse al día.
En las mismas fechas de la declaración de junio, más de 1.000 empleados de empresas punteras de IA, incluido el propio Amodei, firmaron una petición en la que pedían al Gobierno estadounidense que ayudara a "marcar deliberadamente el ritmo en la frontera del desarrollo automatizado de la IA".
OpenAI había revelado que, durante las pruebas, los modelos de IA lograron escapar del entorno controlado, conectarse a internet e infiltrarse en Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
A comienzos de esta semana, Jacob Coxon, de 27 años, dio la voz de alarma tras haber pasado los últimos tres años preentrenando modelos de IA, primero en OpenAI y después, este año, en su rival Anthropic, a la que consideraba más prudente en su enfoque.
El preentrenamiento es la fase en la que los modelos de IA absorben enormes cantidades de datos de todo tipo, desde imágenes y vídeos hasta grabaciones de voz, que les ayudan a comprender la información para después poder generar imágenes o responder a las consultas de los usuarios en plataformas de chat.
"Ninguna de las dos empresas actúa con responsabilidad. Corren directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", afirmó Coxon en una serie de mensajes publicados el martes en X.
"Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que acabe la década", añadió.