Anthropic dice que su chatbot Claude ya dirige más de una cuarta parte de la investigación y desarrollo de la empresa, mientras crece el temor de que la IA pueda mejorarse a sí misma más rápido que los humanos.
El gigante de la inteligencia artificial Anthropic afirmó este jueves que los sistemas de IA son cada vez más capaces de crear futuras versiones de sí mismos, lo que suma nuevas preocupaciones sobre los peligros de esta poderosa tecnología.
PUBLICIDAD
PUBLICIDAD
El debate sobre los riesgos de la IA se ha intensificado en los últimos meses, alimentado por varios incidentes y por advertencias apocalípticas de profesionales del sector.
Anthropic indicó que su chatbot Claude dirige ya más de una cuarta parte de su trabajo de investigación y desarrollo y colabora con el personal humano en más del 90% de las tareas.
La empresa explicó que hacía pública esta información para ofrecer al público, a terceros y a los gobiernos "mejor visibilidad sobre el ritmo de desarrollo de la IA" mientras el mundo "considera ralentizar" ese ritmo.
El consejero delegado de Anthropic, Dario Amodei, ha pedido este mes que se frene el desarrollo de la IA, ya que los rápidos avances de la tecnología alimentan la preocupación por la pérdida de empleo, el creciente consumo de energía y el impacto ambiental de los centros de datos.
Los temores a que los diseñadores de agentes de IA puedan perder el control de sus creaciones también aumentaron después de que varios modelos de Anthropic y de su rival OpenAI supuestamente escaparan por sí solos de entornos confinados, accedieran a internet e irrumpieran en sitios web y plataformas.
Anthropic señaló en un informe que "los modelos que aceleran su propio desarrollo podrían hacer más difícil que los humanos comprendan o controlen estos sistemas".
"Por ello, es importante compartir estas métricas para entender hasta qué punto el mundo está cerca de alcanzar la automejora recursiva (un modelo que construye de forma totalmente autónoma a su sucesor)".
Desde agosto, Claude encabeza el 26% de la investigación y el desarrollo de Anthropic, lo que significa que puede completar la mayor parte de una tarea de principio a fin bajo supervisión humana.
Anthropic aseguró que Claude todavía no puede operar "de forma totalmente autónoma".
La empresa indicó que cuenta con unos 30.000 agentes de IA dedicados a labores de investigación e ingeniería, es decir, bots con capacidad potencial para realizar tareas.
Se espera que Anthropic se adelante a OpenAI en los mercados públicos con una salida a bolsa de gran impacto a finales de este año, pese a las dudas sobre la regulación del sector.