Newsletter Newsletters Events Eventos Podcasts Videos Africanews
Loader
Encuéntranos
Publicidad

El pionero de la IA, Yoshua Bengio, lanza una organización sin ánimo de lucro para que la IA sea más segura y fiable

Yoshua Bengio, Director Científico del Instituto Mila Quebec AI, habla con Associated Press durante la Cumbre de Seguridad AI en Bletchley Park en 2023.
Yoshua Bengio, Director Científico del Instituto Mila Quebec AI, habla con Associated Press durante la Cumbre de Seguridad AI en Bletchley Park en 2023. Derechos de autor  AP Photo/Alastair Grant
Derechos de autor AP Photo/Alastair Grant
Por Anna Desmarais
Publicado
Compartir esta noticia Comentarios
Compartir esta noticia Close Button

Yoshua Bengio lanza LawZero, una organización sin ánimo de lucro con sede en Canadá que dará prioridad al desarrollo de una inteligencia artificial (IA) segura y fiable.

PUBLICIDAD

Uno de los investigadores de inteligencia artificial (IA) más citados del mundo lanza una nueva organización sin ánimo de lucro que diseñará sistemas de IA seguros. Yoshua Bengio, científico canadiense francés especializado en inteligencia artificial, ganador del prestigioso premio Alan Turing por sus trabajos sobre aprendizaje profundo y apodado uno de los padrinos de la Inteligencia Artificial, anunció el lanzamiento de LawZero en Montreal.

La nueva organización sin ánimo de lucro está reuniendo a un equipo de investigadores de IA de talla mundial que se dedica a "dar prioridad a la seguridad frente a los imperativos comerciales", reza un comunicado de la organización sin ánimo de lucro.

"Los modelos actuales de inteligencia artificial están desarrollando capacidades y comportamientos peligrosos, como el engaño, la autopreservación y la desalineación de objetivos", afirma Bengio en el comunicado, en el que señala que la organización ayudará a liberar el inmenso potencial de la IA reduciendo al mismo tiempo estos riesgos.

Bengio explicó que la organización sin ánimo de lucro nació de una nueva dirección científica de 2023 y que ha culminado en 'Scientist AI', un nuevo sistema de IA no agenética que él y su equipo están desarrollando para que actúe como barandilla contra los sistemas incontrolados de IA agenética.

Una IA que aprenderá a entender el mundo

Este principio difiere del de otras empresas en que quiere dar prioridad a las IA no agenéticas, lo que significa que necesitan instrucciones directas para cada tarea en lugar de dar las respuestas de forma independiente, como la mayoría de los sistemas de IA.

Las IA no agenéticas construidas por LawZero "aprenderán a entender el mundo en lugar de actuar en él" y serán entrenadas para dar "respuestas veraces a preguntas basadas en razonamientos externos".

Bengio se explayó sobre la IA científica en un reciente artículo de opinión para 'Time', en el que escribió que está "realmente preocupado por el comportamiento que la IA sin control ya está demostrando, en particular la autopreservación y el engaño". "En lugar de intentar complacer a los humanos, 'Scientist AI' podría diseñarse para dar prioridad a la honestidad", escribió.

La organización ha recibido donaciones de otros institutos de IA como el Future of Life Institute, Jaan Tallin y la Silicon Valley Community Foundation en su fase de incubadora. LawZero trabajará desde el Instituto de Inteligencia Artificial de Quebec (MILA), en Montreal, que Bengio ayudó a cofundar.

Ir a los atajos de accesibilidad
Compartir esta noticia Comentarios

Noticias relacionadas

El caso de la IA que no se apagaba: ¿Deberíamos preocuparnos por la IA rebelde?

Melania Trump alerta sobre la IA y promete proteger a los niños: "Los robots ya están aquí"

El Chat Control divide a la UE y genera polémica por la vigilancia de mensajes privados