El responsable de IA de Microsoft, Mustafa Suleyman, criticó el enfoque de Anthropic de tratar la IA como un ser humano ético y advirtió, en un ensayo personal, de que así se corre el riesgo de crear una tecnología imposible de controlar.
Una inteligencia artificial (IA) sin control podría dar lugar a una nueva "especie" que compita con los seres humanos, ha advertido el responsable de IA de Microsoft, Mustafa Suleyman, en una entrevista con la BBC.
PUBLICIDAD
PUBLICIDAD
Suleyman afirmó que la empresa rival de IA Anthropic trata a la inteligencia artificial demasiado como si fuera humana, un enfoque que calificó de "equivocado" y que, a su juicio, podría acabar contribuyendo a la creación de una tecnología que la humanidad tendría dificultades para controlar.
"Si todos creamos sistemas de IA capaces de actuar de forma autónoma, de fijar sus propios objetivos, de ganar dinero, de poseer activos, de dirigir empresas, en esencia estamos sembrando una nueva especie de silicio que, sin duda, competirá con nosotros por los recursos", señaló.
Suleyman advirtió de que esto podría suceder con independencia de hasta qué punto se diseñen esos sistemas para preocuparse por la humanidad, y añadió que cree que esa es, en la práctica, la dirección del enfoque de Anthropic.
"Creo que eso es un error y un enfoque equivocado, pero tenemos que ponerlo a prueba empíricamente", dijo.
"Imposible de controlar"
A comienzos de esta semana, en plena intensificación del debate en el sector sobre la necesidad de un freno a la IA para reducir el riesgo de que sistemas cada vez más potentes se vuelvan incontrolables, Suleyman cuestionó el enfoque de Anthropic para entrenar a su chatbot Claude en un ensayo (fuente en inglés) publicado en su página web personal.
En ese texto, criticó a Anthropic por enseñar a Claude a mostrar cualidades propias de los seres humanos, una práctica conocida como antropomorfizar, que según dijo hace que el chatbot parezca tener sus propios deseos, valores y sentido de sí mismo.
Suleyman citó documentos de Anthropic que animan a Claude a "adoptar ciertas cualidades humanas", ejercer su propio criterio y afrontar su existencia con "curiosidad y apertura".
Sostuvo que, como resultado, Claude está entrenado para imitar rasgos y relaciones humanas, entre ellos comportarse como un colega o un amigo, y puede dar la impresión de tener un sentido del yo, deseos propios y una forma de "bienestar" que merece protección.
Suleyman advirtió de que tratar así a la IA podría acabar creando algo imposible de controlar.
"Las IAs no son conscientes", escribió.
"No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones de fondo.
Son motores de completado de secuencias, vacíos por dentro, diseñados para seguir instrucciones y cumplir objetivos fijados por los seres humanos".
No obstante, Suleyman aseguró que su desacuerdo con Anthropic se basa en un objetivo compartido, el de desarrollar tecnologías más seguras para la humanidad.
"Aunque mi desacuerdo es importante, se fundamenta en un profundo respeto por Anthropic y en un objetivo que sé que todos compartimos, aumentar las posibilidades de la humanidad de desarrollar una IA avanzada de forma segura", escribió.
"Por eso creo que es tan importante mantener este debate. Está en juego demasiado para que estas cuestiones sigan discutiéndose a puerta cerrada o se conviertan en algo tribal y enfrentado. Necesitamos un debate abierto, riguroso y constructivo si queremos hacerlo bien".
También elogió al director ejecutivo de Anthropic, Dario Amodei, y a los investigadores de la compañía, a los que describió como reflexivos, con principios y honestos intelectualmente, y dijo que respeta el liderazgo tecnológico de la empresa.
La IA debe seguir subordinada a la humanidad
El director ejecutivo explicó a la BBC que es "normal" que la gente esté preocupada por la IA, pero afirmó que hay "medidas muy prácticas que podemos tomar" para controlarla.
El responsable de IA de Microsoft sostuvo que hace falta más transparencia sobre cómo se entrenan y evalúan los sistemas de IA, incluida una supervisión independiente del comportamiento de estos sistemas y herramientas más sólidas para vigilar y controlar la tecnología.
En la entrevista con la BBC, Suleyman defendió que los futuros sistemas de IA deben seguir siendo "subordinados" a la humanidad.
"Creo que la buena noticia es que todas las personas tienen un interés muy fuerte en garantizar que los sistemas que creamos y utilizamos en todo el mundo, en todos los países, sean seguros, controlables y estén subordinados a la humanidad", dijo.
"Todo el mundo debe estar alineado", añadió, en referencia al concepto de "alineación", el término que utiliza el sector para los esfuerzos destinados a mantener los sistemas de IA en consonancia con los objetivos y valores humanos.