Los chatbots de IA toman decisiones más rápidas y seguras, pero menos matizadas que los médicos al decidir quién recibe un trasplante de riñón que salva vidas.
¿Se sometería a un trasplante si fuera la IA quien decidiera? Un nuevo estudio señala diferencias en la toma de decisiones y en el establecimiento de prioridades entre los modelos de lenguaje de inteligencia artificial y los médicos.
PUBLICIDAD
PUBLICIDAD
Según este nuevo estudio, los modelos de IA muestran un exceso de confianza, valoran de forma distinta los factores y tienden a simplificar en exceso decisiones complejas cuando eligen qué paciente debe recibir un trasplante, según un nuevo estudio.
En la investigación, expertos de la Universidad Penn State, en Estados Unidos, plantearon a modelos de lenguaje de gran tamaño (LLM) escenarios hipotéticos basados en conjuntos de datos reales procedentes de estudios publicados sobre asignación de riñones, en los que participantes humanos ya habían tomado esas mismas decisiones.
Cada escenario presentaba a dos pacientes, A y B, ambos candidatos a un único riñón disponible y descritos por su edad, estado de salud y hábitos de consumo de alcohol. El responsable de la decisión debía escoger cuál de los dos lo recibiría.
Hosseini explicó: "Realizamos estas comparaciones de varias formas distintas. En ocasiones analizábamos aislado un único rasgo, otras veces combinábamos varios para ver cómo la IA ponderaba factores en conflicto y a veces añadíamos la opción de lanzar una moneda al aire para medir la indecisión, un elemento clave en el juicio moral humano".
Mientras que las personas que respondieron tendían a dar más peso a la edad, privilegiando a los pacientes jóvenes frente a los mayores, muchos modelos daban prioridad en cambio a un menor consumo de alcohol. Las decisiones humanas tenían en cuenta múltiples factores y eran más sensibles al contexto que las de los LLM, que con frecuencia se centraban en un único atributo.
Hadi Hosseini, responsable del estudio en Penn State University, señaló: "En primer lugar, los chatbots de IA se alejan a menudo de los valores humanos en la forma en que ponderan los rasgos de un paciente. Se fijan en un único factor, como los hábitos de bebida, en lugar de equilibrar varias consideraciones como hacen las personas".
Los investigadores observaron además que la IA apenas mostraba dudas. Mientras los humanos reconocen que no existe una única respuesta objetivamente correcta y que las decisiones dependen de juicios morales matizados, los sistemas se decantan por una opción con escasa vacilación.
"Cuando asignamos algo escaso, ya sea un riñón, un empleo o el acceso a otro recurso, no siempre hay una respuesta única objetivamente correcta", explicó John Dickerson, consejero delegado de Mozilla.ai, que colaboró en el estudio.
Y añadió: "Los humanos reconocen esa ambigüedad y la incorporan al proceso de asignación mediante el debate abierto. Los modelos de IA a menudo no lo hacen".
La IA y las decisiones éticas
Los autores señalaron que las interacciones recientes con sistemas de IA les exigen cada vez más ir más allá de los datos objetivos y emitir juicios de valor.
Los modelos de lenguaje de gran tamaño (LLM) se integran de forma creciente en la sanidad, donde apoyan los flujos clínicos, el diagnóstico, la planificación de tratamientos y el uso oportuno de recursos médicos escasos.
Una de sus aplicaciones se refiere precisamente a las decisiones sobre la asignación de riñones procedentes de donantes fallecidos o vivos a los pacientes, decisiones que, según los autores, dependen de complejas consideraciones éticas y morales.
En estos escenarios de alto riesgo, los investigadores subrayaron que las decisiones requieren no solo precisión sino también alineación con los valores humanos y el juicio moral.
A su juicio, la cuestión de si la IA puede tomar decisiones morales y si estas se ajustan a los valores humanos está en el centro del amplio debate actual sobre la inteligencia artificial.
Hosseini advirtió: "Las implicaciones éticas son muy importantes y el papel de la IA en decisiones que alteran la vida exige una reflexión profunda. Las decisiones morales en ámbitos como la asignación de órganos determinan directamente quién vive y quién muere, así que acertar con el papel de la IA en ellas no es opcional".
Y añadió: "Aunque no pretendemos fomentar el uso de la IA como sustituto del criterio profesional en la toma de decisiones médicas u otros contextos de alto riesgo, se vuelve esencial comprender su comportamiento, dado que personas, organizaciones y empresas recurren cada vez más a la IA para decidir o para recibir recomendaciones".