Una investigación de 'The Guardian' concluyó que los resúmenes generados por la IA de Google ofrecían información sanitaria inexacta que podría ser peligrosa para los pacientes.
Google habría retirado algunos AI Overviews para consultas relacionadas con la salud tras una investigación que detectó que parte de la información era engañosa.
Los AI Overviews son resúmenes generados por inteligencia artificial que aparecen en la parte superior de los resultados y ofrecen información en respuesta a un tema o pregunta.
Una investigación del diario 'The Guardian' concluyó que algunos de esos resúmenes contenían datos sanitarios inexactos, lo que podría poner a la gente en riesgo de sufrir daños.
El periódico detectó que los AI Overviews ofrecían gran cantidad de cifras con poco contexto ante preguntas como "¿Cuál es el rango normal para los análisis de sangre del hígado?" y "¿cuál es el rango normal para las pruebas de función hepática?". Las respuestas no tenían en cuenta variaciones por nacionalidad, sexo, etnia o edad.
En ambos casos, el resultado de Google mostraba un fragmento destacado, un párrafo extraído del sitio más relevante para la consulta del usuario en la parte superior de los resultados.
Para ambas preguntas, Google eligió extraer en ese fragmento el rango de niveles considerados saludables de distintos tipos de sustancias presentes en el hígado, como alanina aminotransferasa (ALT), que regula la producción de energía, aspartato aminotransferasa (AST), que detecta células sanguíneas dañadas, y fosfatasa alcalina (ALP), que ayuda a descomponer proteínas.
Según 'The Guardian', Google tomó las cifras de Max Healthcare, una cadena hospitalaria privada de Nueva Delhi. Los fragmentos destacados son distintos de los AI Overviews, el texto del fragmento no lo genera la IA.
La investigación de 'The Guardian' halló que variaciones de esas preguntas, como "[prueba de función hepática] rango de referencia de la prueba de función hepática" o "rango de referencia de la prueba de función hepática", seguían generando resúmenes de IA. Las pruebas de función hepática son análisis de sangre que miden proteínas y enzimas para comprobar cómo funciona el hígado.
Google habría aconsejado a personas con cáncer de páncreas evitar alimentos ricos en grasa, una recomendación que, según expertos citados por 'The Guardian', no es adecuada porque podría aumentar el riesgo de que los pacientes fallezcan por la enfermedad.
La investigación de 'The Guardian' llega mientras los expertos alertan de cómo los chatbots de IA alucinan, es decir, inventan respuestas falsas cuando no disponen de la información correcta.
'Euronews Next' contactó con Google para preguntar si había retirado los AI Overviews de algunas consultas de salud, pero no obtuvo una respuesta inmediata.
Google anunció este fin de semana que añadía los AI Overviews a su servicio de correo, Gmail. La nueva función permite plantear preguntas y recibir una respuesta sobre sus correos en lugar de buscar entre ellos con palabras clave.