Unos nuevos galardones, los AI Darwin Awards, reconocerán los usos más absurdos, fallidos o peligrosos de la inteligencia artificial. Entre los primeros nominados figuran McDonald's y OpenAI, en una competición que premia no a las máquinas, sino a los humanos que las usan de la peor manera posible.
PUBLICIDAD
Un nuevo galardón premiará los usos malos, mal concebidos o francamente peligrosos de la inteligencia artificial (IA), y sus organizadores buscan la opinión de internet. Los AI Darwin Awards recompensan a los "visionarios" que "delegan en las máquinas nuestra mala toma de decisiones".
No tienen nada que ver con los Premios Darwin, unos galardones que reconocen a las personas que "eliminan accidentalmente su propio ADN" del acervo genético al morir de formas absurdas. Para ganar uno de los premios centrados en la IA, las empresas o personas nominadas deben haber demostrado un "error de juicio espectacular" con la IA e "ignorado señales de advertencia obvias" antes de que su herramienta o producto saliera al mercado.
Se conceden puntos extra a los despliegues de IA que hayan sido noticia, hayan requerido una respuesta de emergencia o hayan "generado una nueva categoría de investigación sobre seguridad con IA". "No nos burlamos de la IA en sí, sino que celebramos a los humanos que la utilizaron con la precaución de un niño con un lanzallamas", se lee en una página de preguntas frecuentes sobre los premios.
Irónicamente, los organizadores anónimos afirman que verificarán las candidaturas en parte mediante un sistema de comprobación de hechos de IA, lo que significa que preguntarán a múltiples modelos lingüísticos de gran tamaño (LLM), como ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google, si las historias presentadas son ciertas.
Los LLM puntúan sobre 10 la veracidad de una historia y, a continuación, los administradores del sitio hacen una media de las puntuaciones con una calculadora de IA. Si la media es superior a cinco, la historia se considera "verificada" y puede optar a un premio Darwin de IA.
OpenAI y McDonald's, entre los primeros nominados
Una de las nominaciones aprobadas para los primeros AI Darwin Awards es la cadena estadounidense de comida rápida McDonald's. La empresa construyó un chatbot de IA para la contratación de personal llamado 'Olivia' que estaba protegido por una contraseña obvia: 123456, exponiendo a los hackers los datos de contratación de 64 millones de personas.
Otro de los primeros nominados es OpenAI por el lanzamiento de su último modelo de chatbot GPT-5. El científico de datos francés Sergey Berezin afirmó que consiguió que GPT-5 completara, sin saberlo, solicitudes dañinas "sin ver nunca instrucciones maliciosas directas".
Los ganadores se determinarán por votación pública durante el mes de enero, y el anuncio se espera para febrero. El único premio: "un reconocimiento inmortal por su contribución a la comprensión por parte de la humanidad de cómo no utilizar la inteligencia artificial", según los organizadores.
El objetivo de los premios es servir de "advertencia" a los futuros responsables de la toma de decisiones para que se comprometan a probar los sistemas de IA antes de utilizarlos.