OpenAI ha anunciado un nuevo sistema para ChatGPT que estimará si un usuario es menor de 18 años. Esta herramienta analizará el comportamiento de la cuenta, como las franjas horarias de inicio de sesión, el tiempo de actividad y los temas de consulta.
El chatbot de inteligencia artificial (IA) de OpenAI, ChatGPT, predecirá la edad de sus usuarios para ofrecer a los adolescentes una experiencia en línea más segura, en un contexto de creciente escrutinio sobre cómo las empresas tecnológicas protegen a los menores en internet.
El nuevo sistema de predicción de edad de la compañía utilizará información de la cuenta del usuario para estimar si esa persona es menor de 18 años, como el tiempo que lleva activa la cuenta, las franjas horarias en las que inicia sesión y cómo usa la aplicación.
Cuando ChatGPT identifique a un usuario menor de 18 años, se activarán de inmediato protecciones adicionales contra contenido explícito, violento, de autolesiones y sexual. También se limitarán los retos virales en redes sociales que fomentan conductas de riesgo o dañinas para menores.
OpenAI señaló que este enfoque está "guiado por el asesoramiento de expertos y arraigado en la literatura académica sobre la ciencia del desarrollo infantil".
Las cuentas identificadas como pertenecientes a menores de 18 años podrán seguir usando ChatGPT para aprender, crear y formular preguntas. Tal y como ha explicado la propia compañía.
La actualización de OpenAI llega mientras los gobiernos de la Unión Europea debaten restricciones a las cuentas de redes sociales para usuarios menores de 16 años, tras Australia aprobar un veto en diciembre. ChatGPT no se considera una plataforma de redes sociales bajo las restricciones de Australia.
OpenAI y su consejero delegado, Sam Altman, están siendo demandados en California por los padres de Adam Raine, de 16 años, que se quitó la vida el pasado abril, después de que la plataforma supuestamente le orientara para hacerlo y redactara una nota de suicidio para él.
OpenAI introdujo previamente controles parentales en ChatGPT que permiten a los padres fijar horas de silencio en las que la IA no puede usarse y recibir avisos si su hijo muestra signos de angustia durante sus mensajes con el bot.
Quien sea identificado por error como menor de 18 años en el nuevo sistema podrá hacerse un selfie en directo o subir un documento de identidad oficial para verificar su edad y levantar las restricciones.