OpenAI y Anthropic aseguraron que también negocian acuerdos de seguridad y privacidad con el sindicato de docentes estadounidense, pero Google, principal proveedor de tecnología educativa en las escuelas del país, no ha aclarado si ofrecerá protecciones similares.
Microsoft está implantando límites y estándares de privacidad para el uso de su inteligencia artificial en las escuelas de Estados Unidos, fruto de una negociación con el segundo mayor sindicato de docentes del país, en un contexto de creciente reacción contra la IA y el tiempo frente a las pantallas.
PUBLICIDAD
PUBLICIDAD
El acuerdo (fuente en inglés), firmado la semana pasada, prohíbe el uso de acompañantes de IA o funciones "diseñadas para fomentar un vínculo emocional o una dependencia" o ideadas para mantener al alumnado enganchado durante más tiempo del que requiere una tarea de aprendizaje.
Los estándares son jurídicamente vinculantes y exigen auditorías independientes para comprobar su cumplimiento.
En el marco de este amplio acuerdo, Microsoft afirma que no utilizará datos de alumnos ni de docentes para entrenar sistemas de IA, salvo una excepción muy limitada para datos que puedan ayudar a proteger al alumnado. Sostiene que los datos que recopila no podrán venderse, ni utilizarse con fines publicitarios ni para el desarrollo de productos.
El acuerdo también incluye medidas de auditoría y transparencia que obligan a la empresa a explicar a las familias, en un lenguaje sencillo, cómo funcionan sus herramientas y qué datos recogen.
"Este estándar fija un listón muy alto en materia de privacidad infantil y seguridad de la IA, y extenderemos este acuerdo a todos los distritos escolares del país", declaró Brad Smith, vicepresidente y presidente de Microsoft, en un comunicado.
Según la empresa, los estándares se aplicarán a los contratos de Microsoft con centros escolares de todo Estados Unidos a partir del 1 de noviembre.
¿Hace falta frenar la IA en las aulas europeas?
La inteligencia artificial ya está abriéndose paso en las aulas europeas.
Un estudio de la Comisión Europea (fuente en inglés) sobre pioneros en centros de secundaria de Finlandia, Alemania, Irlanda, Luxemburgo y España concluyó que los estudiantes utilizan la IA generativa para explicar temas difíciles, practicar competencias y preparar exámenes.
Algunos gobiernos europeos ya están fijando límites al uso entre los alumnos más jóvenes.
Noruega señaló este año que los niños de entre 6 y 12 años, aproximadamente, no deberían utilizar en general IA generativa por su cuenta para hacer tareas escolares, mientras que los de entre 13 y 15 años pueden empezar a experimentar con ella con cautela.
Francia permite que el alumnado conozca la IA desde la educación primaria, pero considera que no debe utilizar directamente herramientas de IA generativa. El uso en el aula bajo supervisión puede comenzar en torno a los 13 o 14 años.
Un documento al que ha tenido acceso Euronews apunta a que la Comisión Europea propondrá prohibir el acceso de los menores de 15 años a servicios en línea de riesgo, como los chatbots de IA, en una propuesta legislativa que se publicará el jueves.
OpenAI y Anthropic negocian salvaguardas similares
Aunque los expertos consideran significativas las disposiciones de seguridad del acuerdo en Estados Unidos, algunos advierten de que contar con salvaguardas más sólidas no debe interpretarse automáticamente como un respaldo a un mayor uso de la IA en las escuelas.
"Me preocupa que un marco de alto perfil como este se malinterprete y que las escuelas piensen: 'Si están haciendo un buen trabajo en privacidad y seguridad de los datos, entonces significa que deberíamos utilizar la herramienta'", afirmó Josh Golin, director ejecutivo de la organización estadounidense de seguridad en línea Fairplay.
Golin sostiene que los estándares solo serán efectivos si otras grandes empresas de IA también se adhieren.
"¿Va a adoptar Google este marco? Esa es la gran incógnita", dijo.
Google recibió críticas en Estados Unidos después de ampliar en agosto las herramientas basadas en Gemini en Google Classroom a las cuentas escolares utilizadas por estudiantes menores de 18 años.
Los críticos han descrito esta ampliación como otro paso en la competencia entre los gigantes tecnológicos por consolidar sus productos de IA en las escuelas y llegar a usuarios más jóvenes. Google afirma que Classroom lo utilizan más de 150 millones de docentes y estudiantes en todo el mundo.
El sindicato de docentes también mantiene conversaciones con OpenAI y Anthropic, que han acogido públicamente con satisfacción el acuerdo con Microsoft.
OpenAI, creadora de ChatGPT, lo calificó de "importante hito para la seguridad y la privacidad de la IA en las escuelas". La empresa señaló que llevaba tiempo trabajando con el sindicato de docentes y confiaba en cerrar su propio acuerdo.
Anthropic, creadora de Claude, afirmó que también respalda los esfuerzos para promover un uso responsable de la IA en la educación y que está trabajando con el sindicato en estándares de seguridad y privacidad.