El Parlamento Europeo adoptó el martes su proyecto de posición sobre los planes para reprimir los abusos sexuales a menores en Internet, en el que pide que las nuevas normas de la UE eviten la "vigilancia masiva" o el "escaneo" de la red.
PUBLICIDADUna abrumadora mayoría de 51 de los 54 miembros de la comisión de Justicia de la Eurocámara, que abarca a todos los grupos políticos, ha respaldado la posición. El eurodiputado encargado del informe, Javier Zarzalejos del Partido Popular, lo ha descrito como un proceso "delicado, complejo y controvertido".
La posición de la comisión parlamentaria debe ser respaldada por el pleno la próxima semana antes de que puedan iniciarse las negociaciones con los Estados miembros de la UE.
En mayo de 2022, la Comisión Europea propuso utilizar tecnologías emergentes para escanear mensajes cifrados de extremo a extremo en plataformas como Whatsapp, de Meta, con el fin de detectar, denunciar y eliminar material de abuso sexual infantil (CSAM).
La propuesta fue desde el inicio** polémica.** Ha enfrentado a activistas en defensa de la privacidad junto con defensores de los derechos de la infancia y ha hecho que la comisaria europea de Interior, Ylva Johansson, respondiera ante las acusaciones de influencia indebida.
Los críticos citaron una grave violación de los derechos fundamentales relacionados con la privacidad en línea. Pero también existe la duda de si las tecnologías usadas para la deteción podrían identificar el abuso sexual infantil sin marcar falsamente millones de contenidos legales e incriminar erróneamente a los usuarios.
El proyecto de compromiso del Parlamento obliga a las plataformas digitales a mitigar los riesgos de que sus servicios se utilicen para abusos sexuales en línea y para captar menores. También permite a las autoridades judiciales emitir las llamadas "órdenes de detección" a las plataformas digitales, obligándolas a utilizar tecnologías emergentes -como la llamada función hash perpetua- para detectar material de abuso sexual infantil. Pero a diferencia de la propuesta de la Comisión, estas órdenes tendrían que ser específicas, limitadas en el tiempo y utilizadas como "último recurso" cuando haya "motivos razonables de sospecha".
En declaraciones a Euronews tras la votación, Zarzalejos ha asegurado que el Parlamento había podido llegar a un punto medio entre la salvaguarda de los menores en línea y la protección del derecho fundamental a la privacidad digital.
"Se trata de lograr el equilibrio adecuado entre la protección de los niños y, al mismo tiempo, proporcionar un marco legal en el que se garantice la privacidad y la protección de datos", dijo Zarzalejos. "Tiene algunas complejidades desde el punto de vista legal, pero también en términos de la intrusividad de las tecnologías que deben desplegarse para detectar y eliminar el material de abuso sexual infantil".
"Se ha logrado este equilibrio. Y creo que el amplio apoyo que ha obtenido este expediente es muy revelador del espíritu de compromiso y de la importancia que todos los grupos políticos han concedido a esta propuesta", ha añadido el eurodiputado.
El Parlamento también ha respaldado la propuesta de crear un centro europeo para la Protección de la Infancia que ayude a aplicar las nuevas normas en colaboración con las autoridades nacionales competentes y Europol, la agencia policial de la UE con sede en La Haya. El centro ayudaría a desarrollar tecnologías de detección, realizar investigaciones y, en caso necesario, imponer multas a las plataformas.
Los eurodiputados también han propuesto crear un nuevo foro consultivo para garantizar que se escuchen las voces de las víctimas. "El Centro Europeo será extremadamente importante como institución central, y por primera vez, las víctimas y los supervivientes serán reconocidos en un foro consultivo dentro del Centro Europeo. Así que creo que, en conjunto, este expediente proporcionará las herramientas necesarias para ser jurídicamente sólido y, al mismo tiempo, eficaz", ha dicho Zarzalejos.
Órdenes de detección "selectivas"
Las controvertidas órdenes de detección incluidas en la propuesta de la Comisión obligarían a los servicios de mensajería digital a desplegar tecnología de escaneado del lado del cliente (CSS) para intervenir los mensajes cifrados de los usuarios.
En un dictamen condenatorio sobre la propuesta publicado el pasado mes de mayo, el Servicio Jurídico del Consejo de la UE planteaba "serias dudas jurídicas" sobre las órdenes de detección y su potencial "grave injerencia en los derechos fundamentales" consagrados en la legislación de la UE.
El proyecto de posición del Parlamento pide que las comunicaciones cifradas queden excluidas del ámbito de aplicación de las órdenes de detección. La tecnología CSS pone en peligro la "integridad y confidencialidad" de las comunicaciones cifradas, dice el texto de compromiso.
Los eurodiputados también han limitado significativamente el alcance de las órdenes de detección a las emitidas por un tribunal en situaciones de sospecha razonable.
El grupo de presión europeo de derechos digitales EDRi, que se ha opuesto firmemente a la propuesta de la Comisión, ha acogido con satisfacción el compromiso del Parlamento.
"Los eurodiputados de Libertades Civiles han reconocido con razón que nadie estará seguro en Internet si la UE rompe el cifrado", ha dicho Ella Jakubowska, asesora política de EDRi.
"Se trata de un paso fundamental para garantizar que la regulación de Internet se basa en pruebas y en la realidad jurídica y técnica, no en promesas de empresas de inteligencia artificial", ha añadido Jakubowska.
PUBLICIDADPero los defensores de los derechos del niño han acusado al Parlamento de miopía al suavizar las ambiciones de la Comisión. Según ECPAT International -una plataforma mundial para acabar con la explotación sexual infantil-, limitar las órdenes de detección a sospechosos concretos permitirá a los autores seguir abusando bajo el radar de las fuerzas del orden.
Amy Crocker, responsable de protección de la infancia y tecnología de ECPAT, ha afirmado que el proyecto de posición del Parlamento es "un retroceso alarmante para la seguridad de los niños en Internet".
"Contradice claramente las expectativas de los ciudadanos europeos y, lo que es más grave, socava activamente la seguridad de nuestros niños en los espacios digitales. Es una decisión que favorece la burocracia en detrimento del bienestar de los niños", ha asegurado.
La captación de menores puede pasar desapercibida
Para hacer frente a la captación de menores o grooming en Internet, los eurodiputados respaldaron el martes la petición de que los servicios digitales dirigidos a los niños exijan el consentimiento del usuario para los mensajes no solicitados, dispongan de opciones de bloqueo y silenciamiento, y refuercen los controles parentales.
Pero la Comisión quería ir más allá y utilizar modelos lingüísticos basados en inteligencia artificial para detectar patrones de comportamiento que pudieran constituir captación de menores, con el fin de atrapar a los depredadores en línea. "Decidir no detectar la captación de menores significa renunciar a la posibilidad de prevenir futuros daños", ha lamentado ECPAT.
PUBLICIDADUn nuevo informe publicado en octubre por la WeProtect Global Alliance sugiere que las plataformas de juegos sociales se están convirtiendo en nuevos entornos peligrosos para la interacción entre adultos y niños, donde las conversaciones pueden derivar en situaciones de grooming de alto riesgo en tan solo 19 segundos, con un tiempo medio de grooming de 45 minutos.
Pero según Zarzalejos, las nuevas medidas de mitigación de riesgos para las plataformas ayudarán a proteger a los niños de tales peligros. "Quiero dejar claro que el grooming entra dentro del ámbito de aplicación del reglamento. Habrá medidas de mitigación especialmente dirigidas a prevenir la captación",ha dicho.
"El único cambio que hemos acordado es sacar el grooming de la auditoría de detección", añadió.