Un mensaje privado puede permanecer cifrado e inaccesible para la plataforma o ser analizado antes de enviarse. Esa diferencia está en el centro del debate de la UE sobre Chat Control y el equilibrio entre la lucha contra la explotación sexual infantil y la protección de la privacidad.
Si un usuario envía hoy un mensaje por Signal o WhatsApp, la normativa de la Unión Europea no se aplica, por ahora, de la misma manera que a otros servicios. En cambio, si envía esa misma fotografía a través de una aplicación sin cifrado, es posible que un sistema automatizado la analice antes de que nadie la vea. Esta diferencia, más que la afirmación simplificada de que "la UE lee sus mensajes privados", refleja el núcleo del debate sobre Chat Control y la detección en línea de material de abuso sexual infantil (CSAM, por sus siglas en inglés).
PUBLICIDAD
PUBLICIDAD
Un reglamento temporal, prorrogado hasta 2028, permite que las plataformas detecten de forma voluntaria material de abuso sexual infantil en mensajes privados, fotografías y vídeos. Esta norma no se aplica a los servicios con cifrado de extremo a extremo, como WhatsApp o Signal, del mismo modo que al resto de plataformas. En paralelo, la propuesta de reglamento permanente, conocida como Chat Control 2.0, continúa en negociación. La principal incógnita sigue siendo si finalmente acabará afectando a los chats cifrados.
Cómo decide el sistema qué marcar
Las herramientas de detección funcionan principalmente de dos maneras. La primera consiste en la comparación de 'hashes': una imagen o un vídeo se convierten en una huella digital criptográfica que se compara con una base de datos de material previamente confirmado como ilegal. Este método es rápido y preciso para detectar copias idénticas o casi idénticas, aunque resulta fácil de eludir con una modificación mínima del archivo.
La segunda técnica utiliza modelos de aprendizaje automático para identificar contenido nuevo o alterado y, de forma más controvertida, para analizar textos en busca de patrones de lenguaje asociados al 'grooming' o acoso sexual de menores a través de internet.
Patrick Breyer, activista por los derechos digitales, jurista y exeurodiputado del grupo Los Verdes/Alianza Libre Europea, sostiene que ambos métodos son menos fiables de lo que creen los responsables políticos. La comparación de 'hashes', el más preciso de los dos sistemas, "va acompañada de una tasa muy alta de falsos positivos que incriminan erróneamente a personas", afirma. Como ejemplo cita Alemania, donde, según asegura, las cifras recientes muestran que "más del 50% de la mayoría de las denuncias en realidad no son penalmente relevantes".
Parte del problema, explica, se encuentra en el origen del proceso. Las bases de datos suelen elaborarse y revisarse fuera de Europa, en lugar de evaluarse conforme al derecho penal europeo. "Algunos empleados de los proveedores, estén donde estén en el mundo, introducen material en las bases de datos" sin una valoración jurídica adecuada sobre la intención, un requisito necesario para determinar desde el principio si un contenido puede constituir un delito.
Dónde se realiza el escaneo
En las plataformas sin cifrado, la comprobación puede realizarse directamente en los servidores del proveedor. En los servicios con cifrado de extremo a extremo, en cambio, el proveedor no puede leer un mensaje una vez que ha sido cifrado. Por ello, cualquier sistema de detección tendría que actuar antes de ese proceso: en el propio dispositivo del usuario, antes de que se aplique el cifrado, o mediante una capa independiente de hardware seguro diseñada para esa función.
Es lo que se conoce como 'client-side scanning' o escaneo en el dispositivo. Precisamente por ello el debate sobre el cifrado sigue abierto: el mensaje se inspecciona mientras todavía es legible, "antes de que se cierre la cerradura", en lugar de interceptarse una vez enviado.
Qué ocurre tras una coincidencia
Que un archivo sea marcado por el sistema no significa que pase automáticamente a manos de la Policía. Según proveedores como Google, una coincidencia, ya proceda de una comparación de 'hashes' o de un modelo de inteligencia artificial, suele remitirse primero a revisores humanos especializados de la propia empresa, que la verifican antes de comunicarla a las autoridades. Breyer sostiene que es precisamente en esa fase de validación donde el sistema deja de funcionar correctamente cuando se aplica a gran escala.
Según explica, los revisores trabajan con criterios jurídicos diferentes, no siempre pueden determinar la intención con la que se compartió un contenido y, con frecuencia, clasifican erróneamente casos de 'sexting' consentido entre adolescentes o imágenes autogeneradas compartidas como una broma en un grupo de chat. A su juicio, muchos de los menores afectados por estas denuncias nunca pretendieron enviar ni recibir material ilegal; simplemente reenviaron un archivo en una conversación que trataba "de otra cosa".
La comparación de 'hashes' se limita a identificar imágenes previamente confirmadas como ilegales. El análisis del texto plantea un problema distinto. El lenguaje empleado en casos de 'grooming' puede parecerse mucho al de conversaciones habituales entre adolescentes o incluso entre adultos, por lo que numerosos investigadores consideran que la detección basada en texto es la parte del sistema más propensa a errores. Esta diferencia resulta clave para la propuesta de reglamento permanente. Ampliar cualquier futura obligación de detección desde las imágenes a las conversaciones multiplicaría el problema de los falsos positivos que Breyer describe en el escaneo de imágenes.
La alternativa que se plantea
Breyer no rechaza la detección en sí, sino su aplicación masiva. Defiende que el escaneo solo debería autorizarse cuando "un tribunal independiente confirme" la existencia de una sospecha razonable sobre una persona concreta, de forma comparable a una orden judicial para abrir la correspondencia de un ciudadano. Escanear las comunicaciones de toda la población "por si acaso", sostiene, constituye un nivel de injerencia completamente distinto.
Como alternativa plantea dos vías. La primera consiste en rastrear de forma proactiva la web abierta y la 'dark web' para localizar material ilegal ya conocido y facilitar su retirada, un sistema que, según explica, ya utilizan Reino Unido y Canadá, pero no la Unión Europea. La segunda apuesta por la llamada "seguridad desde el diseño", mediante la cual las aplicaciones advierten al usuario, directamente en su dispositivo, antes de compartir un número de teléfono o una imagen de desnudo, sin que el contenido abandone nunca el teléfono.
En qué situación quedan los datos
Por ahora, lo que ocurre con un mensaje depende por completo de la aplicación a través de la que se envíe. En las plataformas sin cifrado, el contenido puede recibir una huella digital o ser analizado mediante algoritmos antes o inmediatamente después del envío, revisado posteriormente por personal especializado del proveedor y comunicado a las autoridades si se confirma la coincidencia.
En las aplicaciones con cifrado de extremo a extremo ese procedimiento no se aplica actualmente. Sin embargo, la propuesta permanente, todavía en negociación, podría modificar en el futuro el momento y el lugar en el que se establecería esa línea de escaneo.