Seguridad Digital para menores en Internet: retos.

---

En este artículo, Efrén Díaz, Asociado Senior del Bufete Mas y Calvet. Responsable de las Áreas de Tecnología y Derecho Espacial, explica las limitaciones al escaneado masivo de mensajes para prevenir materiales de abuso sexual infantil en línea y el equilibrio que debe haber entre protección de menores y privacidad.

---

1. ¿De dónde partimos?

¿Somos conscientes de que los materiales de abuso sexual infantil en línea (CSAM, por sus siglas en inglés) se distribuyen en la actualidad a un ritmo que ya es alarmante? ¿Tenemos en cuenta que las prácticas manipuladoras dirigidas a explotar y abusar de las personas (grooming, en inglés) se centran en los niños más pequeños?

Partimos de unos datos en el año 2022 que generan una creciente preocupación entre familias y autoridades.

¿Sabíamos que los más de 32 millones de informes de sospecha de abuso sexual infantil en línea representaron el pasado año un máximo histórico? 

Para poner cifras que nos ayuden a comprender la dimensión de este creciente problema, solamente las denuncias de grooming  aumentaron un 82%. A ello se añade que la mayoría de las actividades ilícitas detectadas se alojaban en Europa.

Las autoridades europeas, y particularmente la Comisión Europea, no son indiferentes a esta realidad y desde el 11 de mayo de 2022 se adoptó una propuesta de normas a largo plazo para prevenir y combatir los abusos a menores.

Una situación tan compleja requiere medidas en diversos ámbitos, desde servicios de mensajería webmail y telefonía por internet, así como en otros servicios que permiten la detección proactiva de materiales y actividades en línea de CSAM que impliquen la captación de menores por su situación de especial vulnerabilidad.

No obstante, ¿cabe adoptar estas medidas de manera masiva y sin prestar atención a derechos fundamentales europeos como la privacidad de las personas? ¿En qué lugar quedan la seguridad y las investigaciones policiales? ¿Son siempre prevalentes a otros derechos? 

La complejidad de estas cuestiones suscita un necesario análisis jurídico, así como un marco normativo adecuado y debidamente proporcionado. Así se viene haciendo por el Parlamento y la Comisión de Libertades Civiles, Justicia y Asuntos de Interior (LIBE), cuyo proyecto presentado el 19 de abril de 2023 contó con más de más de 1900 enmiendas presentadas en comisión y publicadas el pasado 30 de mayo de 2023.

---

• El reglamento europeo del espacio (EU space act)
• Prejudicialidad penal en el arbitraje: prudencia y soluciones prácticas
• Catastro y Registro de la Propiedad: cuando los datos de tu inmueble no coinciden
• El usufructo viudal vs. la nuda propiedad
• Arbitraje obligatorio: fundamentos jurídicos, limitaciones constitucionales y perspectivas de aplicación

---

2. Un problema creciente

¿Tenemos conciencia de que cada dos minutos una página web muestra imágenes de un niño siendo abusado sexualmente? Así lo recuerda el informe de la Internet Watch Foundation.

El Comité de Libertades Civiles y el Parlamento Europeo han querido abordar esta preocupación y plantear algunas medidas que mitiguen la ampliación de un problema que puede devenir exponencial, pues ya ha adquirido dimensiones de crecimiento inabarcable.

El pasado martes 14 de noviembre de 2023 la Comisión de Libertades Civiles, Justicia y Asuntos de Interior ha adoptado la posición del Parlamento y plantea nuevas medidas para proteger a los niños en línea y prevenir y detener el abuso sexual infantil. Ha contado con 51 votos a favor, 2 en contra y 1 abstención, lo cual revela el alto compromiso alcanzado en esta materia.

El contenido de esta posición se centra en proteger a los niños en línea, en el entorno digital, incluso desde dispositivos móviles, que cada vez son más accesibles y habituales para ellos y sus familias. En particular, se pretenden nuevas reglas con el fin de obligar a los proveedores de Internet a evaluar si existe un riesgo significativo de que sus servicios sean utilizados indebidamente para abuso sexual infantil en línea y a solicitar la edad de los menores, y a tomar medidas para mitigar estos riesgos.

La posición aprobada contiene medidas de mitigación específicas, proporcionadas y efectivas, no sólo para las víctimas, sino también para ponderar los demás derechos e intereses legítimos concurrentes, como el derecho fundamental a la privacidad y el libre desarrollo de la personalidad de los menores. A nuestro juicio, es relevante que se permita a los proveedores poder decidir las medidas a utilizar, de modo que en ese ámbito de libertad, también se identifica la flexibilidad y escalabilidad idóneas para adaptarse a la diversa intensidad y alcance de la problemática.

Medidas como los sistemas de verificación de edad, mecanismos de señalización de material de abuso sexual infantil (CSAM) o la moderación de contenido humano para procesar estos informes sobre contenidos ilícitos pueden contribuir a una mejor protección y a una adecuada implantación de medidas.

Estas medidas son también compatibles con otras recogidas en normas como el Reglamento General de Protección de Datos de 2016, incluido, por ejemplo, exigir el consentimiento del usuario a los servicios dirigidos a niños de forma predeterminada para recibir mensajes no solicitados, incluso que incorporen opciones de bloqueo y silenciamiento, además de aumentar los controles parentales.

3. Hacia dónde vamos en materia de protección de menores

Los riesgos de los menores en línea pueden hacer evidente la necesidad de adoptar medidas suficientes y adecuadas, pero a la vez plantean la importancia de lograr un equilibrio que evite la vigilancia generalizada de Internet. No sólo es un equilibro cualitativo entre seguridad y libertad, sino una necesaria ponderación cuantitativa entre la protección de pocos respecto del sacrificio o perjuicio de muchos.

Ciertamente es un equilibrio difícil no sólo por mantenerlo sino también por justificarlo. Podría razonarse que la protección de menores está por encima de esa vigilancia masiva digital, pero resulta igualmente crítico respecto de otros derechos fundamentales a ponderar, desde la intimidad personal y familiar hasta la privacidad o el secreto de la correspondencia privada.

En este contexto, si bien no hay reparos en que las plataformas necesiten o deban evaluar los riesgos relacionados con su servicio, particularmente aquellos que puedan vulnerar o afectar a los menores, sí que se ha suscitado un cuestionamiento jurídico a la detección de material cifrado de extremo a extremo. 

En otras palabras, si las medidas de mitigación no son suficientes, el Parlamento Europeo considera que se deben utilizar órdenes de detección, pero validadas por un tribunal, para rastrear material ilegal. Esta medida es proteccionista y garantista, pero en la práctica puede suponer una demora y una barrera para retirar o bloquear el contenido ilegal, pues la acción de los tribunales comporta unos plazos no ajustados a la rapidez de difusión de los contenidos ilícitos en la red.

De este modo, se ha planteado que una posible medida de prevención pudiera ser la denominada vigilancia masiva o el seguimiento generalizado de Internet. Sin embargo, el Parlamento Europeo en aras del equilibrio señalado ha establecido que sólo se permita a las autoridades judiciales autorizar órdenes por tiempo limitado, como último recurso, para detectar CSAM y eliminarlo o desactivar el acceso, especialmente cuando las medidas de mitigación no sean efectivas.

A mayor abundamiento, se ha subrayado la importancia de que las órdenes de detección a personas o grupos, incluidos los suscriptores de un canal, se dirija a sujetosvinculados con el abuso sexual infantil con fundamento enmotivos razonables de sospecha.

En todo caso, la posición aprobada excluye el cifrado de extremo a extremo del alcance de las órdenes de detección para garantizar que todas las comunicaciones de los usuarios sean seguras y confidenciales. De nuevo, parece subyacer el equilibro entre protección y otros derechos e intereses legítimos, no sólo de los posibles menores vulnerables, sino también respecto de la generalidad de los ciudadanos. En todo caso, sí parece que los proveedores podrán elegir las tecnologías a utilizar pero siempre que cumplan con las estrictas garantías previstas en la ley y que estén sujetos a una auditoría pública e independiente de estas tecnologías.

El Área de Tecnología del Bufete Mas y Calvet aborda asuntos relacionados con las tecnologías de la comunicación y la sociedad de la información, desde la protección de datos, el asesoramiento en materia de propiedad intelectual o la defensa de derechos de autor, etc. Contacte con nuestro equipo de abogados para que le asesoremos de forma personalizada.

4. La industria tecnológica también ha reaccionado

La proposición inicial impulsada por la Comisión Europeay que exigía a las grandes plataformas tecnológicas, desde WhatsApp a TikTok, desde videojuegos a la nube digital, el escaneo indiscriminado de los mensajes encriptados de todos los usuarios de la Unión Europea en busca de material pedófilo, ha alertado a la industria tecnológica.

La principal razón que han expresado es que esa posibilidad de vigilancia masiva pone en riesgo la privacidad de los ciudadanos, de modo que su firme reacción ha provocado que el legislador se haya visto obligado a rectificar. 

Algunas voces autorizadas, no sólo jurídicas, sino también técnicas, han destacado que se acabaría con la privacidad y, además, sin que exista prueba de que la tecnología de detección propuesta sirva para salvar a los menores, dado que en el estadio actual es muy frágil y comete errores.

5. Próximos pasos

La posición fijada supone un paso muy importante, pero no es el definitivo, ya que las negociaciones y el avance legislativo en el Parlamento Europeo continuarán. Una vez ultimado el proceso parlamentario, la norma deberá ser negociada a tres con la Comisión Europea y el Consejo Europeo, integrado por los veintisiete jefes de Estado o de Gobierno de la UE. Aún queda mucho camino por recorrer.