El reglamento europeo de inteligencia artificial: ¿oportunidades o riesgos para el derecho penal?

4 febrero, 2025

Os compartimos el octavo artículo de nuestra saga quincenal titulado “El reglamento europeo de inteligencia artificial: ¿oportunidades o riesgos para el derecho penal?” de Rocio Hevia Aza, abogada, especialista en Derecho Penal y delitos económicos.

Estos artículos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir cómo afectará el RIA a cuestiones fundamentales que impactan la actividad y organización de las empresas y a las personas en el día a día.

INTRODUCCIÓN: APLICACIÓN DEL RIA EN EL DERECHO PENAL.

El Reglamento Europeo de Inteligencia Artificial también recoge medidas que van a poder tener impacto en el ámbito penal, concretamente en el marco de las investigaciones judiciales y policiales.

Estamos hablando de sistemas de IA que van a permitir agilizar los procesos de localización e identificación de personas que estén inmersas en un procedimiento penal, ya sea como víctimas o como investigados.

Pero… ¿es posible regular estos sistemas sin generar riesgos?

Se trata de un tema de difícil regulación dada su incidencia en los derechos fundamentales de los ciudadanos. Por ello, este artículo se va a centrar en aclarar las cautelas y prohibiciones que dispone el RIA respecto a la utilización de las técnicas de IA aprobadas con fines policiales, a fin de puntualizar los límites que no podrán ser traspasados en este sentido.

IDENTIFICACIÓN BIOMÉTRICA REMOTA EN TIEMPO REAL: REGULACIÓN Y EXPCEPCIONES.

Hoy vamos a tratar la prohibición que opera en el uso de sistemas de identificación biométrica remota «en tiempo real» (letra h) del artículo 5), al constituir la medida que más incidencia puede tener en la persecución de delitos.

El RIA lo define como «un sistema de identificación biométrica remota, en el que la recogida de los datos biométricos, la comparación y la identificación se producen sin una demora significativa; engloba no solo la identificación instantánea, sino también, a fin de evitar la elusión, demoras mínimas limitadas».

Es decir, se trata de una herramienta que puede utilizarse para el reconocimiento instantáneo de las personas a través de cámaras o similares, sin necesidad de contar previamente con su participación activa.

Con carácter general, este sistema está prohibido. Sin embargo, el RIA admite una serie de excepciones que permiten su uso y que conviene reseñar como consecuencia de la inquietud que, comprensiblemente, puede generar en el lector.

Así, el RIA prevé tres finalidades para las que sí se admite su aplicación:

i) la búsqueda de víctimas concretas de secuestro, trata o explotación sexual de seres humanos y de personas desaparecidas;

ii) la prevención de una amenaza importante e inminente para la vida o la seguridad física de las personas físicas, de una amenaza real y actual o real y previsible de un atentado terrorista;

iii) la localización e identificación de una persona sospechosa de haber cometido alguno de los delitos mencionados en el Anexo II del RIA (terrorismo, trata de seres humanos, explotación sexual de menores y pornografía infantil, tráfico ilícito de estupefacientes o sustancias psicotrópicas, tráfico ilícito de armas, municiones y explosivos, homicidio voluntario, agresión con lesiones graves, tráfico ilícito de órganos o tejidos humanos, tráfico ilícito de materiales nucleares o radiactivos, secuestro, detención ilegal o toma de rehenes, delitos que son competencia de la Corte Penal Internacional, secuestro de aeronaves o buques, violación, delitos contra el medio ambiente, robo organizado o a mano armada, sabotaje, participación en una organización delictiva implicada en uno o varios de los delitos enumerados en esta lista).

Pero esto no es todo. Se han incluido en el Reglamento unas pautas de actuación dirigidas a todos los profesionales que deseen recurrir a la identificación biométrica en sus investigaciones, tales como:

Una autorización previa por parte de una autoridad judicial o administrativa independiente, previa evaluación del impacto relativa a los derechos fundamentales, salvo casos de urgencia en los que dicha aprobación podrá concederse en un plazo de 24 horas.

Posterior notificación de su uso a la autoridad de vigilancia del mercado pertinente y a la autoridad nacional de protección de datos.

Cada Estado Miembro será el responsable de hacer cumplir las garantías y de imponer las condiciones necesarias en lo que respecta a las limitaciones temporales, geográficas y personales.

Rocio Hevia Aza es abogada, especialista en Derecho Penal y delitos económicos

Se incorpora al Bufete Mas y Calvet en 2023.

En definitiva, la tarea de mayor complejidad e importancia le corresponde a los jueces y Tribunales, pues son los encargados de asegurarse de que los juicios paralelos no interfieran ni tengan cabida en su potestad e independencia jurisdiccional.

El Bufete Mas y Calvet presta servicios de asesoría jurídica y defensa letrada en todos los ámbitos del Derecho Penal, con un elevado nivel de especialización en Derecho Penal Económico y de la Empresa (delitos económicos, delitos societarios, contra la Administración Pública, contra la Hacienda Pública, etc.), así como en delitos contra el honor, delitos informáticos, dopaje deportivo y otras modalidades penales. Contacte con nosotros si necesita asesoramiento personalizado.

APLICACIÓN EN DERECHO PENAL: ¿OPORTUNIDADES O RIESGOS?

Es innegable que la aplicación de la identificación biométrica remota en tiempo real facilitaría enormemente el trabajo policial, sobre todo a la hora de localizar e identificar personas sospechosas de haber cometido un ilícito penal.

No obstante, cabe preguntarse: ¿qué margen de error presenta este sistema de IA? ¿es completamente infalible o puede fallar? ¿qué ocurre si eso sucede? ¿merece la pena arriesgarse a que una persona inocente se vea inmersa en un procedimiento penal por error?

El RIA es consciente de que pueden producirse imprecisiones técnicas en estos sistemas que den lugar a resultados sesgados y efectos discriminatorios. También entiende que pueden darse dificultades como consecuencia de la inmediatez de las identificaciones efectuadas a través de este medio, siendo muy complicado acudir a comprobaciones adicionales que permitan contrastar la información.

Asimismo, reconoce que existe la posibilidad de que los ciudadanos se puedan sentir constantemente vigilados y, por tanto, coartados de privacidad y libertad, llegando a ser contraproducente por su efecto disuasorio.

Es por ello por lo que únicamente se permite utilizar la identificación biométrica remota en tiempo real —y sólo en los casos anteriormente expuestos— para confirmar la identidad de la persona que constituya el objetivo específico, limitándose a lo estrictamente necesario en lo que se refiere al período de tiempo, así como al ámbito geográfico y personal, siempre teniendo en cuenta los indicios relativos a las amenazas, las víctimas o los autores.

CONCLUSIONES

En conclusión, es cierto que existen riesgos, pero el RIA no es ajeno a todas las cuestiones que pueden preocupar a los ciudadanos. Sabe que generan inquietud. Este es el motivo por el que se condiciona la aplicación de la identificación biométrica remota «en tiempo real» con fines policiales a la necesidad de ponderar previamente dos cuestiones: la gravedad de la situación y la necesidad de actuar, junto con la incidencia que tendría el uso del sistema en los derechos y libertades de los ciudadanos. Esta potencial privación de derechos es lo que verdaderamente ha de tenerse en cuenta a la hora de regular la IA en el ámbito penal.

En el próximo artículo abordaremos otro tema de interés para el Derecho Penal: la incidencia del RIA sobre la predicción de la comisión de delitos y de la reincidencia.