“Legalmente hablando” con Luis Jiménez-Arellano

Tensión entre tribunal de Justicia de la Unión Europea y tribunales constitucionales de los estados miembros.

6 March, 2025

¿Puede el reglamento Europeo de Inteligencia Artificial aplicarse a la predicción de delitos y la reincidencia?

4 March, 2025

Como ya afirmamos en uno de los artículos de esta saga, el Reglamento Europeo de Inteligencia Artificial (en adelante, RIA) también recoge medidas que van a poder tener impacto en el ámbito penal, concretamente en el marco de las investigaciones judiciales y policiales.

Os compartimos el décimo artículo de nuestra saga quincenal titulado “¿Puede el Reglamento Europeo de Inteligencia Artificial Aplicarse a la Predicción de Delitos y la Reincidencia?” de Rocio Hevia Aza, abogada, especialista en Derecho Penal y delitos económicos.

Estos artículos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir cómo afectará el RIA a cuestiones fundamentales que impactan la actividad y organización de las empresas y a las personas en el día a día.

Pero… ¿hasta qué punto puede incidir? ¿tiene algún límite su aplicación?

Hoy hablaremos de la letra d) del apartado primero del Artículo 5 RIA —recordemos que el artículo 5 regula las prácticas de IA prohibidas— que recoge la que, probablemente, sea una de las cuestiones que más llamen la atención al lector y más intranquilidad le generen: la utilización de un sistema de IA para predecir el riesgo de que una persona física cometa un delito o reincida mediante la realización de una evaluación de riesgos basada en los rasgos y características de la personalidad.

A modo de curiosidad, cabe mencionar que ya existe un programa que permite evaluar el riesgo de reincidencia dentro del ámbito penitenciario. Se llama RisCanvi y constituye un algoritmo que se utiliza en las cárceles de Cataluña desde el año 2009. Esta base de datos pondera la reincidencia de los internos teniendo en cuenta tanto los factores sociales y personales que le rodean, como otras variables, tales como el tipo de crimen cometido, su comportamiento en prisión, etc.

La técnica que plantea el articulado del RIA consiste en tratar de predecir el riesgo que existe de que una persona concreta cometa un delito a partir de una evaluación de los rasgos y características de su personalidad. Es decir, estamos hablando de una técnica que utiliza una base de datos puramente sociológica, con el riesgo que eso conlleva.

De ahí que quepa preguntarse: ¿se trata de una práctica de la IA completamente prohibida o dicha prohibición cuenta con matices que han de ser expuestos, como sucede con el uso de sistemas de identificación biométrica en tiempo real?

Pues bien, efectivamente, hay excepciones que posibilitan la introducción en el mercado de un sistema de IA capaz de poner en marcha esta propuesta, esto es, la predicción de la comisión de delitos y de la reincidencia respecto a una persona.

Rocio Hevia Aza es abogada, especialista en Derecho Penal y delitos económicos

Se incorpora al Bufete Mas y Calvet en 2023.

En definitiva, la tarea de mayor complejidad e importancia le corresponde a los jueces y Tribunales, pues son los encargados de asegurarse de que los juicios paralelos no interfieran ni tengan cabida en su potestad e independencia jurisdiccional.

El Bufete Mas y Calvet presta servicios de asesoría jurídica y defensa letrada en todos los ámbitos del Derecho Penal, con un elevado nivel de especialización en Derecho Penal Económico y de la Empresa (delitos económicos, delitos societarios, contra la Administración Pública, contra la Hacienda Pública, etc.), así como en delitos contra el honor, delitos informáticos, dopaje deportivo y otras modalidades penales. Contacte con nosotros si necesita asesoramiento personalizado.

El requisito exigido para poder plantearse la utilización de esta práctica de IA a la hora de predecir la implicación de una persona en un delito es el siguiente: contar con una valoración humana previa —basada en hechos objetivos y verificables directamente— que haya determinado la posible relación de esta persona con un hecho delictivo concreto, siendo esta valoración el punto de partida y no la IA. Es decir, solo cuando la IA actúe como un mero apoyo que respalde lo valorado por el ojo humano, esta prohibición no operará.

Es evidente que toda precaución es poca si se tiene en cuenta que estamos hablando de que una herramienta sea capaz de basarse en una lista de factores de riesgo previamente estipulados, tales como los rasgos físicos, personalidad… para establecer una probabilidad de que una persona cometa un delito.

Es cierto que las ventajas de este sistema podrían sintetizarse en la posible prevención de un ilícito penal, pues la identificación de potenciales delincuentes podría facilitar y orientar la investigación de manera más rápida. No obstante, también son previsibles las consecuencias negativas que podrían derivarse de esta práctica si se pusiera en marcha sin ningún control, como, por ejemplo, llegar a juzgar a personas únicamente por comportamientos predichos por la IA y no por su comportamiento real.

Esta herramienta podría poner en jaque el que, sin ningún género de dudas, constituye el principio del derecho penal por excelencia: la presunción de inocencia. Por ello, el RIA es perfectamente consciente de la amenaza que puede suponer y así lo dispone en su Considerando 42:

«En consonancia con la presunción de inocencia, las personas físicas de la Unión siempre deben ser juzgadas basándose en su comportamiento real. Las personas físicas nunca deben ser juzgadas a partir de comportamientos predichos por una IA basados únicamente en la elaboración de sus perfiles, en los rasgos o características de su personalidad, como la nacionalidad, el lugar de nacimiento, el lugar de residencia, el número de hijos, el nivel de endeudamiento o el tipo de vehículo, sin una valoración humana y sin que exista una sospecha razonable, basada en hechos objetivos comprobables, de que dicha persona está implicada en una actividad delictiva».

En definitiva, es evidente que la ambición de la IA por abarcar la mayoría de los campos posibles supone un avance muy positivo para la sociedad. Sin embargo, es preciso que dicha ambición no nos haga perder la perspectiva y sigamos teniendo claro lo que se quiere y se debe proteger en todo momento: los derechos fundamentales de las personas.