{"id":8856,"date":"2025-03-04T08:29:00","date_gmt":"2025-03-04T07:29:00","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8856"},"modified":"2025-03-04T09:17:14","modified_gmt":"2025-03-04T08:17:14","slug":"puede-el-reglamento-europeo-de-inteligencia-artificial-aplicarse-a-la-prediccion-de-delitos-y-la-reincidencia","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/puede-el-reglamento-europeo-de-inteligencia-artificial-aplicarse-a-la-prediccion-de-delitos-y-la-reincidencia\/","title":{"rendered":"\u00bfPuede el reglamento Europeo de Inteligencia Artificial aplicarse a la predicci\u00f3n de delitos y la reincidencia?"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Como ya afirmamos en uno de los art\u00edculos de esta saga, el Reglamento Europeo de Inteligencia Artificial<\/a><\/strong> (en adelante, RIA) tambi\u00e9n recoge medidas que van a poder tener impacto en el \u00e1mbito penal, concretamente en el marco de las investigaciones judiciales y policiales.<\/p>\n\n\n\n

Os compartimos el d\u00e9cimo art\u00edculo de nuestra saga quincenal titulado \u201c\u00bfPuede el Reglamento Europeo de Inteligencia Artificial Aplicarse a la Predicci\u00f3n de Delitos y la Reincidencia?\u201d<\/strong> de Rocio Hevia Aza<\/a>,<\/em><\/strong>\u00a0abogada, especialista en\u00a0Derecho Penal<\/strong>\u00a0y delitos econ\u00f3micos.<\/p>\n\n\n\n

Estos art\u00edculos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Pero\u2026 \u00bfhasta qu\u00e9 punto puede incidir? \u00bftiene alg\u00fan l\u00edmite su aplicaci\u00f3n?<\/p>\n\n\n\n

Hoy hablaremos de la letra d) del apartado primero del Art\u00edculo 5 RIA \u2014recordemos que el art\u00edculo 5 regula las pr\u00e1cticas de IA prohibidas\u2014 que recoge la que, probablemente, sea una de las cuestiones que m\u00e1s llamen la atenci\u00f3n al lector y m\u00e1s intranquilidad le generen: la utilizaci\u00f3n de un sistema de IA para predecir el riesgo de que una persona f\u00edsica cometa un delito<\/strong> o reincida<\/strong> mediante la realizaci\u00f3n de una evaluaci\u00f3n de riesgos basada en los rasgos y caracter\u00edsticas de la personalidad.<\/p>\n\n\n\n

A modo de curiosidad, cabe mencionar que ya existe un programa que permite evaluar el riesgo de reincidencia dentro del \u00e1mbito penitenciario. Se llama RisCanvi<\/strong> y constituye un algoritmo que se utiliza en las c\u00e1rceles de Catalu\u00f1a desde el a\u00f1o 2009. Esta base de datos pondera la reincidencia de los internos teniendo en cuenta tanto los factores sociales y personales que le rodean, como otras variables, tales como el tipo de crimen cometido, su comportamiento en prisi\u00f3n, etc.<\/p>\n\n\n\n

La t\u00e9cnica que plantea el articulado del RIA consiste en tratar de predecir el riesgo que existe de que una persona concreta cometa un delito a partir de una evaluaci\u00f3n de los rasgos y caracter\u00edsticas de su personalidad. Es decir, estamos hablando de una t\u00e9cnica que utiliza una base de datos puramente sociol\u00f3gica, con el riesgo<\/strong> que eso conlleva.<\/p>\n\n\n\n

De ah\u00ed que quepa preguntarse: \u00bfse trata de una pr\u00e1ctica de la IA completamente prohibida o dicha prohibici\u00f3n cuenta con matices<\/strong> que han de ser expuestos, como sucede con el uso de sistemas de identificaci\u00f3n biom\u00e9trica en tiempo real?<\/p>\n\n\n\n

Pues bien, efectivamente, hay excepciones<\/strong> que posibilitan la introducci\u00f3n en el mercado de un sistema de IA capaz de poner en marcha esta propuesta, esto es, la predicci\u00f3n de la comisi\u00f3n de delitos y de la reincidencia respecto a una persona.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"<\/figure>
\n

Rocio Hevia Aza<\/a><\/strong> es abogada, especialista en Derecho Penal<\/strong> y delitos econ\u00f3micos<\/p>\n\n\n\n

Se incorpora al Bufete Mas y Calvet en 2023.<\/p>\n\n\n\n

En definitiva, la tarea de mayor complejidad e importancia le corresponde a los jueces y Tribunales, pues son los encargados de asegurarse de que los juicios paralelos no interfieran ni tengan cabida en su potestad e independencia jurisdiccional.<\/p>\n\n\n\n

El Bufete Mas y Calvet<\/a><\/strong> presta servicios de asesor\u00eda jur\u00eddica y defensa letrada en todos los \u00e1mbitos del Derecho Penal<\/strong>, con un elevado nivel de especializaci\u00f3n en Derecho Penal Econ\u00f3mico y de la Empresa<\/strong> (delitos econ\u00f3micos, delitos societarios, contra la Administraci\u00f3n P\u00fablica, contra la Hacienda P\u00fablica, etc.), as\u00ed como en delitos contra el honor, delitos inform\u00e1ticos, dopaje deportivo y otras modalidades penales. Contacte con nosotros<\/a> si necesita asesoramiento personalizado.<\/p>\n<\/div><\/div>\n\n\n\n

<\/div>\n\n\n\n

El requisito exigido para poder plantearse la utilizaci\u00f3n de esta pr\u00e1ctica de IA a la hora de predecir la implicaci\u00f3n de una persona en un delito es el siguiente: contar con una valoraci\u00f3n humana previa<\/strong> \u2014basada en hechos objetivos y verificables<\/strong> directamente\u2014 que haya determinado la posible relaci\u00f3n de esta persona con un hecho delictivo concreto, siendo esta valoraci\u00f3n el punto de partida y no la IA.<\/strong>  Es decir, solo cuando la IA act\u00fae como un mero apoyo que respalde lo valorado por el ojo humano, esta prohibici\u00f3n no operar\u00e1.<\/strong><\/p>\n\n\n\n

Es evidente que toda precauci\u00f3n es poca<\/strong> si se tiene en cuenta que estamos hablando de que una herramienta sea capaz de basarse en una lista de factores de riesgo previamente estipulados, tales como los rasgos f\u00edsicos, personalidad\u2026 para establecer una probabilidad de que una persona cometa un delito.<\/p>\n\n\n\n

Es cierto que las ventajas de este sistema podr\u00edan sintetizarse en la posible prevenci\u00f3n de un il\u00edcito penal, pues la identificaci\u00f3n de potenciales delincuentes podr\u00eda facilitar y orientar la investigaci\u00f3n<\/strong> de manera m\u00e1s r\u00e1pida. No obstante, tambi\u00e9n son previsibles las consecuencias negativas que podr\u00edan derivarse de esta pr\u00e1ctica si se pusiera en marcha sin ning\u00fan control, como, por ejemplo, llegar a juzgar a personas \u00fanicamente por comportamientos predichos por la IA y no por su comportamiento real.<\/p>\n\n\n\n

Esta herramienta podr\u00eda poner en jaque el que, sin ning\u00fan g\u00e9nero de dudas, constituye el principio del derecho penal por excelencia: la presunci\u00f3n de inocencia. <\/strong>Por ello, el RIA es perfectamente consciente de la amenaza que puede suponer y as\u00ed lo dispone en su Considerando 42:<\/p>\n\n\n\n

\u00abEn consonancia con la presunci\u00f3n de inocencia, las personas f\u00edsicas de la Uni\u00f3n siempre deben ser juzgadas bas\u00e1ndose en su comportamiento real. Las personas f\u00edsicas nunca deben ser juzgadas a partir de comportamientos predichos por una IA basados \u00fanicamente en la elaboraci\u00f3n de sus perfiles, en los rasgos o caracter\u00edsticas de su personalidad, como la nacionalidad, el lugar de nacimiento, el lugar de residencia, el n\u00famero de hijos, el nivel de endeudamiento o el tipo de veh\u00edculo, sin una valoraci\u00f3n humana y sin que exista una sospecha razonable, basada en hechos objetivos comprobables, de que dicha persona est\u00e1 implicada en una actividad delictiva\u00bb.<\/em><\/p>\n\n\n\n

En definitiva, es evidente que la ambici\u00f3n de la IA por abarcar la mayor\u00eda de los campos posibles supone un avance muy positivo para la sociedad. Sin embargo, es preciso que dicha ambici\u00f3n no nos haga perder la perspectiva<\/strong> y sigamos teniendo claro lo que se quiere y se debe proteger en todo momento: los derechos fundamentales de las personas.<\/strong><\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n