{"id":8736,"date":"2025-01-21T11:32:09","date_gmt":"2025-01-21T10:32:09","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8736"},"modified":"2025-01-21T11:32:11","modified_gmt":"2025-01-21T10:32:11","slug":"inteligencia-artificial-administracion-de-justicia-y-procesos-democraticos","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/inteligencia-artificial-administracion-de-justicia-y-procesos-democraticos\/","title":{"rendered":"Inteligencia artificial, administraci\u00f3n de justicia y procesos democr\u00e1ticos"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el s\u00e9ptimo art\u00edculo de nuestra saga quincenal titulado \u201cInteligencia artificial, administraci\u00f3n de justicia y procesos democr\u00e1ticos\u201d de Pedro Tenorio S\u00e1nchez<\/a> Of Counsel del Bufete Mas y Calvet<\/a> y Catedr\u00e1tico de Derecho Constitucional de la UNED<\/a>.<\/strong><\/p>\n\n\n\n

Estos art\u00edculos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/strong><\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

1. Introducci\u00f3n <\/strong><\/h2>\n\n\n\n

El uso de la inteligencia artificial (IA) en la administraci\u00f3n de justicia y los procesos democr\u00e1ticos plantea riesgos considerables. El Reglamento (UE) 2024\/1689<\/a>, relativo a la inteligencia artificial (RIA) busca establecer un marco regulatorio para reducir estos peligros, definiendo controles estrictos y sanciones ejemplares que aseguren un uso responsable y \u00e9tico de la IA. Este enfoque busca proteger los derechos fundamentales y preservar la confianza p\u00fablica en estas \u00e1reas clave para el funcionamiento de la sociedad.<\/p>\n\n\n\n

<\/div>\n\n\n\n

2. Inteligencia artificial y administraci\u00f3n de justicia <\/strong><\/h2>\n\n\n\n

La aplicaci\u00f3n de la IA en la administraci\u00f3n de justicia implica desaf\u00edos \u00e9ticos y legales profundos. Uno de los principales problemas radica en que estos sistemas pueden incorporar sesgos presentes en los datos con los que son entrenados, lo que podr\u00eda afectar la imparcialidad de las decisiones judiciales. Si los algoritmos utilizan datos hist\u00f3ricos que contienen injusticias, las decisiones automatizadas pueden perpetuar esos errores. Adem\u00e1s, el fen\u00f3meno de la “caja negra” algor\u00edtmica \u2014la falta de claridad sobre c\u00f3mo se alcanzan las conclusiones\u2014 es preocupante, ya que podr\u00eda impedir que las personas comprendan o cuestionen las decisiones que les afectan, impactando en derechos procesales como al debido proceso y a ser condenado en base a informaci\u00f3n fiable y precisa, desde el momento en el que no se cuenta con el conocimiento de todos los elementos intervinientes en la toma de decisiones judiciales.<\/p>\n\n\n\n

A esto se suma el riesgo de que la automatizaci\u00f3n comprometa otros derechos fundamentales, como la protecci\u00f3n de la privacidad. La excesiva delegaci\u00f3n de decisiones importantes a sistemas automatizados, sin la adecuada supervisi\u00f3n humana, podr\u00eda dar lugar a injusticias y erosionar la confianza en el sistema judicial, lo que tendr\u00eda graves consecuencias no solo para la justicia, sino para la legitimidad del sistema.<\/p>\n\n\n\n

El RIA identifica los sistemas de IA utilizados en la administraci\u00f3n de justicia como de “alto riesgo”. Esto implica que deben cumplir con requisitos estrictos de transparencia, responsabilidad y supervisi\u00f3n humana. Las entidades que desarrollan o emplean IA en este \u00e1mbito tienen la obligaci\u00f3n de ofrecer mecanismos que permitan auditar y revisar las decisiones tomadas, asegurando que los afectados comprendan por qu\u00e9 se lleg\u00f3 a un determinado fallo en su contra.<\/p>\n\n\n\n

Adem\u00e1s, el RIA establece un r\u00e9gimen de sanciones que tiene como objetivo desalentar el uso irresponsable de la IA en el \u00e1mbito judicial. Las sanciones por incumplimiento pueden ser extremadamente elevadas, llegando a representar un porcentaje significativo del volumen de negocio de las empresas infractoras. Esto no solo busca castigar las violaciones, sino prevenir conductas negligentes y asegurar que los sistemas utilizados en la administraci\u00f3n de justicia respeten los est\u00e1ndares m\u00e1s altos de imparcialidad y transparencia.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n


Pedro Tenorio S\u00e1nchez<\/strong><\/p>\n\n\n\n

D. Pedro Tenorio<\/strong>, nuevo Of Counsel<\/strong> de nuestra firma Bufete Mas y Calvet<\/a>. <\/p>\n\n\n\n

El Catedr\u00e1tico aporta una vasta experiencia en el \u00e1mbito del Derecho Constitucional. Desde el 29 de enero de 2015 hasta su disoluci\u00f3n el 5 de marzo de 2024, desempe\u00f1\u00f3 el rol de Of Counsel en el Despacho Ram\u00f3n Rodr\u00edguez Arribas Abogados, S.L.P., donde dej\u00f3 una huella significativa con su profundo conocimiento y habilidades jur\u00eddicas.<\/p>\n\n\n\n

Actualmente es Catedr\u00e1tico de Derecho Constitucional<\/em> en la Universidad Nacional de Educaci\u00f3n a Distancia de Madrid<\/a><\/strong><\/em>, posici\u00f3n que ha ocupado desde el 6 de diciembre de 2011. <\/p>\n\n\n\n

Su carrera es larga y destacada, con una trayectoria que incluye su labor como Letrado del Tribunal Constitucional<\/strong> de Espa\u00f1a del 1 de septiembre de 2001 al 2 de junio de 2011. <\/p>\n<\/div>

\"\"<\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

3. Inteligencia artificial y procesos democr\u00e1ticos <\/strong><\/h2>\n\n\n\n

El uso de la IA en procesos democr\u00e1ticos, particularmente en elecciones, tambi\u00e9n representa un riesgo significativo. Los algoritmos pueden ser utilizados para influir de manera invisible en los votantes mediante t\u00e9cnicas de microsegmentaci\u00f3n, que analizan grandes vol\u00famenes de datos personales para enviar mensajes personalizados. Este tipo de manipulaci\u00f3n socava la transparencia de las campa\u00f1as electorales y distorsiona la voluntad del electorado al influir en sus decisiones sin que sean conscientes de los m\u00e9todos utilizados.<\/p>\n\n\n\n

Adem\u00e1s, la IA desempe\u00f1a un papel crucial en la formaci\u00f3n de la opini\u00f3n p\u00fablica, especialmente a trav\u00e9s de redes sociales y plataformas de noticias. Los algoritmos que determinan qu\u00e9 informaci\u00f3n se muestra pueden contribuir a la polarizaci\u00f3n, reforzando creencias existentes sin evaluar la veracidad de los contenidos. Esto limita la capacidad de los ciudadanos para tomar decisiones informadas, un pilar esencial para cualquier democracia.<\/p>\n\n\n\n

Asimismo, la IA puede restringir la libertad de expresi\u00f3n al eliminar contenido a trav\u00e9s de sistemas de moderaci\u00f3n automatizada que no siempre son precisos. Por otro lado, puede amplificar discursos enga\u00f1osos o crear contenido falso, como “deepfakes”, que buscan manipular la opini\u00f3n p\u00fablica o desprestigiar a ciertos individuos, lo que plantea serios riesgos para la estabilidad democr\u00e1tica.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n