{"id":8888,"date":"2025-04-03T08:30:00","date_gmt":"2025-04-03T06:30:00","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8888"},"modified":"2025-04-03T01:13:09","modified_gmt":"2025-04-02T23:13:09","slug":"desentranando-el-reglamento-europeo-de-inteligencia-artificial-enfoque-etico-y-regulatorio-para-el-futuro","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/desentranando-el-reglamento-europeo-de-inteligencia-artificial-enfoque-etico-y-regulatorio-para-el-futuro\/","title":{"rendered":"Desentra\u00f1ando el Reglamento Europeo de Inteligencia Artificial:\u00a0enfoque\u00a0\u00e9tico y\u00a0regulatorio para el\u00a0futuro"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el duod\u00e9cimo<\/strong><\/strong> art\u00edculo de nuestra saga quincenal titulado \u201cInteligencia artificial, administraci\u00f3n de justicia y procesos democr\u00e1ticos\u201d de Pedro Tenorio S\u00e1nchez<\/a> Of Counsel del Bufete Mas y Calvet<\/a> y Catedr\u00e1tico de Derecho Constitucional de la UNED<\/a>.<\/strong><\/p>\n\n\n\n

Estos art\u00edculos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/strong><\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

1. Introduc<\/strong>ci\u00f3n<\/strong><\/p>\n\n\n\n

El Reglamento Europeo sobre Inteligencia Artificial (RIA) (Reglamento (UE) 2024\/1689)<\/a><\/strong> ha marcado un hito en la regulaci\u00f3n de esta tecnolog\u00eda emergente, cuyo uso creciente plantea importantes cuestiones \u00e9ticas, de derechos fundamentales y de seguridad. <\/p>\n\n\n\n

La diversidad de enfoques en la regulaci\u00f3n y desarrollo de la IA entre Estados Unidos, China y la Uni\u00f3n Europea refleja las distintas prioridades y valores de cada regi\u00f3n. Mientras la UE enfatiza la protecci\u00f3n de derechos fundamentales y la \u00e9tica, Estados Unidos se centra en la innovaci\u00f3n y la rentabilidad econ\u00f3mica, y China combina avances tecnol\u00f3gicos con control pol\u00edtico. El RIA, en este contexto, ofrece un modelo que busca equilibrar la innovaci\u00f3n con la protecci\u00f3n de derechos, proporcionando una perspectiva valiosa para la gobernanza global de la IA. Si bien las grandes empresas tecnol\u00f3gicas econ\u00f3micamente m\u00e1s avanzadas no son europeas, lo que en parte explica la resistencia de Estados Unidos y China para aceptar los enfoques de la Uni\u00f3n Europea.<\/p>\n\n\n\n

La Uni\u00f3n Europea ha dado un paso crucial al establecer una normativa que busca equilibrar el fomento de la innovaci\u00f3n con la protecci\u00f3n de la dignidad humana, la privacidad y los derechos fundamentales. A lo largo de su implementaci\u00f3n, el Reglamento aborda diversos aspectos de la Inteligencia Artificial, haciendo hincapi\u00e9 en la necesidad de supervisi\u00f3n humana, transparencia y responsabilidad. <\/p>\n\n\n\n

El RIA no solo regula el uso de la IA, sino que tambi\u00e9n plantea una reflexi\u00f3n \u00e9tica sobre su impacto en la sociedad. Ahora bien, el RIA presenta gran complejidad t\u00e9cnica y jur\u00eddica. <\/p>\n\n\n\n

Con la saga titulada \u201cDesentra\u00f1ando el RIA<\/a>\u201d coordinada por Rafael Ans\u00f3n<\/a>, socio del Bufete M\u00e1s y Calvet, hemos desentra\u00f1ado y acercado dicho Reglamento a sus destinatarios. <\/p>\n\n\n\n

En esta saga, se han desglosado las implicaciones clave de esta regulaci\u00f3n en sectores clave como el derecho penal, la educaci\u00f3n, el \u00e1mbito laboral, las infraestructuras cr\u00edticas y el \u00e1mbito empresarial.<\/p>\n\n\n\n

2<\/strong>. Supervisi\u00f3n <\/strong>humana y \u00e9tica en el uso<\/strong> de la IA<\/strong><\/p>\n\n\n\n

La Inteligencia Artificial no debe ser vista como un reemplazo de la inteligencia humana, sino como una herramienta complementaria. <\/p>\n\n\n\n

El RIA subraya la importancia de la intervenci\u00f3n humana en el uso de sistemas autom\u00e1ticos, especialmente cuando estos afectan decisiones de gran impacto, como las relacionadas con la personalidad, la educaci\u00f3n o la justicia. Este principio se refleja en la regulaci\u00f3n de sistemas de IA en sectores como el marketing, los servicios financieros o la administraci\u00f3n de justicia, donde se establece que, aunque los sistemas de IA pueden aportar eficiencia y personalizaci\u00f3n, deben ser siempre supervisados por seres humanos para evitar sesgos y garantizar la equidad en las decisiones.<\/p>\n\n\n\n

El Reglamento establece que la automatizaci\u00f3n no debe desplazar el juicio humano, sino asistirlo, permitiendo que los humanos puedan revisar, auditar y corregir las decisiones si es necesario. Esta supervisi\u00f3n humana es clave para evitar posibles abusos y asegurar que la IA se utilice de manera \u00e9tica y responsable. <\/p>\n\n\n\n

Adem\u00e1s, el uso de IA en el \u00e1mbito laboral, ha sido un tema recurrente en las contribuciones de los expertos, destac\u00e1ndose la necesidad de que los empleadores mantengan la supervisi\u00f3n sobre las herramientas automatizadas que eval\u00faan a los trabajadores, para asegurar que las decisiones sean justas y transparentes.<\/p>\n\n\n\n

3<\/strong>. Importancia de la <\/strong>t<\/strong>ransparencia<\/strong><\/p>\n\n\n\n

Un principio fundamental del Reglamento Europeo de la IA es la transparencia (v\u00e9ase por ejemplo el art\u00edculo de la saga publicado por Rafael Ans\u00f3n<\/a>, socio del Bufete M\u00e1s y Calvet, el 12 de noviembre de 2024 titulado \u201cLa regulaci\u00f3n de los Deep Fakes\u201d<\/em>)<\/a>, esencial para garantizar que los usuarios de los sistemas de IA comprendan c\u00f3mo se toman las decisiones y puedan, en caso de ser necesario, cuestionarlas o impugnarlas. <\/p>\n\n\n\n

La “caja negra” de algunos algoritmos, donde las decisiones automatizadas se toman sin una explicaci\u00f3n clara de los criterios empleados, ha sido uno de los mayores retos en el campo de la IA (v\u00e9ase el art\u00edculo publicado por Efr\u00e9n D\u00edaz<\/a>, abogado del Bufete M\u00e1s y Calvet sobre \u201cLa inteligencia artificial y las infraestructuras cr\u00edticas\u201d,<\/a><\/em> publicado el 10 de diciembre de 2024). Por ello, el Reglamento establece que los sistemas de IA deben ser transparentes y explicables.<\/p>\n\n\n\n

Este requerimiento de transparencia es especialmente relevante en sectores como el judicial (v\u00e9ase el art\u00edculo publicado por Pedro Tenorio<\/a>, of counsel del Bufete M\u00e1s y Calvet, sobre \u201cInteligencia Artificial, administraci\u00f3n de justicia y procesos democr\u00e1ticos\u201d,<\/a> <\/em>publicado el 21 de enero de 2025) o educativo (v\u00e9ase el art\u00edculo publicado el 18 de febrero de 2025 por la abogada del Bufete M\u00e1s y Calvet Cristina Sterling<\/a>, titulado \u201cIA en la Educaci\u00f3n\u201d<\/a>)<\/em>, donde las decisiones automatizadas pueden tener consecuencias profundas en los derechos fundamentales de las personas. <\/p>\n\n\n\n

En estos \u00e1mbitos, la IA no debe operar de manera opaca, sino que sus procesos y resultados deben ser comprensibles para los usuarios, y en particular, para los afectados por las decisiones. Esta transparencia no solo facilita la supervisi\u00f3n humana, sino que tambi\u00e9n fomenta la confianza p\u00fablica en las tecnolog\u00edas de IA.<\/p>\n\n\n\n

4<\/strong>. Protecci\u00f3n de los <\/strong>d<\/strong>erechos <\/strong>f<\/strong>undamentales<\/strong><\/p>\n\n\n\n

El Reglamento establece un marco normativo que busca proteger los derechos fundamentales en el uso de la IA, especialmente en relaci\u00f3n con la privacidad, la no discriminaci\u00f3n y la equidad en la toma de decisiones. <\/p>\n\n\n\n

El uso de IA en el an\u00e1lisis de la personalidad, la categorizaci\u00f3n biom\u00e9trica y otros sistemas que afectan directamente a la dignidad humana est\u00e1 estrictamente regulado (v\u00e9anse los art\u00edculos de Roc\u00edo Hevia<\/a>, abogada del Bufete M\u00e1s y Calvet, acerca de la \u201cIA y el derecho penal\u201d, <\/em>el primero publicado el 4 de febrero de 2025<\/a> y el segundo el 4 de marzo de 2025). <\/a><\/p>\n\n\n\n

El Reglamento proh\u00edbe pr\u00e1cticas como la vigilancia masiva o la toma de decisiones automatizadas sin intervenci\u00f3n humana en cuestiones que afecten a derechos fundamentales, como el empleo o el acceso a servicios.<\/p>\n\n\n\n

La protecci\u00f3n de los derechos humanos se extiende a \u00e1reas sensibles como la educaci\u00f3n, donde los sistemas automatizados pueden influir en el acceso a la ense\u00f1anza y en la evaluaci\u00f3n de los estudiantes. Es fundamental que estos sistemas no contribuyan a la exclusi\u00f3n o discriminaci\u00f3n, y que se protejan adecuadamente los datos personales de los individuos. <\/p>\n\n\n\n

El Reglamento tambi\u00e9n hace un llamado a la necesidad de mantener el control sobre la informaci\u00f3n que se procesa, especialmente en sectores como la administraci\u00f3n de justicia, donde el uso de IA podr\u00eda vulnerar derechos procesales si no se gestionan adecuadamente.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n


Pedro Tenorio S\u00e1nchez<\/strong><\/p>\n\n\n\n

D. Pedro Tenorio<\/strong>, nuevo Of Counsel<\/strong> de nuestra firma Bufete Mas y Calvet<\/a>. <\/p>\n\n\n\n

El Catedr\u00e1tico aporta una vasta experiencia en el \u00e1mbito del Derecho Constitucional. Desde el 29 de enero de 2015 hasta su disoluci\u00f3n el 5 de marzo de 2024, desempe\u00f1\u00f3 el rol de Of Counsel en el Despacho Ram\u00f3n Rodr\u00edguez Arribas Abogados, S.L.P., donde dej\u00f3 una huella significativa con su profundo conocimiento y habilidades jur\u00eddicas.<\/p>\n\n\n\n

Actualmente es Catedr\u00e1tico de Derecho Constitucional<\/em> en la Universidad Nacional de Educaci\u00f3n a Distancia de Madrid<\/a><\/strong><\/em>, posici\u00f3n que ha ocupado desde el 6 de diciembre de 2011. <\/p>\n\n\n\n

Su carrera es larga y destacada, con una trayectoria que incluye su labor como Letrado del Tribunal Constitucional<\/strong> de Espa\u00f1a del 1 de septiembre de 2001 al 2 de junio de 2011. <\/p>\n<\/div>

\"\"<\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

5<\/strong>.La IA como <\/strong>h<\/strong>erramienta <\/strong>c<\/strong>omplementaria, <\/strong>n<\/strong>o <\/strong>s<\/strong>ustitutiva<\/strong><\/p>\n\n\n\n

A pesar de sus avances y aplicaciones \u00fatiles en diversos sectores, la IA no puede sustituir el juicio humano, especialmente cuando se trata de decisiones \u00e9ticas o que afectan directamente a los derechos de las personas. <\/p>\n\n\n\n

Los sistemas de IA deben ser vistos como una herramienta para mejorar la eficiencia y la precisi\u00f3n en tareas repetitivas o que implican grandes vol\u00famenes de datos, pero nunca como una sustituci\u00f3n del juicio y la empat\u00eda humana. <\/p>\n\n\n\n

El Reglamento refuerza este principio al enfatizar que siempre debe existir un control humano sobre los sistemas que impactan a las personas de manera significativa.<\/p>\n\n\n\n

Este control humano es necesario para garantizar que la IA sea utilizada de manera justa, equitativa y transparente, y para asegurar que no se convierta en una fuente de discriminaci\u00f3n o vulneraci\u00f3n de derechos.<\/p>\n\n\n\n

6<\/strong>. <\/strong>Actitud<\/strong> <\/strong>p<\/strong>roactiv<\/strong>a<\/strong> y <\/strong>d<\/strong>iligente para el <\/strong>c<\/strong>umplimiento<\/strong><\/p>\n\n\n\n

La implantaci\u00f3n de la IA exige una actitud diligente y proactiva por parte de los usuarios y las empresas que implementan sistemas de IA. <\/p>\n\n\n\n

La normativa no solo busca regular la tecnolog\u00eda, sino que tambi\u00e9n establece un enfoque preventivo para evitar posibles riesgos antes de que se materialicen. Las empresas deben cumplir con las normativas de transparencia, responsabilidad y derechos fundamentales, lo que incluye la implementaci\u00f3n de medidas de protecci\u00f3n de datos, la auditor\u00eda continua de los sistemas de IA y la evaluaci\u00f3n constante de sus impactos.<\/p>\n\n\n\n

En el contexto laboral, el uso de IA no debe operar como una excusa para justificar despidos masivos, sino como una herramienta que debe ser gestionada de manera que respete los derechos de los trabajadores y fomente un entorno de trabajo justo (v\u00e9ase el art\u00edculo de Luis Jim\u00e9nez-Arellano<\/a>, abogado del Bufete M\u00e1s y Calvet acerca de la incidencia del RIA en el \u00e1mbito laboral<\/em> publicado<\/a> el 7 de enero de 2025).<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n