Fundaciones, aportaciones sucesivas y sorpresas.
28 marzo, 2025
Deficiencias de los controles de admisión de los recursos de los Altos Tribunales ante el Derecho de la Unión Europea.
9 abril, 2025Desentrañando el Reglamento Europeo de Inteligencia Artificial: enfoque ético y regulatorio para el futuro
Os compartimos el duodécimo artículo de nuestra saga quincenal titulado “Inteligencia artificial, administración de justicia y procesos democráticos” de Pedro Tenorio Sánchez Of Counsel del Bufete Mas y Calvet y Catedrático de Derecho Constitucional de la UNED.
Estos artículos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir cómo afectará el RIA a cuestiones fundamentales que impactan la actividad y organización de las empresas y a las personas en el día a día.
1. Introducción
El Reglamento Europeo sobre Inteligencia Artificial (RIA) (Reglamento (UE) 2024/1689) ha marcado un hito en la regulación de esta tecnología emergente, cuyo uso creciente plantea importantes cuestiones éticas, de derechos fundamentales y de seguridad.
La diversidad de enfoques en la regulación y desarrollo de la IA entre Estados Unidos, China y la Unión Europea refleja las distintas prioridades y valores de cada región. Mientras la UE enfatiza la protección de derechos fundamentales y la ética, Estados Unidos se centra en la innovación y la rentabilidad económica, y China combina avances tecnológicos con control político. El RIA, en este contexto, ofrece un modelo que busca equilibrar la innovación con la protección de derechos, proporcionando una perspectiva valiosa para la gobernanza global de la IA. Si bien las grandes empresas tecnológicas económicamente más avanzadas no son europeas, lo que en parte explica la resistencia de Estados Unidos y China para aceptar los enfoques de la Unión Europea.
La Unión Europea ha dado un paso crucial al establecer una normativa que busca equilibrar el fomento de la innovación con la protección de la dignidad humana, la privacidad y los derechos fundamentales. A lo largo de su implementación, el Reglamento aborda diversos aspectos de la Inteligencia Artificial, haciendo hincapié en la necesidad de supervisión humana, transparencia y responsabilidad.
El RIA no solo regula el uso de la IA, sino que también plantea una reflexión ética sobre su impacto en la sociedad. Ahora bien, el RIA presenta gran complejidad técnica y jurídica.
Con la saga titulada “Desentrañando el RIA” coordinada por Rafael Ansón, socio del Bufete Más y Calvet, hemos desentrañado y acercado dicho Reglamento a sus destinatarios.
En esta saga, se han desglosado las implicaciones clave de esta regulación en sectores clave como el derecho penal, la educación, el ámbito laboral, las infraestructuras críticas y el ámbito empresarial.
2. Supervisión humana y ética en el uso de la IA
La Inteligencia Artificial no debe ser vista como un reemplazo de la inteligencia humana, sino como una herramienta complementaria.
El RIA subraya la importancia de la intervención humana en el uso de sistemas automáticos, especialmente cuando estos afectan decisiones de gran impacto, como las relacionadas con la personalidad, la educación o la justicia. Este principio se refleja en la regulación de sistemas de IA en sectores como el marketing, los servicios financieros o la administración de justicia, donde se establece que, aunque los sistemas de IA pueden aportar eficiencia y personalización, deben ser siempre supervisados por seres humanos para evitar sesgos y garantizar la equidad en las decisiones.
El Reglamento establece que la automatización no debe desplazar el juicio humano, sino asistirlo, permitiendo que los humanos puedan revisar, auditar y corregir las decisiones si es necesario. Esta supervisión humana es clave para evitar posibles abusos y asegurar que la IA se utilice de manera ética y responsable.
Además, el uso de IA en el ámbito laboral, ha sido un tema recurrente en las contribuciones de los expertos, destacándose la necesidad de que los empleadores mantengan la supervisión sobre las herramientas automatizadas que evalúan a los trabajadores, para asegurar que las decisiones sean justas y transparentes.
3. Importancia de la transparencia
Un principio fundamental del Reglamento Europeo de la IA es la transparencia (véase por ejemplo el artículo de la saga publicado por Rafael Ansón, socio del Bufete Más y Calvet, el 12 de noviembre de 2024 titulado “La regulación de los Deep Fakes”), esencial para garantizar que los usuarios de los sistemas de IA comprendan cómo se toman las decisiones y puedan, en caso de ser necesario, cuestionarlas o impugnarlas.
La «caja negra» de algunos algoritmos, donde las decisiones automatizadas se toman sin una explicación clara de los criterios empleados, ha sido uno de los mayores retos en el campo de la IA (véase el artículo publicado por Efrén Díaz, abogado del Bufete Más y Calvet sobre “La inteligencia artificial y las infraestructuras críticas”, publicado el 10 de diciembre de 2024). Por ello, el Reglamento establece que los sistemas de IA deben ser transparentes y explicables.
Este requerimiento de transparencia es especialmente relevante en sectores como el judicial (véase el artículo publicado por Pedro Tenorio, of counsel del Bufete Más y Calvet, sobre “Inteligencia Artificial, administración de justicia y procesos democráticos”, publicado el 21 de enero de 2025) o educativo (véase el artículo publicado el 18 de febrero de 2025 por la abogada del Bufete Más y Calvet Cristina Sterling, titulado “IA en la Educación”), donde las decisiones automatizadas pueden tener consecuencias profundas en los derechos fundamentales de las personas.
En estos ámbitos, la IA no debe operar de manera opaca, sino que sus procesos y resultados deben ser comprensibles para los usuarios, y en particular, para los afectados por las decisiones. Esta transparencia no solo facilita la supervisión humana, sino que también fomenta la confianza pública en las tecnologías de IA.
4. Protección de los derechos fundamentales
El Reglamento establece un marco normativo que busca proteger los derechos fundamentales en el uso de la IA, especialmente en relación con la privacidad, la no discriminación y la equidad en la toma de decisiones.
El uso de IA en el análisis de la personalidad, la categorización biométrica y otros sistemas que afectan directamente a la dignidad humana está estrictamente regulado (véanse los artículos de Rocío Hevia, abogada del Bufete Más y Calvet, acerca de la “IA y el derecho penal”, el primero publicado el 4 de febrero de 2025 y el segundo el 4 de marzo de 2025).
El Reglamento prohíbe prácticas como la vigilancia masiva o la toma de decisiones automatizadas sin intervención humana en cuestiones que afecten a derechos fundamentales, como el empleo o el acceso a servicios.
La protección de los derechos humanos se extiende a áreas sensibles como la educación, donde los sistemas automatizados pueden influir en el acceso a la enseñanza y en la evaluación de los estudiantes. Es fundamental que estos sistemas no contribuyan a la exclusión o discriminación, y que se protejan adecuadamente los datos personales de los individuos.
El Reglamento también hace un llamado a la necesidad de mantener el control sobre la información que se procesa, especialmente en sectores como la administración de justicia, donde el uso de IA podría vulnerar derechos procesales si no se gestionan adecuadamente.
Pedro Tenorio Sánchez
D. Pedro Tenorio, nuevo Of Counsel de nuestra firma Bufete Mas y Calvet.
El Catedrático aporta una vasta experiencia en el ámbito del Derecho Constitucional. Desde el 29 de enero de 2015 hasta su disolución el 5 de marzo de 2024, desempeñó el rol de Of Counsel en el Despacho Ramón Rodríguez Arribas Abogados, S.L.P., donde dejó una huella significativa con su profundo conocimiento y habilidades jurídicas.
Actualmente es Catedrático de Derecho Constitucional en la Universidad Nacional de Educación a Distancia de Madrid, posición que ha ocupado desde el 6 de diciembre de 2011.
Su carrera es larga y destacada, con una trayectoria que incluye su labor como Letrado del Tribunal Constitucional de España del 1 de septiembre de 2001 al 2 de junio de 2011.
5.La IA como herramienta complementaria, no sustitutiva
A pesar de sus avances y aplicaciones útiles en diversos sectores, la IA no puede sustituir el juicio humano, especialmente cuando se trata de decisiones éticas o que afectan directamente a los derechos de las personas.
Los sistemas de IA deben ser vistos como una herramienta para mejorar la eficiencia y la precisión en tareas repetitivas o que implican grandes volúmenes de datos, pero nunca como una sustitución del juicio y la empatía humana.
El Reglamento refuerza este principio al enfatizar que siempre debe existir un control humano sobre los sistemas que impactan a las personas de manera significativa.
Este control humano es necesario para garantizar que la IA sea utilizada de manera justa, equitativa y transparente, y para asegurar que no se convierta en una fuente de discriminación o vulneración de derechos.
6. Actitud proactiva y diligente para el cumplimiento
La implantación de la IA exige una actitud diligente y proactiva por parte de los usuarios y las empresas que implementan sistemas de IA.
La normativa no solo busca regular la tecnología, sino que también establece un enfoque preventivo para evitar posibles riesgos antes de que se materialicen. Las empresas deben cumplir con las normativas de transparencia, responsabilidad y derechos fundamentales, lo que incluye la implementación de medidas de protección de datos, la auditoría continua de los sistemas de IA y la evaluación constante de sus impactos.
En el contexto laboral, el uso de IA no debe operar como una excusa para justificar despidos masivos, sino como una herramienta que debe ser gestionada de manera que respete los derechos de los trabajadores y fomente un entorno de trabajo justo (véase el artículo de Luis Jiménez-Arellano, abogado del Bufete Más y Calvet acerca de la incidencia del RIA en el ámbito laboral publicado el 7 de enero de 2025).
- El derecho de superficie: una herramienta clásica para desafíos modernos
- La sostenibilidad económica de las fundaciones
- Aprobación por el Consejo de Ministros del Proyecto de Ley Orgánica de Enjuiciamiento Criminal: ¿novedad revolucionaria o mera evolución necesaria?
- Del aula a la órbita: educación y talento para la nueva economía espacial
- No siempre practicar un deporte es tan bueno como dicen
7. Conclusión
La contribución de la Unión Europea en la regulación de la Inteligencia Artificial a través del Reglamento (UE) 2024/1689 es fundamental para garantizar que el avance tecnológico se desarrolle de manera ética, responsable y respetuosa con los derechos fundamentales.
A medida que la IA continúa transformando diversos sectores de la sociedad, la implementación efectiva de este Reglamento será clave para equilibrar la innovación tecnológica con la protección de los derechos humanos, asegurando que la IA sea una herramienta al servicio de la humanidad y no un riesgo para sus derechos más fundamentales.
En este sentido, los trabajos de los expertos y los textos como los «Comentarios al Reglamento Europeo de Inteligencia Artificial», de Barrio Andrés y el «Tratado sobre el Reglamento de Inteligencia Artificial de la Unión Europea», dirigido por Cotino Hueso y Simón Castellano, ofrecen una valiosa guía sobre cómo interpretar y aplicar estas normas de manera efectiva y equilibrada.
En el artículo de Efrén Díaz publicado el 18 de marzo pasado relativo a la relación entre inteligencia artificial y datos personales en el RIA IA en la Educación: ¿progreso o riesgo? El Reglamento que define su futuro se hace un resumen de este último y se destacan medidas específicas destinadas a apoyar a las PYMES y empresas emergentes en la implementación del Reglamento del IA, facilitando su participación en espacios controlados de pruebas, actividades de formación y sensibilización y procesos de normalización.
El futuro ya está aquí. La inteligencia artificial es un desafío complejo y apasionante, donde el uso adecuado de la tecnología y la legislación de la RIA juegan un relevante papel.