{"id":8892,"date":"2025-03-18T10:07:44","date_gmt":"2025-03-18T09:07:44","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8892"},"modified":"2025-04-24T11:18:44","modified_gmt":"2025-04-24T09:18:44","slug":"la-relacion-entre-inteligencia-artificial-y-datos-personales-en-el-reglamento-de-ia","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/la-relacion-entre-inteligencia-artificial-y-datos-personales-en-el-reglamento-de-ia\/","title":{"rendered":"La relaci\u00f3n entre inteligencia artificial y datos personales en el reglamento de IA"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el und\u00e9cimo art\u00edculo de nuestra saga quincenal<\/strong>, titulado \u201cLA RELACI\u00d3N ENTRE INTELIGENCIA ARTIFICIAL Y DATOS PERSONALES EN EL REGLAMENTO DE IA<\/strong>\u201d de Efr\u00e9n D\u00edaz D\u00edaz<\/strong>. Responsable de las \u00c1reas de Tecnolog\u00eda<\/a> y Derecho Espacial<\/a>del Bufete Mas y Calvet<\/a>. Estos art\u00edculos sobre el Reglamento Europeo de Inteligencia Artificial (RIA)<\/a><\/em>, escritos por los expertos en cada materia del Bufete Mas y Calvet<\/a> , ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/strong><\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Este art\u00edculo examina los desaf\u00edos \u00e9ticos, legales y sociales que plantea la inteligencia artificial (IA) en su interacci\u00f3n con los datos personales, centr\u00e1ndose en el Reglamento (UE) 2024\/1689<\/a>. Este reglamento establece normas armonizadas para el dise\u00f1o, desarrollo y uso de sistemas de IA en la Uni\u00f3n Europea, garantizando que sean confiables y respetuosos con los derechos fundamentales, incluyendo la privacidad y la protecci\u00f3n de datos personales.<\/p>\n\n\n\n

En el art\u00edculo se destaca la importancia de la gesti\u00f3n de riesgos, la transparencia y la calidad de los datos en los sistemas de IA clasificados como de alto riesgo. Estos sistemas deben cumplir con requisitos estrictos en cuanto a la gesti\u00f3n de riesgos, transparencia y calidad de los datos. Adem\u00e1s, se subraya la necesidad de pr\u00e1cticas adecuadas de gesti\u00f3n y gobernanza de datos para asegurar que los conjuntos de datos utilizados sean pertinentes, representativos, libres de errores y completos.<\/p>\n\n\n\n

El enfoque basado en el riesgo es fundamental para establecer normas vinculantes eficaces. Las Directrices \u00e9ticas para una IA fiable de 2019 presentan siete principios \u00e9ticos no vinculantes para garantizar la fiabilidad y el fundamento \u00e9tico de la IA, incluyendo la acci\u00f3n y supervisi\u00f3n humanas, solidez t\u00e9cnica y seguridad, gesti\u00f3n de la privacidad y de los datos, transparencia, diversidad, no discriminaci\u00f3n y equidad, bienestar social y ambiental, y rendici\u00f3n de cuentas.<\/p>\n\n\n\n

En esta noticia tambi\u00e9n aborda la clasificaci\u00f3n de un sistema de IA como de alto riesgo, que depende de las posibles consecuencias adversas para los derechos fundamentales protegidos por la Carta de Derechos Fundamentales de la UE. Los sistemas de IA de alto riesgo deben cumplir con varios requisitos esenciales para mitigar riesgos a la salud, seguridad y derechos fundamentales.<\/p>\n\n\n\n

Finalmente, se destacan las medidas espec\u00edficas destinadas a apoyar a las pymes y empresas emergentes en la implementaci\u00f3n del Reglamento de IA, facilitando su participaci\u00f3n en espacios controlados de pruebas, actividades de formaci\u00f3n y sensibilizaci\u00f3n, y procesos de normalizaci\u00f3n. Con una regulaci\u00f3n adecuada, la IA puede convertirse en una herramienta poderosa para mejorar la eficiencia y seguridad en diversos sectores, asegurando un futuro m\u00e1s seguro y sostenible.<\/p>\n\n\n\n

1.      Introducci\u00f3n<\/h1>\n\n\n\n

La inteligencia artificial representa una tecnolog\u00eda transformadora que redefine sectores econ\u00f3micos y sociales. Sin embargo, tambi\u00e9n plantea interrogantes sobre su impacto en derechos fundamentales, particularmente en lo referente a la protecci\u00f3n de datos personales. Este art\u00edculo analiza las disposiciones clave del Reglamento (UE) 2024\/1689 (en adelante, Reglamento de IA o RIA) en lo concerniente al tratamiento de datos personales y su interacci\u00f3n con el Reglamento General de Protecci\u00f3n de Datos (RGPD).<\/p>\n\n\n\n

En la dif\u00edcil relaci\u00f3n entre inteligencia artificial y datos personales en el Reglamento de IA, este estudio aborda los desaf\u00edos \u00e9ticos, legales y sociales que plantea la inteligencia artificial (IA) en su interacci\u00f3n con los datos personales<\/p>\n\n\n\n

El Reglamento (UE) 2024\/1689 establece normas armonizadas para el dise\u00f1o, desarrollo y uso de sistemas de IA en la Uni\u00f3n Europea, buscando garantizar que la IA sea confiable y respetuosa con los derechos fundamentales, incluyendo la privacidad y la protecci\u00f3n de datos personales. Los sistemas de IA clasificados como de alto riesgo est\u00e1n sujetos a requisitos estrictos en cuanto a la gesti\u00f3n de riesgos, transparencia y calidad de los datos.<\/p>\n\n\n\n

El art\u00edculo analizar\u00e1 conceptos clave como “sistema de IA”, “responsable del despliegue”, “dato biom\u00e9trico”, “identificaci\u00f3n biom\u00e9trica”, “categorizaci\u00f3n biom\u00e9trica”, y “sistema de reconocimiento de emociones”. Estos conceptos son fundamentales para entender la regulaci\u00f3n y aplicaci\u00f3n de la IA en el contexto de la protecci\u00f3n de datos personales.<\/p>\n\n\n\n

El enfoque basado en el riesgo es esencial para establecer normas vinculantes eficaces. Las Directrices \u00e9ticas para una IA fiable de 2019 presentan siete principios \u00e9ticos no vinculantes para garantizar la fiabilidad y el fundamento \u00e9tico de la IA, incluyendo la acci\u00f3n y supervisi\u00f3n humanas, solidez t\u00e9cnica y seguridad, gesti\u00f3n de la privacidad y de los datos, transparencia, diversidad, no discriminaci\u00f3n y equidad, bienestar social y ambiental, y rendici\u00f3n de cuentas.<\/p>\n\n\n\n

La clasificaci\u00f3n de un sistema de IA como de alto riesgo depende de las posibles consecuencias adversas para los derechos fundamentales protegidos por la Carta de Derechos Fundamentales de la UE. Los sistemas de IA de alto riesgo deben cumplir con varios requisitos esenciales para mitigar riesgos a la salud, seguridad y derechos fundamentales.<\/p>\n\n\n\n

Los datos de alta calidad y el acceso a estos son esenciales para garantizar el funcionamiento adecuado de muchos sistemas de IA, especialmente aquellos de alto riesgo. Es crucial implementar pr\u00e1cticas adecuadas de gesti\u00f3n y gobernanza de datos para asegurar que los conjuntos de datos utilizados para el entrenamiento, validaci\u00f3n y prueba sean pertinentes, representativos, libres de errores y completos.<\/p>\n\n\n\n

El derecho a la intimidad y a la protecci\u00f3n de datos personales debe garantizarse a lo largo de todo el ciclo de vida de los sistemas de IA. Se aplican los principios de minimizaci\u00f3n de datos y de protecci\u00f3n de datos desde el dise\u00f1o y por defecto, establecidos en el Derecho de la Uni\u00f3n en materia de protecci\u00f3n de datos.<\/p>\n\n\n\n

El art\u00edculo 59 del Reglamento regula el uso de datos personales previamente recabados con otros fines para el desarrollo, entrenamiento y prueba de sistemas de IA en espacios controlados, siempre que se cumplan estrictas condiciones y se garantice el respeto a los derechos fundamentales y a las normativas de protecci\u00f3n de datos.<\/p>\n\n\n\n

El art\u00edculo 62 establece medidas espec\u00edficas destinadas a apoyar a las pymes y empresas emergentes en la implementaci\u00f3n del Reglamento de IA, facilitando su participaci\u00f3n en espacios controlados de pruebas, actividades de formaci\u00f3n y sensibilizaci\u00f3n, y procesos de normalizaci\u00f3n. Adem\u00e1s, se considera la reducci\u00f3n de tasas para la evaluaci\u00f3n de conformidad y el desarrollo de herramientas centralizadas de apoyo.<\/p>\n\n\n\n

Se culminar\u00e1 el estudio realizado con la extracci\u00f3n de las principales conclusiones pr\u00e1cticas aplicables principalmente a empresas.<\/p>\n\n\n\n

2.      El Reglamento de IA y la protecci\u00f3n de datos de car\u00e1cter personal<\/h1>\n\n\n\n

El Reglamento (UE) 2024\/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial, RIA)[1]<\/a>, contiene una regulaci\u00f3n sobre protecci\u00f3n de datos de car\u00e1cter personal complementaria a la recogida en el Reglamento (UE) 2016\/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protecci\u00f3n de las personas f\u00edsicas en lo que respecta al tratamiento de datos personales y a la libre circulaci\u00f3n de estos datos y por el que se deroga la Directiva 95\/46\/CE[2]<\/a> (Reglamento general de protecci\u00f3n de datos, RGPD).<\/p>\n\n\n\n

El Reglamento de IA establece normas armonizadas para el dise\u00f1o, desarrollo y uso de sistemas de IA en la Uni\u00f3n Europea. Este marco busca garantizar que la IA sea confiable y respetuosa con los derechos fundamentales, incluyendo el derecho a la privacidad y la protecci\u00f3n de datos personales. Los sistemas de IA clasificados como de alto riesgo est\u00e1n sujetos a requisitos estrictos en cuanto a la gesti\u00f3n de riesgos, transparencia y calidad de los datos.<\/p>\n\n\n\n

La Inteligencia Artificial (IA) se ha convertido en un motor clave de transformaci\u00f3n en numerosos sectores de la econom\u00eda y en m\u00faltiples dimensiones de la sociedad, con un impacto que trasciende las fronteras nacionales dentro de la Uni\u00f3n Europea (UE). Su capacidad para desplegarse y circular de manera transfronteriza plantea tanto oportunidades como retos regulatorios. En este contexto, algunos Estados miembros han comenzado a desarrollar normativas nacionales para asegurar que los sistemas de IA sean fiables, seguros y est\u00e9n alineados con las obligaciones relativas a los derechos fundamentales. No obstante, la coexistencia de marcos regulatorios divergentes entre los Estados miembros podr\u00eda fragmentar el mercado interior, reduciendo la seguridad jur\u00eddica para los operadores que desarrollan, importan o utilizan sistemas de IA.<\/p>\n\n\n\n

Frente a este desaf\u00edo, es esencial establecer un nivel elevado y coherente de protecci\u00f3n en toda la UE. Un enfoque uniforme no solo garantizar\u00eda la fiabilidad de los sistemas de IA, sino que tambi\u00e9n evitar\u00eda las disparidades regulatorias que obstaculizan la libre circulaci\u00f3n, la innovaci\u00f3n y la adopci\u00f3n de esta tecnolog\u00eda en el mercado interior. Con base en el art\u00edculo 114 del Tratado de Funcionamiento de la Uni\u00f3n Europea (TFUE), el establecimiento de obligaciones uniformes para los operadores permitir\u00e1 proteger de manera homog\u00e9nea los fines imperiosos de inter\u00e9s general y los derechos fundamentales de las personas, y promover al mismo tiempo un entorno propicio para la innovaci\u00f3n tecnol\u00f3gica.<\/p>\n\n\n\n

El Reglamento de IA aborda, adem\u00e1s, aspectos espec\u00edficos relacionados con la protecci\u00f3n de las personas frente al uso de sistemas de IA en actividades sensibles, como la identificaci\u00f3n biom\u00e9trica remota y la evaluaci\u00f3n de riesgos de personas f\u00edsicas con fines de cumplimiento del Derecho. En estas \u00e1reas, se introducen restricciones espec\u00edficas para garantizar el respeto de los derechos fundamentales, sustent\u00e1ndose en el art\u00edculo 16 del TFUE. Este enfoque busca regular el tratamiento de datos personales en el contexto del uso de la IA, con especial atenci\u00f3n a los riesgos inherentes a los sistemas de identificaci\u00f3n y categorizaci\u00f3n biom\u00e9trica.<\/p>\n\n\n\n

As\u00ed, el Considerando 9 del Reglamento de IA parte del siguiente marco normativo:<\/p>\n\n\n\n

Deben establecerse normas armonizadas aplicables a la introducci\u00f3n en el mercado, la puesta en servicio y la utilizaci\u00f3n de sistemas de IA de alto riesgo en consonancia con el Reglamento (CE) n.o 765\/2008 del Parlamento Europeo y del Consejo (7), la Decisi\u00f3n n.o 768\/2008\/CE del Parlamento Europeo y del Consejo (8) y el Reglamento (UE) 2019\/1020 del Parlamento Europeo y del Consejo (9) (en lo sucesivo, \u00abnuevo marco legislativo\u00bb). Las normas armonizadas que se establecen en el presente Reglamento deben aplicarse en todos los sectores y, en consonancia con el nuevo marco legislativo, deben entenderse sin perjuicio del Derecho vigente de la Uni\u00f3n, en particular en materia de protecci\u00f3n de datos, protecci\u00f3n de los consumidores, derechos fundamentales, empleo, protecci\u00f3n de los trabajadores y seguridad de los productos, al que complementa el presente Reglamento.<\/p>\n\n\n\n

El derecho a la protecci\u00f3n de datos personales est\u00e1 garantizado por normativas de la Uni\u00f3n Europea, como los Reglamentos (UE) 2016\/679 y 2018\/1725[3]<\/a>, la Directiva (UE) 2016\/680[4]<\/a> y la Directiva 2002\/58\/CE[5]<\/a>, que tambi\u00e9n protege la privacidad y confidencialidad de las comunicaciones. Estas leyes establecen un marco para el tratamiento responsable de datos, incluidos los que combinan informaci\u00f3n personal y no personal. El Reglamento sobre IA no modifica estas normativas ni las competencias de las autoridades de supervisi\u00f3n, y mantiene las obligaciones de proveedores y responsables en relaci\u00f3n con el tratamiento de datos personales. Asimismo, garantiza que los interesados conserven sus derechos, como los relacionados con decisiones automatizadas y elaboraci\u00f3n de perfiles. Las normas armonizadas del Reglamento buscan facilitar el ejercicio de estos derechos y proteger otros derechos fundamentales, como as\u00ed corrobora el Considerando 10 del Reglamento IA:<\/p>\n\n\n\n

Dichos actos legislativos de la Uni\u00f3n constituyen la base para un tratamiento de datos sostenible y responsable, tambi\u00e9n cuando los conjuntos de datos contengan una combinaci\u00f3n de datos personales y no personales. El presente Reglamento no pretende afectar a la aplicaci\u00f3n del Derecho de la Uni\u00f3n vigente que regula el tratamiento de datos personales, incluidas las funciones y competencias de las autoridades de supervisi\u00f3n independientes competentes para vigilar el cumplimiento de dichos instrumentos. Tampoco afecta a las obligaciones de los proveedores y los responsables del despliegue de sistemas de IA en su papel de responsables o encargados del tratamiento de datos derivadas del Derecho de la Uni\u00f3n o nacional en materia de protecci\u00f3n de datos personales en la medida en que el dise\u00f1o, el desarrollo o el uso de sistemas de IA impliquen el tratamiento de datos personales.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n


Efr\u00e9n D\u00edaz D\u00edaz<\/strong><\/p>\n\n\n\n

Abogado, Doctor en Derecho por la Universidad de Navarra.. Responsable de las \u00c1reas de Tecnolog\u00eda<\/a> y Derecho Espacial<\/a>del Bufete Mas y Calvet<\/a>. Delegado de Protecci\u00f3n de Datos. <\/p>\n\n\n\n

Especialista en Derecho Administrativo, Tecnol\u00f3gico y Geoespacial. M\u00e1ster Internacional Universitario en Protecci\u00f3n de Datos, Transparencia y Acceso a la Informaci\u00f3n<\/em> (Universidad San Pablo CEU).<\/p>\n\n\n\n

Profesor en Programas M\u00e1ster de la Universidad de Navarra. Professor of Law en el Programa Superior de Anal\u00edtica Digital<\/a>, IDMS School by MSL.<\/p>\n\n\n\n

Miembro del Grupo de Trabajo de la Infraestructura de Datos Espaciales de Espa\u00f1a (IDEE)<\/a>.  <\/p>\n\n\n\n

Secretario General de la Asociaci\u00f3n Espa\u00f1ola de Derecho Aeron\u00e1utico y Espacial<\/a>.<\/p>\n\n\n\n

Codirector del Curso de Postgrado Especialista en Derecho Aeron\u00e1utico y Espacial<\/a>. Universidad Pontifica de Comillas<\/a>. Facultad de Derecho<\/a>.<\/p>\n<\/div>

\"\"<\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

3.      Conceptos relevantes en la aplicaci\u00f3n de la Inteligencia Artificial<\/h1>\n\n\n\n

En la regulaci\u00f3n contenida en el RIA, el concepto de \u00absistema de IA\u00bb debe definirse claramente en el Reglamento y alinearse con los trabajos de organizaciones internacionales para garantizar la seguridad jur\u00eddica y facilitar la convergencia internacional. La definici\u00f3n debe basarse en las caracter\u00edsticas principales de los sistemas de IA, como su capacidad de inferencia, que les permite obtener resultados como predicciones y recomendaciones. Los sistemas de IA pueden funcionar con distintos niveles de autonom\u00eda y adaptarse mediante autoaprendizaje. Pueden usarse de manera independiente o como componentes de un producto, ya sea integrado o no.<\/p>\n\n\n\n

El concepto de \u00abresponsable del despliegue\u00bb se refiere a cualquier persona f\u00edsica o jur\u00eddica que utilice un sistema de IA bajo su propia autoridad, excluyendo el uso personal no profesional. El Considerando 13 del RIA destaca que, dependiendo del tipo de sistema de IA, el uso del sistema puede afectar a personas distintas del responsable del despliegue.<\/p>\n\n\n\n

El \u00abdato biom\u00e9trico\u00bb se interpreta seg\u00fan las definiciones de varios reglamentos de la UE y puede usarse para autenticaci\u00f3n, identificaci\u00f3n o categorizaci\u00f3n de personas, as\u00ed como para el reconocimiento de emociones.<\/p>\n\n\n\n

Concretamente, el concepto debe interpretarse a la luz del concepto de \u00abdatos biom\u00e9tricos\u00bb tal como se define en el art\u00edculo 4, punto 14, del Reglamento (UE) 2016\/679:<\/p>\n\n\n\n

14) \u00abdatos biom\u00e9tricos\u00bb: datos personales obtenidos a partir de un tratamiento t\u00e9cnico espec\u00edfico, relativos a las caracter\u00edsticas f\u00edsicas, fisiol\u00f3gicas o conductuales de una persona f\u00edsica que permitan o confirmen la identificaci\u00f3n \u00fanica de dicha persona, como im\u00e1genes faciales o datos dactilosc\u00f3picos;<\/p>\n\n\n\n

La \u00abidentificaci\u00f3n biom\u00e9trica\u00bb (Considerando 15 del RIA) es el reconocimiento automatizado de caracter\u00edsticas humanas para determinar la identidad de una persona comparando sus datos biom\u00e9tricos con una base de datos, excluyendo sistemas destinados solo a la verificaci\u00f3n biom\u00e9trica:<\/p>\n\n\n\n

el reconocimiento automatizado de caracter\u00edsticas humanas de tipo f\u00edsico, fisiol\u00f3gico o conductual, como la cara, el movimiento ocular, la forma del cuerpo, la voz, la entonaci\u00f3n, el modo de andar, la postura, la frecuencia card\u00edaca, la presi\u00f3n arterial, el olor o las caracter\u00edsticas de las pulsaciones de tecla<\/p>\n\n\n\n

Seg\u00fan el Considerando 16 del RIA, la \u00abcategorizaci\u00f3n biom\u00e9trica\u00bb implica clasificar a personas en categor\u00edas espec\u00edficas basadas en sus datos biom\u00e9tricos, excluyendo caracter\u00edsticas accesorias vinculadas a otros servicios:<\/p>\n\n\n\n

Estas categor\u00edas espec\u00edficas pueden referirse a aspectos como el sexo, la edad, el color del pelo, el color de los ojos, los tatuajes, los rasgos conductuales o de la personalidad, la lengua, la religi\u00f3n, la pertenencia a una minor\u00eda nacional o la orientaci\u00f3n sexual o pol\u00edtica.<\/p>\n\n\n\n

El \u00absistema de identificaci\u00f3n biom\u00e9trica remota\u00bb (Considerando 17 del RIA) identifica a personas sin su participaci\u00f3n activa, generalmente a distancia, y excluye sistemas de verificaci\u00f3n biom\u00e9trica. Los sistemas \u00aben tiempo real\u00bb realizan la identificaci\u00f3n instant\u00e1neamente, mientras que los sistemas \u00aben diferido\u00bb lo hacen con demora.<\/p>\n\n\n\n

El \u00absistema de reconocimiento de emociones\u00bb (Considerando 18 del RIA) distingue o deduce emociones o intenciones a partir de datos biom\u00e9tricos, excluyendo la detecci\u00f3n de estados f\u00edsicos como el dolor o el cansancio, y expresiones obvias a menos que se usen para deducir emociones:<\/p>\n\n\n\n

El concepto se refiere a emociones o intenciones como la felicidad, la tristeza, la indignaci\u00f3n, la sorpresa, el asco, el apuro, el entusiasmo, la verg\u00fcenza, el desprecio, la satisfacci\u00f3n y la diversi\u00f3n. No incluye los estados f\u00edsicos, como el dolor o el cansancio, como, por ejemplo, los sistemas utilizados para detectar el cansancio de los pilotos o conductores profesionales con el fin de evitar accidentes. Tampoco incluye la mera detecci\u00f3n de expresiones, gestos o movimientos que resulten obvios, salvo que se utilicen para distinguir o deducir emociones. Esas expresiones pueden ser expresiones faciales b\u00e1sicas, como un ce\u00f1o fruncido o una sonrisa; gestos como el movimiento de las manos, los brazos o la cabeza, o caracter\u00edsticas de la voz de una persona, como una voz alzada o un susurro.<\/p>\n\n\n\n

4.       Enfoque basado en el riesgo y Directrices \u00e9ticas para una IA fiable<\/h1>\n\n\n\n

El enfoque basado en el riesgo es fundamental para establecer normas vinculantes eficaces, como recuerda el Considerando 27 del RIA. Las Directrices \u00e9ticas para una IA fiable de 2019, elaboradas por el Grupo independiente de expertos de alto nivel sobre IA, presentan siete principios \u00e9ticos no vinculantes para garantizar la fiabilidad y el fundamento \u00e9tico de la IA:<\/p>\n\n\n\n

    \n
  1. Acci\u00f3n y supervisi\u00f3n humanas: Los sistemas de IA deben desarrollarse y utilizarse como herramientas al servicio de las personas, respetando la dignidad humana y la autonom\u00eda personal, y permitiendo un control y vigilancia adecuados por parte de los humanos.<\/li>\n\n\n\n
  2. Solidez t\u00e9cnica y seguridad: Los sistemas de IA deben ser robustos y resilientes frente a problemas y usos il\u00edcitos, minimizando los da\u00f1os no deseados.<\/li>\n\n\n\n
  3. Gesti\u00f3n de la privacidad y de los datos: Los sistemas de IA deben cumplir con normas estrictas de protecci\u00f3n de la intimidad y de los datos, asegurando la calidad e integridad de los datos tratados.<\/li>\n\n\n\n
  4. Transparencia: Los sistemas de IA deben permitir una trazabilidad y explicabilidad adecuadas, informando a las personas sobre su interacci\u00f3n con la IA y sus derechos.<\/li>\n\n\n\n
  5. Diversidad, no discriminaci\u00f3n y equidad: Los sistemas de IA deben incluir a diversos agentes y promover la igualdad de acceso, evitando efectos discriminatorios y sesgos injustos.<\/li>\n\n\n\n
  6. Bienestar social y ambiental: Los sistemas de IA deben desarrollarse y utilizarse de manera sostenible y respetuosa con el medio ambiente, beneficiando a todos los seres humanos y evaluando sus efectos a largo plazo.<\/li>\n\n\n\n
  7. Rendici\u00f3n de cuentas: Los responsables del despliegue de sistemas de IA deben ser responsables de su uso y funcionamiento.<\/li>\n<\/ol>\n\n\n\n

    Estas directrices contribuyen al dise\u00f1o de una IA coherente, fiable y centrada en el ser humano, en consonancia con los valores de la Uni\u00f3n Europea.<\/p>\n\n\n\n

    En este contexto, el RIA en su Considerando 28 reconoce que la IA, aunque tiene muchos usos beneficiosos, tambi\u00e9n puede ser mal utilizada para pr\u00e1cticas de manipulaci\u00f3n, explotaci\u00f3n y control social. Por ello, estas pr\u00e1cticas son extremadamente perjudiciales y deben prohibirse:<\/p>\n\n\n\n

    Al margen de los m\u00faltiples usos beneficiosos de la IA, esta tambi\u00e9n puede utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo pr\u00e1cticas de manipulaci\u00f3n, explotaci\u00f3n y control social. Dichas pr\u00e1cticas son sumamente perjudiciales e incorrectas y deben estar prohibidas, pues van en contra de los valores de la Uni\u00f3n de respeto de la dignidad humana, la libertad, la igualdad, la democracia y el Estado de Derecho y de los derechos fundamentales consagrados en la Carta, como el derecho a la no discriminaci\u00f3n, a la protecci\u00f3n de datos y a la intimidad y los derechos del ni\u00f1o.<\/p>\n\n\n\n

    M\u00e1s en particular, el Considerando 30 del RIA concreta las prohibiciones de los sistemas de categorizaci\u00f3n biom\u00e9trica:<\/p>\n\n\n\n

    Deben prohibirse los sistemas de categorizaci\u00f3n biom\u00e9trica basados en datos biom\u00e9tricos de las personas f\u00edsicas, como la cara o las impresiones dactilares de una persona f\u00edsica, para deducir o inferir las opiniones pol\u00edticas, la afiliaci\u00f3n sindical, las convicciones religiosas o filos\u00f3ficas, la raza, la vida sexual o la orientaci\u00f3n sexual de una persona f\u00edsica. Dicha prohibici\u00f3n no debe aplicarse al etiquetado, al filtrado ni a la categorizaci\u00f3n l\u00edcitos de conjuntos de datos biom\u00e9tricos adquiridos de conformidad con el Derecho nacional o de la Uni\u00f3n en funci\u00f3n de datos biom\u00e9tricos, como la clasificaci\u00f3n de im\u00e1genes en funci\u00f3n del color del pelo o del color de ojos, que pueden utilizarse, por ejemplo, en el \u00e1mbito de la garant\u00eda del cumplimiento del Derecho.<\/p>\n\n\n\n

    En otro contexto, los sistemas de IA que permiten la puntuaci\u00f3n ciudadana de personas f\u00edsicas por agentes p\u00fablicos o privados pueden resultar en discriminaci\u00f3n y exclusi\u00f3n de ciertos colectivos. Estos sistemas eval\u00faan a las personas bas\u00e1ndose en datos sobre su comportamiento social o caracter\u00edsticas personales, lo que puede llevar a un trato desfavorable en contextos no relacionados con los datos originales o de manera desproporcionada. Por ello, el Considerando 31 del RIA determina que deben prohibirse estos sistemas de puntuaci\u00f3n que resulten en pr\u00e1cticas perjudiciales. Esta prohibici\u00f3n no afecta a evaluaciones l\u00edcitas realizadas con fines espec\u00edficos conforme al Derecho de la Uni\u00f3n y nacional.<\/p>\n\n\n\n

    Un aspecto relevante por los riesgos que implica para los derechos fundamentales es el uso de sistemas de identificaci\u00f3n biom\u00e9trica remota \u00aben tiempo real\u00bb en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho. De acuerdo con el considerando 34 del RIA, y seg\u00fan se desarrolla en los sucesivos Considerandos 35 a 38, para asegurar el uso responsable y proporcionado de los sistemas de identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios p\u00fablicos, es crucial considerar ciertos elementos, como la naturaleza de la situaci\u00f3n, las consecuencias sobre los derechos y libertades de las personas implicadas, y las garant\u00edas y condiciones de uso. Este uso debe limitarse a lo estrictamente necesario en t\u00e9rminos de tiempo, \u00e1mbito geogr\u00e1fico y personal, y solo debe autorizarse tras una evaluaci\u00f3n de impacto relativa a los derechos fundamentales y el registro del sistema en la base de datos correspondiente. La base de datos de referencia debe ser adecuada para cada situaci\u00f3n espec\u00edfica.<\/p>\n\n\n\n

    El uso de sistemas de identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios p\u00fablicos con fines de cumplimiento del Derecho debe ser autorizado por una autoridad judicial o administrativa independiente. Esta autorizaci\u00f3n debe obtenerse antes de su uso, salvo en situaciones de urgencia justificadas, donde debe solicitarse dentro de las 24 horas siguientes. Si se rechaza la autorizaci\u00f3n, el uso debe cesar inmediatamente y los datos relacionados deben eliminarse.<\/p>\n\n\n\n

    Cada uso de estos sistemas debe notificarse a la autoridad de vigilancia del mercado y a la autoridad nacional de protecci\u00f3n de datos, quienes deben presentar un informe anual a la Comisi\u00f3n. Adem\u00e1s, los Estados miembros deben decidir si permiten este uso en su territorio y notificar sus normas a la Comisi\u00f3n en un plazo de 30 d\u00edas desde su adopci\u00f3n.<\/p>\n\n\n\n

    El uso de sistemas de IA para la identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios p\u00fablicos con fines de cumplimiento del Derecho implica el tratamiento de datos biom\u00e9tricos. Las normas del Reglamento, basadas en el art\u00edculo 16 del TFUE, se aplican como lex specialis<\/em> respecto al art\u00edculo 10 de la Directiva (UE) 2016\/680, regulando exhaustivamente este uso y tratamiento. Este uso solo es posible si es compatible con el marco del Reglamento, sin margen para usos fuera de este marco.<\/p>\n\n\n\n

    El Reglamento no proporciona la base jur\u00eddica para el tratamiento de datos personales seg\u00fan el art\u00edculo 8 de la Directiva (UE) 2016\/680. Sin embargo, el uso de estos sistemas con fines distintos al cumplimiento del Derecho no est\u00e1 sujeto al marco espec\u00edfico del Reglamento ni requiere autorizaci\u00f3n seg\u00fan el Reglamento o las normas nacionales aplicables.<\/p>\n\n\n\n

    El Considerando 39 del RIA detalla que el tratamiento de datos biom\u00e9tricos y personales asociado al uso de sistemas de IA para la identificaci\u00f3n biom\u00e9trica debe cumplir con el art\u00edculo 10 de la Directiva (UE) 2016\/680:<\/p>\n\n\n\n

    Todo tratamiento de datos biom\u00e9tricos y de datos personales de otra \u00edndole asociado al uso de sistemas de IA para la identificaci\u00f3n biom\u00e9trica, salvo el asociado al uso de sistemas de identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios de acceso p\u00fablico con fines de garant\u00eda del cumplimiento del Derecho regulado por el presente Reglamento, debe seguir cumpliendo todos los requisitos derivados del art\u00edculo 10 de la Directiva (UE) 2016\/680. El art\u00edculo 9, apartado 1, del Reglamento (UE) 2016\/679 y el art\u00edculo 10, apartado 1, del Reglamento (UE) 2018\/1725 proh\u00edben el tratamiento de datos biom\u00e9tricos con fines distintos de la garant\u00eda del cumplimiento del Derecho, con las excepciones limitadas previstas en dichos art\u00edculos. En la aplicaci\u00f3n del art\u00edculo 9, apartado 1, del Reglamento (UE) 2016\/679, el uso de la identificaci\u00f3n biom\u00e9trica remota para fines distintos de la garant\u00eda del cumplimiento del Derecho ya ha sido objeto de decisiones de prohibici\u00f3n por parte de las autoridades nacionales de protecci\u00f3n de datos.<\/p>\n\n\n\n

    El Considerando 43 contiene una previsi\u00f3n particular sobre reconocimiento facial con una clara prohibici\u00f3n de im\u00e1genes obtenidas de internet:<\/p>\n\n\n\n

    La introducci\u00f3n en el mercado, la puesta en servicio para ese fin concreto o la utilizaci\u00f3n de sistemas de IA que creen o ampl\u00eden bases de datos de reconocimiento facial mediante la extracci\u00f3n no selectiva de im\u00e1genes faciales a partir de internet o de im\u00e1genes de circuito cerrado de televisi\u00f3n deben estar prohibidas, pues esas pr\u00e1cticas agravan el sentimiento de vigilancia masiva y pueden dar lugar a graves violaciones de los derechos fundamentales, incluido el derecho a la intimidad.<\/p>\n\n\n\n

    De modo similar, en relaci\u00f3n con los sistemas de IA que procuran detectar o deducir las emociones, el Considerando 44 expresa su preocupaci\u00f3n y plantea su prohibici\u00f3n en este marco:<\/p>\n\n\n\n

    Existe una gran preocupaci\u00f3n respecto a la base cient\u00edfica de los sistemas de IA que procuran detectar o deducir las emociones, especialmente porque la expresi\u00f3n de las emociones var\u00eda de forma considerable entre culturas y situaciones, e incluso en una misma persona. Algunas de las deficiencias principales de estos sistemas son la fiabilidad limitada, la falta de especificidad y la limitada posibilidad de generalizar. Por consiguiente, los sistemas de IA que detectan o deducen las emociones o las intenciones de las personas f\u00edsicas a partir de sus datos biom\u00e9tricos pueden tener resultados discriminatorios y pueden invadir los derechos y las libertades de las personas afectadas. Teniendo en cuenta el desequilibrio de poder en el contexto laboral o educativo, unido al car\u00e1cter intrusivo de estos sistemas, dichos sistemas podr\u00edan dar lugar a un trato perjudicial o desfavorable de determinadas personas f\u00edsicas o colectivos enteros. Por tanto, debe prohibirse la introducci\u00f3n en el mercado, la puesta en servicio y el uso de sistemas de IA destinados a ser utilizados para detectar el estado emocional de las personas en situaciones relacionadas con el lugar de trabajo y el \u00e1mbito educativo. Dicha prohibici\u00f3n no debe aplicarse a los sistemas de IA introducidos en el mercado estrictamente con fines m\u00e9dicos o de seguridad, como los sistemas destinados a un uso terap\u00e9utico.<\/p>\n\n\n\n

    El Considerando 45 insiste en mantener las pr\u00e1cticas prohibidas por el Derecho de la Uni\u00f3n sobre cuestiones tan relevantes como la protecci\u00f3n de datos y la no discriminaci\u00f3n:<\/p>\n\n\n\n

    El presente Reglamento no debe afectar a las pr\u00e1cticas prohibidas por el Derecho de la Uni\u00f3n, incluido el Derecho de la Uni\u00f3n en materia de protecci\u00f3n de datos, de no discriminaci\u00f3n, de protecci\u00f3n de los consumidores y sobre competencia.<\/p>\n\n\n\n

    <\/div>\n\n\n\n
    \n\n\n