Reglamento (UE) 2024/1689 y evaluación de la personalidad

26 noviembre, 2024

Os compartimos el tercer artículo de nuestra saga de artículos quincenales, sobre Reglamento (UE) 2024/1689 y evaluación de la personalidad de Pedro Tenorio Sánchez, Of Counsel del Bufete Más y Calvet y Catedrático de Derecho Constitucional. Estos artículos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), escritos por los expertos en cada materia del Bufete Mas y Calvet , ayudan a entender y prevenir cómo afectará el RIA a cuestiones fundamentales que impactan la actividad y organización de las empresas y a las personas en el día a día.

Introducción

El Reglamento (UE) 2024/1689, relativo a la inteligencia artificial (IA), refleja un esfuerzo significativo por parte de la Unión Europea para regular el desarrollo y uso de tecnologías de IA, en particular en áreas como el marketing y los servicios financieros. Este Reglamento tiene como objetivo proteger los derechos fundamentales, garantizar la seguridad de los consumidores y fomentar la confianza en el uso de sistemas de IA, especialmente aquellos que evalúan rasgos y características de la personalidad.

Evaluación de rasgos y características de la personalidad

Uno de los aspectos más relevantes del Reglamento 2024/1689 es la regulación de sistemas de IA utilizados para evaluar los rasgos y características de la personalidad, incluidos dentro del concepto “categorización biométrica” establecido en el considerando 16. Estos sistemas, que se emplean cada vez más en marketing, servicios financieros y otros sectores, pueden influir en decisiones importantes que afectan a las personas. Por ejemplo, en el sector financiero, la IA se usa para evaluar la solvencia de los solicitantes de préstamos basándose en datos que incluyen información personal y de comportamiento. En marketing, los sistemas de IA se utilizan para segmentar audiencias y personalizar anuncios, a menudo basándose en la predicción de comportamientos y preferencias individuales.

El Reglamento clasifica estos sistemas de evaluación de la personalidad como de «alto riesgo» en la letra b del punto 1 del Anexo III, ya que pueden tener implicaciones significativas para los derechos de los individuos, en particular en lo que respecta a la privacidad, la dignidad y la no discriminación. Esto significa que las empresas que utilizan IA para evaluar la personalidad deben cumplir con estrictas condiciones, como la necesidad de transparencia, la explicación clara de los algoritmos y el aseguramiento de que los resultados no perpetúen sesgos o discriminación.

Además, el reglamento establece que los sistemas de IA utilizados para evaluar la personalidad deben ser auditables y sujetos a supervisión. Las organizaciones deben poder justificar sus decisiones y demostrar que los resultados no afectan negativamente a los individuos de manera injusta. Se requiere también que los sistemas de IA se sometan a evaluaciones periódicas para verificar su fiabilidad y su impacto en los usuarios.

Pedro Tenorio Sánchez

D. Pedro Tenorio, nuevo Of Counsel de nuestra firma Bufete Mas y Calvet.

El Catedrático aporta una vasta experiencia en el ámbito del Derecho Constitucional. Desde el 29 de enero de 2015 hasta su disolución el 5 de marzo de 2024, desempeñó el rol de Of Counsel en el Despacho Ramón Rodríguez Arribas Abogados, S.L.P., donde dejó una huella significativa con su profundo conocimiento y habilidades jurídicas.

Actualmente es Catedrático de Derecho Constitucional en la Universidad Nacional de Educación a Distancia de Madrid, posición que ha ocupado desde el 6 de diciembre de 2011.

Su carrera es larga y destacada, con una trayectoria que incluye su labor como Letrado del Tribunal Constitucional de España del 1 de septiembre de 2001 al 2 de junio de 2011.

Utilización de la IA en marketing y servicios financieros

En el ámbito del marketing, el Reglamento (UE) 2024/1689 presta especial atención al uso de IA para el análisis de comportamiento y la personalización de anuncios. Estos sistemas son capaces de recoger grandes cantidades de datos de usuarios, como hábitos de navegación, compras previas y actividades en redes sociales, para generar perfiles de personalidad y adaptar campañas publicitarias. El Reglamento establece que este uso de IA debe respetar los derechos de los consumidores y cumplir con las leyes de protección de datos, como el Reglamento General de Protección de Datos (GDPR). Además, las organizaciones deben obtener el consentimiento explícito de los usuarios para el uso de sus datos en sistemas de IA de marketing y proporcionarles mecanismos efectivos para ejercer sus derechos, como el derecho a oponerse al procesamiento automatizado de datos.

En los servicios financieros, la IA se utiliza ampliamente para la evaluación de riesgos crediticios, la gestión de inversiones y la detección de fraudes. Los sistemas de IA que predicen la solvencia de los solicitantes de préstamos o evalúan su idoneidad para productos financieros también están sujetos a la supervisión y control del Reglamento (UE) 2024/1689. Los operadores de estos sistemas deben garantizar que las decisiones automatizadas no sean discriminatorias y que los algoritmos utilizados estén libres de sesgos que puedan perjudicar a ciertos grupos sociales o económicos.

Sanciones e indemnizaciones

El Reglamento (UE) 2024/1689 prevé un marco riguroso de sanciones para quienes incumplan las disposiciones relativas al uso de IA, especialmente en la evaluación de rasgos y características de la personalidad. Las sanciones pueden variar dependiendo de la gravedad del incumplimiento, pero pueden alcanzar multas de hasta el 6% del volumen de negocios anual global de la empresa infractora, o 30 millones de euros, lo que sea mayor. Estas multas buscan ser disuasorias y asegurar que las empresas traten con seriedad sus obligaciones establecidas en el Reglamento.

Además de las sanciones financieras, el Reglamento también prevé mecanismos de indemnización para las personas que se vean afectadas negativamente por el uso indebido de sistemas de IA. Las personas que sufran daños, tanto materiales como inmateriales (como daño reputacional o emocional), como resultado de decisiones basadas en IA, tendrán derecho a recibir una compensación adecuada. Esto incluye casos en los que los sistemas de IA perpetúen discriminación, tomen decisiones injustas o violen los derechos de privacidad.

Las empresas deben contar con políticas claras para gestionar las quejas y las reclamaciones relacionadas con el uso de IA, así como sistemas para mitigar los riesgos. Las autoridades de protección de datos y las agencias de competencia desempeñarán un papel crucial en la supervisión del cumplimiento del Reglamento, con el poder de iniciar investigaciones y aplicar sanciones cuando sea necesario.

En conclusión, el Reglamento (UE) 2024/1689 marca un avance importante en la regulación de la IA, prestando especial atención a la evaluación de rasgos y características de la personalidad, y su uso en marketing y servicios financieros. Las sanciones severas y las medidas de indemnización reflejan la seriedad con la que la UE busca garantizar la protección de los derechos fundamentales en la era digital.