{"id":8641,"date":"2024-12-23T09:54:34","date_gmt":"2024-12-23T08:54:34","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8641"},"modified":"2024-12-26T09:18:47","modified_gmt":"2024-12-26T08:18:47","slug":"garantias-para-el-cumplimiento-del-reglamento-ue-2024-1689-de-ia","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/garantias-para-el-cumplimiento-del-reglamento-ue-2024-1689-de-ia\/","title":{"rendered":"Garant\u00edas para el cumplimiento del Reglamento UE 2024\/1689, de IA"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el quinto art\u00edculo de nuestra saga quincenal titulado \u201cGarant\u00edas para el cumplimiento del Reglamento UE 2024\/1689, de IA\u201d de Pedro Tenorio S\u00e1nchez<\/a> Of Counsel del Bufete Mas y Calvet<\/a> y Catedr\u00e1tico de Derecho Constitucional de la UNED<\/a>.<\/strong><\/p>\n\n\n\n

Estos art\u00edculos sobre el Reglamento Europeo de Inteligencia Artificial (RIA), ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/strong><\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Introducci\u00f3n<\/strong><\/h3>\n\n\n\n

El Reglamento (UE) 2024\/1689 de Inteligencia Artificial (IA) establece un marco legal pionero en el \u00e1mbito mundial, cuyo objetivo es regular el desarrollo, uso y comercializaci\u00f3n de los sistemas de IA en la Uni\u00f3n Europea. Este Reglamento proporciona un conjunto de garant\u00edas esenciales para asegurar que la IA se utilice de manera segura, \u00e9tica y en consonancia con los derechos fundamentales. A continuaci\u00f3n, vamos a referirnos sucintamente a algunos elementos del Reglamento, en concreto, la determinaci\u00f3n de las personas responsables, las responsabilidades de los actores involucrados, especialmente las empresas usuarias de sistemas de IA, as\u00ed como las sanciones y consecuencias del incumplimiento de sus disposiciones. Tambi\u00e9n se har\u00e1 una breve alusi\u00f3n a la intersecci\u00f3n de estas cuestiones con la protecci\u00f3n de datos.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Determinaci\u00f3n de las personas responsables<\/strong><\/h3>\n\n\n\n

El Reglamento establece la identificaci\u00f3n de las personas responsables a lo largo del ciclo de vida de los sistemas de IA. Esto incluye tanto a los desarrolladores y proveedores de estos sistemas como a las entidades que los implementan o usan en sus actividades diarias, como empresas y administraciones p\u00fablicas. La responsabilidad primaria recae sobre el proveedor del sistema de IA, quien es responsable de garantizar que el sistema cumpla con los requisitos esenciales de seguridad, transparencia y respeto de los derechos fundamentales antes de su comercializaci\u00f3n o puesta en uso.<\/p>\n\n\n\n

Adem\u00e1s, se incluye a los distribuidores, quienes deber\u00e1n actuar con diligencia si detectan irregularidades o si el sistema no cumple con los requisitos establecidos. De igual manera, las personas f\u00edsicas o jur\u00eddicas que importen sistemas de IA a la Uni\u00f3n Europea tendr\u00e1n que garantizar que los productos que introducen en el mercado cumplan con la normativa vigente. Por \u00faltimo, los usuarios de estos sistemas, como empresas que implementan IA en sus procesos de decisi\u00f3n, tambi\u00e9n asumen una parte de la responsabilidad, especialmente en lo que respecta a la utilizaci\u00f3n \u00e9tica y segura de la tecnolog\u00eda.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Responsabilidades de los actores involucrados, con especial referencia a las empresas usuarias de sistemas de IA<\/strong><\/h3>\n\n\n\n

Las responsabilidades de los distintos actores que intervienen en el desarrollo y uso de sistemas de IA est\u00e1n delimitadas. Los proveedores deben cumplir con un conjunto de obligaciones t\u00e9cnicas, como la realizaci\u00f3n de una evaluaci\u00f3n de riesgos previa, la garant\u00eda de que el sistema ha sido desarrollado conforme a est\u00e1ndares europeos de seguridad y transparencia, y la implementaci\u00f3n de mecanismos que permitan una supervisi\u00f3n humana efectiva. Adem\u00e1s, est\u00e1n obligados a registrar sus sistemas en una base de datos de la UE y a notificar cualquier fallo o irregularidad grave.<\/p>\n\n\n\n

Por su parte, las empresas usuarias de sistemas de IA tienen obligaciones espec\u00edficas que, aunque m\u00e1s limitadas en comparaci\u00f3n con los proveedores, son cruciales para la correcta implementaci\u00f3n de la normativa. Estas empresas deben asegurarse de que los sistemas de IA que utilizan est\u00e9n debidamente certificados y cumplan con las normas de transparencia, lo que incluye proporcionar informaci\u00f3n clara a los usuarios finales sobre c\u00f3mo funciona el sistema y sus posibles impactos. Adem\u00e1s, est\u00e1n obligadas a realizar una supervisi\u00f3n humana adecuada, lo que implica la posibilidad de intervenci\u00f3n humana en procesos automatizados para evitar decisiones arbitrarias o perjudiciales para las personas.<\/p>\n\n\n\n

En el caso de los sistemas de alto riesgo, definidos en el reglamento como aquellos que pueden impactar significativamente en los derechos fundamentales de las personas, las empresas deben implementar medidas adicionales, como auditor\u00edas regulares de los sistemas, una correcta gesti\u00f3n de los datos utilizados, y garantizar la trazabilidad de las decisiones tomadas por la IA.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n


Pedro Tenorio S\u00e1nchez<\/strong><\/p>\n\n\n\n

D. Pedro Tenorio<\/strong>, nuevo Of Counsel<\/strong> de nuestra firma Bufete Mas y Calvet<\/a>. <\/p>\n\n\n\n

El Catedr\u00e1tico aporta una vasta experiencia en el \u00e1mbito del Derecho Constitucional. Desde el 29 de enero de 2015 hasta su disoluci\u00f3n el 5 de marzo de 2024, desempe\u00f1\u00f3 el rol de Of Counsel en el Despacho Ram\u00f3n Rodr\u00edguez Arribas Abogados, S.L.P., donde dej\u00f3 una huella significativa con su profundo conocimiento y habilidades jur\u00eddicas.<\/p>\n\n\n\n

Actualmente es Catedr\u00e1tico de Derecho Constitucional<\/em> en la Universidad Nacional de Educaci\u00f3n a Distancia de Madrid<\/a><\/strong><\/em>, posici\u00f3n que ha ocupado desde el 6 de diciembre de 2011. <\/p>\n\n\n\n

Su carrera es larga y destacada, con una trayectoria que incluye su labor como Letrado del Tribunal Constitucional<\/strong> de Espa\u00f1a del 1 de septiembre de 2001 al 2 de junio de 2011. <\/p>\n<\/div>

\"\"<\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

Sanciones y consecuencias del incumplimiento<\/strong><\/h3>\n\n\n\n

El incumplimiento de las disposiciones del Reglamento (UE) 2024\/1689 sobre IA acarrea sanciones severas, en consonancia con el r\u00e9gimen sancionador que ya existe en el Reglamento General de Protecci\u00f3n de Datos (RGPD). Las sanciones, reguladas principalmente en el art. 99, se dividen en tres niveles, dependiendo de la gravedad de la infracci\u00f3n.<\/p>\n\n\n\n