{"id":7767,"date":"2024-05-07T09:30:08","date_gmt":"2024-05-07T07:30:08","guid":{"rendered":"https:\/\/mascalvet.com\/?p=7767"},"modified":"2024-05-07T09:30:11","modified_gmt":"2024-05-07T07:30:11","slug":"inteligencia-artificial-perspectiva-etica-y-legal","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/inteligencia-artificial-perspectiva-etica-y-legal\/","title":{"rendered":"Inteligencia Artificial: perspectiva \u00e9tica y legal"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Hoy entrevisto a Rafael Ans\u00f3n<\/strong><\/a>, Socio del Bufete Mas y Calvet<\/a><\/strong>, para hablar sobre Inteligencia Artificial desde una perspectiva \u00e9tica y legal, con enfoque en el nuevo reglamento de la Uni\u00f3n Europea. <\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Los desaf\u00edos de la IA est\u00e1n estrechamente relacionados con la protecci\u00f3n de la privacidad y la seguridad de los datos, la prevenci\u00f3n de sesgos y discriminaci\u00f3n, la gesti\u00f3n sostenible de los recursos necesarios para el uso de la IA, y especialmente, la gesti\u00f3n del impacto que pueda tener en el mercado laboral.<\/p>\n\n\n\n

Estas son algunas de las conclusiones del Informe Ascendant Madurez Digital 2024 de Minsait<\/em><\/strong>, titulado \u201cIA, radiograf\u00eda de una revoluci\u00f3n en marcha\u201d.<\/em><\/a> <\/em>Otro de los grandes retos es acelerar la innovaci\u00f3n y el escalado \u00e1gil y flexible de esta herramienta, con el fin de no perder el tren de la competitividad.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfPodr\u00eda explicar brevemente en qu\u00e9 consiste este nuevo reglamento y cu\u00e1l es su objetivo principal?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: No es f\u00e1cil resumir el contenido y objetivos del Reglamento sobre la Inteligencia Artificial (RIA) que, por cierto, a fecha de hoy, a\u00fan no se ha publicado en el Diario Oficial. Podr\u00edamos sintetizarlos de la siguiente manera: el RIA trata de regular el dise\u00f1o, implantaci\u00f3n y uso de sistemas de Inteligencia Artificial (AI) en la Uni\u00f3n Europea.<\/p>\n\n\n\n

Sus objetivos son promover la IA centrada en el ser humano, su fiabilidad y garantizar un alto nivel de protecci\u00f3n de la salud, seguridad y derechos humanos, incluyendo la democracia, el Estado de Derecho y el medio ambiente, as\u00ed como el apoyo de la investigaci\u00f3n. El Reglamento excluye de su \u00e1mbito determinadas cuestiones de seguridad nacional.<\/p>\n\n\n\n

Adem\u00e1s, la aparici\u00f3n de modelos de IA de uso general (especialmente Chat GPT en diciembre de 2022), ha sido objeto de regulaci\u00f3n, lo cual ha alargado la tramitaci\u00f3n de la norma, pero ha sido muy oportuno incorporar un marco regulatorio de IA general.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfQu\u00e9 riesgos abordan las nuevas normas sobre la Inteligencia Artificial?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n:<\/strong> Me alegro de que me formule la pregunta de esta manera, pues el enfoque de la regulaci\u00f3n de la IA en el Reglamento se basa en los riesgos, no en el contenido y estructura de la tecnolog\u00eda subyacente a la IA.<\/p>\n\n\n\n

El Reglamento diferencia cuatro sistemas de IA: los de riesgo inaceptable (es decir, prohibidos), alto riesgo, riesgo limitado y riesgo m\u00ednimo.<\/p>\n\n\n\n

Los sistemas prohibidos son aquellos que se consideren una clara amenaza para la seguridad, los medios de vida y los derechos de las personas (manipulaci\u00f3n subliminal de las personas, abuso de las personas vulnerables, clasificaci\u00f3n social, categorizaci\u00f3n biom\u00e9trica, reconocimiento facial en tiempo real, etc.)<\/p>\n\n\n\n

Los sistemas de alto riesgo se refieren, por ejemplo, a la gesti\u00f3n de las infraestructuras cr\u00edticas, la educaci\u00f3n, sistema de empleo, gesti\u00f3n de migrantes, administraci\u00f3n de justicia y procesos democr\u00e1ticos, etc. En estos casos, los sistemas deben cumplir unos requisitos cualificados para que puedan ser utilizados por los empresarios y ciudadanos.<\/p>\n\n\n\n

Y, por \u00faltimo, los sistemas de riesgo limitado o m\u00ednimo no requieren especiales requisitos para su utilizaci\u00f3n.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfCu\u00e1les son los aspectos \u00e9ticos m\u00e1s importantes que este reglamento acomete?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

El reglamento aborda aspectos \u00e9ticos importantes como la equidad y la no discriminaci\u00f3n en los algoritmos de IA, la transparencia en la toma de decisiones automatizadas y la responsabilidad de los desarrolladores en caso de da\u00f1os causados por sistemas de IA. Tambi\u00e9n establece normas para la supervisi\u00f3n y evaluaci\u00f3n continua de los sistemas de IA para garantizar su conformidad con los principios \u00e9ticos.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfCu\u00e1les son las principales diferencias entre las pol\u00edticas de la UE y Estados Unidos en cuanto a la regulaci\u00f3n de la IA?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: Es muy interesante comparar el enfoque y contenido de las recient\u00edsimas normas que regulan la IA en Europa y Estados Unidos. Sin duda la IA se caracteriza por su internacionalidad. Lo que est\u00e1 ocurriendo ahora en los laboratorios de investigaci\u00f3n de IA de California o Jap\u00f3n, nos afectar\u00e1 en breve a nosotros.<\/p>\n\n\n\n

Hasta ahora hemos hablado de nuestro Reglamento europeo sobre la IA. Pero antes, en Estados Unidos, el 30 de octubre de 2023, se public\u00f3 la Orden Ejecutiva del Presidente Biden sobre la IA. Esta norma tiene fuerza de ley y establece un plan de acci\u00f3n del gobierno a medio plazo para controlar el desarrollo de la IA y de las consecuencias de todo tipo que pueda tener en la sociedad.<\/p>\n\n\n\n

Su enfoque, por tanto, es algo diferente al de Europa, pues el Reglamento regula la intervenci\u00f3n de todos los actores del ciclo de vida de la IA en funci\u00f3n del riesgo que genere el sistema de IA.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfCree que estas diferencias en la regulaci\u00f3n podr\u00edan generar tensiones en el \u00e1mbito internacional?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: Efectivamente, al tratarse de enfoques diferentes, uno m\u00e1s restrictivo que el otro, la inversi\u00f3n en el desarrollo de IA se canalizar\u00e1 a trav\u00e9s del entorno econ\u00f3mico y legal m\u00e1s favorable. En este sentido, son indicativas las declaraciones de varios Presidentes de Estados miembros de la UE en las que advert\u00edan de las consecuencias de un Reglamento que no apoyara decididamente la inversi\u00f3n en sistemas de IA, pues acabar\u00eda aumentando la distancia que existe entre la industria tecnol\u00f3gica europea y la norteamericana.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfExiste ya alguna regulaci\u00f3n que impida el uso pernicioso de deepfakes (videos generados por IA sin consentimiento de las personas afectadas)?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: La simulaci\u00f3n de videos y grabaciones es una nueva realidad que entra\u00f1a un riesgo. La posibilidad de generar un video sint\u00e9tico en el que aparece una persona diciendo con su voz manipulada cosas que nunca dir\u00eda o mostr\u00e1ndose en una actitud \u00edntima que nunca difundir\u00eda (los denominados deepfakes), es un peligro real.<\/p>\n\n\n\n

En nuestro pa\u00eds, el Grupo SUMAR present\u00f3 el 6 de octubre de 2023 una proposici\u00f3n de Ley Org\u00e1nica de regulaci\u00f3n de las simulaciones de im\u00e1genes y voces de personas generadas por medio de la Inteligencia Artificial. Me pareci\u00f3 un intento rese\u00f1able, si bien la propuesta de regulaci\u00f3n, dada la dificultad del tema, parec\u00eda poco eficaz. Lamentablemente, el pasado 12 de marzo se retir\u00f3 este texto. En cualquier caso, el RIA contiene unas disposiciones relativas a esta problem\u00e1tica, que, cuando se apruebe definitivamente el texto, entrar\u00e1n en vigor, probablemente el a\u00f1o pr\u00f3ximo.<\/p>\n\n\n\n

Tambi\u00e9n quiero referirme en este aspecto a los problemas que generan los deepfakes en relaci\u00f3n a las pruebas e informes periciales. Es otra cuesti\u00f3n relevante que debemos resolver para poder utilizar fotograf\u00edas, audios y videos como prueba en juicio.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Por la experiencia que tiene en grupos de trabajo sobre los riesgos del desarrollo y utilizaci\u00f3n de IA, \u00bfqu\u00e9 recomendar\u00eda a las empresas que usan sistemas de IA?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: En primer lugar, las empresas o instituciones que est\u00e1n invirtiendo en sistemas de IA son conscientes de las oportunidades de progreso y expansi\u00f3n que tienen, pero tambi\u00e9n, de los peligros que puede suponer para sus trabajadores y terceros.<\/p>\n\n\n\n

Estas empresas tienen que dise\u00f1ar modelos de gesti\u00f3n de riesgos y de gobernanza para que la inversi\u00f3n y uso de la IA se haga diligente y adecuadamente. En estos modelos conviene constituir un comit\u00e9 de car\u00e1cter transversal que cubra diferentes aspectos como el negocio, privacidad, compliance, financiaci\u00f3n, RRHH y, sobre todo, la \u00e9tica. Este comit\u00e9 abordar\u00e1 de manera integral todos los aspectos del sistema de IA, desde sus inicios hasta la revisi\u00f3n peri\u00f3dica de su utilizaci\u00f3n.<\/p>\n\n\n\n

Otro aspecto importante es la formaci\u00f3n de todo el personal para que utilice adecuada y \u00e9ticamente la IA.<\/p>\n\n\n\n

En segundo lugar, pienso que existe un problema pr\u00e1ctico en muchas empresas que no invierten en IA (pues son de tama\u00f1o peque\u00f1o o mediano) y no tienen identificados los sistemas de IA que utilizan sus empleados (p. ej. Chat GPT, Copilot, etc.). Esta ignorancia genera un riesgo importante en relaci\u00f3n a la privacidad, propiedad intelectual, sesgo, falta de fiabilidad, etc., que se agrava, fundamentalmente, por la imposibilidad que genera esa ignorancia para prevenir los riesgos asociados al uso de estas nuevas tecnolog\u00edas.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00bfQu\u00e9 consecuencias piensa Ud., que va a tener la IA en el empleo?<\/em><\/h3>\n\n\n\n
<\/div>\n\n\n\n

Rafael Ans\u00f3n<\/strong>: Se ha comentado mucho el impacto negativo que va a tener la IA en el empleo, sobre todo los puestos de trabajo con un contenido repetitivo, que aportan poco a la cadena de valor. Comparto esta opini\u00f3n, pero tambi\u00e9n pienso, como ha ocurrido en la historia econ\u00f3mica desde principios del s. XIX, que la IA como factor innovador generar\u00e1 nuevos puestos de trabajo. En este sentido soy optimista e intuyo que el balance ser\u00e1 m\u00e1s positivo que negativo.<\/p>\n\n\n\n

Lo que m\u00e1s me preocupa en este punto se refiere al impacto que la IA tendr\u00e1 sobre el valor de la experiencia en el mundo laboral. Es previsible que el valor a\u00f1adido que tiene un trabajador con a\u00f1os de experiencia pueda ser compensado con la capacidad de procesamiento de datos de la IA. En consecuencia, nos podemos encontrar en un escenario en el que el trabajador con poca experiencia pero que sepa usar la IA se encuentre en condiciones similares al trabajador que aporte mucha experiencia.<\/p>\n\n\n\n

Por \u00faltimo, en relaci\u00f3n a la b\u00fasqueda de trabajo, es un hecho que se est\u00e1 utilizando la IA en los procesos de selecci\u00f3n. En este nuevo escenario, ser\u00eda conveniente avanzar en transparencia para conocer los detalles de los algoritmos por si pudiera existir alg\u00fan sesgo que supusiera una discriminaci\u00f3n injusta.<\/p>\n\n\n\n

Seg\u00fan McKinsey <\/a>la IA crear\u00e1 133 millones de nuevos empleos para el 2030.<\/span> El dato que ofrece la consultora desaf\u00eda la idea de que la IA destruir\u00e1 millones de puestos de trabajo. S\u00ed ocurre con aquellos puesto de trabajo m\u00e1s repetitivos, como bien comentaba Rafael Ans\u00f3n<\/strong> en esta entrevista.<\/p>\n\n\n\n

El informe demuestra que el aprendizaje autom\u00e1tico y la tecnolog\u00eda de la IA tienen el potencial de generar nuevas oportunidades de carrera en diferentes \u00e1mbitos como inform\u00e1tica y retail.<\/p>\n\n\n\n

Para las personas que buscan empleo y para aquellos profesionales que quieran cambiar de puesto de trabajo, el adquirir habilidades en IA les abrir\u00e1 nuevos caminos.<\/p>\n\n\n\n

Seg\u00fan la consultora americana especializada en estudios de mercado, Gran View Research<\/a>, se espera que el tama\u00f1o del mercado global de la IA crezca un 37% cada a\u00f1o desde 2023 hasta 2030<\/span>.<\/p>\n\n\n\n

La postura de la Uni\u00f3n Europea, con su Reglamento de IA basado en un enfoque que prioriza la seguridad, la \u00e9tica y la protecci\u00f3n de los derechos fundamentales, parece tener sentido ante tal crecimiento, pero probablemente impactar\u00e1 en la competitividad y en la innovaci\u00f3n, que EEUU, al tener una postura menos intervencionista, domina.<\/em><\/p>\n\n\n\n

Los desaf\u00edos de la IA residen en la capacidad de equilibrar su potencial transformador con la responsabilidad \u00e9tica y la garant\u00eda de que su desarrollo beneficie a la sociedad en su conjunto.<\/em><\/p>\n\n\n\n

Entrevista por Elena Marcos<\/a><\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n