Gestión de riesgos de la IA en EEUU y Europa: prioridades

7 December, 2023

La gestión de riesgos de la Inteligencia Artificial en EEUU y Europa tiene objetivos similiares aunque sus prioridades son diferentes.

El Presidente Biden promulga una orden ejecutiva sobre inteligencia artificial segura y fiable

La orden ejecutiva promulgada por el presidente Biden es un paso histórico para asegurar que Estados Unidos lidere tanto los beneficios como la gestión de riesgos asociados con la inteligencia artificial (IA).

Este decreto establece nuevas normativas para garantizar la seguridad en el desarrollo y uso de la IA, proteger la privacidad, promover la equidad y los derechos civiles, defender a consumidores y trabajadores, fomentar la innovación y competencia, y fortalecer el liderazgo global en este campo.

Las acciones clave de esta orden incluyen:

– Establecimiento de normas de seguridad para la IA, exigiendo a los desarrolladores compartir resultados de pruebas de seguridad con el gobierno.

– Desarrollo de estándares y pruebas para asegurar la fiabilidad de los sistemas de IA antes de su difusión pública.

– Protección contra riesgos como la manipulación de materiales biológicos peligrosos habilitada por la IA.

– Implementación de medidas contra fraudes y engaños generados por IA, incluyendo la autenticación de contenidos.

– Creación de herramientas de ciberseguridad basadas en IA para detectar y corregir vulnerabilidades en software crítico.

– Protección de la privacidad de los ciudadanos mediante técnicas de preservación de datos y el impulso a la legislación de privacidad de datos.

– Garantía de equidad y derechos civiles, evitando discriminación algorítmica en áreas como vivienda, justicia y salud.

– Protección de consumidores, pacientes y estudiantes de posibles riesgos asociados con la IA en campos como atención médica y educación.

– Apoyo a los trabajadores mediante principios para mitigar los efectos negativos de la IA en empleos y lugares de trabajo.

– Promoción de la innovación y competencia a través de la investigación en IA, el apoyo a pequeñas empresas y el fortalecimiento de capacidades de inmigrantes altamente cualificados en el campo de la IA.

– Impulso del liderazgo estadounidense en el extranjero, colaborando con otros países para el uso seguro y responsable de la IA a nivel global.

– Establecimiento de directrices para el uso responsable y efectivo de la IA por parte del gobierno, incluyendo normas claras de protección de derechos y seguridad.

Esta orden ejecutiva busca abordar los desafíos y maximizar los beneficios de la IA, no solo a nivel nacional, sino también colaborando con otras naciones para establecer un marco internacional sólido que regule su desarrollo y uso.

Estrategia Europea de IA

Por otra parte, el enfoque de la UE con respecto a la Inteligencia Artificial se centra en la excelencia y la confianza, con el objetivo de impulsar la investigación y la capacidad industrial, garantizando al mismo tiempo la seguridad y los derechos fundamentales.

La Estrategia Europea de IA tiene por objeto convertir a la UE en un centro de excelencia mundial para la IA y garantizar que la IA esté centrada en el ser humano y sea fiable.

Este objetivo se traduce en el enfoque europeo de la excelencia y la confianza a través de normas y acciones concretas.

En abril de 2021, la Comisión presentó su paquete de IA, que incluye:

1. Comunicación sobre el fomento de un enfoque europeo de la IA;

2. Revisión del Plan Coordinado de Inteligencia Artificial (con los Estados miembros de la UE);

3. Propuesta de marco regulador sobre inteligencia artificial y evaluación de impacto pertinente.

En la Unión Europea el marco regulatorio se centra especialmente, como hemos mencionado, en proteger los derechos fundamentales de los ciudadanos mientras promueve la innovación y la competencia en el ámbito de la IA, con foco en la transparencia, la responsabilidad y la seguridad de los sistemas de IA, junto con la minimización del riesgo de discriminación.

En la última versión de la propuesta de Reglamento sobre Inteligencia Artificial realizada por el Parlamento Europeo, se recogen los siguientes objetivos específicos:

– Garantizar que los sistemas de IA comercializados en la UE sean seguros y respeten la normativa de la UE.

– Garantizar la seguridad jurídica para facilitar la inversión y la innovación en IA en la UE.

– Mejorar la gobernanza y la aplicación efectiva de la legislación de la UE de derechos fundamentales y requisitos de seguridad aplicables a los sistemas de IA

– Facilitar el desarrollo de un mercado único para aplicaciones de IA legales, seguras y fiables y evitar la fragmentación del mercado.

También se establecen 4 escenarios de riesgos de la IA, que contemplan diferentes marcos normativos: riesgo inaceptable – alto riesgo – riesgo limitado – riesgo mínimo.

UE vs USA

La UE busca establecer una normativa ética y centrada en los derechos humanos, mientras que la Orden Ejecutiva de Biden se enfoca en proteger la seguridad nacional y promover la seguridad de los ciudadanos desde múltiples frentes. Ambos enfoques comparten objetivos similares, como la protección de la privacidad y la promoción de la equidad, pero difieren en cuanto al enfoque, reflejando las necesidades y prioridades distintas de las dos potencias.

El Reglamento Europeo sobre Inteligencia Artificial (IA) garantiza la seguridad y los derechos fundamentales con innovación y refleja el interés de la UE en abordar los desafíos éticos y sociales asociados con la IA.

“En el Bufete Mas y Calvet estamos siguiendo de cerca el desarrollo de las negociaciones para la redacción final del Reglamento Europeo sobre la Inteligencia Artificial para así prestar un asesoramiento adecuado y actualizado. Apreciamos especialmente el interés por parte de nuestros clientes en dos temas: Primero, en cómo incorporar la Inteligencia Artificial de manera segura a sus negocios. Y, segundo, qué responsabilidad tienen los administradores en la implantación de la Inteligencia Artificial en sus empresas”. Rafael Ansón Peironcely.

Rafael Ansón, Doctor en Derecho, Socio del Bufete Mas y Calvet.