José María de Pablo, premio a la divulgación jurídica 2023
17 octubre, 2023José María de Pablo gana el Premio Confilegal a la Independencia
27 octubre, 2023Deepfake y Legislación: retos y proposición de Ley Orgánica
Actualmente asistimos a avances tecnológicos apasionantes que conllevan enormes desafíos en distintos ámbitos. Hoy hablaremos del término «Deepfake». Las Deepfakes son audios, vídeos o imágenes generados por algoritmos de aprendizaje profundo (deep learning) que reemplazan el rostro de una persona en un contenido multimedia por otro, creando una ilusión extremadamente realista que puede dar lugar a engaño.
Desde una perspectiva jurídica, plantean importantes cuestiones relacionadas con la privacidad, la propiedad intelectual y la difamación, ya que pueden utilizarse para crear contenido falso con el propósito de dañar la reputación de individuos y empresas. Las leyes varían según la jurisdicción y a menudo no están suficientemente actualizadas para abordar este problema emergente.
En este complejo panorama, las deepfakes son una tecnología que combina elementos técnicos avanzados con desafíos legales y éticos que requieren una consideración cuidadosa desde el punto de vista legal.
En torno a las Deepfakes se ha presentado una Proposición de Ley Orgánica por parte del Grupo Parlamentario Plurinacional SUMAR, objeto de esta entrevista a Rafael Ansón, Socio del Bufete Mas y Calvet, realizada por Elena Marcos, DirCom del Bufete, por la enorme relevancia que tiene la regulación de las deepfakes y el planteamiento de dicha propuesta.
PROPOSICIÓN DE LEY SOBRE DEEPFAKE
El 13 de octubre se publicó en el Boletín Oficial del Congreso de los Diputados una Proposición de Ley Orgánica de “regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial”, presentada por el Grupo Parlamentario Plurinacional SUMAR.
Antes de entrar en el contenido de la Proposición de Ley, ¿nos puede explicar qué es un deepfake?
R. A. “Efectivamente, conviene empezar por explicar este concepto. Un deepfake es una simulación de sonido, imagen o vídeo que induce al espectador a pensar que es verdad, cuando en realidad se trata de un “montaje”. No existe una definición legal de este fenómeno.
La Exposición de Motivos de la Proposición de Ley lo describe con las siguientes palabras: “las Deepfake o vídeos hiperrealistas, se definen como piezas visuales, auditivas o audiovisuales que simulan la realidad y que consiguen generar falsas imágenes y/o voces de personas. Es una tecnología que se basa en la inteligencia artificial y el Machine Learning que logra, con una apariencia hiperrealista, simular acciones realizadas por parte de dichas personas”.
Por su parte, la propuesta de modificación del Reglamento Europeo de Inteligencia Artificial, elaborada el 14 de junio pasado por el Parlamento Europeo, introduce una definición en el art. 3.1.44 en la que en la versión española se traduce deepfake por “Ultrafalsificación” y se define como “un contenido de sonido, imagen o vídeo manipulado o sintético que puede inducir erróneamente a pensar que es auténtico o verídico, y que muestra representaciones de personas que parecen decir o hacer cosas que no han dicho ni hecho, producido utilizando técnicas de IA, incluido el aprendizaje automático y el aprendizaje profundo”.
¿Le parece oportuna la presentación de esta Proposición de Ley?
R.A. “Sí, me parece muy oportuna y pienso que ha acertado SUMAR, poniendo sobre la mesa del legislador la necesidad de adoptar medidas para evitar el mal uso de los deepfakes. El reciente caso de las adolescentes de Almendralejo es un botón de muestra, y no es el único.
Es cierto, también, que la tramitación de la normativa europea sobre Inteligencia Artificial, que regulará este tema, está muy avanzada y esperemos que en breve se apruebe el Reglamento. Esa norma definirá el marco de actuación y la Proposición de Ley española tendrá que adecuarse a lo dispuesto por la norma europea. Además, en estas materias, la armonización legal internacional es muy importante para evitar la impunidad de las actuaciones ilegales desde fuera de España”.
“Pienso que se trata de un texto muy oportuno y bien estructurado, aunque debería tener en consideración las últimas novedades que se están produciendo en la negociación del Reglamento europeo sobre Inteligencia Artificial. ”
Rafael Ansón, socio del área de Derecho Mercantil del Bufete Mas y Calvet
¿Cuáles son los objetivos que se plantea la Proposición de Ley? ¿Las medidas propuestas serán eficaces?
R.A. “El objetivo fundamental es evitar los daños y perjuicios que se producen en las personas que aparecen en los vídeos y audios falsos.
La medida propuesta, en sintonía con lo que se está negociando en el Reglamento Europeo, es incluir de forma clara y destacada una advertencia en el audio o vídeo de su condición artificial o sintética, de manera que el espectador no pueda pensar que se trata de algo verdadero.
En mi opinión este es un problema importante, dado que el autor de un deepfake que actúe de buena fe es muy probable que inserte esa advertencia, pero el que no actúe de buena fe (que es quien producirá daños y perjuicios a las personas afectadas), muy probablemente no lo hará. No es fácil encontrar otra solución dada la actual limitación tecnológica”.
¿Podría resumir brevemente el contenido de la Proposición de Ley?
R.A. “La Proposición de Ley plantea la reforma de las leyes que regulan los bienes jurídicos afectados por el uso ilícito de los deepfakes.
De manera muy breve son las siguientes:
la Ley 13/2022, General de Comunicación Audiovisual, la Ley Orgánica 1/1982 de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, la Ley Orgánica 10/1995 del Código Penal, la Ley 1/2002 de Enjuiciamiento Civil, la Ley Orgánica 3/2018 de protección de datos personales y garantía de los derechos digitales, la Ley 3/1991 de competencia desleal y la Ley Orgánica 5/1985 del régimen electoral general”.
- Crecen las consultas sobre la responsabilidad mercantil y penal de los administradores de sociedades
- Empresas «zombis»: se endurecen las sanciones a sociedades inactivas
- Socio minoritario: ¿cómo le ampara la ley cuando no se reparten dividendos?
- Secreto empresarial: ¿qué impacto práctico tiene la nueva normativa?
- Lee aquí más posts sobre Derecho Mercantil
Por último, ¿cuál es su valoración del texto propuesto?
R.A. “Pienso que se trata de un texto muy oportuno y bien estructurado, aunque debería tener en consideración las últimas novedades que se están produciendo en la negociación del Reglamento europeo sobre Inteligencia Artificial.
La Proposición de Ley se basa en documentos de 2021 (como el Informe “Tackling deepfakes in European policy”) que fueron muy acertados y, de hecho, varios de los escenarios que preveían se han cumplido, pero las circunstancias y la tecnología han evolucionado desde entonces.
Una última valoración, y no por ello menos importante, es el factor internacional de la creación y difusión de los deepfakes. Por ello, hay que propiciar y unirse a otros países para que sea realmente eficaz la prohibición o penalización de los deepfakes perjudiciales para personas, pues en estos temas tecnológicos, es fácil actuar desde fuera de las fronteras de España para evitar las sanciones”.
Como reza en la página web del Incibe “en plena era de la información y las comunicaciones, somos testigos de un enorme avance en los métodos de desinformar y engañar a los usuarios. De hecho, la tecnología deepfake ha ido evolucionando hasta convertirse en una de las formas de fraude y desinformación más difíciles de reconocer a día de hoy”. Por eso es fundamental que exista una armonización legal internacional.