{"id":8499,"date":"2024-11-12T09:53:58","date_gmt":"2024-11-12T08:53:58","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8499"},"modified":"2024-11-12T11:14:21","modified_gmt":"2024-11-12T10:14:21","slug":"la-regulacion-de-los-deep-fakes-se-pueden-poner-puertas-al-campo","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/la-regulacion-de-los-deep-fakes-se-pueden-poner-puertas-al-campo\/","title":{"rendered":"La regulaci\u00f3n de los Deep Fakes. \u00bfSe pueden poner puertas al campo?"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el segundo art\u00edculo quincenal de nuestra saga sobre el Reglamento Europeo de Inteligencia Artificial<\/a><\/strong> (RIA), escritos por expertos en cada materia del Bufete Mas y Calvet<\/a> <\/strong> (laboral, penal, educaci\u00f3n, mercantil, protecci\u00f3n de datos, tecnolog\u00eda, constitucional, procesal civil)<\/strong>, que, con un car\u00e1cter divulgativo y pr\u00e1ctico, ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan la actividad y organizaci\u00f3n de las empresas y a las personas en el d\u00eda a d\u00eda.<\/p>\n\n\n\n

Este segundo art\u00edculo de Rafael Ans\u00f3n Peironcely<\/a><\/strong>, Socio del Bufete Mas y Calvet<\/a><\/strong> y coordinador de esta saga, est\u00e1 de plena actualidad y se titula: La regulaci\u00f3n de los Deep Fakes. \u00bfSe pueden poner puertas al campo?<\/strong><\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n
\n
\"\"<\/figure>\n<\/div>\n\n\n
<\/div>\n\n\n\n
\n\n\n\n

El Reglamento Europeo de Inteligencia Artificial<\/a> (en adelante, RIA) define la \u201cultrasuplantaci\u00f3n\u201d (en ingl\u00e9s \u201cDeep Fake\u201d) como \u201cun contenido de imagen, audio o v\u00eddeo generado o manipulado por una Inteligencia Artificial (en adelante, IA) que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar err\u00f3neamente que son aut\u00e9nticos o ver\u00eddicos\u201d (art. 3. 60).<\/strong> <\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Se trata de producciones sint\u00e9ticas con un alt\u00edsimo grado de realismo que pueden afectar negativamente a personas y al inter\u00e9s p\u00fablico. No se trata solo de im\u00e1genes o escenas de contenido sexual sino de cualquier otro cuyo contenido puede afectar\/manipular a la opini\u00f3n p\u00fablica en cualquier \u00e1mbito. Por ejemplo, un pol\u00edtico reconociendo que la propuesta del partido contrario es mucho mejor que la suya; el CEO de una compa\u00f1\u00eda comiendo en un lujoso restaurante con un conocido traficante de drogas; un grupo de violentos seguidores de un equipo de f\u00fatbol que invaden el campo y agreden a los jugadores del equipo rival, \u2026<\/p>\n\n\n\n

Los contenidos de estas producciones se refieren a im\u00e1genes (p. ej., fotograf\u00edas), sonidos (p. ej., conversaciones), videos con sonido o textos (p. ej., noticias escritas). Por otro lado, pueden ser (i) manipulados por la IA<\/strong>, es decir, cuando el usuario ha aportado documentos previamente, o (ii) generados por la IA<\/strong>, es decir, cuando la IA ha utilizado los datos de los que dispon\u00eda, sin que el usuario haya aportado documentos.<\/p>\n\n\n\n

Los Deep Fakes<\/strong> afectan fundamentalmente al derecho al honor, la intimidad y la propia imagen, as\u00ed como al derecho a una informaci\u00f3n veraz. El RIA establece un nuevo sistema preventivo para evitar la conculcaci\u00f3n de estos derechos. Para ello, regula unas obligaciones de transparencia dirigidas a dos tipos de sujetos: los proveedores de sistemas de IA (personas f\u00edsicas o jur\u00eddicas que desarrollen un sistema de IA o un modelo de IA) y los responsables del despliegue (personas f\u00edsicas o jur\u00eddicas que utilicen un sistema de IA bajo su propia autoridad).<\/p>\n\n\n\n

Respecto a los primeros, es decir, los proveedores de sistemas de IA<\/strong>, se establece que deben velar por que los resultados de salida del sistema de IA est\u00e9n marcados en un formato legible por m\u00e1quina y que sea posible detectar que han sido generados o manipulados de manera artificial (art. 50.2<\/a>). Esta obligaci\u00f3n no se aplicar\u00e1 si los sistemas de IA se limitan a apoyar la edici\u00f3n est\u00e1ndar o no alteran sustancialmente los datos de entrada facilitados por el responsable del despliegue o su sem\u00e1ntica, o cuando est\u00e9n autorizados por la ley para detectar, prevenir, investigar o enjuiciar delitos.<\/p>\n\n\n\n

En cuanto a los responsables del despliegue de un sistema de IA, deben hacer p\u00fablico que esos contenidos o im\u00e1genes han sido generados o manipulados de manera artificial (art. 50.4<\/a>), es decir, deben llevar como una \u201cmarca de agua\u201d que advierta que son Deep Fakes. T\u00e9cnicamente ser\u00e1n diferentes seg\u00fan se trate de una imagen, un sonido (p. ej., una conversaci\u00f3n), un video o un texto. Si el contenido es parte de una obra creativa, sat\u00edrica o similar, esta obligaci\u00f3n se limitar\u00e1 a advertir que se trata de un contenido generado o manipulado artificialmente de manera que no dificulte la exhibici\u00f3n o disfrute de la obra. \u00a0<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n