- hace 1 día
Categoría
🗞
NoticiasTranscripción
00:00Bueno, como sabéis, hoy se ha aprobado en España el primer proyecto de ley para regular la inteligencia artificial,
00:04que regularía, entre otras cosas, la generación y la difusión de los deepfakes,
00:11que son los vídeos e imágenes hiperrealistas generadas por IA a partir del rostro y la voz de personas reales.
00:18Para hablar de esto hemos invitado a Alfaro Abelena Rivas, ella es abogada experta en Derecho Digital
00:23y es la presidenta de ENATIC, que es la Asociación de Expertos Nacionales de la Abogacía Digital.
00:30Belena Rivas, ¿qué tal? Buenas noches. Bienvenida, Alfaro.
00:33Hola, buenas noches, Mara. Un placer.
00:35Mira, te agradezco mucho que nos atiendas porque tenemos muchísimas dudas en relación a este proyecto de ley
00:43y también a lo que puede regular. Porque, claro, de aprobarse definitivamente la ley en el Congreso,
00:49¿qué pasaría con la generación de estos deepfakes, o sea, de estos vídeos hiperrealistas,
00:55que estamos centrando un poco en la entrevista en eso?
00:58Mira, Mara, lo primero, distinguir. En realidad lo que ha hecho el gobierno es que la prohibición de los deepfakes,
01:04no todos los deepfakes, sino los deepfakes de carácter sexual...
01:09Sí, perdón, porque podríamos traducirlo como vídeos hiperrealistas, o sea, vídeos que parecen reales.
01:15Exactamente, hiperrealistas, sí, sí. Vídeos que parecen reales, pues se prohíben los de carácter sexual
01:21referidos a menores y los de carácter sexual sin consentimiento, ¿no?
01:26Pero esto no lo ha hecho el gobierno en esta ley, sino que lo que hizo el gobierno fue negociar
01:30con otros países comunitarios la introducción de estos deepfakes que realizan, pues estas imágenes
01:38ultrarealistas de contenido sexual lo prohíben directamente en el reglamento de inteligencia artificial,
01:44que como sabes es un reglamento comunitario que aplica a toda la Unión y empezó su andadura
01:50en diciembre de 2024 y que está entrando en vigor por fases y paulatinamente. Entonces
01:56el gobierno lo que negoció, como digo, es que quedaran prohibidos dentro de otra serie
02:02de actividades y otra serie de sistemas de IA que quedan prohibidos dentro de la Unión
02:08Europea y para todos los países. Vale. Entonces, Belén, ¿sólo se prohíben los
02:14vídeos que tengan que ver con la pornografía o que sean de carácter sexual no autorizados?
02:22O sea, ¿sólo vídeos de carácter sexual?
02:25No, en esta ley hace muchas más cosas. La ley lo que hace es aterrizar el reglamento
02:31de la Unión Europea de Inteligencia Artificial al derecho administrativo español en definitiva,
02:37para concretar el régimen sancionador, para hablar de cuáles son las autoridades de supervisión,
02:44que no solo está la AESIA, que es la Agencia Española de Supervisión de la Inteligencia
02:49Artificial, sino que también estará la Agencia Española de Protección de Datos para aquellos sistemas
02:53de IA que vulneren datos personales. También estará el Banco de España para aquellas IAS
02:58de servicios financieros, etcétera.
03:01Todo lo relacionado con la inteligencia artificial que se vigile, pero en vídeos solamente se
03:08prohíben estos sexuales.
03:10Exactamente. Como prohibición, solo los vídeos sexuales. Así es.
03:15¿Y qué pasa si, por ejemplo, un vídeo no es de carácter sexual, pero a mí me compromete?
03:23Estamos pensando, por ejemplo, en lo que le pasó a Manolo García hace unos días, ¿no?
03:28Sí.
03:28Él estaba en un concierto en Montjuic y entonces de repente se lanzó al público, tuvo una caída
03:33y aparecieron un montón de vídeos generados con inteligencia artificial, como si el cantante
03:38estuviera retorciendo eso de dolor, ¿no? O sea, horribles. Que no quiero que oigamos en el
03:42programa porque yo no quiero que seamos cómplices de ese tipo de vídeos. Pero bueno, ya contándolo
03:48lo imaginamos. O sea, ¿eso sí que se puede seguir haciendo?
03:52Mira, no he visto los vídeos, pero me imagino que estos vídeos deben ser jocosos, deben ser
03:58así, pues similares a estos vídeos que vemos en muchos programas, que salen políticos,
04:03que salen, bueno, perfectamente, ¿no? Que parecen cada vez más, parecen ellos mismos,
04:09¿no? Porque la ley, bueno, empezar diciendo que más hay de la prohibición de los deepfakes
04:15sexuales, como decíamos, los deepfakes están autorizados, pero se han de señalizar, ¿no?
04:20O sea, de saber que cuando nos muestran unas imágenes o un contenido creado por IA, nos lo
04:26tienen que decir, igual que cuando interactuamos con una IA. Nos tienen que avisar. Y aquí lo que
04:31propone la ley, lo que ha hecho el gobierno en el proyecto de ley, que ahora tiene que
04:36pasar toda la tramitación parlamentaria, lógicamente, es que se tienen que poner unas
04:41marcas de agua por transparencia, ¿no? Este principio de transparencia, que no viene de
04:45la ley, sino que ya viene del reglamento europeo, lo que exige es que se marque, y parece
04:51que será con las letras AI en inglés, ¿no? AI, para que nos indique que esto está creado
04:57con IA. Pero, ¿qué pasa? Que hay excepciones en la ley, ¿no? No en la ley esta española
05:03nueva, sino el reglamento de inteligencia artificial, que dicen que cuando un contenido está sometido
05:08a control editorial, es decir, pues hay un editor responsable de esos contenidos, no hace
05:15falta, no es necesario señalar que está generado por IA.
05:21No entiendo esta parte, Belén, por favor, explícamela un poco mejor. Si, por ejemplo, yo hago
05:27este vídeo de Manolo García, pero pongo, y en un programa de televisión sale el vídeo,
05:33pero pone que está creado por inteligencia artificial, eso no es delito. Pero no necesito
05:38ponerlo si hay un editor.
05:41Si hay una responsabilidad editorial detrás, no necesitas ponerlo. De hecho, ves en muchas
05:45cadenas de televisión que nos está poniendo, acogiéndose a esa excepción. De todas maneras,
05:51las buenas prácticas recomiendan que siempre se ponga la marca, ¿no? Se señalice ese informe
05:56que está generada por IA.
05:58Claro. O sea, si yo tengo un programa de televisión, por ejemplo, y quiero meter unos vídeos de un
06:02famoso para hacer una cosa satírica, ¿no? Eso, como hay un responsabil editorial que es
06:09mi cadena o el propio director del programa, no necesito explicitarlo.
06:13Y fíjate que hay más capas de complejidad, ¿eh? Porque hay más matices, ¿no? Cuando
06:18este uso responda a usos humorísticos y cuando sea evidente que está tratado con
06:25inteligencia artificial, tampoco haría falta, y es una de las excepciones, como digo, del
06:29reglamento, tampoco haría falta decir que eso está generado por IA. Y te añado otra cosa
06:34más. Cuando se trata de personajes famosos y relevantes, por decirlo así, tienen alguna
06:41obligación adicional que soportar, ¿no? En cuanto a esto les pasa a los políticos, les
06:46pasa a personas relevantes, ¿no? Así las personas, digamos, privadas, ¿no? Ahora bien,
06:51todo esto, como siempre, el resto de leyes siguen vigentes, ¿no? Y tenemos una ley civil, ¿no?
06:57De responsabilidad civil sobre el derecho al honor, a la propia imagen, intimidad familiar
07:02y personal, etcétera. Claro, claro. Y si este señor o cualquier otra persona entiende
07:07que se daña su imagen, entonces sí que puede, por descontado, bueno, pues...
07:13Bueno, denunciar o intentar... Ah, vale, vale, vale, sí.
07:16Dependiendo de cada ámbito, ¿no? Si se trata de un tema civil, pues puede poner una demanda,
07:22sí, sí, sí. Si hay un tema penal que pueda haberlo, ¿no? Sobre todo relacionado, pues como
07:26decíamos, con defects sexuales en niños, que sería... Podría ser pornografía infantil,
07:33entonces, bueno, pues que hay que acudir a la fiscalía, etcétera, etcétera, ¿no?
07:37Dependiendo del ámbito, si es civil o es penal.
07:39Sí, sí, pero vamos, lo voy entendiendo ya perfectamente y espero que nuestros siguientes
07:43también. La ley regularía, como explicas, ¿no? El uso de la inteligencia artificial para
07:48vídeos pornográficos o sexuales, especialmente los que tengan que ver con menores. Pero,
07:54claro, por otra parte, tú puedes utilizar inteligencia artificial porque también eso
07:59da alas a tu libertad creativa. Si de repente, ¿no? Si no sería, se cortarían las alas al
08:05humor, a la sátira... Lo que pasa es que por encima de esa ley están luego las leyes que
08:10nos protegen, los derechos fundamentales, como estás contando, el derecho a la intimidad,
08:14al honor...
08:16Es que todas las leyes tradicionales siguen vigentes, solo faltaría. En el online, como
08:21decimos siempre, no hay menos derechos que en el offline o en el mundo real. No puede
08:28haberlos. Lo que ocurre es que muchas veces los derechos, digamos, tradicionales se tienen
08:34que ver a la luz de los nuevos derechos digitales, ¿no? Que es la traslación o la interpretación
08:39de los derechos fundamentales de toda la vida a las especificidades del mundo digital, ¿no?
08:44Y hay también nuevos derechos que se proponen, como los derechos frente a la inteligencia
08:49artificial, que no estaban al tiempo de redactarse a la Constitución, ¿no? Por razones
08:54evidentes.
08:56¿Y qué derechos son esos? O sea, ¿un derecho contra la inteligencia artificial?
09:00No, frente a la inteligencia artificial. ¿Cuál sería?
09:03Sí, pues por ejemplo, el derecho de la no discriminación, ¿no? Que los resultados de esa
09:08inteligencia artificial, por ejemplo, que me les aplica un banco a la hora de concederme
09:12o no una hipoteca, no incluya en ese algoritmo, pues algún elemento que a mí me pueda discriminar,
09:21¿no? Que no se incluyan sesgos. La obligación también de que haya una persona revisándola.
09:27El concepto este del human in the loop, ¿no? De que siempre haya una supervisión humana,
09:31de que los resultados de la IA no los demos por buenos necesariamente, ¿no? Y sobre todo,
09:36pues desactivar estos posibles sesgos que, como sabes, pueden llevar a discriminación.
09:42Y, en definitiva, vulneración de derechos fundamentales. Volvemos a lo básico, que son
09:45los derechos fundamentales, ¿no? Y que la inteligencia artificial, pues si no ponemos estos
09:52guardarraíles, es una tecnología tan potente, ¿no? Que se puede aplicar y está permeando
10:00a tantos ámbitos de la vida que ponemos salvaguardas mínimas o realmente se nos lleva
10:06por delante, ¿no?
10:07Volviendo un poco a lo de Manolo García, ¿no? Cuando decíamos que no queríamos poner
10:12el sonido de los vídeos hiperrealistas, los deepfakes, porque no queremos alimentar
10:18las visualizaciones. Claro, hay una parte que es la monetización de estos vídeos.
10:26Yo cuelgo un vídeo que hace gracia, no me importa lo que piense Manolo García, porque
10:31cada persona que haga clic, al final, a mí me está forrando. Entonces, claro, Manolo
10:36García podría poner una denuncia, pero ¿a quién se la pone? A la persona que ha
10:40creado el vídeo. Ponemos a Manolo García porque acaba de ocurrir lo suyo, ¿no? Pero
10:44hay mil casos más. Pero se lo pone a quien ha creado el vídeo, a la plataforma que lo ha
10:51explotado, a toda la gente que ha dado a ver, o sea, ¿cómo lo hace? No, por lo último
10:57no iría, porque esto es más complicado. Por ejemplo, si puede averiguar en ocasiones
11:01lo que pasa con las plataformas, ¿no? Es que la identidad de la persona que comparte
11:06esos contenidos no es conocida, ¿no? Y se ocultan tras alias, etcétera. Pero si puede
11:12llegar a conocer la identidad de la persona o las personas que han hecho estos deepfakes
11:18y él entiende que se le ha dañado en su derecho al honor, como estábamos comentando,
11:23puede denunciar por descontado. Eso para empezar, ¿no? Y eso sería una denuncia en el ámbito
11:27civil. Pero es que también puede ir hacia las plataformas, ¿no? De hecho, tenemos
11:32legislación comunitaria también, el Digital Services Act, la DSA o reglamento de servicios
11:40digitales que obliga a todas las plataformas a ofrecer sus servicios de manera segura, o sea,
11:48servicios seguros y que, bueno, pues no se carguen por hablar así en estos términos los derechos
11:57fundamentales, ¿no? No tienen obligación, porque es una pregunta que nos hacen muchas veces los
12:01clientes, no tienen obligación de supervisar los contenidos sistemáticamente. ¿Por qué?
12:07Porque las plataformas, en cuanto que son plataformas, no son responsables de la creación de los
12:14contenidos. Ahora bien, cuando hay una persona física, una entidad o una autoridad que les está
12:21reclamando, pues, bajar o retirar esos contenidos, entonces tienen que llevarlo a cabo, ¿sí? No tienen
12:28obligación general de supervisión. De revisarlos habitualmente, pero si alguien lo solicita, tienen que
12:32estudiarlos y si pide su retirada y efectivamente se vulnera algún derecho, tienen que retirarlos.
12:37Efectivamente, efectivamente. Y tienen que estar también al tanto de cualquier medida que les pueda
12:42imponer la Comisión Europea o las diferentes autoridades de los países miembros. O sea, que hay
12:48maneras, ¿eh? Lo que ocurre es que, bueno, esta norma pues es bastante nueva, es del año 22, tenemos las
12:54primeras resoluciones sancionadoras, bueno, una en la plataforma X antigua Twitter, por varios millones
13:04de euros, etcétera, y estamos ahora en los primeros, digamos, protestos sancionadores, pero va a haber
13:10más, ¿no? Porque las plataformas tienen que ser seguras. Claro, podríamos decir, hay que ir paso a paso, pero es
13:14que va tan
13:15rápido, lo otro que verdaderamente hay que darse prisa. Pero bueno, yo creo que esta ley, que tiene todavía
13:22que pasar el trámite parlamentario para aprobarse definitivamente, pero va a dejar tranquilos a los
13:27padres y madres que están preocupados porque, bueno, a los menores, ¿no? Que están preocupados porque de repente el
13:33graban un vídeo en el instituto o en el colegio a una de sus hijas o hijos y de repente
13:38esto se
13:38dispare. Un vídeo pornográfico manipulado con inteligencia artificial, ¿no? Y entonces verdaderamente
13:44que la prohibición, que esto sí que se prohíba, es un paso muy importante. Yo creo que por lo menos
13:48en
13:48esa parte vamos a poder estar un poco más tranquilos. Y luego déjame comentar, si me permites, también que hay
13:55una herramienta que funciona muy bien en España, que es una herramienta de la Agencia Española de
14:01Protección de Datos que también, bueno, se llama canal prioritario y donde también podemos acudir
14:07para que nos retiren contenidos que entendamos, bueno, que nos vulneran nuestros derechos a
14:15la imagen y en particular contenidos que puedan ser delictivos y contra las menores. Esta plataforma
14:21funciona muy, muy bien. Y ahí, bueno, están las estadísticas de la Agencia Española de
14:26Protección de Datos que es pionera en esta cuestión, con lo cual a los clientes en ocasiones
14:31también les decimos esto en primer lugar para conseguir la retirada de esos contenidos
14:36cuanto antes, porque ya sabes que cuando se empiezan a difundir el riesgo es la pérdida
14:43de control, ¿no?
14:44Exacto, se multiplica vertiginosamente, claro, claro.
14:46Claro, y van a parar un servidor pues que ya no conocemos o van a parar la web, entonces
14:54cuanto antes ataquemos la cuestión mejor.
14:57Belena Rivas, abogada experta en derecho digital y presidenta de ENATIC, Asociación de Expertos
15:02Nacionales de Abogacía Digital. Muchas gracias por estar este ratito aquí en El Faro.
15:05Muchas gracias a vosotros, un placer, buenas noches.
15:08Gracias.
Comentarios