Los guardianes de la verdad en la era de la inteligencia artificial

Cadena Ser

27/1/2025

Categoría

🗞

Noticias

Transcripción

Mostrar la transcripción completa del vídeo

00:00Ni por las buenas ni por las malas, aquí solamente puedo mandar soy yo, Manari.

00:06No, esta voz que acabas de escuchar no es la de Nicolás Maduro.

00:10A pesar de que sea muy parecida a la del presidente de Venezuela,

00:13ha sido generada por la inteligencia artificial con el objetivo de desestabilizar

00:17el panorama político venezolano.

00:19A lo largo de estos últimos 12 meses, en las que más de 3.700 millones de personas

00:24han sido llamadas a las urnas, hemos sido testigos de numerosos deepfakes,

00:29una serie de contenidos creados por inteligencia artificial

00:32que tenían como objetivo erosionar la confianza pública.

00:35Hemos podido ver a un clon de Joe Biden pidiendo a sus votantes que no acudieran a las urnas,

00:40a Donald Trump alterando la imagen de artistas como Taylor Swift para atraer el voto de sus seguidoras,

00:45o a Claudia Seinbaum promocionando productos financieros cuanto menos sospechosos.

00:50Presento oficialmente la plataforma financiera para los mexicanos,

00:54donde cada mexicano garantiza ganar 120.000 pesos al mes.

00:58La inteligencia artificial avanza a un ritmo vertiginoso,

01:01creando contenido cada vez más realista y accesible para todo el mundo.

01:05Y esto está aumentando el riesgo de desinformación, de fraude y de suplantación de identidad,

01:10tal y como nos cuenta Daniel Palacios del Río, marketing manager de Softech.

01:14Estas tecnologías permiten crear contenido audiovisual extremadamente realista,

01:19lo que dificulta la distinción entre lo real y lo falso.

01:22Esto puede ser utilizado para propagar noticias falsas, manipular opiniones públicas,

01:28influir en elecciones o dañar la reputación de individuos y organizaciones.

01:32Sin una intervención adecuada podríamos enfrentar una crisis de confianza en los medios de comunicación,

01:38las redes sociales y hasta en las instituciones públicas,

01:41ya que la veracidad de cualquier contenido será constantemente cuestionada.

01:46¿Y qué estamos haciendo para hacer frente a los deepfakes?

01:48Uno de los proyectos más relevantes a nivel internacional

01:51es el propuesto por la Coalición para la Procedencia y Autenticidad del Contenido,

01:55una alianza compuesta por las compañías tecnológicas más relevantes a nivel internacional

01:59que propone incluir una serie de metadatos en cada contenido para que podamos conocer su origen.

02:04Una especie de etiqueta invisible que nos permitirá trazar el contenido que estemos consumiendo

02:09y saber quién es su responsable y qué tipo de herramientas ha utilizado durante su elaboración.

02:13Una gran idea que, sin embargo, requiere de un consenso global que no termina de llegar,

02:19principalmente por la complejidad técnica para implementar este estándar en todo el mundo,

02:23también por los intereses comerciales que podrían frenar la colaboración

02:26o por las diferencias legales entre países.

02:29En el plano ético surge la cuestión del equilibrio entre la privacidad y la seguridad.

02:33Por ejemplo, algunas soluciones implican el uso masivo de datos personales

02:38para entrenar algoritmos que detecten deepfakes,

02:41lo que puede poner en riesgo la privacidad de los usuarios.

02:44De ahí que estas empresas hayan comenzado a lanzar sus propias herramientas

02:47a la espera de un consenso mundial.

02:49Google cuenta con Science ID, que identifica y marca contenido generado por inteligencia artificial

02:54para que podamos conocer su procedencia.

02:56TruePeek desarrolló Vision, una herramienta que protege a los contenidos

03:00mediante criptografía para evitar posibles alteraciones.

03:03Y FakeCatcher analiza el flujo sanguíneo de los píxeles

03:06para determinar si un contenido es real o falso.

03:09¿Y qué se está haciendo en España?

03:11Aunque a día de hoy no nos enfrentamos a la cantidad de deepfakes que podemos encontrar en otros países,

03:15contamos con varias herramientas que nos ayudan a identificar contenido falso de inmediato.

03:19Una de ellas es Verify, una plataforma desarrollada por Telefónica

03:23que es capaz de detectar cualquier tipo de contenido generado por la inteligencia artificial.

03:27Así nos lo explica Susana Jurado, Head of Telefónica Venture Builder.

03:31Cuando estamos analizando una imagen, por ejemplo, lo que buscamos es patrones.

03:38Los típicos patrones de la propia imagen, si de repente hay una ruptura en ese patrón

03:42o si vemos algún artefacto en particular

03:45o características que son muy típicas de las imágenes generadas por IA.

03:49Funciona como pasa en el mundo de los antivirus,

03:52que lo que tienes que estar es pendiente de las diferentes herramientas que generan esos virus,

03:58cuáles son los patrones que tiene cada una de ellas y tienes que identificar, no es sencillo.

04:03Por otro lado, Verify Audio es una herramienta periodística

04:06desarrollada por Prisa para la detección de audios falsos.

04:09Según nos cuenta la CDO Radios de Prisa Media, Ana Ormaechea,

04:12el avance de la inteligencia artificial provoca que el reto sea cada vez más grande.

04:16Para el oído humano es mucho más complicado diferenciar una voz real de una voz clonada

04:23porque la tecnología cada día, pero es que además es diario como va mejorando

04:30y además sobre todo que se ha democratizado.

04:33Tú ahora mismo en software como iLevel Labs puedes clonar una voz

04:39con menos de dos minutos de una voz original y lo puedes hacer gratis o muy barato.

04:45Al igual que Verify, esta herramienta se basa en varios modelos de inteligencia

04:49que se encarga de analizar el archivo que has enviado para descubrir

04:52si es verdadero o generado por la inteligencia artificial.

04:55Te detecta digamos manipulación sobre las propias cualidades físicas del audio.

05:00Entonces hemos, bueno no hemos definido nosotros,

05:02pero algunas de las cualidades físicas que tiene un audio las hemos acotado

05:08que son pues temas desde tonalidad, frecuencia, ritmo,

05:12creo que hemos definido ocho creo que son.

05:15Entonces sobre esas variaciones te va diciendo realmente

05:19bueno si realmente ha habido una manipulación de esas cualidades o no.

05:25El año 2024 ha marcado sin duda alguna un punto de inflexión

05:29en cómo la inteligencia artificial y los deepfakes

05:31pueden influir en los procesos democráticos a nivel global.

05:34De ahí la importancia de desarrollar una resistencia tecnológica

05:37capaz de contrarrestar este tipo de contenidos falsos

05:40que tienen como objetivo desestabilizar.

05:42Necesitamos herramientas de carácter inmediato

05:44y encontrar una solución común a nivel global.

05:47Solo así y gracias a la conciencia colectiva

05:50podremos dar este paso adelante para poder impulsar estas políticas

05:54que sin duda alguna ayudarían a frenar el auge de estos deepfakes.

Recomendada