00:01Uno de los riesgos importantes que tiene la inteligencia artificial
00:04son todo el tema de la supratación de identidad y los deepfakes,
00:08que cada vez son mejores, son más difícilmente detectables.
00:12Se puede ganar mucho dinero con la desinformación.
00:14El algoritmo puede que no premie de por sí que tú mientas,
00:18pero premia muchas cosas que están en los vidrios de desinformación.
00:21Las redes sociales son polarizantes y son fascistas por naturaleza.
00:27Y la IA es un efecto multiplicador.
00:40Estas dos imágenes fueron tomadas en el mar de Ceuta la primera semana de agosto.
00:44Una de ellas está manipulada por la IA y la otra es real.
00:50¿Y esta otra imagen que se viralizó los primeros días de agosto?
00:53¿O este vídeo de militares españoles siendo atacados en la ciudad autónoma?
00:58¿Cómo somos capaces de distinguir un contenido generado por inteligencia artificial de uno real?
01:05Esta crisis, como otras muchas, ha dado lugar a imágenes y vídeos falsos,
01:10muchas veces generados por la inteligencia artificial y viralizados gracias a las redes sociales.
01:16Situaciones socialmente sensibles, idóneas para viralizar los discursos de odio y aumentar la polarización.
01:22La ultraderecha ha encontrado en la IA una poderosa herramienta de propaganda para manipular las narrativas y situar la historia
01:30a su favor e incluso inventarla, como hace de forma compulsiva el presidente de los Estados Unidos, Donald Trump, a
01:37través de su red social.
01:41La ultraderecha utiliza sobre todo la inteligencia artificial por temas propagandísticos.
01:46Desde la creación de influencers falsos, mujeres rubias, guapísimas, vestidas de militar que defienden el trumpismo en Estados Unidos.
01:54También la ultraderecha es muy hábil utilizando bots en redes sociales para crear falsos climas de opinión pública.
02:03Acelera clarísimamente la desinformación, por un lado porque las herramientas digitales son capaces de publicar 24-7 a la velocidad
02:10del rayo.
02:11Son capaces de adaptarse no solamente al tiempo real sino también hacer micro-targeting en cuanto al usuario que consume
02:19esa información y esto la ultraderecha lo utiliza mucho más que la izquierda y que la ultraizquierda en general porque
02:25la ultraderecha, como se ha ido viendo en los últimos años, es mucho menos ética con el tratamiento de la
02:32información que no la izquierda en este caso.
02:35La ultraderecha ganadora en las recientes elecciones de Sajon y Anjal con el 44% de los votos ha utilizado
02:42en su campaña electoral influencers falsos pidiendo el voto.
02:46También la IA distorsiona hechos históricos como el nazismo o el franquismo, como así lo asegura este diputado de Vox
02:53en el Congreso de los Diputados.
02:55Y gracias a las redes sociales muchos jóvenes están descubriendo que la etapa posterior a la guerra civil no fue
03:00una etapa oscura como nos vende este gobierno, sino una etapa de reconstrucción, de progreso y de reconciliación para lograr
03:07la unidad nacional.
03:08TikTok, la red social de origen chino centrada en crear, editar y compartir vídeos cortos con más de 2.000
03:15millones de usuarios mensuales, difunde vídeos que manipulan la historia y utilizan fragmentos fuera de contexto, datos falsos o relatos
03:24tendenciosos diseñados para volverse virales.
03:27¿Qué persiguen y qué objetivo tienen estos vídeos en TikTok que son de vista rápida cuando manipulan la historia así?
03:33Bueno, muchas veces de lo que se trata es de ganar dinero. Si tú tienes muchas visitas en un vídeo,
03:39pues puedes llegar a ciertos límites en que la plataforma te pague por todo el negocio, digamos, que tú le
03:44llevas.
03:44En una investigación, de repente vimos una red de cuentas que tenían casi 89 millones de visualizaciones en los vídeos
03:51y era gente que se dedicaba a crear manifestaciones en 18 países del mundo.
03:56Y ese tipo de contenido que, lo que tú dices, de consumo rápido pasa un poco sin pena ni gloria,
04:00pero si tú consigues la suficientemente atención te puede ganar dinero.
04:05Se tiende a favorecer o tiende a viralizarse aquella información que es violenta y que polariza. Por lo tanto, ya
04:11en sí mismo, las redes sociales son polarizantes y son fascistas por naturaleza.
04:18Si el fascismo depende del miedo y depende de la polarización, el nosotros contra los otros, es decir, contra los
04:25débiles, los inmigrantes, las diferentes identidades que encontramos en la sociedad, la red social es perfecta para esto.
04:32Oficialmente, TikTok solo monetiza en varios países, como Estados Unidos, Alemania, Japón, Corea del Sur o Francia.
04:39Pero en realidad da igual, porque esta red social, como otras muchas, hace pocas preguntas cuando abres una cuenta.
04:46Una vez que pasas de un límite de 10.000 seguidores y vives en un país concreto y produces vídeos
04:51de más de un minuto, te van a empezar a pagar por el consumo de esos vídeos.
04:55¿Quién está detrás de estos vídeos, por ejemplo?
04:57Claro, muchas veces detrás de la desinformación hay alguien que tiene un objetivo político.
05:01Todo el mundo tiene voz, pero todo el mundo puede hacer un uso de esa voz completamente fraudulento, comunicando desinformación
05:08o con un tono o con un mensaje muy violento.
05:11Difundir desinformación, confundir a los ciudadanos o incluso dañar la imagen institucional.
05:17También la Policía Nacional se ha visto afectada por las imágenes alteradas por la inteligencia artificial.
05:27Laura, ¿esta mujer es portavoz de la Policía Nacional?
05:32No. Este es un perfil que se detectó que era falso. Se suplanta la personalidad, en este caso, de una
05:38policía para dar contenido o para suplantar una imagen muy potente, que es la de la Policía Nacional.
05:44Y este contenido es perjudicial, lo primero, porque no es contenido adecuado y lo segundo, porque la imagen que se
05:49da a la policía no es la que la institución quiere mostrar a la ciudadanía.
05:53¿Cuál es la amenaza de la inteligencia artificial?
05:55Bueno, la inteligencia artificial es una tecnología muy disruptiva, quizá la más disruptiva que ha habido en los últimos años.
06:02Obviamente es una amenaza, porque desde el punto de vista de la inteligencia artificial ofensiva, pues supone una vulnerabilidad de
06:08los sistemas.
06:09Y nosotros, como institución pública, tenemos que proteger nuestras infraestructuras críticas y nuestros sistemas.
06:15Danny Bones es el rapero británico ficticio generado completamente por IA, conocido por ser el primer influencer digital de extrema
06:22derecha en el Reino Unido.
06:28Este personaje fue creado como una herramienta de propaganda política y difusión de discurso de odio por el partido de
06:34ultraderecha británico Advance UK.
06:37Este es el objetivo, influir en los ciudadanos a la hora de distinguir con certeza si lo que ven, leen
06:43o escuchan es real, y así influir cuando hay un proceso electoral.
06:48Son tecnologías que tienden a mejorar mediante la centralización de la información.
06:54Por lo tanto, es antidemocrática por naturaleza.
06:56Sí que nos preocupa todo ese contenido masivo que se puede introducir en redes sociales y que puede hacer cambiar
07:03o polarizar o cambiar la intención de Botón.
07:05Yo no estoy en contra de la IA en su conjunto, creo que tiene propiedades muy positivas en un escenario
07:10muy incipiente de su desarrollo tecnológico,
07:14pero por lo que estamos viendo, estamos en un punto donde su sofisticación claramente está siendo un peligro para la
07:21humanidad.
07:21Herramientas como la inteligencia artificial, las redes sociales y el Big Data son utilizadas por los partidos de ultraderecha para
07:29influir en procesos electorales.
07:31¿Qué políticos están detrás? ¿Cuáles son sus tácticas?
07:35Sus caras en el próximo capítulo de la Ola Ultra.
Comentarios