- hace 2 horas
- #tecnologia
- #ia
- #deepfake
- #cine
- #futuro
¿El mundo se está volviendo un paraíso para los deepfakes y la IA? En este video te contamos historias locas de actores revividos digitalmente, voz y rostro falsos, y hasta errores épicos de los algoritmos. ¿Podrá la IA superar a los humanos? ¡No te lo pierdas! Suscríbete para más contenido sorprendente y cuéntanos en los comentarios qué parte te impactó más. #tecnología #IA #deepfake #cine #futuro
👉 Este canal es realizado en colaboración con https://www.youtube.com/@kramola_online
0:00 - Introducción y avances en deepfakes
0:46 - Ejemplos en cine y dilemas éticos
2:18 - Deepfakes en celebridades y voz
2:43 - Amenazas y detección de deepfakes
3:55 - Redes neuronales y ambición corporativa
5:36 - Límites y errores de la inteligencia artificial
7:54 - Datos sintéticos, ataques y consecuencias
9:24 - Desafíos, futuro y reflexión sobre la IA
👉 Este canal es realizado en colaboración con https://www.youtube.com/@kramola_online
0:00 - Introducción y avances en deepfakes
0:46 - Ejemplos en cine y dilemas éticos
2:18 - Deepfakes en celebridades y voz
2:43 - Amenazas y detección de deepfakes
3:55 - Redes neuronales y ambición corporativa
5:36 - Límites y errores de la inteligencia artificial
7:54 - Datos sintéticos, ataques y consecuencias
9:24 - Desafíos, futuro y reflexión sobre la IA
Categoría
🤖
TecnologíaTranscripción
00:00Parece que nuestro mundo se está convirtiendo cada vez más en un paraíso falso, o un paraíso
00:05para lo falso. La Mona Lisa cobra vida, Brad Pitt se convierte en Terminator, o Tom Cruise,
00:12o Sylvester Stallone. Por supuesto, todo comenzó con contenido para adultos, pero ahora ya están
00:18modificando a los actores para que hablen con la mímica del doblaje en otros idiomas. Es decir,
00:23usando redes neuronales sintetizan los movimientos de los labios y los músculos faciales.
00:32Claro, a veces parece que la parte inferior de la cara simplemente se fue a vivir a aborones y lleva
00:38una vida aparte con hijos e hipoteca. Pero cualquier tecnología al principio es imperfecta, y luego
00:43poco a poco se perfecciona y puede llegar a ser así de buena.
00:53En la industria del cine, esto no es ninguna novedad. En 2019 se estrenó el noveno episodio
00:59de La Guerra de las Galaxias. En la lista de actores aparecía Carrie Fisher, quien ya había
01:04fallecido en ese momento, pero su personaje apareció en la película a pesar de la muerte
01:08de la actriz. El público recibió la cinta con frialdad. Un ejemplo de deepfake que se considera
01:13más exitoso es la aparición en Rápidos y Furiosos 7 de Paul Walker, quien ya había fallecido en ese
01:18momento. El actor murió en un accidente automovilístico antes de terminar el rodaje. Su muerte repentina obligó a
01:24reescribir el guión y a terminar la película de una manera especial. En lugar de Paul, las escenas
01:30restantes las interpretó su hermano menor, Cory Walker. Pero si un programa permite revivir a
01:36leyendas del cine, ¿realmente se necesitan nuevos actores? ¿Y tal vez ahora sea obligatorio incluir en
01:41el testamento un permiso o prohibición para usar su imagen en el futuro? Después de todo, los conciertos
01:47con artistas ya fallecidos no son una novedad. En lugar de Tupac Shakur, un holograma. Lo revivieron
01:53sin permiso y se llenaron los bolsillos de dinero por las entradas vendidas. ¿Quién puede disponer del
01:59rostro de una celebridad en ese caso? Es muy posible que dentro de algún tiempo, las estrellas transfieran
02:04los derechos sobre su identidad a sus familiares cercanos. Entonces, al menos, hay alguna posibilidad
02:10de que, después de la muerte, no tengan que participar en proyectos que no te habrían gustado en vida.
02:18Tom Cruise, probablemente, se ha convertido en uno de los blancos más populares para este tipo de videos.
02:23Los políticos también se ven reales en los deepfakes. No solo cambia la apariencia, sino que ya es común
02:28que la voz también sea modulada.
02:30Nuestros ingenieros entrenaron una red neuronal para hablar con diferentes voces.
02:34Ahora se puede copiar absolutamente cualquier voz y decir lo que sea con ella. Esto en realidad
02:39es sorprendente, aunque también un poco aterrador.
02:42En Estados Unidos se considera que los deepfakes representan una amenaza para la seguridad nacional.
02:48En California, incluso prohibieron por ley ciertos tipos de deepfakes. Los gigantes tecnológicos
02:53están desarrollando detectores de deepfakes, entrenando algoritmos que puedan identificar
02:57de manera efectiva los videos falsificados. Recientemente, Facebook, del que hablaremos más adelante,
03:03organizó el Deepfake Detection Challenge, un concurso para el mejor programa de detección de deepfakes.
03:08El fondo de premios fue nada menos que de 10 millones de dólares. El programador de Minsk,
03:13Selim Seferbekov, que por cierto obtuvo el primer lugar, recibió 500 mil dólares Rusia,
03:19tampoco se queda atrás. Así, en febrero de 2021, el Ministerio del Interior de Rusia anunció un
03:25concurso para crear un detector eficaz. La suma inicial del contrato es de 4.8 millones de rublos.
03:31El nombre en clave del sistema es Espejo Camello, para que nadie lo adivine. Un algoritmo similar fue
03:38desarrollado por científicos de la Universidad de Búfalo. Supuestamente tiene una precisión del
03:4294%, detecta los deepfakes por los reflejos en los ojos. Pero eso no durará mucho. Pronto llegará el
03:49turno de los reflejos realistas en la córnea, ya que el campo del aprendizaje automático está avanzando
03:54muy rápido. Por ejemplo, el algoritmo Big Gun de Google y NVIDIA no solo permite reemplazar,
03:59sino también crear rostros de personas que no existen y que son imposibles de distinguir de los
04:04reales. La mayoría de las veces, los deepfakes se crean utilizando una llamada red generativa
04:10antagónica o GAN. En ella hay dos sistemas, el generador y el discriminador. Funcionan como dos
04:16estudiantes en un grupo de trabajo de la universidad. Uno propone ideas y el otro las critica. El generador
04:23crea una imagen y el discriminador, entrenado con fotos reales, le indica al generador qué necesita
04:29corregir. Normalmente, después de esto, en los comentarios nos escriben. Muy interesante,
04:35pero no se entiende nada. Pero en realidad sí se puede aprender si realmente se tiene ganas.
04:39No hace mucho, Zuckerberg les puso a sus centros de investigación la tarea de crear una inteligencia
04:44artificial para el año 2025 que supere al ser humano en visión, audición, habla y capacidades
04:51cognitivas generales. Es decir, básicamente, Zuckerberg quiere crear una IA fuerte, una máquina
04:56que supere al ser humano. Otro personaje tecnológico, Shane Legge, el principal investigador del laboratorio
05:02Google DeepMind, predijo que para mediados de la década de 2020, la inteligencia artificial
05:07finalmente superará al ser humano. Y, al parecer, todo esto son solo más cuentos sobre la gran IA que
05:14regularmente cuentan personas extrañas llamadas futurologos. Pero una cosa es cuando estas predicciones
05:19sin fundamento vienen de algunos excéntricos. Y otra muy distinta es cuando las megacorporaciones con decenas
05:25de miles de empleados, miles de científicos trabajando para ellas, con gastos de miles de
05:29millones en investigación, incluyen en su plan de negocios crear una máquina que supere al ser humano
05:34en todos los aspectos. De hecho, Facebook ya es prácticamente una máquina así. La mente colectiva
05:41de esta empresa creó un modelo que extrae enormes recursos de la humanidad para alcanzar su objetivo.
05:47Y ese objetivo, por supuesto, no es fomentar el florecimiento de la cultura y la ciencia, ni beneficiar
05:53a los pueblos. A mediados de la década de 2010, entre las mayores empresas tecnológicas globales,
05:59que no son más de una decena, comenzó una carrera por convertirse en la compañía, la única corporación
06:05que muy pronto podría someter al mundo entero. La inteligencia artificial fuerte es solo un medio
06:10para alcanzar ese objetivo. Sin embargo, incluso los empresarios más ambiciosos aún no han aprendido
06:15a cambiar las leyes de la naturaleza. Y, al parecer, esta tarea podría resultar mucho más difícil de lo
06:20que ellos creen. Hoy en día, a los programas les falta comprensión del significado o conciencia,
06:24es decir, aquello que es la esencia de la mente humana. Es interesante preguntarse si la inteligencia
06:29artificial alguna vez podrá superar la barrera del significado, dijo una vez el matemático y
06:34filósofo Jean-Carlo Rota. Hay un ejemplo muy claro, una salchicha envuelta en masa. Esta expresión,
06:40un sistema de aprendizaje profundo o aprendizaje automático, la entendería como un producto cárnico
06:44insertado en un pariente político con el rol social de suegro en algún lugar. La revista
06:50Computer Science publicó en agosto de 2018 un estudio, no sin ironía, titulado El elefante en
06:55la habitación. Los científicos demostraron que si insertas una pequeña imagen que no tiene relación
07:01con el objeto, en alguna esquina de una imagen grande, por ejemplo, un elefante en la imagen de
07:06una sala de estar, esto influirá de manera tan extraña en las redes neuronales artificiales y los
07:11algoritmos de aprendizaje profundo, que la IA clasificará incorrectamente muchos objetos en
07:17esa imagen. O aquí tienes otro ejemplo. En Google crearon una herramienta para dibujar que permite a
07:23las personas crear animales inexistentes de su imaginación. Se llama Quimera Painter. Pero si
07:29logras confundir a la red neuronal, no solo obtienes dragones tan bonitos como estos, sino también cosas
07:34como esto. Los programas que ganaban con confianza a los humanos en juegos de computadora o videojuegos
07:40empezaban a perder estrepitosamente si, por ejemplo, cambiabas el color de fondo del juego o movías un
07:46poco a los jugadores en las posiciones iniciales. En general, estos ejemplos muestran que incluso las
07:50mejores inteligencias artificiales pueden fallar. Pero no todos los errores son iguales. Una cosa es
07:55perder en Counter Strike y otra muy diferente es que una inteligencia artificial en el aeropuerto no
07:59te deje abordar y en su lugar llame a la policía porque te confundió con un criminal. O que una
08:03inteligencia artificial entrenada en carreteras simuladas en un taxi autónomo, debido a una iluminación
08:08inusual, no note que tú estás cruzando la calle justo frente a él. Sí, sí, si no lo sabías,
08:13los conjuntos de datos falsos se usan para entrenar en muchísimos lugares, en el comercio minorista,
08:17la robótica y, por supuesto, en los sistemas autónomos para autos. Aunque en realidad no
08:22les llaman falsos, sino datos sintéticos, suena más formal. Porque nadie va a entrenar un piloto
08:27automático estrellando cientos de autos reales que se caerían de puentes o precipicios hasta que
08:32aprenda a reconocerlos correctamente. Al final, los desarrolladores crean ciudades virtuales
08:37enteras, donde los modelos recorren miles de millones de kilómetros imaginarios, y luego
08:42perfeccionan todo en carreteras reales, donde el piloto automático ya desarrollado recorre el
08:47kilometraje final. Además, los hackers también pueden intervenir en los algoritmos, que de por sí
08:52no son muy confiables. Un hacker puede introducir en la imagen o el texto esos pequeños errores que
08:58llevan a grandes fallos, y estos a su vez pueden tener consecuencias catastróficas. Por ejemplo,
09:03en los sistemas de gestión de energía o en el control del tráfico de una megaciudad.
09:07Imaginen una señal de audio que se mezcle con la música de fondo en la casa de una persona,
09:12pero que tanto el asistente de IA, Alexa o Siri detecten esa señal y la interpreten como una orden.
09:18Por ejemplo, apagar todas las luces de la casa, cerrarla con llave o, al contrario,
09:22abrir la puerta cerrada a cierta hora. Como señaló Pedro Domingos en su libro El algoritmo maestro,
09:27la gente se preocupa de que las computadoras se vuelvan demasiado inteligentes y conquisten el mundo,
09:32pero el verdadero problema es que son demasiado tontas y ya lo han conquistado.
09:36¿Puede la IA superar la barrera semántica o la llamada barrera de la comprensión? Sin duda,
09:42para esto es necesario estudiar más a fondo cómo funciona la percepción y la conciencia del propio
09:46ser humano. La historia humana ha demostrado que nos adaptamos bastante bien a todo tipo de
09:52situaciones. Algunas cosas las hacemos de manera industrial, otras de manera intuitiva,
09:57algunas instintivamente, unas siguiendo el sentido común y otras en contra de él. El ser humano
10:02es una criatura compleja, pero sin esa complejidad e imprevisibilidad, aparentemente no existiría la
10:07conciencia. Los investigadores llevan décadas intentando crear métodos para enseñar a la
10:12inteligencia artificial el arte de hacer generalizaciones con sentido común e incluso
10:16cosas como la intuición y la imaginación. Pero aunque han avanzado en las generalizaciones,
10:21aunque sea con reservas, en otras áreas todavía no hay un progreso significativo. Todo esto podría no
10:26preocuparnos a nosotros, la gente común, que estamos lejos de los problemas de la creación de la
10:30inteligencia artificial, que los científicos se ocupen de lo suyo y nosotros de lo nuestro.
10:34¿No es así? No, no es exactamente así. O mejor dicho, no es así en absoluto. Todos estos sistemas
10:41de PC que funcionan mal y los agentes con inteligencia artificial se están utilizando cada
10:45vez más en todas partes y están tomando decisiones de las que depende la vida de las personas. Detrás de
10:50la inteligencia artificial hay enormes inversiones, grandes fortunas en juego y las carreras de talentosos
10:56líderes de la industria, de científicos ambiciosos, burócratas que sueñan con avanzar sin hacer nada
11:01y sin asumir ninguna responsabilidad. O mejor dicho, trasladando su responsabilidad a la
11:06inteligencia artificial. Hay demasiadas personas interesadas en una posible mayor difusión de la
11:11IA y en su posible desarrollo más rápido. El problema por ahora no es que vayan a aparecer
11:16una superinteligencia o una IA fuerte que pase fácilmente la prueba de Turing. El verdadero problema
11:21es que consideramos estos algoritmos más perfectos de lo que realmente son y estamos dispuestos a
11:26entregarles por completo esferas enteras de la actividad humana. ¿Sí? Somos personas pecadoras
11:31y que cometemos errores, pero quieren reemplazarnos con máquinas que también se equivocan con frecuencia,
11:36las cuales no conocen el pecado simplemente porque no entienden lo que es. Pero sería un error pensar que
11:42la inteligencia artificial es solo un deepfake exagerado, un pariente un poco más inteligente de la
11:46calculadora que es solo una fantasía y una idea inalcanzable de los tecno-optimistas. Decenas
11:51de miles de científicos en todo el mundo salen a trabajar todos los días para lograr un avance
11:56en la creación de una inteligencia artificial fuerte. Cada día los motiva a hacer que la
12:00inteligencia artificial funcione cada vez mejor, primero en tareas específicas y luego en tareas
12:05más amplias. Los algoritmos de las redes neuronales se han vuelto increíblemente complejos, pero lo más
12:10probable es que, para superar la barrera del significado, los desarrolladores y la inteligencia
12:14artificial tendrán que dar un paso atrás. Olvidar la creación de redes neuronales y bases de datos
12:19cada vez más grandes y buscar algunos procesos interesantes de algún campo científico aún
12:23desconocido. Los científicos definitivamente tendrán que observar cuidadosamente al ser
12:28humano y sus particularidades, sus capacidades cognitivas y sus deficiencias, que también
12:33podrían convertirse en descubrimientos. En general, liberar al genio de la botella no es tan difícil,
12:38pero ¿podremos meterlo de nuevo? Buena pregunta, ¿verdad? Vamos a discutirlo en los comentarios.
12:43Mientras piensan en su profunda respuesta filosófica, aquí tienen algunos más.
13:22Gracias.
13:23Gracias.
13:23Gracias.
13:27Gracias.
13:29Gracias.
13:30Gracias.
13:31Gracias.
13:32Gracias.
13:33Gracias.
13:34Gracias.
13:34Gracias.
13:35Gracias.
13:36Gracias.
13:38Gracias.
13:38Gracias.
13:38Gracias.
13:38Gracias.
13:38Gracias.
13:38Gracias.
13:39Gracias.
13:39Gracias.
Comentarios