¿Quién mandará en la inteligencia artificial_ _ DW Documental

Edg saez facebook

Ver ¿Quién mandará en la inteligencia artificial_ _ DW Documental - Edg saez facebook en Dailymotion

Transcript

00:00:00En muchos años, miraremos hacia atrás y diremos,

00:00:09ese fue el momento en el que todo cambió.

00:00:14En cinco años, la inteligencia artificial estará literalmente en todo lo que hagamos.

00:00:19Antes que nada, como humanos, tenemos que entender que eso va a suceder.

00:00:23Muchos tecnólogos intentan resolver problemas humanos con tecnología,

00:00:30cuando lo que necesitamos son soluciones humanas.

00:00:35La pregunta más profunda es, ¿qué significa ser humano?

00:00:39¿De qué seguiré estando orgulloso?

00:00:43Este momento me parece muy profundo,

00:00:45porque nos obliga a pensar como humanidad en qué es la conciencia,

00:00:49qué hace humanos a los humanos.

00:00:50Hay mucho en juego aquí.

00:00:55Carreras profesionales, una cantidad increíble de dinero.

00:00:58¿Quién decide cómo será el futuro?

00:01:00La carrera global para el mundo.

00:01:30por la supremacía en la era de la inteligencia artificial ha comenzado.

00:01:35Se trata de crecimiento económico, de influencia política, de poder,

00:01:40entre China, Estados Unidos y Europa.

00:01:42Entre los grandes grupos tecnológicos y las empresas emergentes que los desafían,

00:01:48quien quede atrás no tendrá una segunda oportunidad.

00:01:50Jonas Androulis es el fundador de una de las empresas de inteligencia artificial más influyentes de Europa.

00:02:02Con su ayuda, el continente podría convertirse en líder mundial en IA,

00:02:06con más independencia de Estados Unidos y China, y asegurar su prosperidad para el futuro.

00:02:13Este es un momento crucial para Europa, última oportunidad, último juego.

00:02:18Si Europa puede construir por sí misma la tecnología,

00:02:23puede decidir cómo utilizarla de acuerdo con nuestros valores.

00:02:27Thomas Wolff es cofundador de HagingFace,

00:02:31la plataforma más importante de inteligencia artificial de código abierto.

00:02:35Quiere evitar que una de las tecnologías más poderosas de la historia de la humanidad

00:02:39acabe en manos de unas pocas corporaciones.

00:02:42Necesitamos muchos actores, y no uno solo que sea el único poseedor de la IA.

00:02:46En China, no queremos un futuro en el que una tecnología tan fundamental esté en manos de una sola empresa.

00:02:52En muchas películas, este es el comienzo de la distopía.

00:02:55Una empresa que lo controla todo.

00:03:03Han Xiao es un empresario chino de IA.

00:03:05Con su empresa, China, busca el éxito tanto en el mercado occidental como en el chino.

00:03:12¿Qué papel juegan las empresas chinas de IA en la carrera global?

00:03:16¿Y cómo las utiliza el Partido Comunista para sus objetivos políticos?

00:03:20Chai GPT o GPT-4 sirve básicamente como cerebro.

00:03:27Y este cerebro no debería fabricarse en Estados Unidos.

00:03:30Esta es una de las preocupaciones del gobierno chino.

00:03:33La cultura de cada país y la forma en que ese país se gobierna terminarán reflejándose en este cerebro.

00:03:39Está bien claro que en los niveles más altos de liderazgo en Estados Unidos y China,

00:03:50la inteligencia artificial se considera fundamental para el futuro del poder económico y militar.

00:03:55Hemos construido un sistema de política económica y financiera basado en el supuesto de que todo seguirá siendo así de cómodo.

00:04:07Compramos gas barato de Rusia, los estadounidenses nos cuidan y entonces no necesitamos gastar dinero en armamento y China es amigable.

00:04:16Nos hemos acomodado y hay que romper con esta comodidad ahora, sacudirla y decir,

00:04:21podemos pasar a la ofensiva de nuevo, salir a competir, crear condiciones competitivas aquí,

00:04:27asegurarnos de que las empresas geniales que tenemos crezcan y también puedan jugar en el mercado mundial.

00:04:32Claro que conviene.

00:04:33A finales de 2023, Robert Habeck logra avanzar un casillero en este juego de estrategia geopolítica.

00:04:54Aleph Alpha, una empresa alemana de inteligencia artificial, recibe inversiones por cerca de 500 millones de euros.

00:05:01Es una de las partidas financieras más grandes de Europa para esta tecnología.

00:05:06Y una señal, Europa puede producir actores internacionales de primer nivel en el campo de la IA.

00:05:14Jonas Androulis es el cofundador y CEO de Aleph Alpha.

00:05:18Se centra principalmente en los inversores de la industria alemana, Bosch, Schwarz, que incluye a los minoristas Lidl y Kaufland.

00:05:31Yo era radio aficionado, ensamblaba radios con un soldador y construía antenas.

00:05:47Y como mi padre también tenía computadoras en casa, pude empezar a programar y jugar con computadoras de muy pequeño.

00:05:53Cuando empezamos, aún no existía el concepto de IA generativa.

00:06:05En ese momento, Open IA apenas era conocido.

00:06:08Éramos muy técnicos.

00:06:09Logramos una innovación que definió una categoría.

00:06:13Éramos nerds, éramos investigadores.

00:06:15Y hubo situaciones en las que sentía que no estábamos a la altura de los desafíos y la cantidad de trabajo.

00:06:25Puedo responder correos electrónicos todas las noches hasta que me caigo del sofá por el cansancio.

00:06:31Pero aún así, hay cosas que descuido y que no quiero descuidar.

00:06:34Primavera de 2023

00:06:41El panorama europeo de la IA es bastante solitario.

00:06:46Con su empresa emergente, Aleph Alpha, Jonas Androulis ha construido la única IA generativa que puede competir al más alto nivel internacional.

00:06:55Adquirió la experiencia necesaria trabajando para Apple como investigador de alto rango en IA.

00:07:00De pronto es uno de los aspirantes europeos en la carrera hacia la cima del mundo.

00:07:06Hoy simplemente no podemos dar abasto a toda esta avalancha de clientes y socios potenciales.

00:07:12La mayoría de las 30 empresas mejor cotizadas de Alemania nos han contactado.

00:07:18Y claro, muchas consultas, empresas medianas, prensa, eventos, muchísimo.

00:07:24Es como una explosión cámbrica que provoca una cantidad increíble de cosas nuevas y creativas.

00:07:30Somos el único europeo de esta magnitud que está en carrera.

00:07:36Fue algo fascinante.

00:07:37¿Tenemos nosotros algo parecido en OpenAI?

00:07:40Sí, lo tenemos.

00:07:41Y hasta quizá más cool.

00:07:42Lo que debería generar más preocupación en la Unión Europea es por qué no hay más empresas locales creciendo y escalando.

00:07:52Muchas compañías y fundadores de empresas emergentes van a Estados Unidos.

00:07:57El acceso al capital es en verdad uno de los mayores desafíos.

00:08:01Si ves, lo que hacíamos es tecnología básica.

00:08:11Lo que necesito es un grupo selecto de investigadores brillantes.

00:08:16Luego necesito dinero.

00:08:17Más dinero del que obtiene normalmente una empresa emergente alemana.

00:08:23Mientras tanto, miles de millones están en juego.

00:08:28Y hacen falta socios que ayuden.

00:08:30Una ayuda que el dinero tampoco puede comprar.

00:08:33OpenAI no solo está recibiendo 10 mil millones de dólares de Microsoft,

00:08:37sino también un apoyo increíble para incorporar esta tecnología a todos los productos y plataformas de Microsoft.

00:08:43En este momento, Ale Falfa tiene 60 empleados en varias sedes.

00:08:50La mayoría se encuentra en Heidelberg, donde se encuentra la sede de la empresa.

00:08:55A diferencia de OpenAI, Androulis no quiere llegar con su IA a usuarios particulares,

00:09:00sino a la industria y a las administraciones públicas, pero son lentas y difíciles de convencer.

00:09:08Para Jonas Androulis, esto es un problema.

00:09:10Necesita proyectos piloto para demostrar que su tecnología funciona.

00:09:15Al pararse aquí, una persona virtual entabla un diálogo.

00:09:18Hola, puedo ayudarle a donde quiere ir y luego puedo aquí, pac, pac, pac.

00:09:24Tenemos que ir cada vez más en esa dirección.

00:09:26Esto no está bien. Este es mi lugar de trabajo.

00:09:28Lo sé. Este es tu lugar de trabajo, pero nos alegra que sigas con nosotros.

00:09:32Seguramente pronto vas a entrar en tu merecida jubilación.

00:09:34Pero algo que siempre pregunto, ¿te gustaría trabajar un poco más?

00:09:40Y es que te necesito.

00:09:41Pues no hay suficientes trabajadores calificados.

00:09:44Ese es un gran problema.

00:09:48Esto es importante para nosotros.

00:09:51La interacción social y el tema principal, la innovación.

00:09:59La ciudad de Heidelberg fue uno de los primeros municipios del mundo en introducir un asistente ciudadano de IA.

00:10:06El modelo de lenguaje que hay detrás proviene de Aleph Alfa.

00:10:10Tenemos un socio, un cliente con el que podemos repasar juntos estas nuevas tecnologías

00:10:15y al que también podemos presentar como una experiencia comprobable.

00:10:19Cualquiera puede ir y probarlo.

00:10:24Esta es una gran ventaja porque muchos de nuestros otros clientes no quieren que los nombremos en un primer momento.

00:10:30No quieren mostrar exactamente lo que hacen.

00:10:32Así que es genial tener un cliente piloto que es un poco visionario y valiente al mismo tiempo.

00:10:37A largo plazo, se espera que la inteligencia artificial agilice la administración pública y mejore la atención a los ciudadanos.

00:10:45Simplemente escribo la pregunta, vehículos de carga B37, que es una carretera muy transitada, y dejo que busque.

00:10:57Claro que es una pregunta muy general.

00:11:00La pregunta ahora es, ¿en qué momento?

00:11:02¿Un promedio anual o diario?

00:11:04Ahora la inteligencia artificial debe trabajar.

00:11:07¿Qué quiere el usuario?

00:11:08La B37 está cerrada hoy entre las 7 a.m. y las 6 p.m.

00:11:12Ahora pregunto, ¿cómo solicito el subsidio familiar?

00:11:15Bueno, esa no era la respuesta correcta aún.

00:11:19Ahora no encuentra nada.

00:11:21Entonces, el mensaje de error que nos reporta la ciudadanía y las oficinas,

00:11:25es decir, de las pruebas que hacemos internamente, se lo transmitimos a Aleph Alpha.

00:11:30¿Qué necesita cambiar la inteligencia artificial para que la entrada sea más específica?

00:11:34Siempre se trata de la precisión de la entrada.

00:11:37La tecnología está aún en fase de pruebas y no funciona de forma confiable.

00:11:42Este es un momento delicado para Aleph Alpha.

00:11:45Jonas Androulis necesita inversores y dinero fresco.

00:11:48Y es precisamente en este punto donde crece el liderazgo de Microsoft y OpenAI.

00:11:53La carrera comenzó hoy y nos moveremos rápido.

00:11:59Queremos sacar cosas nuevas todos los días.

00:12:01El 14 de marzo de 2023, OpenAI lanza ChatGPT-4, la inteligencia artificial más poderosa hasta la fecha,

00:12:13y al mismo tiempo reducirá en gran medida los costos para los usuarios.

00:12:18Jonas Androulis y su equipo ven amenazado su modelo de negocio.

00:12:21Escribe un poema sobre la pesca con mosca desde el punto de vista de los peces.

00:12:31Y sigue así por horas.

00:12:34En las profundidades donde las suaves sombras bailan y juegan, en estas aguas frescas y claras donde estoy,

00:12:40soy el pez que nada bajo la corriente plateada donde la vida fluye en silencio como un sueño.

00:12:46Un ser afligido, astuto y delicado, con instintos ancestrales de morir y de ser.

00:12:50No, es larguísimo.

00:12:58No está nada mal.

00:12:59Me encontré en un apartamento con varios colegas para ver en una pantalla grande la presentación de ChatGPT-4.

00:13:06Alguien tenía una cuenta de ChatGPT-Pro para acceder al ChatGPT-4 y pudimos jugar con él.

00:13:14Y quedamos muy sorprendidos por lo bueno que era.

00:13:17No es malo que alguien logre lanzar una tecnología fantástica, porque somos investigadores y construimos tecnología.

00:13:25Y así es como es.

00:13:29Si eres violinista y ves un solo increíble de un violinista increíble, no es que te das por vencido, más bien resulta inspirador.

00:13:42Estaba algo estresado.

00:13:43Estaba en medio de conversaciones con posibles inversores, socios comerciales, y sabía que en cada conversación en la que entraba, alguien diría, sí, pero GPT-4.

00:13:54Me hubiera gustado construir GPT-4 yo mismo.

00:13:58Me hubiera encantado recibir 200 millones hace dos años y construir el primer modelo con estas capacidades desde Heidelberg, desde Europa.

00:14:05En realidad, la comparación entre OpenAI y Aleph Alpha es absurda.

00:14:20Casi la mitad de OpenAI es propiedad del gigante tecnológico Microsoft, que está inyectando más de 10 mil millones de dólares en la empresa.

00:14:28Jonas Androulis ha recaudado solo 28 millones de euros hasta el momento y, sin embargo, quiere enfrentarse a los mejores del mundo.

00:14:36Todos estamos sometidos a una enorme presión porque estamos luchando por sobrevivir, porque decimos, hemos alcanzado jerarquía mundial con mucho menos dinero.

00:14:47En principio, estamos a la vanguardia de la clase superior y todos sabemos que ahora se dirige hacia nosotros una ola de dinero que Microsoft utiliza y que no podemos confrontar.

00:15:17¿Es más fácil hablar en francés o en inglés?

00:15:22Es un poco difícil hablar francés sin palabras en inglés por todas partes.

00:15:30Mientras que a Jonas Androulis le preocupa que Microsoft y OpenAI lo pongan contra la pared, el estado de ánimo de Thomas Vogue es realmente bueno.

00:15:40Hugging Face tiene 200 empleados y oficinas en París, Nueva York y Ámsterdam.

00:15:45La empresa creó una plataforma de éxito en la que los programadores y las empresas pueden compartir y desarrollar modelos de IA con otros.

00:15:53La filosofía, la misión y los valores que representamos son, en cierto modo, muy europeos.

00:16:00Sé cuidadoso con los datos, crea algo responsable y no te apresures si rompas todo en el proceso.

00:16:07ChatGPT definitivamente contiene valores angloamericanos.

00:16:12Nos preguntábamos si sería posible poner en marcha un proyecto para investigar y registrar esto.

00:16:17Por ejemplo, con puntos de referencia que podrían mostrar si un modelo incluye valores angloamericanos, franceses o alemanes.

00:16:25Sería interesante hacer un estudio comparativo entre ChatGPT y BlumChat.

00:16:35Si haces una pregunta en diferentes idiomas, ¿qué tan diferentes son las respuestas dependiendo del tipo de pregunta?

00:16:41¿El enfoque es más americano o europeo? Sería un estudio interesante.

00:16:48Cuando hablo de pluralismo, de valores, significa que cada población del mundo tiene su propio sistema de valores.

00:17:03Aquí tenemos muchas nacionalidades diferentes y tenemos que hacernos la pregunta.

00:17:08¿Cuáles son nuestros valores? ¿Qué es importante para nosotros?

00:17:12Veo muchos desarrollos muy prometedores en Europa, nuevos emprendimientos.

00:17:24Aleph Alfa ya es un gran jugador en Alemania.

00:17:27Stability es muy visible en el Reino Unido.

00:17:30Mistral es una nueva incorporación aquí en Francia.

00:17:33Veo al menos una o dos empresas emergentes en casi todos los países europeos con esta ambición de construir algo grande.

00:17:47Por muy idealistas que parezcan, Thomas y su equipo de Hagen Face también hay críticas.

00:17:53Código abierto o no, al final es una pequeña élite tecnológica la que está determinando cómo será nuestro futuro y los riesgos a los que estamos expuestos.

00:18:03Todos los empresarios que conozco dicen, necesitamos educación, la sociedad necesita educarse.

00:18:12Al fin y al cabo, solo creamos los sistemas.

00:18:15Pero estos sistemas pueden diseñarse de cualquier manera.

00:18:18Por ejemplo, de tal manera que una persona pueda entender lo que está pasando, al menos un poco.

00:18:24Eso puede ser parte de las obligaciones que podemos imponer a la industria.

00:18:28Estas máquinas han procesado todo el conocimiento cultural y fueron creadas por matemáticos que no están familiarizados con la cultura.

00:18:38Por supuesto, eso es un poco exagerado.

00:18:42Pero hay que encontrar formas de explicar esto a personas que no están interesadas en las matemáticas, sino que usan las máquinas como herramientas.

00:18:50Hay que entender dónde están los límites, en qué situaciones funcionan las máquinas y en cuáles no.

00:18:55Al igual que con los dispositivos GPS en los que reconocemos cuando nos muestran un camino equivocado.

00:19:00Es genial que se esté abriendo un campo de investigación tan grande, ¿no?

00:19:10Sin embargo, también hay una gran brecha.

00:19:14¿En quién recae la responsabilidad al final?

00:19:18Porque, como desarrollador o investigador, tienes una cierta responsabilidad.

00:19:23No se trata de restringir la investigación.

00:19:26Pero tenemos que ser conscientes cuando hay aplicaciones que dañan a la sociedad.

00:19:30Existe un increíble potencial de manipulación.

00:19:35Basta pensar en el impacto de Chatshipiti en las elecciones.

00:19:38Creo que hace falta un antídoto.

00:19:40Más educación.

00:19:42Es un buen tema para las próximas elecciones.

00:19:45¿Qué tipo de educación necesitamos para no caer todos ante la manipulación?

00:19:53Esa es una gran pregunta.

00:19:56¿Qué sucede cuando la gente comienza a preguntarle a la IA por quién votar?

00:20:00La IA, como siempre, dará una respuesta.

00:20:03¿Quién decide cómo responderá?

00:20:06¿Quién tomará esa decisión?

00:20:10Desafortunadamente, no tengo una respuesta para eso.

00:20:12La velocidad a la que se está desarrollando la IA generativa es impresionante.

00:20:21Y los gigantes tecnológicos se han subido al ring para competir entre sí.

00:20:26Lo que promueve aún más el desarrollo es un mercado nuevo y enorme.

00:20:31Los principales científicos de la IA están cada vez más preocupados

00:20:35de que la competencia entre las grandes empresas esté creando tecnologías que ya no sean controlables.

00:20:40Creo que cometimos un error cuando mi compatriota Carl von Linné se refirió a nuestra especie como Homo sapiens.

00:20:51Sapiens significa el ser pensante, inteligente.

00:20:54Pero ya no seremos los más listos.

00:20:57Tal vez deberíamos rebautizarnos como Homo sentiens, el ser humano sensible.

00:21:03Podemos sentir curiosidad, propósito, determinación y amor.

00:21:07Eso es lo que nos hace únicos.

00:21:13Deberíamos preguntarnos cómo mantener las máquinas bajo control.

00:21:18Cómo podemos usarlas como herramientas para crear un mundo

00:21:21donde las personas puedan crecer con experiencias positivas.

00:21:30Cuando fundé el Future of Life Institute en 2014,

00:21:34era tabú incluso mencionar la seguridad de la IA.

00:21:38Eso implicaría que no era totalmente segura.

00:21:42Muchos investigadores de IA pensaban que sería malo para la financiación

00:21:46y que solo la gente rara se preocuparía por ello.

00:21:50Fue como un momento de revelación que muchos firmaran esta carta y dijeran,

00:21:55oh, tú también estás preocupado y crees que deberíamos tomarnos esto con un poco más de tiempo.

00:22:00Yo no lo sabía.

00:22:01Y de repente se volvió socialmente aceptable.

00:22:06Tegmark y su Future of Life Institute publican una carta.

00:22:11Sostienen que los peligros que plantea la inteligencia artificial para la humanidad son existenciales.

00:22:16Como resultado, la civilización humana podría desaparecer.

00:22:29Cientos de investigadores de IA y gigantes tecnológicos firman la carta.

00:22:33Entre ellos se encuentran el CEO de Tesla, Elon Musk,

00:22:36el cofundador de Apple, Steve Wozniak,

00:22:39y el ganador del premio Turing, Joshua Benchow.

00:22:42Y ha sido bastante impactante que una vez que publicamos esta carta

00:22:49y que fue firmada por todos los investigadores renombrados de IA,

00:22:52las conversaciones en verdad explotaron.

00:23:03Mi peor temor es que nosotros, la industria tecnológica,

00:23:07estemos haciendo un daño significativo al mundo.

00:23:12Esto podría suceder de muchas maneras diferentes.

00:23:16Por eso fundamos la empresa.

00:23:20Si algo sale mal con esta tecnología, puede que salga muy, muy mal.

00:23:25Queremos abordar esto abiertamente.

00:23:28Queremos trabajar con el gobierno.

00:23:29Creo que lo decía en serio.

00:23:31Hablaba de estos riesgos existenciales.

00:23:34Yo también creo que hay riesgos vitales.

00:23:37Además, hay todo un espectro de otros riesgos.

00:23:40Y sé de algunos.

00:23:41Hablé con él un par de veces sobre eso y él también los conoce bien.

00:23:45Por supuesto, advertir sobre el tremendo poder de esta nueva tecnología

00:23:51también aumenta la importancia de los productos que esta gente produce.

00:23:55También podría tener un efecto indirecto de marketing.

00:23:58Miren las cosas increíbles que estamos construyendo,

00:24:02pero también hay que asegurarse de que nada salga mal.

00:24:05Para ello recurren a los políticos.

00:24:07Si algo sale mal, pueden decir, te lo advertimos.

00:24:10Pero los políticos no han actuado.

00:24:13O no lo han hecho con la suficiente rapidez.

00:24:15Veo un artículo aquí titulado

00:24:19Los modelos de lenguaje de IA entrenados en el uso de los medios

00:24:23pueden predecir la opinión pública.

00:24:26El trabajo se realizó en el MIT y luego también en Google.

00:24:30El resultado es que los modelos lingüísticos

00:24:32pueden predecir la opinión pública.

00:24:36Me gustaría evaluar esto en el contexto de las elecciones.

00:24:40Deberíamos preocuparnos por estos modelos lingüísticos

00:24:43que pueden ayudar a desarrollar estrategias precisas

00:24:45para influir en el comportamiento de los votantes.

00:24:48¿Deberíamos preocuparnos por esto?

00:24:53Gracias por la pregunta, senador Hawley.

00:24:56Esta es una de las áreas que más me preocupa.

00:25:00La capacidad general de estos modelos para manipular,

00:25:03persuadir y desinformar en una conversación directa,

00:25:07casi interactiva, eso me preocupa.

00:25:09Pero creo que la gente puede adaptarse bastante rápido.

00:25:14Cuando Photoshop salió por primera vez durante un tiempo,

00:25:16la gente se confundía por las imágenes retocadas digitalmente.

00:25:20Y pronto se percataron de que las imágenes

00:25:22estaban editadas con Photoshop.

00:25:24Será lo mismo aquí, pero mucho más extremo.

00:25:27La capacidad de predecir el comportamiento de las personas,

00:25:30como usted describió,

00:25:32requiere una interacción de empresas

00:25:34obrando correctamente

00:25:35regulación

00:25:37y educación pública.

00:25:392024 es un año electoral crucial,

00:25:59no solo en Estados Unidos, sino en todo el mundo.

00:26:02Se elegirá el Parlamento Europeo.

00:26:05Habrá elecciones en la India.

00:26:06Un gran número de personas acudirán a las urnas.

00:26:09Mientras tanto, estamos en este gran experimento.

00:26:13Es muy difícil para los científicos independientes,

00:26:16los periodistas y las organizaciones de la sociedad civil

00:26:19estudiar estos modelos.

00:26:21Es posible que no sepamos qué daño causan

00:26:23cuando se utilizan maliciosamente

00:26:25como arma contra la democracia,

00:26:27hasta que sea demasiado tarde.

00:26:29Pocos días después de comparecer en el Senado de Estados Unidos,

00:26:36Sam Altman emitió un comunicado firmado

00:26:38por los altos ejecutivos de Google, Microsoft

00:26:41y otras empresas tecnológicas.

00:26:43El hecho de que fueran las propias empresas

00:26:55las que quisieran la regulación

00:26:57y que los principales académicos

00:27:00pidieran la intervención del gobierno,

00:27:03ese fue el punto de inflexión

00:27:04en la discusión.

00:27:04Para entender la dinámica que la IA generativa

00:27:15está desencadenando en la trastienda política mundial

00:27:18en este momento,

00:27:19hay que viajar al norte,

00:27:21hasta la pequeña ciudad costera sueca de Luleo,

00:27:24100 kilómetros al sur del círculo polar ártico.

00:27:26Cuando la gente dice que la inteligencia artificial

00:27:30es algo así como la próxima revolución industrial,

00:27:33subestiman su influencia.

00:27:35No se trata solo de una nueva tecnología

00:27:38como la máquina de vapor,

00:27:40es más bien como una nueva especie,

00:27:42una especie mucho más inteligente que nosotros.

00:27:46El propio presidente Biden

00:27:47ha tenido reuniones sobre inteligencia artificial

00:27:50a veces tres veces por semana.

00:27:53Y esto es lo que puedo decir,

00:27:54no hay muchas cosas que terminen en la mesa del presidente

00:27:57tres veces por semana.

00:28:05Es el día 31 de mayo de 2023

00:28:08y pareciera como si ese día

00:28:10se hubiesen avistado ovnis.

00:28:13Y tal vez haya algo de verdad en esta analogía,

00:28:16porque desde hace poco

00:28:17la humanidad ha estado compartiendo el planeta

00:28:19con otra especie inteligente,

00:28:21aunque artificial.

00:28:22¿Cuál debería ser la reacción

00:28:24de los políticos ante esto?

00:28:28La democracia tiene que demostrar

00:28:29que es tan rápida como la tecnología.

00:28:32Ustedes han visto la primera carta

00:28:33en la que se pedía un descanso de seis meses.

00:28:36Y como dijeron ayer

00:28:37algunas personas muy inteligentes,

00:28:39tenemos que hacer algo

00:28:40con respecto a los riesgos existenciales.

00:28:42Y luego están los riesgos no existenciales.

00:28:45¿Por qué es importante que la Unión Europea

00:28:50lleve a cabo una política común

00:28:51con los Estados Unidos en este ámbito?

00:28:53¿Y no deberían incluirse

00:28:54otras partes del mundo?

00:28:56Europa es importante,

00:28:59pero esto es más grande que Europa.

00:29:01Estados Unidos es importante,

00:29:03pero esto es más grande que Estados Unidos.

00:29:05Si ambos tomamos la iniciativa

00:29:07con nuestros aliados,

00:29:08será más llevadero que la IA generativa

00:29:11esté ahora en el mundo

00:29:12y desarrollándose de forma tan veloz.

00:29:14Jonas Androulis ha sido invitado

00:29:32a la cumbre en Suecia.

00:29:34Se supone que representa

00:29:35el punto de vista

00:29:36de las empresas emergentes europeas de IA,

00:29:38que exigen condiciones competitivas justas.

00:29:42Por supuesto,

00:29:43hay otras empresas de IA en Europa,

00:29:45pero nosotros somos los que tenemos

00:29:47más probabilidades de estar a la par

00:29:49con los mejores del mundo.

00:29:51Y supongo que por eso estamos aquí.

00:29:53Y no porque seamos tan encantadores.

00:29:56Estamos tratando de reunir más capital.

00:30:16Hace dos semanas estuve

00:30:17en la conferencia Sapphire de SAP.

00:30:19Christian Klein dijo

00:30:20en su discurso de apertura,

00:30:21Nuestros socios más importantes

00:30:23para la IA generativa

00:30:25son Aleph Alpha, Google y Microsoft.

00:30:27Y próximamente también habrá un evento

00:30:29con Antonio Neri de HPE.

00:30:31¿Y qué opinas de nuestro otro colega

00:30:37de Antropic

00:30:38y de la declaración que firmaron?

00:30:48¿Quieres decir sobre la seguridad de la IA?

00:30:50Sí, la de ayer.

00:30:52A largo plazo son concebibles

00:30:54eventos catastróficos.

00:30:56He estado en Bruselas y Berlín

00:30:58y los políticos tienen miedo.

00:31:09Comenzaremos con Jonas Androulis,

00:31:12el fundador de Aleph Alpha.

00:31:14Tiene usted la palabra

00:31:15y muchas gracias por estar hoy con nosotros.

00:31:18Gracias por la invitación.

00:31:21Todos estamos un poco mareados.

00:31:23La velocidad del cambio

00:31:24pone nerviosos a todos los que conozco

00:31:26en el campo de la IA.

00:31:28Y con esta tecnología

00:31:30solo estamos arañando la superficie.

00:31:32Una gran parte de la generación

00:31:34de valor en Europa

00:31:35se basa en el trabajo del conocimiento.

00:31:38Así que para nosotros

00:31:39esta es una oportunidad

00:31:40para construir nuevos imperios,

00:31:42para crear nuevos valores.

00:31:44Pero también es un riesgo

00:31:45perder un pilar central

00:31:47sobre el que nos apoyamos.

00:31:49Deberíamos pensar

00:31:50en cómo podemos crear

00:31:51unas condiciones

00:31:52de competencia equitativas,

00:31:54porque creo que redunda

00:31:56en interés de todos

00:31:57que Europa contribuya

00:31:58a un futuro seguro con IA.

00:31:59Mientras Estados Unidos

00:32:11y Europa luchan

00:32:12por encontrar

00:32:13una estrategia común

00:32:14al otro lado del mundo,

00:32:16en China,

00:32:17está surgiendo

00:32:17un ecosistema de IA

00:32:19que funciona

00:32:19según sus propias reglas

00:32:21y que puede allanar

00:32:22el camino

00:32:23para que China

00:32:23se convierta

00:32:24en una potencia mundial.

00:32:25Siempre pienso

00:32:31en la escuela olímpica

00:32:32a la que mi mamá

00:32:33y mi papá

00:32:33me enviaron

00:32:34para especializarme

00:32:35en matemáticas

00:32:36y la escuela de inglés.

00:32:37Esto era un trabajo extra

00:32:38además de la tarea escolar normal.

00:32:42Había clases los sábados,

00:32:44los fines de semana.

00:32:45Eso me ayudó

00:32:46a aprender rápidamente.

00:32:48Y mi madre tiene razón.

00:32:49Para progresar,

00:32:50para esforzarse,

00:32:52hay que aprender

00:32:52todo el tiempo.

00:32:55Eso es lo que les digo

00:32:56a mis empleados,

00:32:57que deben seguir aprendiendo

00:32:59para mantenerse al día

00:33:00con el rápido ritmo

00:33:01de desarrollo

00:33:01de la inteligencia artificial.

00:33:05Mi padre

00:33:07era profesor

00:33:09de informática.

00:33:10Tuve mucha suerte

00:33:11de entrar en contacto

00:33:12con la inteligencia artificial

00:33:13a una edad temprana.

00:33:15En 2009,

00:33:17construí un modelo

00:33:17de inteligencia artificial

00:33:19muy simple.

00:33:20En comparación

00:33:21con los grandes modelos

00:33:23de lenguaje actuales

00:33:24parece una hormiguita.

00:33:31Han Xiao

00:33:32es una conexión

00:33:33entre China y Occidente.

00:33:35Ha trabajado

00:33:36para el gigante

00:33:37tecnológico chino

00:33:38Tencent

00:33:39y para la empresa

00:33:40alemana de venta

00:33:41por correo

00:33:41Salando.

00:33:43Hace tres años

00:33:43fundó su propia empresa

00:33:45Gina,

00:33:46una empresa emergente

00:33:47de inteligencia artificial

00:33:48con oficinas

00:33:49en Shenzhen y Pekín.

00:33:50La sede, sin embargo,

00:33:51está en Berlín.

00:33:53¿También realizamos

00:33:54una entrevista aquí?

00:33:56¿Por qué?

00:33:56Sí, para el sitio web.

00:33:58¿Sitio web?

00:33:59Tenemos un programa

00:34:00de pasantías

00:34:01para el cual estamos

00:34:01buscando candidatos.

00:34:03Para ello,

00:34:03también recogemos

00:34:04la experiencia

00:34:05de los empleados

00:34:06para no tener

00:34:06solo la perspectiva

00:34:07de los becarios.

00:34:08Entiendo.

00:34:09Kalimi es de la India.

00:34:15Isabela de Sudáfrica.

00:34:19Sí, Sudáfrica.

00:34:21Aladino de Túnez.

00:34:24Jack de Malasia.

00:34:26Y luego tenemos

00:34:27a Mijael de Alemania.

00:34:28Tengo un número

00:34:33limitado de cables,

00:34:34así que solo puedo

00:34:35alimentar un monitor.

00:34:36A veces tengo

00:34:37que mostrar a la gente

00:34:38la estructura

00:34:38y los resultados

00:34:39del modelo,

00:34:40así que es bueno

00:34:41que tenga esta segunda pantalla.

00:34:43También puedo pintar

00:34:44sobre ella,

00:34:44así que se convierte

00:34:45casi en una pantalla táctil.

00:34:46Esto muestra

00:34:54el progreso

00:34:55en el entrenamiento

00:34:56de los modelos.

00:34:58Casi como

00:34:59en el mercado

00:34:59de valores.

00:35:00Este modelo

00:35:01funciona relativamente bien

00:35:02porque la curva

00:35:03se eleva con el tiempo.

00:35:05Otros no son

00:35:06tan exitosos.

00:35:07Este empezó

00:35:08muy bien

00:35:09y luego el progreso

00:35:10se detuvo.

00:35:10Esto hace perder

00:35:11nuestro tiempo,

00:35:12nuestra mano de obra,

00:35:13nuestra capacidad

00:35:14de cómputo,

00:35:15energía, etc.

00:35:16Han Xiao

00:35:17y su equipo

00:35:18están trabajando

00:35:19en la optimización

00:35:20de los modelos

00:35:21de AI

00:35:21para aplicaciones específicas.

00:35:23La vinculación

00:35:24de texto,

00:35:25video e imágenes,

00:35:26por ejemplo.

00:35:27Su objetivo

00:35:27es hacer que la comunicación

00:35:29entre humanos

00:35:29y máquinas

00:35:30sea cada vez

00:35:31más intuitiva

00:35:31y natural.

00:35:34Mucha gente

00:35:35se dará cuenta

00:35:36de esto.

00:35:36Este hombre

00:35:37es un meme,

00:35:38muy popular

00:35:38en las redes sociales.

00:35:42Si aplicas

00:35:43nuestro algoritmo

00:35:44a esta imagen,

00:35:45hace una historia

00:35:45con ella.

00:35:46Puede hacer comedia,

00:35:48erotismo,

00:35:49fantasía,

00:35:50terror,

00:35:50todos esos géneros.

00:35:53Lo dejamos

00:35:53en la configuración

00:35:54predeterminada

00:35:55y comenzamos.

00:35:58No debería ser así.

00:36:00Estaba destinado

00:36:01a más.

00:36:03Susurró

00:36:03en la habitación.

00:36:04Sus palabras

00:36:05resonaron

00:36:06en silencio.

00:36:07Soy más que

00:36:08el hombre solitario

00:36:09en el que me he convertido.

00:36:10Más que estas decepciones.

00:36:12De repente,

00:36:13sus ojos

00:36:13se iluminaron.

00:36:14Una revelación

00:36:15cobró forma

00:36:16en su mente.

00:36:17Tal vez sea

00:36:18hora de mostrárselo

00:36:19al mundo.

00:36:21Enérgico

00:36:21y decidido,

00:36:22Arthur dejó su café.

00:36:23Era el final

00:36:24de sus reflexiones

00:36:25solitarias

00:36:26y el comienzo

00:36:26de un nuevo capítulo.

00:36:29Esto se obtiene

00:36:32cuando se lleva

00:36:32la inteligencia artificial

00:36:34al límite.

00:36:35A partir

00:36:36de una sola imagen

00:36:37puede generar

00:36:37no solo un texto,

00:36:39sino también

00:36:39una historia sonora

00:36:41cargada

00:36:41de emoción.

00:36:58Las empresas chinas

00:37:01acabarán tomando

00:37:02la delantera

00:37:02en inteligencia artificial

00:37:04generativa.

00:37:05Hace dos meses

00:37:06asistí a la

00:37:07Conferencia Mundial

00:37:08de Inteligencia Artificial

00:37:09en Shanghái.

00:37:10Y durante esa conferencia

00:37:12se lanzaron

00:37:1330 nuevos modelos

00:37:14de lenguaje

00:37:15en un solo día.

00:37:17Algunos

00:37:18provienen

00:37:18de grandes empresas

00:37:20como Tencent,

00:37:21Alibaba y Baidu.

00:37:22Otros de empresas

00:37:23medianas,

00:37:24incluso de diferentes

00:37:25industrias,

00:37:26bancos,

00:37:26por ejemplo.

00:37:26Las empresas chinas

00:37:40suelen ser muy buenas

00:37:41para aprender

00:37:42de las estadounidenses.

00:37:43Copian lo que hacen

00:37:44las empresas estadounidenses

00:37:45y luego lo hacen

00:37:46aún mejor.

00:37:50No dudo

00:37:51de que algún día

00:37:53veremos

00:37:54que todos

00:37:55los modelos

00:37:55líderes

00:37:56vendrán

00:37:56de China.

00:38:04La pregunta

00:38:05sobre qué

00:38:06empresas

00:38:06dominarán

00:38:07la era

00:38:07de la inteligencia

00:38:08artificial

00:38:09también tiene

00:38:09implicaciones

00:38:10geopolíticas.

00:38:12China está

00:38:12utilizando

00:38:13los conocimientos

00:38:14de las empresas

00:38:14tecnológicas

00:38:15para ampliar

00:38:16su poder.

00:38:16Las sociedades

00:38:17liberales

00:38:18intentan

00:38:18contrarrestar

00:38:19esto.

00:38:19Me llamo

00:38:36Jeffrey Kane.

00:38:38Fui por mucho

00:38:39tiempo periodista

00:38:40y corresponsal

00:38:41en China.

00:38:42Escribí un libro

00:38:43titulado

00:38:43El perfecto

00:38:44estado policial

00:38:45y fui asesor

00:38:46del Congreso

00:38:47de Estados Unidos

00:38:48de la Cámara

00:38:48de Representantes

00:38:49sobre Sanciones

00:38:50y Política China.

00:38:51Por lo que he visto

00:38:52en todo el mundo,

00:38:53en China

00:38:54y en otros lugares,

00:38:55me preocupa

00:38:56profundamente

00:38:57que aún no sepamos

00:38:58cómo gestionar

00:38:59la IA.

00:39:00No sabemos

00:39:01cómo controlar

00:39:02esta tecnología

00:39:03y darle

00:39:03un buen uso

00:39:04de nuestra democracia.

00:39:05China es líder

00:39:13en poner

00:39:14la tecnología

00:39:15bajo control

00:39:15del Estado

00:39:16y utilizarla

00:39:17como instrumento

00:39:18de poder estatal,

00:39:19ya sea

00:39:19por control interno

00:39:21y censura,

00:39:22por dominación

00:39:23de la sociedad

00:39:23o por tener

00:39:24una infraestructura

00:39:26digital en todo el mundo,

00:39:27por ejemplo,

00:39:28en el continente africano.

00:39:30Esta,

00:39:31por supuesto,

00:39:31es una noción

00:39:32que está en contradicción

00:39:34directa

00:39:34con la de las sociedades

00:39:36democráticas.

00:39:40En 2017,

00:39:42en su Estrategia Nacional

00:39:43de Inteligencia Artificial,

00:39:45y este es un documento

00:39:46público,

00:39:47China formuló

00:39:48explícitamente

00:39:48el objetivo

00:39:49de dominar

00:39:49la tecnología

00:39:50de IA

00:39:51en todo el mundo.

00:39:52Estados Unidos,

00:39:53por su parte,

00:39:54se ha fijado

00:39:54explícitamente

00:39:55el objetivo

00:39:56de no hacer nada

00:39:57que ayude a China

00:39:58a convertirse

00:39:58en una superpotencia

00:39:59autoritaria de IA.

00:40:04Irónicamente,

00:40:05sin embargo,

00:40:06han sido

00:40:07las grandes corporaciones

00:40:08estadounidenses

00:40:09las que han socavado

00:40:10las políticas

00:40:11de su gobierno

00:40:12en el pasado,

00:40:13con el objetivo

00:40:14de acceder

00:40:14al enorme mercado chino,

00:40:16en primer lugar,

00:40:17Microsoft.

00:40:20Microsoft

00:40:20es la principal

00:40:23empresa occidental

00:40:24que opera en China

00:40:25y ha ayudado

00:40:27al gobierno chino

00:40:28a desarrollar

00:40:28su distopía

00:40:29de IA.

00:40:33Microsoft

00:40:33ha creado

00:40:34una filial

00:40:35en China

00:40:35llamada

00:40:36Microsoft Research Asia,

00:40:38un gesto

00:40:39de Bill Gates

00:40:40en la década

00:40:41de 1990

00:40:42para conseguir

00:40:43un mejor acceso

00:40:43al mercado chino.

00:40:46En este laboratorio

00:40:47chino de investigación

00:40:48se entrenaron

00:40:49las superestrellas

00:40:50del mundo chino

00:40:51de la IA,

00:40:52personalidades importantes

00:40:53que posteriormente

00:40:54fundaron empresas

00:40:55como Mecbee

00:40:56o SenseTime

00:40:57o al menos

00:40:58ocuparon altos cargos

00:41:00en estas empresas.

00:41:07Era como la incubadora

00:41:10de la moderna industria china

00:41:12de inteligencia artificial.

00:41:13Mucha gente genial,

00:41:15grandes investigadores,

00:41:16fundadores de startups,

00:41:18en realidad

00:41:18provienen

00:41:19de Microsoft Research.

00:41:22Y ahora se están

00:41:24convirtiendo

00:41:24en personas

00:41:25muy influyentes,

00:41:26líderes de opinión

00:41:27y empresarios

00:41:28en China.

00:41:32Microsoft

00:41:33ayudó a construir

00:41:34la élite

00:41:34tecnológica

00:41:35de China.

00:41:36Y esto,

00:41:37a su vez,

00:41:38ha sido instrumentalizado

00:41:39por el gobierno chino

00:41:40para construir

00:41:41un gigantesco

00:41:41estado de vigilancia

00:41:43que se gestiona

00:41:43con la ayuda

00:41:44de la IA.

00:41:45En China,

00:41:47en Pekín,

00:41:52en Shenzhen,

00:41:53se encuentra

00:41:54la mayor cantidad

00:41:55de cámaras

00:41:55de circuito cerrado

00:41:56de televisión

00:41:57de todo el mundo.

00:41:59La opinión pública

00:42:00se acostumbró,

00:42:02así que no se ve

00:42:03como una intrusión

00:42:04en la privacidad

00:42:05o como un software

00:42:06que analiza

00:42:07su comportamiento.

00:42:08porque según

00:42:09el argumento

00:42:10del gobierno

00:42:11era para que

00:42:11la sociedad

00:42:12fuera más segura,

00:42:13para protegerla,

00:42:14por ejemplo,

00:42:15de los terroristas.

00:42:18El público

00:42:19en los últimos

00:42:2010 años

00:42:21ya ha aceptado

00:42:22el hecho

00:42:22de que hay vigilancia

00:42:23en todas partes.

00:42:24Ahora no solo

00:42:34existe la oportunidad

00:42:36de escuchar

00:42:36toda la información

00:42:37que las personas

00:42:38comparten

00:42:39dentro de la sociedad,

00:42:40sino también

00:42:41la capacidad cognitiva

00:42:42para procesar

00:42:43todo esto.

00:42:44Este es un futuro

00:42:45muy aterrador

00:42:46y desafortunadamente

00:42:47es posible.

00:42:52En este momento

00:42:54tenemos más

00:42:54de 500

00:42:55de los llamados

00:42:56cerebros de ciudades

00:42:57en todo el país.

00:42:58Es decir,

00:42:59una ciudad como Shanghái

00:43:00tiene muchos

00:43:00centros de análisis

00:43:01de Big Data.

00:43:02Ahí recopilan

00:43:03todos estos datos

00:43:04de diferentes áreas

00:43:05y la máquina,

00:43:08el algoritmo,

00:43:09centraliza,

00:43:10calcula,

00:43:12analiza

00:43:12y toma decisiones.

00:43:25Para el gobierno

00:43:26chino,

00:43:27la IA

00:43:27es una herramienta

00:43:29extremadamente poderosa

00:43:30que puede utilizar

00:43:31para el ejército,

00:43:32la vigilancia estatal,

00:43:34la policía

00:43:34y también

00:43:35para la gestión

00:43:36de las ciudades

00:43:36y el transporte.

00:43:38Ha vendido

00:43:38estas tecnologías

00:43:39en todo el mundo,

00:43:41especialmente

00:43:41a gobiernos autoritarios,

00:43:43con la promesa

00:43:43de una vigilancia total,

00:43:45un estado

00:43:46sin delincuencia

00:43:47ni disidencias.

00:43:48Es como una novela

00:43:49distópica

00:43:50y nosotros

00:43:51en Occidente

00:43:51todavía no tenemos

00:43:52una solución

00:43:53para este problema.

00:44:03China sigue adelante,

00:44:05Estados Unidos

00:44:06persigue sus propios intereses

00:44:08y Europa

00:44:09lucha por la independencia.

00:44:13Si Europa

00:44:14no consigue formar

00:44:15parte de esta tecnología

00:44:16del futuro,

00:44:17será la IA

00:44:18estadounidense o China

00:44:19la que penetra

00:44:20en los ámbitos

00:44:21más privados

00:44:22de una forma

00:44:22sin precedentes.

00:44:26Nos conoce bien,

00:44:28así como

00:44:28nuestros amigos

00:44:29y familiares

00:44:30más cercanos.

00:44:31Se comunicará

00:44:32con nosotros

00:44:32las 24 horas del día

00:44:34y manipulará

00:44:35nuestros pensamientos

00:44:36y acciones.

00:44:41Para evitarlo,

00:44:42Europa necesita

00:44:43empresas

00:44:44que no solo

00:44:44puedan programar,

00:44:46sino también

00:44:46construir

00:44:47su propia

00:44:47infraestructura

00:44:48de hardware

00:44:49para mantener

00:44:50bajo control

00:44:51la información

00:44:51altamente confidencial.

00:45:00El bien

00:45:01más preciado,

00:45:02el recurso

00:45:02más importante

00:45:03para el futuro

00:45:04de la IA generativa

00:45:05es la potencia

00:45:06de la GPU,

00:45:07es decir,

00:45:07la potencia

00:45:08de cómputo.

00:45:09En el futuro,

00:45:10esto será tan importante

00:45:11y esencial

00:45:12como lo han sido

00:45:12en el pasado

00:45:13la electricidad,

00:45:14el agua

00:45:14y similares

00:45:15para los procesos

00:45:16de desarrollo

00:45:17que hemos tenido.

00:45:18Ya hay un dicho

00:45:19en Silicon Valley,

00:45:21los pobres de GPU,

00:45:22es decir,

00:45:23las personas

00:45:23que son pobres

00:45:24en tarjetas gráficas.

00:45:31Para entrenar

00:45:32modelos de lenguaje

00:45:33de gama alta,

00:45:34se necesitan

00:45:34miles de tarjetas gráficas

00:45:36de alto rendimiento.

00:45:37La oferta

00:45:38es correspondientemente

00:45:39escasa.

00:45:40Esta es una

00:45:41de las razones

00:45:41por las que muchos

00:45:42actores más pequeños

00:45:43se están vinculando

00:45:44a las grandes

00:45:45empresas tecnológicas.

00:45:47Muchos de los acuerdos

00:45:48en el campo

00:45:49de la IA generativa

00:45:50en los últimos meses

00:45:51han puesto en juego

00:45:52la independencia.

00:45:55Muchas empresas

00:45:56se han asociado

00:45:57con grandes corporaciones,

00:46:00aceptando restricciones

00:46:01en la elección

00:46:02de hardware,

00:46:03la elección

00:46:04de la nube

00:46:04y la integración.

00:46:07Y eso era algo

00:46:07que definitivamente

00:46:09no queríamos hacer.

00:46:12Jonas Androulis

00:46:13reconoció

00:46:14el valor

00:46:15de su propio

00:46:15hardware

00:46:16desde el principio

00:46:17y estableció

00:46:17un centro de datos

00:46:18para su empresa

00:46:19en Alemania.

00:46:20Como resultado,

00:46:21Ale Falfa

00:46:22se está volviendo

00:46:23cada vez más importante

00:46:24para la política.

00:46:35Los medios

00:46:36de comunicación

00:46:37siempre los presentan

00:46:38como la respuesta

00:46:39alemana

00:46:39a ChatGPT.

00:46:40¿Es así?

00:46:41Eso es falso.

00:46:43En otras palabras,

00:46:45es más bien

00:46:45la respuesta alemana

00:46:47a OpenAI.

00:46:48Pero ChatGPT

00:46:49es un producto

00:46:49orientado al consumidor

00:46:51que en realidad

00:46:52está destinado

00:46:52a ayudar a los estudiantes

00:46:54a hacer sus tareas

00:46:55o para que puedas

00:46:56escribir un poema

00:46:57para el cumpleaños

00:46:58de la abuela

00:46:58o algo así.

00:46:59Y ese no es

00:47:00nuestro grupo objetivo

00:47:01en absoluto.

00:47:02Decimos que queremos

00:47:03ir a donde están

00:47:04los procesos de trabajo

00:47:05más complejos

00:47:06y críticos,

00:47:06por ejemplo

00:47:07en la industria

00:47:08financiera,

00:47:09en la administración,

00:47:10en la seguridad,

00:47:11en la atención médica

00:47:12y queremos construir

00:47:14sistemas de asistencia

00:47:15que ayuden

00:47:16a las personas.

00:47:18Pero hablamos aquí

00:47:19de un ministerio

00:47:20y la administración

00:47:22pública

00:47:23podría beneficiarse

00:47:24enormemente

00:47:25de la IA.

00:47:26Al fin y al cabo

00:47:27tenemos una cantidad

00:47:28increíble

00:47:29de procesos

00:47:30que se pueden

00:47:30sistematizar

00:47:31y procesar.

00:47:33Y por eso

00:47:34el enfoque de mi trabajo

00:47:35incluso cuando les visité

00:47:36era la pregunta

00:47:37de cómo puede

00:47:38el sector público

00:47:39como cliente principal

00:47:40generar pedidos

00:47:41que a su vez

00:47:42generen pedidos

00:47:42para la tecnología

00:47:43de IA

00:47:44en Alemania

00:47:44y en Europa.

00:47:46Es una empresa

00:47:47de IA

00:47:48que tiene como objetivo

00:47:49la administración

00:47:50y nosotros somos

00:47:51la administración.

00:47:52Así que ahora

00:47:52solo tenemos que

00:47:53generar casos

00:47:54que puedan ponerse

00:47:55a prueba

00:47:56desde el tráfico

00:47:57de nuestros clientes

00:47:58hasta los avisos

00:47:59de financiación

00:47:59y quizás

00:48:00las autorizaciones.

00:48:02Hablamos mucho

00:48:03de regulación

00:48:04y cosas así.

00:48:05Sin embargo

00:48:05si seguimos dependiendo

00:48:07de países extranjeros

00:48:08de empresas comerciales

00:48:09de esta base

00:48:10tecnológica esencial

00:48:11entonces en el futuro

00:48:13puede ser potencialmente

00:48:14igual para nosotros

00:48:15como lo fue

00:48:16con la energía del gas

00:48:17el año pasado

00:48:18donde también

00:48:19queríamos decir

00:48:20ciertas cosas

00:48:20pero luego

00:48:21ya no pudimos hacerlo

00:48:22porque nos habríamos

00:48:23quedado oscuras

00:48:24y pasando frío.

00:48:25El centro de datos

00:48:31que hasta ahora

00:48:31ha garantizado

00:48:32la independencia

00:48:33de Aleph Alpha

00:48:34proviene de la empresa

00:48:35estadounidense

00:48:37Hewlett Packard Enterprise.

00:48:40Hewlett Packard Enterprise

00:48:42es uno de los principales

00:48:43actores

00:48:44en lo relacionado

00:48:45con infraestructura informática.

00:48:47Construyen centros

00:48:48de datos,

00:48:48equipan salas

00:48:49de servidores internas,

00:48:51en otras palabras

00:48:52la infraestructura

00:48:53de alta calidad

00:48:54sobre la que funciona

00:48:55el mundo moderno.

00:48:56Gran parte de esto

00:48:57proviene de HPE.

00:49:17Andrullis ha logrado

00:49:18formar una asociación

00:49:19estratégica con HPE.

00:49:22Esto significa

00:49:23que le proveen hardware

00:49:24sin estar vinculados

00:49:25al grupo

00:49:26de forma exclusiva.

00:49:27De esta forma

00:49:28también quiere acceder

00:49:29al mercado estadounidense.

00:49:31Aquí en Las Vegas

00:49:32quiere cerrar el trato

00:49:34con el CEO

00:49:34de HPE

00:49:35Antonio Neri.

00:49:36Hoy anunciamos

00:49:52una importante

00:49:53oferta conjunta

00:49:54con HPE.

00:49:55Se saca un comunicado

00:49:56de prensa

00:49:57al mismo tiempo.

00:49:58Este es realmente

00:49:59un gran mercado común

00:50:00y eso es lo más importante.

00:50:02lo importante

00:50:03no es que yo me pare

00:50:04sobre algún escenario

00:50:06sino que ahora

00:50:06estamos dando

00:50:07un paso conjunto

00:50:08con un socio esencial.

00:50:10Estoy nervioso,

00:50:11sí, un poco, sí.

00:50:12Hemos estado trabajando

00:50:13en esto durante meses,

00:50:14debería salir todo bien.

00:50:15¿Cuál es la ventaja competitiva

00:50:24de su modelo?

00:50:27Construimos

00:50:28nuestro propio modelo

00:50:29lingüístico

00:50:29y no dependemos

00:50:30de recursos externos.

00:50:32Hace poco resolvimos

00:50:33la trazabilidad

00:50:34de la información

00:50:35de una forma nueva.

00:50:36No solo se ven fuentes

00:50:37que lo corroboran

00:50:38sino también

00:50:39que lo contradicen.

00:50:41Me mostraste

00:50:42un ejemplo, ¿verdad?

00:50:43Exactamente,

00:50:44desde tu propio discurso.

00:50:45Creo que esto es...

00:50:46Aquí tenemos

00:50:47a los analistas,

00:50:48ten cuidado.

00:50:50Los estadounidenses

00:50:51son rápidos,

00:50:52están dispuestos

00:50:53a correr riesgos,

00:50:54pero por supuesto

00:50:55esta asociación

00:50:56también debe beneficiar

00:50:57a HP

00:50:58y por supuesto

00:50:59cualquier asociación

00:51:00puede terminar

00:51:01en cualquier momento.

00:51:02Jonas Androulis

00:51:13quiere evitar

00:51:14volverse dependiente

00:51:15de una gran corporación

00:51:16como sucedió

00:51:17en el caso

00:51:18de OpenAI

00:51:19con Microsoft.

00:51:20Pero eso

00:51:21conlleva

00:51:21un gran riesgo.

00:51:23Si su tecnología

00:51:23no puede seguir

00:51:24el ritmo

00:51:25de la competencia,

00:51:26está fuera

00:51:27de la carrera.

00:51:29Pronto tendremos

00:51:30más dinero.

00:51:31Espero que lo que

00:51:34hicimos ayer

00:51:34haya ayudado

00:51:35un poco con eso.

00:51:36Sí,

00:51:37ciertamente

00:51:37no perjudicó.

00:51:39Y después del show

00:51:40recibí retroalimentación

00:51:41inmediata

00:51:42de los inversores

00:51:43en mi teléfono celular

00:51:44y quiero poner

00:51:45a trabajar

00:51:46ese dinero.

00:51:51Sería útil

00:51:54que usted me diera

00:51:55una lista

00:51:56de ejemplos

00:51:56de aplicación.

00:51:57entonces podríamos

00:51:58ver primero

00:51:59cómo lo comercializamos

00:52:00y en segundo lugar

00:52:02cómo podemos utilizar

00:52:03esto internamente

00:52:04en la empresa.

00:52:05Eso sería genial.

00:52:06Y luego

00:52:07en tercer lugar

00:52:07debemos ponernos

00:52:08de acuerdo

00:52:09sobre qué servicios

00:52:09ofreceremos.

00:52:10Gracias por la colaboración,

00:52:19me alegro de verle.

00:52:20Muchas gracias.

00:52:22Lo que nos atrajo

00:52:23de la colaboración

00:52:24es la misión

00:52:25de Aleph Alpha

00:52:25de posibilitar

00:52:26a las empresas

00:52:27el uso

00:52:27de modelos lingüísticos

00:52:29y multimodales.

00:52:29La mayoría

00:52:33de las empresas

00:52:34de Silicon Valley

00:52:35se dirigen

00:52:35más a los consumidores.

00:52:37La idea

00:52:37de un modelo

00:52:38lingüístico

00:52:38personalizado

00:52:39que pueda

00:52:40entrenarse

00:52:40con datos propios

00:52:41encaja muy bien

00:52:42con nuestra base

00:52:43de clientes.

00:52:50A pesar

00:52:51de lo amistosos

00:52:52que son

00:52:53los estadounidenses,

00:52:54quieren ver

00:52:55resultados concretos.

00:52:56Androulis

00:52:57tiene que cumplir

00:52:58y rápido.

00:52:59Ahora muestro

00:53:10enojo.

00:53:14Tengo

00:53:15una sonrisa

00:53:16para ti.

00:53:19¿Y estás satisfecho

00:53:20con la feria

00:53:21hasta ahora?

00:53:22Estoy satisfecho.

00:53:24Mucha gente

00:53:25viene

00:53:25y quiere hablar

00:53:26conmigo.

00:53:28¿Cuál fue

00:53:29la conversación

00:53:29más interesante?

00:53:31Quizás

00:53:31la conversación

00:53:32más interesante

00:53:33giró en torno

00:53:34a la comunicación

00:53:35entre humanos

00:53:36y robots.

00:53:42La carrera

00:53:43de la IA

00:53:44es también

00:53:45una competencia

00:53:45por la atención.

00:53:47¿Quién consigue

00:53:48meterse

00:53:48en el foco

00:53:49de atención

00:53:49de los inversores?

00:53:51¿Quién se sienta

00:53:52en los paneles?

00:53:53¿Es notado

00:53:53solicitado?

00:54:05Ya hemos escuchado

00:54:07y visto

00:54:08a una o dos mentes

00:54:09maestras

00:54:09sobre el tema

00:54:10de hoy

00:54:10y todavía

00:54:11quedan algunas

00:54:12más por venir

00:54:12y hablarán

00:54:13sobre la cuestión

00:54:14de hasta qué punto

00:54:15la IA en sí misma

00:54:16proporcionará innovaciones.

00:54:17Jonas Androulis

00:54:22está de repente

00:54:23en el foco

00:54:24de atención.

00:54:25La tecnología

00:54:25de nicho

00:54:26de antes

00:54:27ahora es lo que

00:54:28está de moda.

00:54:29Su IA

00:54:29es probada

00:54:30y evaluada,

00:54:31no siempre

00:54:31de forma amigable.

00:54:33El semanario

00:54:34Deed Sight

00:54:35acusa

00:54:35al F-Alpha

00:54:36de permitir

00:54:37que su IA

00:54:38provoque

00:54:38con declaraciones

00:54:39racistas

00:54:40y chauvinistas.

00:54:41Androulis

00:54:42señala

00:54:42que se trata

00:54:43de una tecnología

00:54:44básica

00:54:44que intencionadamente

00:54:45no tiene restricciones.

00:54:49Presa fácil

00:54:50para los periodistas.

00:54:51Tomé una captura

00:54:52de pantalla

00:54:53y el modelo

00:54:53dijo una mala palabra.

00:54:56Con cada ajuste

00:54:57fino que hago

00:54:58en las instrucciones,

00:54:59el modelo

00:55:00sufre en ciertas áreas,

00:55:02pierde habilidades

00:55:03para hacerlo

00:55:03más agradable,

00:55:05más seguro

00:55:05y estas son quizás

00:55:07exactamente

00:55:08las habilidades

00:55:09que necesito

00:55:10para la automatización

00:55:11de procesos

00:55:12en un contexto

00:55:13industrial.

00:55:15Queremos que la tecnología

00:55:39de integración

00:55:40se convierta

00:55:41en una marca conocida,

00:55:42al igual que el iPhone.

00:55:44Eso es lo más importante,

00:55:45no pienses

00:55:46en si esto

00:55:46tiene sentido

00:55:47o no.

00:55:49Queremos convertirnos

00:55:50en una empresa

00:55:51como OpenAI,

00:55:52el principal proveedor

00:55:53en el mundo

00:55:54de embedding

00:55:55o encaje léxico.

00:56:00Hablé sobre

00:56:01nuestra planificación.

00:56:05Vamos a lanzar

00:56:06un nuevo proyecto,

00:56:07una especie

00:56:07de competidor

00:56:08del encaje léxico

00:56:09de OpenAI.

00:56:16Debatimos cuál

00:56:16es la mejor manera

00:56:17de hacer que el equipo

00:56:19se concentre

00:56:19en este proyecto.

00:56:24Tenemos un equipo

00:56:26con diferentes

00:56:26orígenes culturales

00:56:28y a veces

00:56:28es difícil

00:56:29que todos

00:56:30se centren

00:56:30en una sola cosa.

00:56:34Esto también

00:56:34se debe

00:56:35al hecho

00:56:35de que la inteligencia

00:56:36artificial

00:56:37se está desarrollando

00:56:38muy rápidamente

00:56:39y hay muchas modas.

00:56:40La gente

00:56:40quiere probar

00:56:41todo tipo

00:56:41de cosas.

00:56:42Así que hablé

00:56:43con mi jefe técnico

00:56:44y me aseguré

00:56:44de que todos

00:56:45los desarrolladores

00:56:46y ejecutivos

00:56:47senior

00:56:47fueran

00:56:47en la misma dirección.

00:56:49Mi trabajo principal

00:56:56como CEO

00:56:57es ser el freno

00:56:58de la diversión.

00:56:59Elimino todas

00:57:00las distracciones

00:57:01para asegurarme

00:57:02de que las personas

00:57:03se concentren

00:57:04en las tareas

00:57:04que llevarán

00:57:05a la empresa

00:57:05al éxito.

00:57:08Somos una empresa

00:57:10que atiende

00:57:10principalmente

00:57:11a desarrolladores

00:57:12e ingenieros

00:57:13de software.

00:57:14Por ejemplo,

00:57:15el equipo

00:57:15de desarrollo

00:57:16de Salando,

00:57:17justo ahí,

00:57:17es nuestro cliente.

00:57:18El mayor desafío

00:57:26es que la competencia

00:57:27es demasiado feroz.

00:57:29Los inversores

00:57:29no son tontos,

00:57:30especialmente

00:57:31cuando se trata

00:57:32de rondas

00:57:32de financiación

00:57:33posteriores.

00:57:34Evalúan a la empresa

00:57:35de manera muy estricta.

00:57:38Por ejemplo,

00:57:39competimos con empresas

00:57:40como Hagenface

00:57:41o Cogir.

00:57:42La gente de allí

00:57:43trabajó en Google,

00:57:44estudió en el MIT

00:57:46y Stanford.

00:57:47Son personas inteligentes.

00:57:48La mayoría

00:57:54de los inversores

00:57:55no nos valoran

00:57:56como una empresa

00:57:57pequeña,

00:57:57no por la publicidad,

00:57:59sino por nuestro rendimiento.

00:58:03Por lo tanto,

00:58:05tenemos que mostrar

00:58:05dos cosas,

00:58:06un número de usuarios

00:58:07en rápido crecimiento

00:58:09o ingresos estables.

00:58:11La base

00:58:11es súper rápido

00:58:12o

00:58:13les mostramos

00:58:14un rendimiento sólido.

00:58:15fin del verano

00:58:26de 2023.

00:58:28Y Thomas Wolff

00:58:29está de vacaciones

00:58:30con su familia

00:58:31en Bretaña.

00:58:32Como director científico,

00:58:33es el principal responsable

00:58:35de la investigación

00:58:36y el desarrollo

00:58:37de la empresa,

00:58:38un área que permite

00:58:38tomar un respiro

00:58:39cada tanto.

00:58:46¿Y qué van a hacer hoy?

00:58:48¿Algo especial?

00:58:51No.

00:58:52Hoy practicamos

00:58:53con vela.

00:58:54¿Pero no lo hicieron

00:58:55ayer?

00:58:55Sí, pero hoy

00:58:58haremos algo diferente.

00:59:00Bueno.

00:59:03¿Y qué?

00:59:04El gajo

00:59:05es y camuflé.

00:59:07En el centro

00:59:08de atención

00:59:08está el compañero

00:59:09de Thomas,

00:59:10Clément Delon.

00:59:12Es el CEO

00:59:12de Hagen Face

00:59:13y la cara

00:59:14de la empresa

00:59:15hacia el exterior.

00:59:19Pesos pesados

00:59:19de la tecnología

00:59:20como Google,

00:59:21Amazon,

00:59:22NVIDIA

00:59:23y AMD

00:59:23han invertido

00:59:25235 millones

00:59:26de dólares

00:59:27en Hagen Face.

00:59:28La plataforma

00:59:29abierta

00:59:29de desarrollo

00:59:30de modelos

00:59:31de IA

00:59:31se ha convertido

00:59:32en un negocio

00:59:33de miles

00:59:33de millones

00:59:34de dólares.

00:59:38Algo le ha dado

00:59:39a la compañía

00:59:39prestigio adicional,

00:59:41Meta,

00:59:41la compañía

00:59:42de Mark Zuckerberg.

00:59:43Publica su modelo

00:59:44de lenguaje

00:59:45de alta gama,

00:59:46Lama 2,

00:59:47en Hagen Face.

00:59:50Este es un modelo

00:59:51que fue lanzado

00:59:52recientemente

00:59:52por Facebook,

00:59:53es decir,

00:59:54Meta.

00:59:55Es similar

00:59:56a ChatGPT,

00:59:57un competidor

00:59:58de código abierto.

00:59:59La diferencia

00:59:59es que es gratis.

01:00:02Puede instalarse

01:00:03fácilmente

01:00:03en la computadora.

01:00:05No tienes que usarlo

01:00:05a través de la interfaz

01:00:06de ChatGPT

01:00:07y pagar por él.

01:00:09Es como un kit

01:00:11de Lego.

01:00:11Todo está abierto,

01:00:12todo es de libre acceso.

01:00:14También puedes comprarlo

01:00:15listo para usar.

01:00:16Cuando alguien

01:00:18te construye

01:00:19un modelo

01:00:19de código abierto,

01:00:20es como que

01:00:20ensamblara un Lego

01:00:21para ti.

01:00:22Un precioso Bugatti

01:00:23hecho del Lego

01:00:24y después de eso

01:00:25es tuyo.

01:00:26Puedes abrirlo

01:00:27y mirar dentro

01:00:27de los engranajes.

01:00:30La mayor ventaja

01:00:31del código abierto,

01:00:33la libre accesibilidad,

01:00:34es también

01:00:35su mayor debilidad.

01:00:37¿Qué pasaría

01:00:37si los modelos

01:00:38fueran desarrollados

01:00:39por delincuentes,

01:00:40terroristas

01:00:41o servicios secretos

01:00:42y utilizados

01:00:43con fines malvados?

01:00:45Por ejemplo,

01:00:45se pueden eliminar

01:00:46fácilmente

01:00:47los mecanismos

01:00:48de seguridad

01:00:49incorporados

01:00:49por los desarrolladores

01:00:51de un modelo

01:00:51de lenguaje.

01:00:54Esa es una gran pregunta

01:00:56que nos hacemos

01:00:56en Hagenface.

01:00:59Al principio

01:00:59queríamos que el acceso

01:01:00a esta tecnología

01:01:01estuviera lo más

01:01:02disponible posible.

01:01:04Asumimos que esto

01:01:05ayudaría a muchos

01:01:06desarrolladores,

01:01:07pero la tecnología

01:01:08tiene dos caras

01:01:10y también hay personas

01:01:11que no deberían

01:01:12tener acceso a ella.

01:01:13No deberían saber.

01:01:13El año pasado

01:01:23conocí a alguien

01:01:24que estaba diseñando

01:01:26una IA

01:01:26para desarrollar

01:01:27fármacos,

01:01:29moléculas que son

01:01:29buenas para la salud.

01:01:30Y solo como experimento

01:01:32entrenó a la IA

01:01:34para buscar moléculas

01:01:35que son malas

01:01:35para la salud.

01:01:38En solo cuatro horas

01:01:40detectó miles

01:01:41de armas químicas,

01:01:42incluido el VX,

01:01:45el gas nervioso

01:01:46más poderoso

01:01:46que jamás hayamos

01:01:47desarrollado

01:01:48en los Estados Unidos.

01:01:51Por supuesto,

01:01:52cosas como esa

01:01:52no deben estar

01:01:53disponibles libremente.

01:01:55Eso es una locura.

01:01:56Soy científico.

01:01:58Me encanta

01:01:59el código abierto.

01:02:00Cuando se trata

01:02:01de dar grandes pasos

01:02:02lo más rápido posible,

01:02:03el código abierto

01:02:05es tu amigo.

01:02:06Aún así,

01:02:07no puedo ignorar

01:02:08por completo

01:02:09los peligros.

01:02:11Y el único argumento

01:02:11que he escuchado

01:02:13de los defensores

01:02:14hasta ahora es

01:02:15bueno,

01:02:17le encontraremos

01:02:18la vuelta.

01:02:19Es fácil comentar

01:02:21desde afuera

01:02:22y advertir

01:02:22que todo esto

01:02:23es peligroso.

01:02:24Es más difícil

01:02:25involucrarse activamente

01:02:26y decir

01:02:27voy a tratar

01:02:27de crear algo positivo,

01:02:29algo bueno.

01:02:32No necesariamente

01:02:33tendrá éxito.

01:02:35Habrá errores

01:02:35y nuevos intentos

01:02:36y sin embargo

01:02:37voy a intentarlo.

01:02:38es arriesgado

01:02:40pero seguimos

01:02:40el camino

01:02:41que creemos

01:02:41que es el correcto.

01:02:59El Instituto Tecnológico

01:03:00de Massachusetts

01:03:01es una de las universidades

01:03:03tecnológicas

01:03:04más prestigiosas

01:03:05del mundo.

01:03:05Estrechamente

01:03:07interconectado

01:03:08con la industria,

01:03:09lo que se está

01:03:10investigando aquí

01:03:10tiene el potencial

01:03:11de cambiar el mundo

01:03:12y, por supuesto,

01:03:14el MIT

01:03:15también está

01:03:16a la vanguardia

01:03:17de la inteligencia

01:03:18artificial.

01:03:19Max Tegmark

01:03:20es profesor aquí,

01:03:21además de su trabajo

01:03:22para el Future of Life

01:03:24Institute.

01:03:25El tema

01:03:25de la seguridad

01:03:26de la IA

01:03:27también determina

01:03:28aquí su vida diaria.

01:03:29Hagamos un esfuerzo

01:03:31y aceleremos

01:03:32el ritmo.

01:03:34Es muy inspirador

01:03:35cuando voy

01:03:36a Silicon Valley

01:03:37y veo lo rápido

01:03:38que van las empresas

01:03:39allí

01:03:39en comparación

01:03:40con nosotros

01:03:41aquí en la universidad.

01:03:43Tenemos un montón

01:03:44de gente talentosa

01:03:45aquí,

01:03:46así que comencemos.

01:03:47Tecmark

01:03:53y sus compañeros

01:03:54quieren vigilar

01:03:55de cerca

01:03:55a las empresas

01:03:56emergentes

01:03:57tecnológicas

01:03:57de Silicon Valley,

01:03:59descubrir riesgos

01:04:00y dejarnos claro

01:04:01a nosotros,

01:04:02la sociedad,

01:04:03con una especie

01:04:04de método científico,

01:04:05el poco tiempo

01:04:06que queda

01:04:06para contrarrestar

01:04:07el impulso

01:04:08de la industria

01:04:09tecnológica.

01:04:11Has trabajado duro

01:04:12para terminar

01:04:13tu presentación.

01:04:15Ayer hablamos

01:04:15mucho sobre esto.

01:04:16Creo que la última

01:04:17parte podría ser

01:04:18emocionante

01:04:19para todo el grupo.

01:04:21Sí, estoy de acuerdo.

01:04:22¿Quieres escribir

01:04:23la tabla en la pizarra?

01:04:25Claro.

01:04:25Tal vez los demás

01:04:26puedan contribuir

01:04:27con algunas citas.

01:04:29Hemos modelado

01:04:30el conflicto

01:04:31entre los que quieren

01:04:32reemplazar

01:04:32los medios vitales

01:04:33humanos

01:04:34y tal vez

01:04:35a las personas mismas

01:04:36y los que se oponen

01:04:37a ello

01:04:38y quieren preservar

01:04:39el statu quo.

01:04:45Peter no lo inventó

01:04:46así como así.

01:04:47Eso en realidad

01:04:48viene de las matemáticas.

01:04:49Si adoptas

01:04:51una actitud ingenua

01:04:53dices,

01:04:53bueno,

01:04:53tenemos una IA

01:04:54que puede hacer

01:04:55todo lo que los humanos

01:04:56pueden hacer,

01:04:57incluso mejor,

01:04:58pero mi vida

01:04:59seguirá siendo buena.

01:05:00Si muchas personas

01:05:01creen esto,

01:05:02no harán sacrificios

01:05:03personales

01:05:03para unirse

01:05:04y resistir juntos.

01:05:05hay empresas

01:05:10y desarrolladores

01:05:11de código abierto

01:05:11que están trabajando

01:05:12día y noche

01:05:13para quitarle

01:05:14a las personas

01:05:15oportunidades de ingresos

01:05:16mediante el desarrollo

01:05:17de modelos de IA

01:05:18que pueden hacer

01:05:19el trabajo mejor

01:05:20que los humanos.

01:05:21Y tan pronto

01:05:21como alguien

01:05:22pierde sus ingresos

01:05:23es demasiado tarde.

01:05:24Las opciones

01:05:25de acción

01:05:25son limitadas.

01:05:26Ese es el mayor riesgo

01:05:31que en 20 años

01:05:33miremos hacia atrás

01:05:33y nos demos cuenta

01:05:35de que lo hemos

01:05:35autorizado todo

01:05:36porque fue muy fácil

01:05:38y funcionó

01:05:39y la IA

01:05:40se comportó correctamente

01:05:41el 99%

01:05:42de las veces

01:05:43y de repente

01:05:44ya no tenemos control

01:05:45sobre algo

01:05:46que es crucial

01:05:46para la sociedad.

01:05:56y el proceso

01:06:01ya ha comenzado.

01:06:03Hasta ahora

01:06:04han sido

01:06:05las capacidades

01:06:06intelectuales

01:06:07y creativas

01:06:07del hombre

01:06:08las que lo distinguen

01:06:09de otros seres vivos

01:06:10y máquinas.

01:06:11¿Qué pasa

01:06:12si ahora

01:06:12se nos despoja

01:06:13de esas cualidades?

01:06:24Mi nombre

01:06:25Mi nombre

01:06:26es doctora

01:06:27Enongo Lumumba

01:06:28Cazongo

01:06:29también conocido

01:06:30como Samus

01:06:31soy rapera

01:06:32productora

01:06:32y miembro

01:06:33del departamento

01:06:34de música

01:06:34de la Universidad

01:06:35de Brown.

01:06:37Originalmente

01:06:38solo estaba

01:06:38marginalmente

01:06:39interesada

01:06:40en todas

01:06:40estas discusiones

01:06:41sobre IA

01:06:42he escuchado

01:06:44mirado

01:06:44leído

01:06:45realmente

01:06:47no me involucré

01:06:48hasta que me di cuenta

01:06:49de lo que estaba sucediendo

01:06:50en la intercepción

01:06:51del hip hop

01:06:51y la IA

01:06:52fue entonces

01:06:53cuando me di cuenta

01:06:54esto se está desarrollando

01:06:56muy rápido.

01:06:57El año pasado

01:06:57hablamos de una especie

01:06:59de rapero generado

01:07:00por IA

01:07:00y este año

01:07:01las voces de artistas

01:07:02como Drake

01:07:03y The Weeknd

01:07:04fueron clonadas

01:07:05con la ayuda

01:07:05de la IA.

01:07:07La velocidad

01:07:07a la que esto

01:07:08se ha convertido

01:07:09en un desafío

01:07:10inmediato

01:07:10para los artistas

01:07:12es preocupante.

01:07:13esta es la lógica

01:07:19del capitalismo

01:07:20como creador humano

01:07:23puedes tratar

01:07:23de no quedarte

01:07:24atrás.

01:07:29Los chinos

01:07:31siempre tenemos

01:07:32la sensación

01:07:33de que

01:07:33la tecnología

01:07:34si se usa

01:07:35de manera inteligente

01:07:36puede estimularnos

01:07:38a ser

01:07:39más inteligentes

01:07:41y mejores.

01:07:47Las IA

01:07:48pueden funcionar

01:07:49más rápido

01:07:49y más barato

01:07:50no hacen huelga

01:07:52no hacen demandas

01:07:54tontas.

01:07:54las empresas

01:08:01chinas

01:08:01ya las están

01:08:02utilizando

01:08:03para reemplazar

01:08:04la mano de obra

01:08:05humana.

01:08:08Este momento

01:08:09es crítico

01:08:10para los creativos

01:08:11de todo el mundo.

01:08:14Está ocurriendo

01:08:14algo que será

01:08:15de gran importancia

01:08:17en los próximos

01:08:18tres a cinco años.

01:08:19para la gente

01:08:29como yo

01:08:30que puede

01:08:30ganarse

01:08:31la vida

01:08:31con su arte

01:08:32pero no

01:08:32pertenece

01:08:33a la liga superior

01:08:34de la industria

01:08:35de la música

01:08:35para nosotros

01:08:36hay una manera

01:08:37de pasar

01:08:38desapercibidos

01:08:39y seguir

01:08:39haciendo nuestro

01:08:40trabajo

01:08:41porque se trata

01:08:42de experimentar.

01:08:43Se trata

01:08:45de probar

01:08:45cosas locas

01:08:46mientras que

01:08:47con la IA

01:08:48se trata

01:08:48de algo promedio.

01:08:49aquellos que

01:08:53hacen lo inusual

01:08:54y sorprendente

01:08:55continuarán

01:08:56teniendo éxito

01:08:57en el futuro.

01:09:11El impacto

01:09:12de la inteligencia

01:09:13artificial

01:09:14en nuestra sociedad

01:09:15es de gran alcance

01:09:16y complejo.

01:09:17¿Cómo se puede

01:09:18regular

01:09:19una tecnología

01:09:20que se está

01:09:20desarrollando

01:09:21tan rápidamente

01:09:22y cuyo potencial

01:09:23es difícil

01:09:24de estimar?

01:09:25A Estados Unidos

01:09:26le está costando.

01:09:28La influencia

01:09:28de la industria

01:09:29tecnológica

01:09:30en Washington

01:09:30es grande

01:09:31y las mayorías

01:09:32políticas

01:09:32son frágiles.

01:09:37El hecho

01:09:37es que

01:09:38el gobierno

01:09:38de Estados Unidos

01:09:39trabaja lentamente.

01:09:41Es una democracia.

01:09:43El sistema

01:09:43fue construido

01:09:44para ser lento.

01:09:45Se supone

01:09:46que el gobierno

01:09:46de Estados Unidos

01:09:47no debe ser

01:09:48eficiente

01:09:49ni resolver

01:09:49los problemas

01:09:50rápidamente

01:09:51porque un gobierno

01:09:52demasiado eficiente

01:09:53puede usar eso

01:09:55en contra

01:09:55de sus propios ciudadanos.

01:09:57Creo que hemos

01:09:57llegado a un estado

01:09:58en nuestra sociedad

01:09:59sobre el que advirtieron

01:10:01muchos filósofos

01:10:02y escritores

01:10:03del siglo XX,

01:10:04la incapacidad

01:10:04de dominar la tecnología

01:10:06porque todo

01:10:07es cada vez más rápido.

01:10:08Yo no apostaría

01:10:15en contra

01:10:16de la democracia,

01:10:17pero este

01:10:17va a ser

01:10:18un periodo

01:10:18de adaptación

01:10:19muy duro.

01:10:21El primer

01:10:22proyecto

01:10:23de ley

01:10:23importante

01:10:24para regular

01:10:25la inteligencia

01:10:26artificial

01:10:26de manera

01:10:27integral

01:10:28proviene

01:10:28de la Unión

01:10:29Europea,

01:10:30la llamada

01:10:30Ley de EIA.

01:10:32Admiro

01:10:33a la Unión

01:10:33Europea

01:10:34por su liderazgo.

01:10:36Se tomó

01:10:36muy en serio

01:10:37la regulación

01:10:38de la IA

01:10:38antes de que

01:10:40nadie la examinara

01:10:41seriamente.

01:10:53Jonas Androulis

01:10:54viajó a Bruselas

01:10:55junto con otros

01:10:57fundadores

01:10:58de empresas

01:10:58emergentes.

01:11:00Quiere dejar

01:11:00claro a los políticos

01:11:02de ese país

01:11:02que una fuerte

01:11:03regulación

01:11:04podría poner

01:11:04a los actores

01:11:05europeos

01:11:06más pequeños

01:11:06en desventaja

01:11:07en comparación

01:11:09con la competencia

01:11:09de Estados Unidos

01:11:10y China.

01:11:14Este tipo

01:11:15de eventos

01:11:16siempre son

01:11:16un poco difíciles

01:11:17porque haces

01:11:18un llamado

01:11:18al mundo

01:11:19y nunca sabes

01:11:20exactamente

01:11:20el eco

01:11:21que tendrá.

01:11:22Así que

01:11:22hay algunas

01:11:22personas nuevas

01:11:23que escuchan

01:11:24y se sabe

01:11:25lo importante

01:11:26que es la interacción

01:11:27dentro de Europa

01:11:28y con Europa.

01:11:29Pero siempre

01:11:30es difícil

01:11:31decir

01:11:31cuánto podemos

01:11:32movernos

01:11:33ahora.

01:11:33Vamos a movernos

01:11:42ahora.

01:11:42¿Tienes algún material?

01:12:07Puedo hablar,

01:12:09ya he preparado

01:12:09algo.

01:12:13Ustedes

01:12:13pueden elegir

01:12:14cómo quieren

01:12:15sentarse.

01:12:29Buenas tardes.

01:12:31Bienvenidos

01:12:31al Parlamento

01:12:32Europeo

01:12:33para este evento.

01:12:34Una reunión

01:12:35importante

01:12:36en el momento

01:12:37adecuado.

01:12:41Pronto sucederá

01:12:42lo que los gigantes

01:12:43tecnológicos

01:12:44ya han hecho

01:12:45con la computación

01:12:46en la nube.

01:12:47Habrá una infraestructura

01:12:48para la inteligencia

01:12:49artificial general

01:12:50y sobre eso

01:12:52se va a construir

01:12:52toda la creación

01:12:53de valor del mundo,

01:12:55todas las aplicaciones,

01:12:56todas las innovaciones.

01:13:01Para nosotros

01:13:02no hay una segunda

01:13:03oportunidad.

01:13:04Si no nos movemos

01:13:05rápido ahora,

01:13:06no podremos volver

01:13:07a intentarlo

01:13:07en 12 meses.

01:13:08Muchas gracias.

01:13:09Andrullis repite su mensaje

01:13:29una y otra vez,

01:13:31ya sea en escenarios

01:13:32internacionales

01:13:33con políticos alemanes

01:13:34o aquí en el Parlamento

01:13:36Europeo.

01:13:37Las charlas triviales

01:13:38y el lobby

01:13:38se han convertido

01:13:39en parte de la vida

01:13:40empresarial cotidiana

01:13:41de Jonas Andrullis

01:13:42a lo largo del año.

01:13:47Bueno,

01:13:48comencé mi carrera

01:13:49como banquero

01:13:49de inversión

01:13:50y consultor

01:13:51de gestión

01:13:52con traje

01:13:53a 38 grados

01:13:54sin aire acondicionado.

01:13:56creo que yo no sería

01:14:17un buen político,

01:14:18ya lo he notado

01:14:19en el grupo Apple.

01:14:20¿Cuál es la probabilidad

01:14:23de éxito?

01:14:25¿Vale la pena invertir

01:14:26esta vez?

01:14:27¿Vale la pena

01:14:28pelear esta pelea?

01:14:29Eso creo.

01:14:30Creo que es una lucha

01:14:31por la que vale la pena

01:14:32luchar,

01:14:33pero a menudo

01:14:34he tenido momentos

01:14:34en los que imagino

01:14:35que también sería bueno

01:14:37hacer algo diferente.

01:14:38Poco después,

01:14:47el Parlamento Europeo

01:14:48aprueba la Ley

01:14:49de Inteligencia Artificial.

01:14:57Dentro de cinco años,

01:14:58esta ley permitirá

01:14:59a Europa

01:14:59hacer frente

01:15:00al rápido desarrollo

01:15:01de la IA

01:15:02y obtener

01:15:03los mayores beneficios

01:15:04de ella.

01:15:05Hemos trabajado

01:15:06para garantizar

01:15:07que se protejan

01:15:08y fortalezcan

01:15:08los derechos

01:15:09y libertades

01:15:10de nuestros ciudadanos.

01:15:12No queremos

01:15:12vigilancia masiva,

01:15:14no queremos

01:15:14calificación social,

01:15:16no queremos

01:15:16una policía predictiva

01:15:18en la Unión Europea.

01:15:28Soy Dragos

01:15:29Tudorake.

01:15:30Soy diputado

01:15:31al Parlamento Europeo

01:15:32en representación

01:15:33del Grupo

01:15:33del Partido Europeo

01:15:35de los Liberales

01:15:36Demócratas

01:15:36y Reformistas.

01:15:37Soy juez

01:15:38de profesión.

01:15:39También fui miembro

01:15:39del gobierno

01:15:40de Rumania

01:15:40como ministro

01:15:41del Interior

01:15:42y ministro

01:15:42de Asuntos Digitales

01:15:44antes de llegar

01:15:44al Parlamento.

01:15:47La inteligencia artificial

01:15:48tendrá un gran impacto

01:15:50en el equilibrio

01:15:51de poder internacional.

01:15:53Impulsará

01:15:54nuestras economías

01:15:55y se convertirá

01:15:56en un factor geopolítico.

01:15:58Por un lado,

01:15:59en términos de guerra,

01:16:01pero también

01:16:01en términos

01:16:02de qué parte del mundo

01:16:03será competitiva

01:16:04y cuál no.

01:16:07También veremos pronto

01:16:08una competencia

01:16:09o incluso

01:16:11un conflicto

01:16:12con respecto

01:16:13a los estándares

01:16:14globales

01:16:14de la tecnología.

01:16:17Por eso,

01:16:17debemos tomar medidas

01:16:19para proteger

01:16:19nuestros intereses

01:16:21y para garantizar

01:16:22que nuestra comprensión

01:16:24de cómo manejar

01:16:26la tecnología

01:16:27sea compartida

01:16:28por tantas personas

01:16:29en todo el mundo

01:16:30como sea posible.

01:16:37En las negociaciones

01:16:38posteriores,

01:16:39los países

01:16:40de la UE,

01:16:41Alemania,

01:16:42Francia e Italia

01:16:43quieren suavizar

01:16:44las reglas

01:16:45de la ley

01:16:45de IA

01:16:46y una vez más.

01:16:47También para proteger

01:16:48a los actores nacionales,

01:16:50como Aleph-Alpha,

01:16:51de una fuerte regulación.

01:16:53Al final,

01:16:54sin embargo,

01:16:54el Parlamento Europeo

01:16:55se impone.

01:16:56Sí,

01:16:59en lo que respecta

01:17:00a la regulación,

01:17:02somos el área económica

01:17:04que está a la vanguardia

01:17:05y, por supuesto,

01:17:06siempre existe

01:17:07la preocupación

01:17:08de que

01:17:08se está sacando

01:17:10demasiada creatividad

01:17:11del mercado.

01:17:11Por lo tanto,

01:17:13lamentablemente,

01:17:13en Europa

01:17:14estamos mejor

01:17:15respecto a la regulación

01:17:16que cuando se trata

01:17:17de colocar tecnología

01:17:18en el mercado.

01:17:19La verdad es que,

01:17:20en última instancia,

01:17:21esto también será bueno

01:17:22para la industria tecnológica.

01:17:24Si la IA

01:17:24se regula

01:17:25en condiciones justas,

01:17:26entonces tendrá

01:17:27la reputación

01:17:28de ser segura

01:17:28y se podrá vender más.

01:17:30Incluso los cinturones

01:17:31de seguridad

01:17:31en los automóviles

01:17:32fueron ferozmente

01:17:33rechazados

01:17:34por la industria automotriz

01:17:35al principio.

01:17:36Cuando llegó la ley,

01:17:37se vendieron

01:17:37muchos más autos.

01:17:38Han Xiao ha viajado a Shenzhen

01:17:52como director general.

01:18:08Tiene que visitar

01:18:09y se va a visitar

01:18:09regularmente

01:18:09las distintas oficinas

01:18:11de su empresa

01:18:11para mantener unido

01:18:12al equipo.

01:18:13¿Ves las letras rojas

01:18:16en la casa?

01:18:17Esa es nuestra oficina,

01:18:19pero no somos tan grandes,

01:18:20solo tenemos

01:18:21una pequeña habitación

01:18:22en este gran edificio.

01:18:23Él busca

01:18:30completar

01:18:30las próximas etapas

01:18:31de su empresa

01:18:32Gina

01:18:33y para ello

01:18:34todos los empleados

01:18:35tienen que estar

01:18:36al tanto

01:18:36lo máximo posible.

01:18:37Pondré esto aquí.

01:18:49Traje unas obleas.

01:18:50Pruébalas.

01:18:51Son deliciosas.

01:18:52Les dije,

01:19:03ahora tienen que comer

01:19:04y hacer una cara feliz

01:19:05para la cámara.

01:19:05Cuando trabajo en Alemania,

01:19:18la gente se saluda,

01:19:19hace chistes,

01:19:20habla de cosas triviales

01:19:21como el partido de fútbol

01:19:22de ayer

01:19:23y todo eso.

01:19:23Aquí uno es bastante

01:19:27introvertido.

01:19:28Las culturas de trabajo

01:19:29son diferentes,

01:19:30pero ambas son

01:19:31bastante productivas

01:19:32bajo mi control.

01:19:48Una serie de pequeños éxitos

01:19:50fortalece a un equipo

01:19:51y le da más seguridad.

01:19:52Un mayor éxito

01:19:54significa más esperanza,

01:19:55pero una esperanza mayor

01:19:57también podría significar

01:19:58una decepción mayor,

01:19:59¿no?

01:20:06En una empresa emergente

01:20:09todo se mueve rápido.

01:20:11Si las cosas

01:20:12se ponen estresantes

01:20:13y te pones nervioso,

01:20:14puedes perder rápidamente

01:20:16tus ventajas

01:20:16sobre otros competidores

01:20:18en el mercado.

01:20:18Al final no se trata

01:20:23de lo que hicimos,

01:20:24se trata de cómo

01:20:25nos percibe la gente.

01:20:30En Alemania,

01:20:32un equipo está trabajando

01:20:33actualmente

01:20:34en la elaboración

01:20:35de un nuevo modelo

01:20:36lingüístico.

01:20:37Ayer los ejecutivos

01:20:38me dijeron

01:20:39que el modelo

01:20:39estaría listo el lunes,

01:20:41pero la fecha

01:20:41se ha pospuesto

01:20:42muchas veces.

01:20:43Esperemos a ver

01:20:44cómo va esta vez.

01:20:49Por la noche,

01:20:51Han Xiao

01:20:51tiene una reunión

01:20:52con un inversor potencial.

01:20:57En el camino,

01:20:58llama a su jefe técnico

01:20:59para averiguar

01:21:00si funcionará

01:21:00el lanzamiento

01:21:01del nuevo modelo

01:21:02de lenguaje.

01:21:03Hola, Van Nan.

01:21:06Tu plataforma

01:21:07de encaje léxico

01:21:08debe estar

01:21:08en la lista

01:21:09de los mejores modelos

01:21:10del mundo.

01:21:11Si todo el mundo

01:21:12no da lo mejor

01:21:12de sí mismo,

01:21:13esta empresa

01:21:13no funcionará.

01:21:15Si no entras

01:21:16en el top 10,

01:21:16va a ser mucho más difícil.

01:21:22¿Quién usa

01:21:22una plataforma

01:21:23si no estás

01:21:24entre los 10 primeros?

01:21:25Necesitas pensar

01:21:26más en estas cosas prácticas.

01:21:28¿Está lista

01:21:34la publicación

01:21:35de LinkedIn?

01:21:36¿Está lista

01:21:36la publicación

01:21:37de Twitter?

01:21:38Tiene que haber

01:21:39una estrategia.

01:21:43Bueno,

01:21:44eso es todo.

01:21:44Adiós.

01:21:51Quiero estar

01:21:52entre los primeros

01:21:5310 del mundo

01:21:54con nuestro modelo.

01:21:55Pero el equipo

01:21:57alemán

01:21:57me acaba de decir

01:21:58que probablemente

01:22:00no lo lograrán.

01:22:03Por eso me puse

01:22:05un poco más intenso

01:22:06en la conversación,

01:22:07porque era

01:22:07nuestro objetivo

01:22:08fijado.

01:22:15Este mundo

01:22:17está muy orientado

01:22:19a la atención.

01:22:20Si no llegas

01:22:21a estar entre

01:22:21los 10 primeros,

01:22:22nadie se preocupa

01:22:23por ti,

01:22:24incluso si estás

01:22:25en el puesto 11.

01:22:28Por eso le digo

01:22:29al equipo

01:22:30que no se trata

01:22:31solo de la tecnología,

01:22:32sino de toda la empresa,

01:22:33marketing,

01:22:34ventas.

01:22:35Todo depende

01:22:36de entrar

01:22:36en la lista

01:22:37de los mejores.

01:22:37marketing,

01:22:38sales,

01:22:39todo depende

01:22:40de los 10

01:22:41de los 10

01:22:42modelos

01:22:43de la lista.

01:22:44de los 10

01:23:03y

01:23:04Hola, Grace.

01:23:24Grace Liu trabaja para un banco de inversión chino.

01:23:29Durante la fase de fundación de la empresa de Hangzhou hace dos años,

01:23:32los dos ya habían estado en contacto una vez.

01:23:38Acabas de empezar a llevar contenido generado por IA a la gente, ¿no es así?

01:23:45Inteligencia artificial multimodal.

01:23:48Estamos trabajando en dos cosas en este momento.

01:23:51Una es la tecnología prompt, y luego está la tecnología de encaje léxico.

01:23:57Este año va a ser todo un reto para ustedes.

01:23:59Hicimos un nuevo software, Prompt Perfect.

01:24:04Está dirigido a desarrolladores de software.

01:24:07Ya tenemos 200.000 usuarios registrados.

01:24:11Ah, eso significa que hay mucha demanda.

01:24:15Todavía no puedo sacar conclusiones precipitadas,

01:24:19pero Han me dijo algo muy interesante sobre el desarrollo de dos nuevos productos

01:24:24que necesito analizar más de cerca.

01:24:26Lo más importante es el propio director ejecutivo,

01:24:30que sea un buen emprendedor y no solo un científico o un buen desarrollador.

01:24:37Con reuniones como esta,

01:24:38Hangzhou mantiene las puertas abiertas tanto en China como en Occidente.

01:24:43Y hay un final feliz para su importante proyecto.

01:24:46La nueva herramienta de desarrollo funciona igual de bien en las pruebas

01:24:50que la tecnología comparable de OpenAI.

01:24:52Es el final de 2023, y Jonas Androulis lo ha conseguido.

01:25:06Se completó la gran ronda de financiación.

01:25:09La compañía se ha mantenido firme y ha convencido a los inversores

01:25:12para que inviertan 500 millones de dólares.

01:25:16Androulis los necesitará,

01:25:18porque OpenAI ya está marcando dramáticamente

01:25:22el comienzo de la siguiente ronda de la carrera de IA.

01:25:25Hemos logrado muchas cosas que hace cuatro años

01:25:41personas inteligentes me habían dicho que eran imposibles.

01:25:45Una IA de tecnología profunda de Alemania, imposible.

01:25:49Financiado con capital europeo, imposible.

01:25:52Nuestro propio centro de datos, imposible.

01:25:58Ahora comienza una nueva era y estoy muy feliz de tenerlos con nosotros.

01:26:05Gracias por estar aquí.

01:26:07Ayúdennos a organizar la mejor fiesta que Heidelberg haya visto jamás.

01:26:11Gracias.

01:26:12Y Thomas Bowles, a él solo le quedan unas pocas horas de tranquilidad.

01:26:24Esto se debe a que Hugging Face ahora está valorada en 4 mil millones y medio.

01:26:28Con el éxito de las empresas emergentes y la ley de inteligencia artificial,

01:26:33Europa se ha asegurado al menos un lugar en la mesa de las potencias mundiales de IA por el momento,

01:26:38además de Estados Unidos y China.

01:26:41Para la humanidad, la pregunta sigue siendo,

01:26:43¿qué tipo de mundo estamos construyendo ahora para nosotros y nuestros hijos?

01:26:49Sostuve a mi pequeño Leo en mis brazos cuando tenía solo nueve meses.

01:26:55Lo miré a los ojos y pensé,

01:26:56sus habilidades lingüísticas son mucho peores que las de Chad Shippity 4 en este momento.

01:27:03Y no va a alcanzar a la IA nunca.

01:27:06Tengo dos hijos en la escuela secundaria

01:27:11y pienso en cómo prepararlos para un futuro inundado de IA.

01:27:16¿Cómo enseñamos a nuestros hijos a crear algo único e individual?

01:27:21La máquina es como nuestros hermanos y hermanas.

01:27:26Trabajaremos juntos.

01:27:28Eso es lo que pienso.

01:27:36Incluso en estos momentos clave, en estos tiempos complicados,

01:27:41la gente siempre encuentra la manera.

01:27:43Son creativos e inventivos.

01:27:45Mi hijo ya está aprendiendo a programar.

01:27:49Está muy interesado en la IA.

01:27:51Quiere entender y crear cosas.

01:27:54Y utiliza la IA para hacerlo.

01:27:58Es probable que nuestros hijos creen un mundo muy diferente al nuestro.

01:28:03Pero no estoy preocupado.

01:28:05Al final, soy optimista.

01:28:06Gracias por vernos.

01:28:12¡Gracias!

01:28:13¡Gracias!

01:28:13Gracias por ver el video.

Categoría

Transcripción

Sé la primera persona en añadir un comentario

Recomendada