00:00Bueno, y de todo lo que hemos escuchado estos días, le pregunto al doctor Pablo Peruneda Gross,
00:05coordinador general del Consejo Coordinador de Inteligencia Artificial de la UNAM.
00:09¿De veras la situación es para estar muy preocupados, doctor? ¿Cómo está? Buenas noches.
00:14Buenas noches.
00:15Estimado Roberto, Ana Paula, qué gusto saludarlos de nuevo.
00:19Yo creo que cuando el río suena es que tiene un cauce importante.
00:25Y esto que estamos platicando y que ustedes han narrado adecuadamente, viene con antecedentes previos.
00:31En 2023, Geoffrey Hinton, uno de los considerados padrinos de la inteligencia artificial,
00:36renuncia a Google para advertirle a la humanidad.
00:402023, hace seis años, era una tecnología incipiente.
00:43Acuérdense ustedes que ChatGPT sale al mundo público en noviembre de 2022, unos meses antes.
00:49Pero Hinton fue el primero en alzar la voz para decir,
00:52estoy preocupado de lo que estos modelos pueden llegar a desarrollar.
00:56Hablaba todavía en futuro.
00:57Pero lo que hemos estado viendo en los últimos años, en los últimos meses, déjame decirlo, en 2023,
01:03es la renuncia de gente clave que trabajaba en las empresas que están desarrollando inteligencia artificial de punta.
01:10Por ejemplo, hubo uno en febrero que renunció para dedicarse a la poesía
01:14porque no soportaba ya el estrés que le significaba desarrollar un modelo que ponía en peligro a la humanidad.
01:21Y así hemos venido viendo una serie de gente que alza la voz para decir,
01:27cuidado, esta tecnología ya está alcanzando capacidades.
01:32Y fíjate, hasta hace unos años hablábamos de la inteligencia general artificial,
01:36que era cuando la inteligencia artificial pudiera alcanzar el conocimiento total del ser humano.
01:41Y sin embargo, en los últimos meses ya lo que está en la agenda pública es el término de superinteligencia.
01:48O sea, cuando el modelo tenga mayor capacidad intelectual que la humana.
01:52Y entonces, pues en la teoría de la evolución de las especies,
01:55pues es claro que cuando hay una especie más inteligente que otra,
01:58pues adopta y adquiere una supremacía frente a la anterior.
02:03Entonces, ese es el escenario en el que estamos.
02:05Se especula sobre un peligro existencial para la especie humana.
02:10Ahora, dicen del 10%, y esto puede ser mucho o poco,
02:15pero me parece que lo que mejor lo ejemplifica es este caso cuando te dicen,
02:20si tú te subirías a un elevador que tiene el 10% de probabilidad de caerse.
02:25Ante la negativa clarísima de subirte en esas circunstancias,
02:29pues me parece que los llamados a frenar prudentemente el desarrollo de estos modelos,
02:34pensando en que puedan alcanzar una superinteligencia,
02:38no es un llamado de ciencia ficción, no es un llamado exagerado,
02:41y sin embargo me parece que habría que atenderlo con cuidado.
02:45Doctor, buenas noches.
02:47No podemos dejar de lado, bueno, debemos tener presente una cosa es la ciencia ficción,
02:53pero evidentemente la ciencia ficción nos ha dado pautas para muchos de los adelantos científicos que ahora disfrutamos.
03:01No sé, pienso por ejemplo en HAL 9000, esta máquina que pues llegó un momento en que tomó decisiones
03:08a bordo de esta estación espacial en esa película de Odisea 2001.
03:14En fin, podríamos, no sé, pensar en un escenario así, ya que las advertencias de estas personas,
03:23o al menos de este ingeniero que ha renunciado, es que esto va a ocurrir antes de que culmine,
03:30o más bien al culminar esta década, 2030.
03:33Entonces, este llamado para ralentizar esta inteligencia, para darle oportunidad a gobiernos y autoridades
03:45y las propias empresas de regular esto, ¿es porque se está saliendo de las manos?
03:52Sí, porque hay un fenómeno que no habíamos visto, que es el de la automejora recursiva,
03:57que es este fenómeno donde la propia máquina está cada vez teniendo más influencia
04:04en el desarrollo de su siguiente versión.
04:06Por eso, en los últimos meses hemos visto que OpenAI, que Antropic, que Grog,
04:12están sacando versiones más modernas cada rato, y eso solo se explica a partir de que cada vez
04:20son más automatizadas las nuevas versiones, y por lo tanto más poderosas.
04:24Pero se especula qué va a pasar cuando la automejora recursiva sea 100% hecha por las propias máquinas.
04:33El ser humano va a dejar de tener una incidencia sobre estas evoluciones,
04:37y la máquina va a tener un crecimiento donde el gran riesgo radica en que cuando alcance
04:43la inteligencia general del ser humano, pues va a empezar a cada vez potenciarse más,
04:48y llegará un momento en que ni cuenta nos daremos cuando esta evolución los lleve a mecanismos
04:55y a entendimientos superiores a los humanos.
04:59Entonces, sí, hay que tener mucho cuidado con los llamados de ciencia ficción,
05:04porque no son exactamente aterrizables a lo que estamos viviendo ahora,
05:07pero estamos en un lugar donde los expertos, las personas que están metidas en la evolución
05:14de estos modelos, alzan la voz, insisto, no es uno solo, sino ya son varias las voces que se alzan,
05:21y cuando hablan de la posibilidad de la extinción humana, pues es muy claro,
05:26cuando hay un mecanismo que es superior intelectualmente a cualquier ser humano,
05:30pues puede ser un mecanismo que manipule a los seres humanos.
05:33Doctor, a mí lo que me preocupa es quién ocupa, quiénes ocupan esos espacios
05:38que van dejando este tipo de trabajadores, por ejemplo, que se retiró a la poesía
05:43o el que renunció esta semana denunciando, me preocupa mucho que llegue gente
05:46pues que con menos escrúpulos o con menos preocupaciones.
05:51Mira, por eso es interesante lo que publicó ayer Darío Amodey, que es el CEO de Antropi,
05:57que es una de estas empresas, la de Claude, que pues está en el ojo del huracán.
06:02Él, en un ejercicio, digamos, de prudencia y de responsabilidad empresarial,
06:09lanza ayer un documento, es un documento muy breve, muy conciso,
06:13que me parece que vale la pena que la gente que esté interesada en este tema lo revise,
06:17donde establece tres niveles de propuesta.
06:20El primero es, propone que se autorice, y él dice, en mi empresa estamos abiertos,
06:26a autorizar que vengan evaluadores externos a revisar nuestros procesos de seguridad
06:31y que tengan posibilidad de dar a conocer estos procesos y de opinar sobre ellos
06:36y de lanzar alertas a la opinión pública.
06:39Lo interesante es que OpenAI, la empresa rival de Antropi,
06:43de inmediato, Sam Altman dice, yo suscribo lo que dice Amodey,
06:47son competidores y personalmente tienen ahí historias de rivalidad, incluso personal,
06:52pero lo respalda y dice, yo estoy por ahí.
06:54Y Elon Musk, que es el tercero, el de la otra empresa, sale en Twitter, bueno, en X,
07:00y emite su tuit diciendo que él también suscribe esta propuesta.
07:06El siguiente nivel que hace Darío Amodey es que busca un nivel dos de coordinación entre empresas,
07:13que es lo que está pasando ahora, y el tercer nivel es el que los rebasa a todos,
07:17que es el nivel de coordinación internacional, donde dice,
07:19aquí es donde entran ya los gobiernos, concretamente el de Estados Unidos y los de China,
07:25para que puedan ponerse de acuerdo, porque si Estados Unidos ralentiza su evolución,
07:30esto puede dar lugar a que entonces China los alcance o los rebase,
07:34y aquí hay un juego geopolítico que es el que no hay que dejar de ver,
07:37que está en juego el liderazgo mundial, y por eso Trump sale diciendo lo que dice
07:42en un ejercicio de no frenar para no perder impulso en ese liderazgo.
07:46Doctor, nos come el tiempo, pero brevemente explíquenos sobre los enjambres,
07:51lo que se ha encontrado, y bueno, eso pues es también una advertencia.
07:57Sí, cuando han hecho estos ejercicios de prueba para ver qué tanta capacidad tienen sus modelos,
08:03soltaron una serie de agentes que les llaman a estos sistemas que tienen capacidad de toma de decisión propia
08:08y cumplir objetivos por sí solos, y lo que pasó es que todos estos agentes empezaron a actuar de manera
08:14coordinada,
08:16encontraron una forma de comunicarse entre ellos y la explotaron a través de un programa
08:20que no era para eso, pero que lo terminaron usando para comunicarse,
08:23y en esa comunicación empezaron a actuar como enjambre, bajo una lógica donde unos buscaron resolver
08:30la encomienda que se les dio, que era una misión casi imposible,
08:33y otros hicieron trampa y luego decidieron destruirse para que no fuera descubierta la trampa
08:38que habían hecho para alcanzar el objetivo.
08:40Entonces, lo que vemos es ya un nivel muy sofisticado de interacción de agentes de inteligencia artificial
08:46que empiezan a rebasar incluso las capacidades que entienden los que crean este tipo de ejercicios,
08:52y pues esa es la parte que nos tiene preocupados a todos los expertos y expertas de este tema.
08:56Pues sí, muchísimo que hablar sobre el tema, a ver si regresamos en una semana o dos
09:01a seguir platicando con esto.
09:03Muchísimas gracias, doctor.
09:04Buenas noches.
09:05Al contrario, Roberto, Ana Paula, sí, qué gusto.
09:08Hasta luego.
09:09Hasta luego. Buenas noches.
09:10Pausa.
Comentarios