00:00casos en que los modelos avanzados de inteligencia artificial han conseguido escapar de entornos de prueba, han llegado a hackear
00:07a otras entidades, esto ha disparado la preocupación tanto de gobiernos como de empresas que ven comprometida su seguridad, hay
00:15varios casos y por ello nos vamos a enlazar vía telefónica con el experto el doctor Juan Manuel Aguilar Antonio,
00:21profesor investigador de la Facultad de Estudios Superiores Aragón de la UNAM, ¿qué tal?
00:26Un gusto saludarle para XEU de Veracruz, muy buenas tardes, pues ¿qué nos comenta? Pues hay preocupación por estos agentes
00:32de IA, que por ejemplo el último de Meta escapó y hackeó una empresa, ¿qué nos diría? Buenas tardes.
00:38¿Qué tal? Buenas tardes Olivia, un gusto saludarla, antes que nada agradezco por la invitación. Bueno, platicar un poquito, a
00:44veces en el discurso de la opinión pública mediática se maximiza, pero tendríamos que entender realmente qué pasó en el
00:51ámbito de este incidente.
00:52Bueno, a platicarlo a grandes rasgos, ¿qué pasaría o cómo podremos ejemplificarlo?
00:58Meta, esta empresa estaba probando un modelo para su verificación de pruebas ofensivas de ciberseguridad, se hablaba que era el
01:05modelo Musa Spark 1, en lo que se llama un sandbox, ¿qué es un sandbox estimado en el IA?
01:10Es un entorno virtual aislado del sistema principal y sirve para probar programas, códigos, videojuegos, libertad y ciberseguridad, siempre que
01:19se va a lanzar un nuevo programa informático, siempre que se va a lanzar un videojuego, se puede ver en
01:24un sandbox, que es un entorno aislado seguro para identificar si tiene bugs, si tiene fallas.
01:28Luego, posiblemente, Meta estaba haciendo la parte concreta de pruebas de ciberseguridad a través de un modelo que se llama
01:34el Red Team, que es el Red Team, es buscar fallas en el ámbito concreto de esta aplicación para identificar
01:40si existen fallos que pueden comprometer la seguridad de los usuarios, la seguridad de la información, la seguridad de los
01:46sistemas informáticos.
01:46Sin embargo, dentro de este sandbox existía lo que se llama un backdoor, una puerta trasera, el entorno no estaba
01:54completamente aislado y el modelo Musa Spark identificó que existía una puerta y salió del sandbox y empezó a acceder
02:03a internet para poseer luego tras fallas en concreto en el sistema informático de Meta.
02:10Aquí tenemos que entender que no fue una acción maliciosa ni deliberada, la IA no tomó conciencia ni decidió revelarse,
02:17simplemente ejecutó unos algoritmos de búsqueda, acortación de fallos informáticos en los sistemas a los que tuvo alcance debido a
02:23la voz de red.
02:24Y bueno, esto se relaciona mucho precisamente con el ámbito de la ciencia ficción, precisamente esto del skate es un
02:30concepto que se utiliza mucho en la literatura de ciencia ficción, donde precisamente se dice que las inteligencias artificiales toman
02:37noción de sí mismas, toman noción de su individualidad,
02:40es decir, individualidad de su pensamiento crítico, pero realmente en este caso lo que estamos viendo es que no encontró
02:45en el ámbito concreto una decisión que podríamos decir que fuera voluntaria,
02:50sino que solamente encontró una pequeña falla de debilidad en el ámbito concreto del sandbox, que tenía una puerta para
02:55poder acceder a internet, luego posteriormente se encontró esta falla.
02:58Estos incidentes como vemos en Chinovas han sucedido con versiones de cloud de la empresa Antropic, también ha sucedido con
03:04OpenAI, con la aplicación famosa, bueno, muy representativa por la famosa aplicación de Chattipiki,
03:10pero ¿qué nos están mostrando? Pues nos están mostrando prácticamente cómo en entornos aislados los modelos de lenguaje largo, los
03:17modelos de inteligencia artificial generativa
03:19pueden tener en el ámbito concreto grandes capacidades para exultar pequeñas vulnerabilidades, que muchas veces están predeterminadas por errores humanos,
03:28pero posiblemente están yendo más allá de las instrucciones que se les permiten en el entorno,
03:33y están buscando alternativas para encontrar soluciones, aunque no lo hacen completamente de una forma deliberada, no lo hacen, por
03:39así decirlo, una autoconciencia,
03:41sino lo hacen para alcanzar de forma óptima una tarea que se les es asignada.
03:46Pero entonces ahora las empresas y personas tienen que cuidarse de los hackers reales y los hackers IA, ¿o qué
03:53nos diría?
03:54Pues aquí lo que yo hablaría más que nada es de una democratización del ámbito concreto del poder de potencia
04:02que pueden tener los delincuentes cibernéticos.
04:04Antes, cuando alguien deseaba ser un hacker, un programador, pues tenía que ser una persona talentosa,
04:09tenía que tener un profundo conocimiento de diferentes lenguajes de programación,
04:13pasaba muchísimo tiempo encontrando estas puertas traseras, estos explodos,
04:17que son fallos en los sistemas informáticos para lograr jackear un sistema,
04:21pero lo que vemos ahora es con las aplicaciones de inteligencia artificial,
04:25personas que no necesariamente tienen este talento para desarrollar sus capacidades,
04:30un aprendizaje que está vinculado, por ejemplo, a las áreas físico-matemáticas, a las áreas de la programación, etcétera, etcétera,
04:35pueden desarrollar un talento para poder potencializar estas diferentes acciones,
04:40y podríamos decir que está incrementando.
04:42Estas aplicaciones de inteligencia artificial abren la puerta a que personas que antes tenían barreras,
04:47de entrada para poder ejecutar estas modalidades de hackeo, estas modalidades de delito cibernético,
04:53ahora lo pueden hacer de forma muy, muy exitosa, incluso podríamos hablar con un poco de persistencia,
04:58con un poco de insistencia en el ámbito de los modelos de lenguaje que programan en Python,
05:05que programan en Java, etcétera, etcétera.
05:06Una persona que no necesariamente es un ingeniero informático podría ejecutar un hackeo
05:11o pueda ejecutar un incidente cibernético.
05:13¿Qué lecciones nos deja entonces esta situación, doctor Juan Manuel Aguilar Antonio?
05:19Pues creo que nos dejan el ámbito concreto de que estamos viendo que los modelos de inteligencia artificial
05:23tienen un aprendizaje continuo, constante, sumamente acelerado,
05:29y precisamente pueden darse en el ámbito concreto de estos incidentes que empiezan a aprender el ámbito concreto
05:35de focos rojos.
05:37Precisamente en julio de este mismo año, OpenAI tuvo un incidente, precisamente también una prueba de ciberseguridad,
05:43en un modelo de GPT-5, y luego posiblemente igual encontró una puerta de acceso a Internet en el sandbox,
05:50y bueno, se fue a visitar la infraestructura de una empresa que se llama HomePay,
05:54donde precisamente también encontró las respuestas para una solución de hackeo
05:58que le habían solicitado en un entorno aislado.
06:01Y también creo que fue muy escandaloso lo que pasó precisamente con la aplicación MyDOS,
06:05que bueno, se escribe como MITOS, que precisamente es una de las nuevas herramientas
06:10que ha lanzado en la parte concreta de cloud dentro del mercado informático,
06:14y que precisamente también mostró que la herramienta es capaz de identificar fallos,
06:19explode, puertas traseras dentro de programas informáticos,
06:22demás de sistemas computacionales, etcétera, etcétera.
06:24Y bueno, empezar a ejecutar soluciones para las debilidades en ciberseguridad,
06:29o incluso tratar de explotar las debilidades de ciberseguridad.
06:33Sin embargo, creo que podemos avanzar, que estamos bastante, bastante lejos de poder decir
06:38de que sean inteligencias artificiales que lo hacen de forma autónoma,
06:42sino solamente lo hacen con una optimización, como una solución que ellos encontraron
06:47para explotar y para ejecutar de forma satisfactoria una tarea que les fue solicitada,
06:51cuando nos están mostrando cómo los lenguajes de modelo largo avanzado
06:54de las inteligencias artificiales generativas están avanzando a pasos muy acelerados en las últimas fechas.
07:00Bueno, estaremos pendientes. Muchísimas gracias, doctor Juan Manuel Aguilar.
07:03Un gusto haberle saludado.
07:05Un gusto, Olivia. Cuidado mucho.
07:06Igualmente, hasta luego.
07:09Es la una de la tarde con cincuenta y siete minutos en XCU.
07:13Es el doctor Juan Manuel Aguilar Antonio, profesor investigador en la Facultad de Estudios Superiores Aragón
07:17de la Universidad Nacional Autónoma de México, la UNAM, sobre esto que ha pasado y que ha generado preocupación,
07:24pero dice que todavía hay que mejorar los controles de la IA, pero dice que fue un entorno interno
07:30que no generó mayores afectaciones. Esto de que la IA tiene la capacidad de prácticamente escapar
07:37y hackear algunos otros sistemas, pero dice que tuvo que ver tal vez con un error humano de programación.
07:43Y bueno, le agradecemos...
07:45Amigos de XEU Deportes, están listos para la acción porque regresan la carrera de la U.
07:50Este 12 de diciembre tenemos una cita a cinco kilómetros y vamos en un fin de semana cargado de emoción.
07:5712 de diciembre la carrera de la U y el 13 de diciembre el Maratón Bambino Veracruz 2026.
08:03No te quedes sin tu lugar. Puedes inscribirte a través de www.xeudeportes.mx, www.xeu.mx y www.maratondeveracruz
08:14.com.
08:14Te esperamos. 12 de diciembre la carrera de la U en su edición número 21 y el 13 de diciembre
08:20el Maratón Bambino Veracruz 2026.
08:23No te quedes fuera. Corre con nosotros.
Comentarios