00:27¡Suscríbete al canal!
00:30www.maratondeveracruz.com
00:33Te esperamos, 12 de diciembre, la carrera de la U, en su edición número 21, y el 13 de diciembre,
00:39el Maratón Bambino Veracruz 2026.
00:41¡No te quedes fuera! ¡Corre con nosotros!
00:44Buenas tardes, saludamos en la línea telefónica en XCU Noticias a Guillermo Pérez Bolde, director de la Agencia Mente Digital.
00:51Muy buenas tardes, les saludamos Betty y Olivia, y para el público de XCU, ¿qué nos dice sobre el hackeo
00:57de esta inteligencia artificial?
00:58Se habla de que habría estado fuera de control, OpenAI, ¿qué nos dice al respecto?
01:05Check GPT, ¿qué es lo que está ocurriendo? Le escuchamos, muy buenas tardes.
01:10¿Cómo estás? Muy buenas tardes.
01:11Este es un aviso que ya se había dado sobre los alcances que puede llegar a tener la inteligencia artificial.
01:20Hoy ya estamos en un nivel en donde las máquinas tienen la capacidad de razonar, a identificar un problema, y
01:30a veces el problema es que nos tienen encerradas.
01:33Ahora, sí efectivamente ya las máquinas tienen la capacidad de brincarse las restricciones, pero esto responde a una solicitud inicial
01:44que se le haya hecho a la propia inteligencia artificial.
01:47A veces no es la solicitud que se le pidió en ese momento en un chat, sino es dentro de
01:54la programación para lo que fue programada, para lo que fue hecha y cómo fue hecha.
01:58Y a veces ahí es en donde está la confusión sobre los alcances que pueda llegar a tener.
02:04Las máquinas hoy ya tienen la inteligencia como para identificar un riesgo potencial e incluso pueden identificar limitaciones o carencias
02:15que puedan tener para cumplir una tarea.
02:18Entonces, lo que están haciendo los desarrolladores es identificar que también están explicando las tareas pendientes o lo que tienen
02:26que hacer los sistemas de IA
02:27para que no cometan errores más adelante pensando que están cumpliendo con su tarea o con su indicación inicial.
02:34Sí, Guillermo Pérez Gualde, pero ¿qué fue en realidad lo que pasó?
02:37Porque se habla de que el chat GPT se reveló y de manera autónoma hizo un hackeo.
02:43¿Qué fue lo que sucedió?
02:46Bueno, precisamente como lo comentaba, cuando la instrucción inicial es que cumpla con una tarea
02:52y esa tarea a veces se ve detenida o se ve limitada por alguna cuestión.
03:00Entonces, estos sistemas lo que buscan, y esto de hecho no es la primera vez que sucede.
03:04Ya hace algunas semanas la empresa que hace Cloud también ya había dicho,
03:10Antropic habían dicho que había sucedido una situación similar en donde la propia inteligencia artificial
03:17salió de lo que se llama un sandbox, que es un lugar restringido, encontró la manera de salirse de ese
03:23lugar restringido
03:25para enviar notificaciones de acuerdo a lo que se le había solicitado.
03:29Esto, vale la pena decirlo, que en muchas ocasiones es más estrategia de marketing que de tecnología,
03:38porque con la idea que nosotros nos quedamos es que una inteligencia que ya llegó a ese nivel,
03:43pues es que está en un nivel superior, ¿no?
03:45Es que tiene una capacidad de razonamiento mayor.
03:48Entonces, pues lógicamente quienes quieren desarrollar cosas muy complejas,
03:51pues van a voltear a verla como una opción.
03:54Entonces, ¿debemos alarmarnos, debemos preocuparnos o no?
03:58Yo creo que no.
03:59Yo creo que no hay razón de alarma ni de preocupación,
04:03porque las máquinas no tienen una motivación como para tomar un control sobre los humanos
04:11o sobre la tecnología en general, porque no hay una motivación, porque no hay emociones.
04:16Entonces, su único motivo es cumplir con la tarea que se les asignó.
04:21Y la tarea implica que tienen que brincarse limitantes y cubrir con ciertos retos,
04:27pues entonces lo hacen, pero no tienen por sí mismas una razón por la cual revelarse
04:32ante lo que se les pueda pedir de los humanos.
04:35¿Como usuario nos afecta en el uso de alguna aplicación este hackeo?
04:40No, para nada.
04:42No, no en ningún sentido nos afecta,
04:44porque lo que está haciendo esta inteligencia artificial,
04:49pues es alcanzar cosas o subir a ciertos niveles que normalmente no suben, ¿no?
04:54¿Por qué?
04:55Pues porque no se les dio las instrucciones correctas o porque no se les había llevado hasta ese límite.
04:59Pero es un tema de gran escala a nivel tecnológico,
05:05pero ya a nivel personal de los usuarios no tiene ningún impacto ni afectación.
05:09Muchísimas gracias, Guillermo Pérez Bolde, director de la agencia Mente Digital,
05:14por lo que nos ha comentado esta tarde para XCU.
05:16Nos dio gusto saludarles, que tengan un excelente día.
05:18Igualmente, buenas tardes.
05:20Buenas tardes.
05:21Dos de la tarde con 19 minutos en XEU Noticias.
05:24Escuchamos a Guillermo Pérez Bolde, director de la agencia Mente Digital.
05:29Dos con 19 y tenemos más información.
05:31Gracias, Guillermo Pérez, director de la agencia Mente Digital.
05:32Gracias, Guillermo Pérez.
05:32Gracias, Guillermo Pérez.
Comentarios