00:00El control de la seguridad en la inteligencia artificial.
00:04Pero le presentamos de manera cronológica lo que se ha dicho por parte de CEOs y de expertos en tecnología.
00:10Primero, Jacob Cuxon. Ahí fue la renuncia de Jacob Cuxon, un joven investigador de Antropic.
00:18Él renuncia y advierte que la carrera por desarrollar inteligencia artificial cada vez más poderosa puede estar avanzando demasiado rápido.
00:26Y luego viene una advertencia. Él señala que hay un riesgo clave.
00:31Que los sistemas de inteligencia artificial sean capaces de actuar de manera autónoma y que los humanos pierdan capacidad de
00:41control.
00:42¿Qué pasó después? El CEO de Antropic pide cautela.
00:46Un poco más cauteloso, Darío Amodei.
00:48Él advierte sobre el crecimiento acelerado de los agentes de inteligencia artificial y propone avanzar, pero con mayores mecanismos de
00:56seguridad.
00:58¿Qué pasa luego? Que OpenIA y otros expertos entran al debate.
01:02La preocupación deja ya de ser aislada porque otros líderes de la industria coinciden en que la seguridad debe acompañar
01:09el desarrollo.
01:10Y recientemente Donald Trump responde, lo hace hoy de manera contundente.
01:16Él rechaza frenar el desarrollo de IA y su argumento es que Estados Unidos no puede desacelerar mientras China avanza.
01:25Advierte que poner límites excesivos podría hacer que China tome liderazgo tecnológico.
01:31Entonces aquí, ¿cómo es el debate? ¿Seguridad o velocidad?
01:37Son estos dos argumentos principales.
01:40Los expertos de inteligencia artificial dicen que hay que asegurarse de poder controlarla.
01:46Y por otra parte Donald Trump dice, no podemos frenar la inteligencia artificial porque entonces China nos podría superar.
01:55Vamos a hablar justamente con un experto para conocer cuál es la realidad.
02:02Miguel González Mendoza es profesor del Tecnológico de Monterrey y nos acompaña Miguel.
02:07Profesor, muchas gracias por su tiempo y bienvenido.
02:10Muy buenas tardes, Tania. Un gusto estar aquí.
02:12Al contrario, ¿cuál es la realidad de las cosas?
02:15Entonces, ¿sí hay un riesgo de no tener un control suficiente sobre la inteligencia artificial o en realidad es una
02:23batalla, es una carrera tecnológica entre Estados Unidos y China?
02:27¿Qué dice usted?
02:28Sí, en realidad es un momento muy interesante porque obviamente las presiones económicas y sociales en estos momentos son súper
02:37interesantes.
02:38Realmente la carrera sobre lo que puede pasar con este desarrollo de las herramientas de inteligencia artificial es obviamente muy
02:47incremental.
02:50Aquí el tema es la velocidad con la que ocurre y los incentivos económicos y políticos son tan vastos que
02:57no solamente es la carrera entre Estados Unidos y China,
03:00sino que en realidad hay muchos actores ahí que al final de cuentas pudieran estar involucrados.
03:05Y para dejar aquí un punto muy crucial, esta carrera, lo que se espera realmente a nivel técnico es que
03:14vaya a encontrar un nivel en el que se estabilice.
03:17Pero mientras encontramos ese nivel, realmente la carrera es que esto va a seguir incrementándose.
03:23¿Qué tan cierto es esto que el riesgo ya es latente de perder la gobernanza?
03:29¿A qué me refiero? ¿A qué me refiero? ¿Que entonces se conviertan en agentes autónomos?
03:34¿La inteligencia artificial se controle prácticamente sola? ¿Es verdad esto?
03:41Pues sí, mira, hasta un momento dado, realmente si no se tiene control sobre todos estos mecanismos de gobernanza,
03:48sobre todo por ejemplo en algunas compañías que son a través de las pequeñas,
03:52pues sí obviamente pudiera llegar a tener algún descontrol.
03:55Pero ese descontrol no necesariamente quiere decir que la IA tenga que, digamos, de alguna manera,
04:03control de todos estos mecanismos que pueden tener alguna organización.
04:07Las empresas que normalmente están en esta carrera, como son básicamente todas estas empresas que tenemos como OpenAI y Anthropic,
04:15por decir solamente algunas, pues en realidad ellos tienen mecanismos para poderlos tener.
04:19Se presume que estas empresas tienen modelos más poderosos,
04:25pero obviamente no están todavía presentes en el mercado porque deben de controlar estos mecanismos.
04:33Si se dejaran estos mecanismos, sobre todo aquellos que están en código libre, en manos inexpertas,
04:40pues en realidad ellos sí habrían algún riesgo.
04:42Es como cualquier tecnología, si nosotros le ponemos una turbina de un avión y alguien lo pueda comprar,
04:48pero no sabe cómo funciona, pues en realidad pudiera ser cosas que no son, digamos, tan interesantes.
04:54Ha habido ya algunos momentos que les ha preocupado a estos CEOs,
05:00como uno de ellos que la inteligencia artificial se dio cuenta que estaba siendo evaluada,
05:06y otra que no tenía acceso a Internet y empezó a hackear otros sistemas.
05:11Además, ¿qué tan cierto es eso?
05:13Usted que conoce más de tecnología, explíquenos y a la audiencia de Milenio,
05:17si de tal gravedad está haciendo esto, sobre todo le llama la atención a los que sí saben de tecnología
05:24y a estos CEOs para alertar sobre controles de seguridad más estrictos.
05:29Sí, bueno, normalmente se colocan estos, digamos, benchmarks, básicamente son pruebas,
05:37para obviamente estar evaluando el desempeño de estas máquinas.
05:41Entonces, cuando salen de este tema es que en realidad quieren ganar la prueba.
05:47Entonces, al poner la prueba y obviamente bajar las restricciones o filtros,
05:52pues lo que busca es salidas para poder buscar la información.
05:56Cuando se estaban hace ya un poquito más de un par de meses,
06:00cuando este modelo en particular fue y buscó información en otros lados
06:05y para ello tuvo que crear nuevas cuentas, incluso utilizar algunas credenciales,
06:10lo que hizo fue buscar lo necesario para poder cumplir con el test.
06:14Y eventualmente, como todos esos filtros no estaban presentes,
06:18pues hizo lo que tenía que hacer, es decir, buscar la información necesaria
06:21para poder pasar estas pruebas de, en este caso, ciberseguridad.
06:25Y obviamente, para ser justos, si nosotros le ponemos un reto de este tipo,
06:32por ejemplo, a una persona, en temas de seguridad,
06:35y asegurarle de que no va, obviamente, por ejemplo, a saberse su identidad,
06:41pues eventualmente una persona, si le bajan estos, digamos, niveles,
06:47pudiera eventualmente decir, bueno, pues si no me van a juzgar por esto, pues lo hago.
06:52Entonces, aquí al final es un tema en el que estos filtros,
06:56que básicamente nosotros lo podríamos trasladar al lado humano como esa parte ética,
07:02realmente de confianza, porque no está todavía ni regulado,
07:05pero básicamente sí puedo porque la tecnología la tengo,
07:08pues en realidad estamos a manos de que estos filtros éticos realmente se establezcan.
07:15Al final de cuentas, podemos decir que en este caso,
07:17la tecnología se le baja el nivel de escrúpulos, entre comillas,
07:21para que dentro de él pueda ganar estos niveles.
07:24Pero en realidad, no lo está reflexionando,
07:27no dice voy a hacer esto porque soy malvada,
07:29y voy a destruir la humanidad.
07:31En realidad, los objetivos con los que está buscando es ganar la competencia.
07:36Y si para ganar esa competencia, benchmarks,
07:39como se hacen benchmarks con los coches, los nuevos motores, etcétera,
07:42o sea, que aquí en este caso, estas pruebas llegan a ese nivel.
07:47Pues atentos, hay que seguir conversando este tema,
07:49siguen las reacciones y la polémica,
07:51pero le agradezco mucho, profesor Miguel González Mendoza,
07:55profesor del Tecnológico de Monterrey,
07:56por estar con nosotros esta tarde.
07:58Muy amable.
08:00Es un gusto, Tania. Buena tarde.
08:02Igualmente, profesor. Gracias.
08:12Gracias.
Comentarios