00:00Recientemente, la Organización de las Naciones Unidas alertó que la inteligencia artificial podría representar un riesgo existencial.
00:09Precisamente para hablar de qué tan real es esa amenaza, le agradecemos que nos tome la comunicación esta mañana al
00:15doctor Jesús Manuel Májer,
00:17académico de la Ingeniería de Inteligencia Artificial de la Universidad Iberoamericana.
00:22Doctor, muy buenas tardes, gracias por estar con nosotros.
00:25Hola, muchas gracias. Un gusto estar aquí.
00:28Doctor, de repente la inteligencia artificial en cuestión de días pasó de ser una herramienta que era utilizada por muchos
00:39para diferentes actividades, tareas, trabajo,
00:42a estar ahora en el ojo, digamos, público, porque la han acusado de una amenaza.
00:49Pero, ¿qué hay de cierto en este tipo de afirmaciones que vienen incluso desde la ONU?
00:56Pues mira, yo siento que, pues muchas veces pensamos que únicamente existen estos modelos como parte de lo que utilizamos
01:05al día a día.
01:06Estas palabras, pues muchas personas les gusta ver, tal vez mejorar su email, hacer algunas tareas automáticas, no sé, consultar
01:15alguna pregunta que tengan.
01:17Y se piensa que es el límite que tienen ese tipo de herramientas.
01:21Pero lo que es verdad es que las empresas a gran escala están implementando, están utilizando el ELEMS, que son
01:31estos modelos de lenguaje grandes,
01:33que hoy en día se les llama la inteligencia artificial, para, pues, automatizar procesos, generar contenido, analizar datos.
01:44Y nos digamos que hoy en día toda la empresa, la industria, se encuentra profundamente integrado con esa tecnología.
01:51Entonces, creo que de ahí viene esa pregunta de que, ¿hasta qué punto nosotros como humanidad estamos dejando de lado
01:58la toma de decisiones,
02:00la toma, la capacidad cognitiva misma del humano para relegárselo a un modelo matemático y computacional?
02:09Doctor, hace unos minutos platicábamos de cómo ahora la inteligencia artificial incluso es tema en las conversaciones del T-MEC.
02:19Da la impresión que el avance de la inteligencia artificial de su desarrollo está siendo mucho más veloz que regulaciones
02:29económicas, legislativas.
02:32Está avanzando a pasos agigantados. ¿Por qué, doctor?
02:36Bueno, pues, en general encontramos, tenemos todos los ingredientes para poder avanzar en esa tecnología.
02:43Tenemos el hardware que se está desplegando, se está haciendo grandes inversiones en ese frente.
02:49Sabemos que en todos lados se están construyendo centros de datos, se están adquiriendo estos GPUs, estos chips necesarios para
02:56hacer el procesamiento.
02:57Por el otro lado, pues, tenemos un entorno muy fuerte, tanto de científicos como de ingenieros que están trabajando en
03:06ello.
03:06Y existe una gran cantidad de dinero fluyendo dentro de ello, ¿no?
03:10La idea principal es de que, pues, está la gran promesa de que podamos nosotros mejorar la productividad en todo
03:20el ciclo económico.
03:21Es una gran promesa que tenemos que se podrían, tal vez, en cierto punto, automatizar muchas tareas, lo cual significa
03:27también gastar menos en salarios por parte de las empresas.
03:34Y en ese sentido, pues, podría ser un gran catalizador económico, pero claro que por el otro lado, pues, también
03:42existen riesgos, ¿no?
03:43Y estos riesgos son los que se empieza a discutir ahora, aunque digamos que en la academia, en el mundo
03:47científico, se han discutido desde hace mucho tiempo.
03:52Es decir, los expertos ya tenían conocimiento de esto.
03:56La pregunta, doctor, ¿qué focos rojos o qué alertas detectó particularmente la ONU en esta ocasión para lanzar esta advertencia?
04:07Bueno, de entrada voy a plantear que son dos cosas, ¿no?
04:11Por un lado, son riesgos que existen hoy en día, y creo que parte de ellos son todas las regulaciones
04:17que están tratando de implementar en el mundo.
04:20Y esos problemas son muy concretos.
04:23Por ejemplo, uno va a sacar un crédito, pues, ¿quién va a tomar la decisión final?
04:29¿Va a ser un humano o va a ser, pues, un modelo el que va a tomar esa decisión, ¿no?
04:35Si se equivoca o no, ¿a quién le vamos a pedir cuentas?
04:39Pero, por otro lado, también podrían ser cosas tan terribles como una supervisión de todos los movimientos de la población,
04:48todo lo que uno piensa, ¿no?
04:50Digamos que un escenario de miedo en el cual se tiene monitoreado a toda la población a nivel individual,
04:57a partir de ello poder hacer esas inferencias sobre la misma población,
05:02lo cual, por ejemplo, en la Unión Europea ya ha sido prohibido.
05:08Y otro de los ejemplos es, pues, en un momento de que se haga una operación de seguridad, un conflicto
05:14bélico,
05:15pues, ¿quién va a apretar el botón para tirar una voz o tomar una decisión sobre la vida o la
05:21muerte de una persona?
05:23¿Va a ser una persona que puede, tal vez, presentarse frente...
05:26¿Tiene una representación jurídica, tiene responsabilidades y tiene, tal vez, una responsabilidad de la ley?
05:33¿O va a ser un modelo que no sabemos quién va a poder tomar esa responsabilidad, no?
05:37Y, por otro lado, tenemos los riesgos a futuro, que el gran problema es de que no sabemos lo que
05:42va a pasar,
05:43porque, pues, no somos adivinos.
05:45Cada quien está trabajando en el campo.
05:47Digamos que hoy en día, estos NLMS, o grandes modelos de lenguaje, pues, no tienen la capacidad de adquirir vida
05:55propia o una cuestión así.
05:58Pero, definitivamente, pues, no podemos excluir que vayamos a desarrollar una tecnología nueva
06:03con toda esta carrera que estamos teniendo, que, pues, puede llevar a, definitivamente, algo así, ¿no?
06:09Entonces, este, pues, en el momento de que no podemos excluirlo, pues, estamos jugando con fuego.
06:14Doctor, ya para finalizar, de repente uno escucha este tipo de advertencias,
06:19incluso comentarios de ex trabajadores, ingenieros que trabajaron en diferentes empresas desarrolladoras de inteligencia artificial.
06:28Y la verdad es que la imaginación vuela, y uno piensa en Skynet, en Matrix,
06:35piensa mucho en la ciencia ficción.
06:37¿Hay cabida para la paranoia con estas advertencias, pensando en lo que culturalmente estamos acostumbrados a ver
06:46en cuanto a inteligencia artificial se refiere?
06:50Yo siento que la gran cuestión aquí es de que tenemos que educarnos sobre qué son esos modelos.
06:56Tenemos que hacer una gran campaña de concientización,
06:59porque parecería ser que, pues, nada más hacemos el perrito más bonito y ya lo publicamos,
07:04y es lo que tenemos ahí.
07:05Pero al mismo tiempo, pues, las empresas están dando, están metiendo, por ejemplo, ¿no?
07:10Me estoy imaginando a un trabajador metiendo nóminas, ¿no?
07:14Dentro de uno de estos modelos.
07:16Pues no tenemos el control de los datos, no sabemos a dónde van los datos,
07:20no sabe qué están haciendo con los datos.
07:23En un momento, ¿hasta qué punto estamos entregando todas las informaciones,
07:28todas las conocimientos a empresas que están haciendo un uso desconocido, ¿no?
07:35De esta información.
07:38Entonces, la advertencia que se hizo popular, pues, es una de muchas, ¿no?
07:43Y creo que en este caso es un poco más alarmista en el sentido de que puede tomar conciencia propia
07:49y acabar con la humedad.
07:50Pero hay muchos otros, este, advertencias que se han hecho, ¿no?
07:54Por ejemplo, pues, tenemos casos famosos de empleados de DeepMind que fueron echados, ¿no?
08:01Porque también tenían varias consideraciones respecto a lo que están haciendo estas empresas.
08:07Entonces, más bien yo siento que necesitamos como país replantearnos cómo queremos ver,
08:12cómo vamos a ser partícipes en esta carrera, si vamos a hacerlo desde fuera,
08:16nada más, este, viendo lo que otros hacen con nuestros datos,
08:20o si tomamos una responsabilidad más fuerte y nos unimos, este, en el desarrollo,
08:24pero un desarrollo responsable y que sea de, pues, este, acorde a las necesidades que tenemos como país.
08:31Doctor, es un tema que cada vez cobra más relevancia, sumamente interesante,
08:36incluso ya hasta apasionante y tiempo es lo que falta para platicar al respecto.
08:41Pero por lo pronto le agradecemos muchísimo que haya tomado la comunicación con nosotros
08:45y ya estaremos platicando en alguna nueva oportunidad.
08:49Muchísimas gracias, un saludo a toda tu audiencia.
08:51Gracias, doctor. Buenas tardes.
08:53Buenas.
Comentarios