00:00El gobierno de Donald Trump y directivos de las principales empresas de inteligencia artificial,
00:05entre ellas OpenAI, Google, Meta, NVIDIA, Antropic y SpaceX,
00:10acordaron nuevas pautas voluntarias de seguridad para el desarrollo de sistemas avanzados de inteligencia artificial.
00:17Este pacto busca que las compañías refuercen sus controles internos,
00:22también incorporen expertos externos y establezcan mecanismos capaces de detectar riesgos
00:28antes de lanzar nuevos modelos.
00:31La intención es prevenir usos peligrosos de la tecnología,
00:35incluso posibles sistemas autónomos o aplicaciones con implicaciones militares.
00:40Sin embargo, el acuerdo vuelve a apostar por la autorregulación de las propias empresas,
00:46lo que genera dudas sobre su efectividad.
00:50Y precisamente para hablar de esto, me da mucho gusto saludar a Andrés García,
00:55el profesor de la Escuela de Ingeniería de Ciencias del Tecnológico de Monterrey.
01:00Buena tarde, profesor, qué gusto saludarlo.
01:03Esta lectura de esta reunión que hizo el presidente Donald Trump,
01:07esta regulación y diríamos también limitaciones de lo que se viene,
01:11porque la inteligencia artificial comienza a ganar terreno de manera muy importante
01:15y hoy lo hace con las empresas más importantes del mundo.
01:19Sí, ¿qué tal? Muy buenas tardes.
01:21Efectivamente, hace unos días el presidente Donald Trump convoca a los principales actores
01:28del mundo de la inteligencia artificial para firmar este convenio,
01:33pero es un convenio de buena fe, como tú bien lo acabas de anunciar.
01:37Es un convenio de buena fe que no es legalmente vinculante,
01:42es más bien moral, en donde se comprometen a autorregularse,
01:48se comprometen a poner filtros, se comprometen a que también haya una regulación
01:53o una inspección por pares externos, lo cual, bueno, pues también tendríamos que ver
01:58quiénes van a ser esos pares externos y van a ser entre ellos, ¿verdad?
02:02Y también, siendo moralmente vinculante, si algo llegara a pasar,
02:09pues realmente no habría ningún tipo de sanción, ¿no?
02:11Ahora, de todas maneras, Estados Unidos, en particular el presidente Trump,
02:17ha sido muy reticente en este tema de regular la inteligencia artificial,
02:21incluso ya ves que ya le está cambiando de nombre, ya quiere llamarle,
02:25ya no quiere llamarle inteligencia artificial, ¿no?
02:27Quiere llamarle todavía de una manera más pretenciosa.
02:31Y es natural porque ellos traen, pues, un tema de competencia en desarrollo
02:37de algoritmos de inteligencia artificial y aprendizaje computacional con China.
02:42Principalmente su principal rival en este sector es China,
02:46en donde también ha habido un hermetismo muy importante,
02:49aunque pareciera que los chinos son los que se están regulando más
02:52que las firmas norteamericanas, ¿no?
02:54Entonces, efectivamente, no hay propiamente una certeza de que las empresas,
03:01dado que es moralmente vinculante este convenio y es de buena fe,
03:06verdaderamente vayan a generar mecanismos auditables en donde se pueda regular,
03:13se pueda controlar, sobre todo los algoritmos de aprendizaje,
03:17y que no pueda representar esto eventualmente algún tipo de riesgo,
03:21como ya de alguna manera ya han estado cubriendo.
03:24No haya habido un uso no adecuado de las herramientas de inteligencia artificial
03:28pues para hacer algunas, cometer algunos delitos,
03:34cometer algunas circunstancias que uno no deseara.
03:37Profesor, hace unos días el presidente Donald Trump tuvo una reunión en la Casa Blanca
03:42con el presidente Xi Jinping, también incluso uno de los temas que se abordaron
03:46fue el tema de la inteligencia artificial.
03:48En ese sentido, ahorita decía, uno de los competidores principales es China,
03:52y hoy con esta reunión que se lleva a cabo para la regulación,
03:56incluso también de los cuatro ejes, aquí me mencionaba,
03:59de los cuatro niveles de supervisión que se necesitan de la inteligencia artificial,
04:03Mark Zuckerberg estuvo ahí, Elon Musk, en fin, esta reunión también sirve para poner
04:10una estrategia, no solamente a nivel nacional, sino a nivel mundial,
04:14en el uso y regulación de la inteligencia artificial en todos los sectores.
04:20Así es, en el sector económico y en el sector financiero,
04:24pues está el tema de los ciberataques, también en el sector propiamente de las bases de datos
04:29de las personas, si recordamos, por ejemplo, a principio de este año,
04:33hubo una violación en lo que es la base de datos del sistema de administración tributaria
04:38y también del INE, y la forma en la que se desarrolló ese ciberataque
04:45fue mediante herramientas de inteligencia artificial.
04:48También es cierto que hay una preocupación latente sobre otro tipo de riesgos
04:54que puede tener el uso no adecuado de este tipo de herramientas,
05:00por ejemplo, en temas de desarrollar, por ejemplo, armas biológicas
05:05y todo un mecanismo para saber cómo contener a un virus,
05:11cómo contener a una bacteria y luego eventualmente cómo dispersarlo en una población.
05:15De hecho, ya hubo una persona por ahí, una india, un médico,
05:19que fue arrestado debido a que ya tenía todo el ABC de cómo hacerlo.
05:24Y así hay muchísimos ejemplos en donde, a pesar de los mecanismos de control
05:29que las empresas generadoras de herramientas inteligentes artificial
05:32han estado desarrollando, pues tiene brechas.
05:36Al final del día, estos sistemas tienen brechas porque son sistemas que no son perfectos,
05:40que están aprendiendo.
05:41¿Y de quiénes aprenden? Pues aprenden de nosotros.
05:44Si tú tienes dos o tres herramientas de inteligencia artificial que usas cotidianamente,
05:48esa herramienta está aprendiendo de lo que tú buscas, de lo que tú dices,
05:53de tu manera de actuar, de tu manera incluso de comprar,
05:57o de tu manera de cómo te relacionas con el entorno y con la sociedad.
06:02Entonces, yo siempre le digo a mis alumnos, por ejemplo,
06:05que la inteligencia artificial que más usamos se vuelve un alter ego de nosotros mismos.
06:09Entonces, hay que tener mucho cuidado de cómo le estamos enseñando
06:13y qué le estamos enseñando a la inteligencia artificial.
06:16Entonces, en otro sector, y también hay un tema que se ha estado tocando
06:20y que también formó parte de estos diálogos,
06:22que es el tema del impacto ambiental, el tema de la sustentabilidad,
06:27como en algunas regiones, por ejemplo, aquí en México, en Querétaro y en Occidente,
06:32se han estado instalando los servidores que corren los algoritmos de inteligencia artificial
06:41y obviamente el consumo de energía eléctrica, el consumo de agua, pues es importante
06:48y empieza a ser un factor también tanto de riesgo para la sociedad como también de descontento.
06:54Ya ha habido algunas comunidades que se han manifestado en contra de que sigan habiendo
06:59algunas empresas que se están estableciendo en estos lugares
07:06y que están consumiendo y están absorbiendo los recursos del entorno.
07:13Profesor, esta autorregulación, esta reunión que hizo el presidente Donald Trump
07:18también en el sector financiero y en muchas industrias, en muchos sectores,
07:22de no existir, ¿qué lectura le podríamos dar?
07:26¿Qué riesgos se podrían dar al no haber una regulación?
07:30Ya lo decíamos hace unos instantes, en distintos sectores,
07:35de no existir esto, ¿a qué riesgos nos podríamos enfrentar con el tema de la inteligencia artificial?
07:42Pues mira, si lo vemos en la balanza del costo-beneficio,
07:49son más los beneficios que podemos tener del tema de inteligencia artificial
07:52y de dejar que vaya fluyendo y que se vaya desarrollando
07:56y que vayamos generando un mayor aprendizaje,
07:59sobre todo por todas las aplicaciones que pueden generar un impacto positivo para la sociedad.
08:04¿Pero qué riesgos pueden existir?
08:06Efectivamente, lo que acabamos de comentar, pues el tema del hackeo,
08:09el tema de la vulnerabilidad de los datos, de la información de las personas.
08:14A nadie nos gusta que nos estén conociendo a nadie navegando por ahí
08:17y que pueda ser objeto de un mal uso o de una usurpación de personalidad.
08:22Y bueno, también en temas, por ejemplo, de espionaje industrial, también es muy importante.
08:28Y otro tema que, de hecho, a Donald Trump, por uno de los puntos que en meses pasados
08:34también le estuvo llamando la atención y se estuvo manifestando en ese sentido,
08:38es el uso de los algoritmos de inteligencia artificial para temas de defensa nacional.
08:44¿Por qué? Porque precisamente uno de los temas en donde está compitiendo con el resto del mundo,
08:50principalmente con China, es las aplicaciones de inteligencia artificial
08:55en temas no solamente de impacto social o de impacto económico o industrial,
08:59pero también en temas de sistemas de defensa, en temas de sistemas autónomos
09:07que permitan depender al país, porque obviamente es una preocupación
09:12que cualquier líder del mundo puede tener, pero también cómo vulnerar al enemigo,
09:20cómo vulnerar a los otros.
09:22Entonces, pues sí, sí es preocupante y los riesgos sí son latentes.
09:26Yo lo que espero y hago votos es que la industria, a pesar de que es moralmente vinculante
09:32este convenio que se firmó, pues sí lo acaten, que sí se tomen en serio el tema
09:37de la autorregulación y de la regulación en inspección por pares,
09:41porque eso va a ser muy importante, que también involucren a otros actores
09:45que no necesariamente son desarrolladores de las herramientas, sino que puede ser
09:53el sector académico, puede ser también un sector, una ONG, un sector gubernamental
09:59que esté haciendo este tipo de auditoría, pero yo creo que también como sociedad
10:03tenemos que participar en ese sentido y ya hay países que han empezado a legislar,
10:09que ya llevan varios pasos adelante legislando y controlando precisamente
10:14el tema de inteligencia artificial.
10:15También es así que, por ejemplo, los europeos, pues no estuvieron muy de acuerdo
10:19con este convenio, ¿verdad?
10:21Los europeos sí se han manifestado y han dicho, este convenio, así como está,
10:25es moralmente vinculante, que realmente no tiene ningún tipo de responsabilidad
10:33o de consecuencia eventual, pues lo único que hace es seguir beneficiando
10:39a estas empresas para que sigan desarrollando y que sigan capitalizando
10:44financieramente, pues sus desarrollos y sus productos.
10:49Bueno, profesor Andrés García, profesor de la Escuela de Ingeniería y Ciencias
10:54del Tecnológico de Monterrey, le agradezco mucho que nos haya platicado
10:58acerca de este tema de muchísimo interés, sobre todo de esta reunión
11:01que se llevó a cabo tan importante, no solamente nacional, sino de manera internacional.
11:05Gracias, profesor, por este espacio, siempre es su espacio.
11:07Muchas gracias.
11:10Gracias.
11:11Gracias.
11:11Gracias.
11:12Gracias.
11:16Gracias.
11:16Gracias.
11:17Gracias.
11:17Gracias.
11:17Gracias.
11:17Gracias.
11:18Gracias.
11:18Gracias.
11:18Gracias.
11:19Gracias.
11:19Gracias.
11:19Gracias.
11:19Gracias.
11:19Gracias.
11:19Gracias.
