- hace 15 minutos
Categoría
🗞
NoticiasTranscripción
00:00Muy buenas noches, bienvenidos a Personajes en Canal 1 Noticias, gracias por estar esta noche también con nosotros, gracias por
00:07sumarse a esta conversación sobre temas que nos importan de la vida económica, de la vida política, de lo que
00:13pasa en Colombia, en el mundo entero, de la vida de los seres humanos y hoy es una conversación que
00:19espero sea muy especial porque creo nos toca a todos, nos inquieta a todos, qué es, qué está pasando, qué
00:26puede pasar con la inteligencia artificial.
00:30Me complace mucho saludar a esta hora de la noche agradeciéndole que saque este espacio para conectarse con el Canal
00:351 a Juan David Gutiérrez, profesor de la Universidad de los Andes. Juan David, bienvenido al Canal 1, muchas gracias
00:42por este tiempo.
00:44Muy buenas noches, muchísimas gracias por la invitación, un gusto estar acá.
00:47Juan David Gutiérrez es profesor de la Universidad de los Andes, director de la maestría en Derecho, Tecnología y Sociedad
00:54Digital de la Facultad de Derecho de esa universidad.
00:58Juan David Gutiérrez es experto en regulación sobre inteligencia artificial y ha sido asesor de Naciones Unidas sobre legislación de
01:05inteligencia artificial.
01:07Empecemos por ahí, cuénteme Juan, cuéntenos a todos cómo ha sido ese trabajo suyo con Naciones Unidas hablando sobre la
01:14IA.
01:15Desde el año 2023 trabajo como consultor de UNESCO, que es la principal unidad de las Naciones Unidas que está
01:24trabajando en temas de inteligencia artificial.
01:26Y les he ayudado en diferentes programas que tienen que ver con regulación de inteligencia artificial, gobernanza de inteligencia artificial
01:33en la rama judicial, uso de inteligencia artificial por parte de los jueces.
01:37He trabajado escribiendo documentos de política pública para ellos, directrices globales.
01:43Hay unas directrices de la UNESCO que se llaman directrices de uso de inteligencia artificial en cortes y tribunales que
01:48escribí yo.
01:49Y bueno, sigo colaborando con ellos a través de la universidad.
01:53La UNESCO, que es esa entidad de Naciones Unidas para la Ciencia y la Cultura, habla sobre inteligencia artificial, también
02:00nos cuenta Juan David.
02:02Pero, aunque pareciera una obviedad, yo creo que no lo es tanto y por eso quiero preguntarle a usted, que
02:07es experto, cuando uno dice inteligencia artificial, ¿de qué está hablando realmente?
02:12Buenísima esta pregunta porque muchas veces hay malentendidos y además no hay una definición única.
02:19Pero, para que nos entendamos en esta conversación, yo cuando hablo de inteligencia artificial estaba hablando de un conjunto de
02:25tecnologías basadas en software, en programación, que tienen algún grado de autonomía para poder resolver problemas o alcanzar objetivos.
02:37Y el tipo de tareas que realizan imitan algunas funciones que normalmente se atribuyen a los seres humanos, como las
02:45de clasificar, predecir, optimizar y generar contenidos.
02:53¿Qué tan acelerado ha sido el avance de esa inteligencia artificial? ¿Por qué se ha despertado en esta última semana,
03:00sobre todo en este último mes, este debate en el mundo sobre la guía?
03:05Bueno, el término existe hace siete décadas y en siete décadas ha habido progresos y ha habido retrocesos en la
03:13materia, pero realmente en la última década es el momento en el que más se ha avanzado tanto en desarrollar
03:22herramientas con aplicación práctica como con desarrollar herramientas que son de alcance universal.
03:29Digamos que cualquier persona puede usar en su teléfono celular. Y particularmente en los últimos años ha habido un progreso
03:36muy grande en las herramientas de inteligencia artificial generativa, que son un tipo de inteligencia artificial, no es la única,
03:41es solo una de las familias que hay dentro de la inteligencia artificial.
03:46Y como ustedes saben, seguramente toda la audiencia ha tenido algún tipo de interacción de pronto con un chatbot que
03:53responde a preguntas, que genera imágenes.
03:56Pero la novedad que se ha presentado quizás en los últimos seis, ocho meses es el desarrollo de sistemas de
04:04inteligencia artificial que no simplemente producen texto o imágenes o algún tipo de contenido, sino que pueden realizar tareas.
04:12Incluso pueden orquestar diferentes herramientas y otros, digamos, agentes de inteligencia artificial para planear y ejecutar acciones mucho más complejas.
04:24Y eso es lo que ha encendido tanto el mayor interés por la aplicabilidad de este tipo de herramientas, tanto
04:32en lo público como en lo privado, como también los riesgos que supone usar máquinas que tienen mayores grados de
04:38autonomía, pero que además tienen herramientas para usar en ambientes virtuales y que pueden tener consecuencias en el mundo real.
04:47Bueno, Juan David, creo que esto nos pone en el marco de la conversación que queremos desarrollar. Eso es para
04:53que todos lo tengamos claro de lo que hablamos cuando hablamos de inteligencia artificial.
04:57La razón por la que estemos haciendo este diálogo es porque se ha encendido una polémica con una frase que
05:02a uno lo tiene que aterrar, pues es que una persona que renuncia de una entidad que trabaja en inteligencia
05:08artificial,
05:09que además es un experto en inteligencia artificial, publica algo diciendo que si no detenemos la inteligencia artificial, las máquinas
05:17podrían acabar con la humanidad antes de que se acabe esta década.
05:21¿Usted cómo leyó esa frase? ¿Cómo la interpretó y qué pensó con ello?
05:25Bueno, el contexto es que realmente hay muchos empleados que en los últimos ocho años han expresado pensamientos similares y
05:35han renunciado expresando sentimientos similares.
05:38Yo creo que acá lo que hizo que esta renuncia tan pública, porque la persona renuncia explicando a través de
05:48un hilo de Twitter, porque está renunciando por las razones que tú explicas,
05:53se ve potenciada por el contexto. Y el contexto es que en las últimas semanas hemos tenido información sobre situaciones
06:00en donde algunas de las grandes empresas de tecnología
06:04que desarrollan estos modelos de frontera han presentado situaciones en donde se ha comprometido la seguridad de terceros de otras
06:14empresas e incluso de las propias empresas desarrolladoras de estos sistemas.
06:18Por cuenta de las pruebas de modelos de inteligencia artificial que debían estar operando en entornos controlados, en entornos en
06:29donde la empresa en teoría iba a poder no solo monitorear,
06:34sino prevenir que estos sistemas pudieran tener algún tipo de impacto negativo en el exterior.
06:40Y sin embargo, no fue así. Particularmente OpenAI manifestó que unos casos puntuales de uso de inteligencia artificial en entornos
06:59controlados
07:00realmente se había desbordado y que había afectado empresas de tecnología como Hogging Face, que es una empresa muy importante
07:09porque es el lugar en donde todas las personas que trabajan en inteligencia artificial
07:12cargan sus repositorios con datos y con modelos abiertos. Entonces, es una empresa muy conocida, es una empresa muy central
07:20en el ecosistema de inteligencia artificial.
07:22Y unas semanas después nos enteramos que la propia empresa, que los propios servidores de OpenAI, que la propia infraestructura
07:30de OpenAI se había visto comprometida por esta brecha de ciberseguridad.
07:35Bueno, y particularmente usted tiene un temor similar, de verdad que debemos creer, pensar, temer que la IA puede ser
07:43una enemiga de la especie humana.
07:46No, yo la verdad no lo veo así. Yo reconozco que el riesgo de que ocurra un hecho catastrófico de
07:56proporciones globales, esa probabilidad es más que cero.
08:00Es decir, yo reconozco que esa probabilidad existe, pero realmente no es algo que a mí me trasnoche.
08:06De hecho, a mí me preocupan mucho más los daños que ya se han materializado en la última década con
08:14el uso de modelos de inteligencia artificial, mucho más primitivos, por así decirlo.
08:18Y me preocupa mucho más también que no podamos tener, digamos, un beneficio general y bien distribuido de todas las
08:28oportunidades que tienen estos sistemas de inteligencia artificial.
08:32Entonces, yo creo que hay que poner, digamos, estas alarmas como en su justa proporción.
08:39Juan David, ¿a usted le gusta la ciencia ficción?
08:43Sí, mucho.
08:45Supongo, porque son similares las materias.
08:49Y ha leído usted a Isaac Asimov, que fue un científico escritor, que desarrolló un trabajo en Estados Unidos, pero
08:56es soviético.
08:58Existía la Unión Soviética, que hizo un trabajo científico, pero también literario.
09:04¿Lo leyó a él como autor literario, a Asimov?
09:07Sí, muchos de sus textos.
09:09No solo, hay muchos que tienen relación directa con los robots.
09:14De hecho, él es la persona que acuñó el término robótica.
09:20Y realmente, sí, no solo yo lo he leído, sino la mayoría de las personas que trabajan en términos de
09:25tecnología lo han leído.
09:27¿Cree que algo así puede ser posible?
09:30¿Lo tenemos ya un protocolo de ese tipo?
09:32¿Deberíamos tenerlo?
09:33¿Cómo ve usted eso?
09:35Bueno, yo creo que las tres leyes de la robótica de Isaac Asimov han inspirado muchos marcos de gestión de
09:46riesgos y en general de ética de la inteligencia artificial.
09:49Digamos que cuando uno mira los marcos éticos, comencemos por la recomendación de la ética de la inteligencia artificial de
09:55la UNESCO, por ejemplo.
09:56Bueno, pues hacen un énfasis muy grande en el principio de no daño, en el principio de proporcionalidad, en el
10:04principio, digamos, de necesidad.
10:06Todos estos principios que atienden a preguntarse sobre si podemos construir sistemas que efectivamente no dañen a las personas y
10:16al medio ambiente.
10:18Y si podemos además tener, digamos, procesos en donde haya una proporcionalidad en el desarrollo y el uso de estos
10:26sistemas.
10:28Entonces, yo creo que sí han sido inspiradores, pero realmente en este momento estamos en una situación en donde no
10:37es que no haya regulación obligatoria para las empresas.
10:40Pero hay muchos aspectos de sus actividades, de las que, hablando de las empresas que desarrollan estos modelos, de las
10:47actividades que no están regulados y que llevan a que, por ejemplo, nosotros nos enteremos de todos estos incidentes de
10:52seguridad porque ellas nos quieren contar.
10:56Y eso no debería ser así, digamos, que hagamos una analogía con algo tan grave como si, por ejemplo, si
11:02hay un siniestro aéreo, yo creo que nadie aceptaría que la aerolínea siniestrada fuera la única que tuviera derecho a
11:11avisar qué pasó o que tuviera derecho a investigar qué pasó y que no exista, por ejemplo, la posibilidad de
11:17hacer una investigación independiente de por qué ocurrió el siniestro.
11:20Bueno, eso no está ocurriendo acá. Aquí las empresas cuentan lo que quieren contar, hacen las investigaciones que quieren.
11:28Digamos que en este caso que hemos mencionado previamente de OpenAI, OpenAI invitó a unas empresas a tratar de ayudarles
11:37a entender qué era lo que había pasado, pero esas empresas estaban muy limitadas en lo que podían investigar y
11:44en todo caso eran empresas a las que les estaba pagando OpenAI por hacer la investigación.
11:49Eso debió haberlo investigado el gobierno, el Estado, y razón por la cual creo que los tenemos, ahí sí le
11:57doy una razón, digamos, a las personas que han renunciado y a esta persona de apellido Coxon en particular que
12:03renunció muy públicamente,
12:05y es que las empresas de tecnología no están estableciendo, digamos, las medidas de seguridad necesarias para controlar sus pruebas
12:18y sus productos.
12:20Y la verdad es que no existe una regulación que le permita al Estado tener, digamos, la posibilidad de prevenir,
12:28de actuar, digamos, preventivamente, de monitorear y de investigar y de evaluar qué está pasando.
12:34Eso, por supuesto, en un contexto en donde en Estados Unidos nosotros escuchamos recientemente al presidente Donald Trump diciendo que
12:43realmente lo que esperaba era que las empresas de tecnología siguieran desarrollando sus proyectos libremente porque estaban en una carrera
12:51tecnológica que debían ganar.
12:53Este es un asunto en que se mezclan varios conceptos bien importantes, por ejemplo, el concepto de Estado, que quizás
13:00es un concepto que no se adapta bien a lo que pasa con la tecnología,
13:03porque la tecnología no queda encerrada en las fronteras como si quedan encerradas otras cosas, los recursos naturales, por ejemplo.
13:11Y también tenemos esa aparente, no cada vez más clara, carrera entre China y Estados Unidos por dominar la inteligencia
13:19artificial.
13:20Es algo que justamente debería arbitrar, por usar un término, Naciones Unidas, la UNESCO, con quien usted ha trabajado, pero
13:28que no parece que tenga tampoco los dientes para hacerlo.
13:30¿Cómo ve esa disputa entre lo político y lo tecnológico en este asunto de la inteligencia artificial?
13:36No, tiene usted totalmente la razón que esto no se puede entender sin el contexto político, sino el contexto geopolítico.
13:44O sea, realmente, tanto Estados Unidos como China, en sus proyectos, digamos, de nación-estado,
13:52pues realmente están abocadas a invertir y hacer todo lo posible para tener preeminencia,
14:00preeminencia para primar, digamos, en esta carrera de quién es capaz de desarrollar los modelos de inteligencia artificial más avanzados.
14:07En donde Estados Unidos, por, digamos, la capacidad computacional de sus empresas, tiene una ventaja importante,
14:18pero donde desde hace, yo no sé si decir años, pero sí por lo menos meses,
14:23estamos viendo que China, pues, se acerca mucho en su capacidad, digamos, de entregarle al mundo modelos de inteligencia artificial,
14:34particularmente basados en modelos de lenguaje a gran escala, que tienen, pues, unos rendimientos muy altos,
14:40muy cercanos a los modelos de frontera de Estados Unidos,
14:44teniendo una octava parte de la capacidad computacional que puede tener Estados Unidos.
14:51Y, desafortunadamente, como acá además, digamos, se incluyen elementos que tienen que ver con la ciberseguridad de los estados,
14:59pues, la dinámica se vuelve muy parecida a la de una interacción en un contexto de guerra,
15:06o de, pues, digamos, de cómo funcionan, digamos, los estados a la hora de protegerse,
15:14en términos de generar capacidades de ciberataques con inteligencia artificial,
15:19capacidades de ciberdefensa con inteligencia artificial.
15:22Y eso explica, en parte, digamos, el gran interés, digamos, de estar a la, digamos,
15:27a la vanguardia en el desarrollo de estos modelos.
15:30Por supuesto, el objetivo central, el tema central de esta charla,
15:34ha sido esa crisis que ha generado el temor universal por el desarrollo de la inteligencia artificial
15:39y, sobre todo, por la posibilidad de que los humanos pierdan el control de ella.
15:44Pero, si nos podemos abstraer un poco de esa situación que seguirá discutiéndose en los próximos meses,
15:52Juan David, ¿usted qué cree que va a pasar con la inteligencia artificial?
15:55¿Qué esperanza alberga? ¿Cambiará radicalmente la vida humana con la IA?
16:02Bueno, pues, primero tratar cómo va a tener una perspectiva histórica.
16:06Y ha habido, en el último milenio, todo tipo de tecnologías muy disruptivas
16:12que han cambiado a la humanidad.
16:13Empecemos por la imprenta, por ejemplo.
16:16Cinco siglos del impacto de la imprenta todavía lo estamos sintiendo.
16:20Y yo creo que este es un caso, una tecnología en la que efectivamente está transformando nuestras vidas,
16:25la vida diaria de todos, sin que nos demos cuenta necesariamente.
16:30Las tecnologías tienen, digamos, esta característica de que sus efectos nunca son unilaterales,
16:36nunca son solo buenas o nunca son solo malas.
16:39Tienen efectos diversos, diferenciados.
16:41Algunos buenos, algunos malos.
16:44La pregunta sobre qué tanto el efecto será positivo o qué tanto será negativo.
16:50¿A quién, digamos, quién se va a beneficiar y quién no?
16:53No, ¿qué tan distribuidos van a estar los beneficios o qué tan concentrados van a estar los efectos negativos?
16:59Depende de las reglas de juego que las sociedades construyan en torno a esas tecnologías.
17:03Es decir, yo no creo que haya un determinismo de lo que necesariamente va a pasar.
17:07La pregunta sobre si la tecnología, en este caso los sistemas de inteligencia artificial,
17:11van a ser fuente, digamos, de progreso, de bien común, de bienestar,
17:17depende de las reglas de juego.
17:18No solo es una pregunta técnica, por así decirlo, es una pregunta que combina lo técnico con las reglas de
17:24juego.
17:24Porque si una sociedad, por ejemplo, le da primacidad a tecnologías que benefician a unos pocos
17:32y que en cambio afectan negativamente a muchos, y eso puede pasar por las reglas de juego,
17:37pues el futuro no es muy bueno.
17:39Yo, digamos, soy optimista en el sentido que yo confío en la capacidad de los estados y las sociedades
17:46en el mediano y largo plazo de crear unas reglas de juego positivas
17:51para que las tecnologías se generen los mayores efectos positivos para la mayor cantidad de personas.
17:57Y en ese sentido soy optimista.
17:59Pero al mismo tiempo soy supremamente consciente de que en este momento
18:03las empresas de tecnología que desarrollan este modelo son las empresas más poderosas del mundo,
18:08y que en este momento son las que tienen, digamos, el sartén por el mango
18:13de cuál es la regulación, cuál es la política pública que les aplica,
18:17y eso nunca termina bien en ningún mercado.
18:20Los mercados, por supuesto que las empresas tienen un rol muy importante
18:24en contribuir a definir las reglas de juego de cómo funciona el mercado,
18:28pero no deben tener, digamos, el sartén por el mango.
18:31No es en las que tengan, digamos, la última palabra o las que lideren la agenda regulatoria,
18:36porque realmente necesitamos que haya precisamente organizaciones del Estado
18:40y organizaciones internacionales que piensen en términos del bien común
18:43y no simplemente en la rentabilidad de la empresa.
18:47Juan David, pues le agradezco mucho este tiempo.
18:50Y para terminar quiero hacerle una pregunta con excusa anticipada,
18:55porque no sé si usted pueda responder, pero tengo la curiosidad.
18:58Si alguien está pensando ahora empezar a educarse, por ejemplo, con este marco,
19:03¿vale la pena educarse a uno hoy?
19:05¿En qué vale la pena educarse?
19:06¿Cómo mirarse hacia el futuro de una persona muy joven con este panorama del que estamos hablando?
19:10Juan David, ¿verdad?
19:40Hay algunas preguntas, además, difíciles, como si existirá la universidad en 10, 20, 30 años.
19:45Y las señales iniciales que tenemos es la de que hay unas, digamos, competencias humanas
19:52que actualmente no son reemplazables por las máquinas
19:55y que tampoco creemos que en el futuro próximo lo sean.
19:58La empatía, el trabajo humano, el liderazgo colectivo,
20:02la capacidad de entender un problema en su contexto.
20:07Hay diferentes competencias que se desarrollan en el marco de diferentes disciplinas
20:13y que va a seguir siendo interesante.
20:15Yo creo que la existencia de sistemas de inteligencia artificial generativa
20:20nos ha obligado a los profesores que somos conscientes
20:23y a las universidades que son conscientes de esta situación
20:25a cambiar la manera como evaluamos,
20:28a cambiar un poquito la manera como enseñamos también,
20:30porque ahora tenemos que enseñar sabiendo que los estudiantes van a salir al mercado
20:34con la necesidad de poder usar bien estas herramientas.
20:38Y los estudiantes, por más de que sean jóvenes
20:41y por ello quizás estén más expuestos a entornos digitales,
20:45eso no quiere decir que ellos sepan usar bien la inteligencia artificial
20:48u otras herramientas.
20:50Digamos que el uso ético, riguroso de las herramientas
20:53es una competencia muy importante que tendrán que seguir aprendiendo
20:57y donde por lo menos las empresas y las organizaciones del Estado
21:00con las que hemos interactuado, donde nos dicen
21:02sí, nosotros sí queremos que la gente que trabaja acá
21:05y que ustedes gradúen sepa usar herramientas de inteligencia artificial generativa,
21:08pero no me basta de eso, necesitamos que tengan criterio,
21:11necesitamos que tengan criterio de cuándo usar y cuándo no usar,
21:14de cómo usar bien, de cómo se evitan y se gestionan los riesgos,
21:17porque estas herramientas no son infalibles,
21:21siempre hay un riesgo asociado a su uso.
21:24Entonces en ese momento, pues la persona que te da curiosidad
21:26por el conocimiento y por aprender, invitado a que siga aprendiendo.
21:31Lo que pasa es que las universidades sí tenemos que modificar
21:34un poco la manera como enseñamos y evaluamos.
21:37Juan David Gutiérrez es profesor e investigador
21:40de la Universidad de los Andes, asesor de la UNESCO de Naciones Unidas,
21:44experto en inteligencia artificial y su regulación
21:46y por eso mismo, personaje esta noche acá en Canal 1 Noticias.
21:50Muchas gracias, Juan, por estar este tiempo con nosotros.
21:53Muchísimas gracias por la invitación, encantado.
Comentarios