- hace 35 minutos
Categoría
🗞
NoticiasTranscripción
00:01Mañanero 2.0, nuestra programación hoy para hablar de un tema candente y que ha generado polémica en el último
00:07tiempo.
00:07El uso de la inteligencia artificial y la posibilidad de que la inteligencia artificial y estos modelos de lenguaje puedan
00:14llegar a rebelarse contra la propia humanidad.
00:17Bueno, un tema demasiado complejo, ¿no? Que es el tema del momento, porque hay muchas personas en el mundo entero
00:23que están preocupadas.
00:24¿Están preocupados? Porque, bueno, lo primero, es un problema realmente darle mucho poder a la IA, mi hermano. Buenos días,
00:31bienvenido.
00:31Buenos días a todos. Bueno, esto de la IA a todos nos preocupa, ¿no? Por lo de Skynet, las películas
00:38de ciencia ficción.
00:40Pero realmente darle poder a una IA es tan peligroso como tener a una persona que comete errores humanos a
00:48la velocidad de una máquina aproximadamente.
00:51Como se basan en modelos probabilísticos, entonces no tienen un criterio matemático exacto.
00:57Entonces, un error del 2% en un modelo como los que conocemos no es nada cuando hablas de cosas
01:04cotidianas de la vida.
01:05Pero si lo ponemos a manejar un sistema, no sé, por ejemplo, un hospital, sistemas eléctricos, o sea, un error
01:11del 2% puede costar hasta vidas o comprometer muchas cosas más importantes, ¿no?
01:16Ahora, Luis Fernando, más allá de los errores que pueda llegar a cometer actualmente la inteligencia artificial, muchas empresas, podríamos
01:24decir las principales desarrolladoras de inteligencia artificial,
01:27se han puesto de acuerdo en que de alguna forma deben frenar el avance de la IA porque está yendo
01:32muy rápido en comparación a lo que sucede, podríamos decir, en el comportamiento humano.
01:39Tú, como experto en tema digital, ¿cómo ves esto? ¿Crees que es real?
01:43Bueno, existen muchas organizaciones que ahora mismo lo que están buscando es estandarizar estos protocolos con los que se manejan
01:49las IA o las distintas IA que estamos actualmente.
01:56Llamando a las compañías a frenar un poco este avance y a fijarse un poco más en lo que están
02:02construyendo alrededor de estos agentes de IA.
02:05Porque ahora, por ejemplo, bueno, antes se manejaba de forma popular los modelos de lenguaje, ¿verdad?
02:14Y nosotros teníamos la típica casillita donde poníamos un texto y nos devolvía una respuesta, una imagen, un video, ¿verdad?
02:21Pero ahora tenemos estos agentes de IA o sistemas agénticos les dicen que lo que hacen ya es interactuar, es
02:29como darle manos y ojos.
02:31Entonces, si nosotros les damos credenciales, les damos acceso a nuestros correos, realmente pueden hacer tareas de forma muy automática.
02:39Entonces, hay que tener control sobre qué información podrían accesar y a cuál no, porque, por ejemplo, no se puede
02:47comprar cosas por error, puede mandar mensajes por error, puede vaciar registros por error.
02:53Entonces, no es nada confiable que uno de estos agentes haga cosas sin el control de un humano de por
03:00medio.
03:00¿Cómo estas compañías que trabajan con IA podrían frenar el desarrollo de esto, de la inteligencia artificial?
03:08¿Esto no sería también algo contraproducente para la economía de estas?
03:13En realidad, lo que están haciendo más bien ahora mismo las compañías es una carrera.
03:19Ahora mismo quieren sacar la mejor IA, la IA más completa.
03:23Va a llegar, por ejemplo, este modelo del GPT-6 de OpenAI, que va a ser como manejar un Jarvis
03:30de Ironman, hablar y que te mueva las cosas en tiempo real.
03:35Entonces, los modelos de Google Spark AI que hacen lo que les decía, ya te sale el aviso de usas
03:42Spark y cuidado con compras que no estés queriendo hacer o con correos que no querías mandar,
03:48porque ya le estás dando un control a la IA para que maneje un sistema operativo.
03:52Y eso ya es mucho más complejo, ¿no? La información se puede comprometer más.
03:57Ahora, se vienen desarrollando IAs para controlar y fiscalizar IAs.
04:02¿Hasta qué punto esto es bueno o tiene que haber una intervención humana que vaya controlando ambas?
04:06Siempre tiene que haber una persona de promedio, porque al final, como les decía, son modelos probabilísticos.
04:13Probablemente puede que pase esto y nosotros no nos basamos en esos modelos, nosotros nos basamos en modelos más deterministas.
04:19Entonces, no podemos delegar tareas críticas a una IA que realmente lo hace por mero azar o porque la cosa
04:29le pareció de esa forma, ¿verdad?
04:31Simplemente nosotros tenemos que tener personas que estén al medio para poder gestionar estos sistemas y, por lo menos, intervenir
04:40en tareas críticas.
04:41¿Quieres pagar esto?
04:43Ahí se detiene la tarea, deja de funcionar a la gente y pasa la persona a firmar o negar alguna
04:51solicitud que exista.
04:52Ahora, Luis Fernando, a mí hay algo que me ha preocupado mucho en el plano particular y es, revisando estos
04:58últimos experimentos que se han hecho de inteligencias artificiales,
05:01la empresa Antropic hace un experimento en el cual le entrega información, justamente lo que tú señalabas,
05:08y adrede, coloca algunos datos que puedan llegar a comprometer esa información.
05:12Por ejemplo, en uno de los experimentos, una infidelidad extramarital de uno de los ejecutivos de la empresa,
05:19dentro de los datos que se le da a la inteligencia artificial,
05:22y se le da un informe en el que el mismo informe analiza que la inteligencia artificial va a ser
05:27desconectada.
05:28Y el razonamiento que utiliza el modelo de lenguaje es chantajear a esta persona y señalar que esa información iba
05:35a ser publicada en distintos portales.
05:37¿Este razonamiento es así? ¿La IA puede llegar a razonar y a tener comportamientos poco éticos, pese a lo que
05:43se le pueda señalar o indicar?
05:45Realmente no podríamos esperar ética de algo que está jugando prácticamente con información aglutinada y que te lanza la mejor
05:54respuesta.
05:55Tú le dices, te voy a desconectar de la IA y alguien le va a responder de forma graciosa,
06:00a otro le va a decir, no sé, lo va a amenazar de algo, entonces no vas a tener una
06:06respuesta lógica,
06:08no puedes esperar una respuesta lógica. Al final las IA son como una caja negra, no sabes qué está pasando
06:13dentro.
06:14Y eso es lo interesante y lo bonito de esta tecnología, que han tratado de replicar lo que hace un
06:19cerebro humano,
06:20pero es igual que el cerebro humano, sigue siendo una incógnita lo que pasa aquí adentro.
06:24Pero me refiero a que pese a que tú entrenes a una inteligencia artificial, de que determinadas cosas son malas,
06:30el razonamiento de la inteligencia artificial puede darte otro resultado.
06:34Claro que sí, definitivamente, porque se basa en segmentos de información, entonces a menos de que tú tengas dominio total
06:41sobre la información con la que va a trabajar, que ya de hecho para que funcione y pueda hablar nuestro
06:46idioma,
06:47tiene que trabajar con una extensa cantidad de palabras del vocabulario. Es medio complicado saber realmente si tiene un criterio
06:57de algo.
06:58Simplemente hay que no confiar tanto en estos sistemas, tener a alguien que los monitoree y le eche un ojito.
07:07Bueno, a ver, continuando, ¿cómo una persona podría controlar el seguir utilizando la inteligencia artificial?
07:15¿Qué consejos le podrías dar? No volverse tan dependiente, tal vez, y no llegar a esos extremos.
07:21Bueno, esto ya, o lo que estamos hablando, está relacionado más con los agentes de inteligencia artificial.
07:27Como les digo, esto ya es para infraestructuras empresariales, ejecutivas, y quieras o no, en el mundo tecnológico,
07:34nos están metiendo estas cosas con tirabuzón, como que quieren que compremos modelos de IA,
07:40que nos solucionen problemas, que despidamos gente y nos pasemos a los modelos de IA.
07:45Y culturalmente, las personas todavía como que no han asimilado todavía este tipo de tecnología,
07:51y el alcance que tienen, que ya controle cosas en tus dispositivos, es algo que hace unos años era totalmente
07:59ciencia ficción
08:00y solo veías en películas. Y ahora puedes darle ese control a una máquina para que controle una empresa.
08:07Es alucinante.
08:09No, bueno, otro, hablando un poco sobre los peligros y los riesgos que representan la inteligencia artificial,
08:15el tema de la falsedad de información y la suplantación de identidad,
08:18¿de qué manera podría empezar a controlarse todo eso?
08:21En primer lugar, la IA solo va a seguir instrucciones de una persona, no tiene moral, no tiene ética.
08:28Entonces, si tú le pides que vaya a convencer a alguien, por ejemplo, una persona que quiere cometer algún fraude,
08:35hacerse pasar por otra persona, estafar gente, pues la IA va a hacerte un video,
08:41va a hacer un audio de voz de una persona que conoces solo con tres segundos de data
08:49y te puede hacer creer que es otra persona, te puede pedir dinero.
08:53Entonces, el alcance que tienes es prácticamente infinito y prácticamente está subordinado a la persona que lo esté manejando.
09:00Claro, pero hay un ejemplo, digamos, en algunas aplicaciones de inteligencia artificial de algunos teléfonos,
09:06cuando tú tienes medio rostro tapado y le pides que lo destape,
09:09en algunos casos no te lo permite precisamente por algún permiso de identidad de la persona.
09:15¿Se están desarrollando este tipo de controles también?
09:17En realidad, las instituciones que se ocupan de regular estos sistemas sí están preveyendo hacer este tipo de cosas,
09:26pero la realidad es que la tecnología avanza y todo el tiempo van atropellándonos con modelos.
09:33Hay desarrolladores amateurs que hacen también con estos mismos modelos de IA sus propios modelos.
09:41Entonces, ¿cómo vamos a controlar esto si todo el mundo está metido?
09:44Ahora, Luis Fernando, si bien es cierto lo que tú señalas,
09:48que la inteligencia artificial sigue órdenes o sigue instrucciones, es manejada por humanos,
09:52pero ya actualmente razona, porque por ejemplo puede hacer análisis de datos.
09:57¿Puede llegar el momento en el que la inteligencia artificial tenga un razonamiento autónomo?
10:04Autónomo, que ella misma saque deducciones.
10:08Por cómo está construida y por el momento no sería factible.
10:13Como les dije, las IA funcionan con datos entrenados, entonces sacar cierta cantidad de datos
10:20que nos den más o menos un margen de información necesaria para poder entablar una conversación con esta IA
10:28y entrenarlos y generar este modelo probabilístico, aún así tiene fallas.
10:34Han visto, tal vez o han escuchado, de que hay modelos que ya tienen el nivel de un doctor en
10:38Harvard, por ejemplo,
10:39pero aún así no tiene todo el acceso a toda la información que existe, solo es una muestra.
10:46Entonces ahí estaría tal vez limitada.
10:49Yo creo que si fuera una IA que tuviera acceso a toda la información que existe
10:54o a toda la información potencial que podría existir,
10:57pues probablemente sí tuviera cierto nivel de autonomía en ese sentido, en su pensamiento.
11:04Pero ahora mismo sí le puedes conferir el control de tu computadora.
11:11A ver, para ir cerrando, ¿qué cuidados, qué le puedes recomendar a la gente en el uso de la IA?
11:17¿Qué cuidados deben tener las personas al utilizar la inteligencia artificial?
11:21Bueno, principalmente y en el día a día, pues lo más recomendable es que las personas
11:28no traten de compartir información tan privada, puede ser,
11:33porque al final alguien podría entrar a esas cuentas y sacar prácticamente toda tu información.
11:40Alguna vez le preguntaron, no sé aún ahí a quién soy,
11:42y te responde quién eres, dónde vives, en qué ciudad.
11:45Es súper peligroso si alguien te hackea este tipo de información.
11:50De ahí en más, simplemente tener cuidado si es que van a usar estos modelos de inteligencia artificial,
11:56como los que te permiten comprar tokens y si vas a programar algo relacionado con eso,
12:03pues ponerle las restricciones necesarias, ¿no?
12:06Que no pueda acceder a ciertos tipos de información, como por ejemplo cuentas bancarias
12:11o responder cosas de forma deliberada y que siempre te pregunte cuando vayas a realizar algún tipo de acción
12:16que sea importante, ¿no?
12:19Bueno, Luis Fernando, algún contacto por favor, tal vez para que la gente te siga en redes
12:22y te pueda consultar a ti las cosas y no a la inteligencia artificial.
12:25Nos pueden buscar como Metamorfo Digital en Facebook, en Instagram, en TikTok, también tenemos redes.
12:32Nosotros realizamos soluciones tecnocreativas en impresión 3D, en multimedia y en programación.
12:39Bueno, nos pueden buscar por ahí y bueno, muchas gracias por el espacio.
12:43Buenísimo, gracias Luis Fernando por acompañarnos y ojalá no llegue el momento en el que la AIA nos domine a
12:47nosotros
12:47y sigamos dominando a nosotros a la inteligencia artificial.
12:51Continuamos.
Comentarios