- hace 2 minutos
Categoría
🗞
NoticiasTranscripción
00:00Tal y como les adelanté al inicio de este espacio, vamos a profundizar un poco en lo que se comentó
00:05en el anterior reportaje,
00:07pero vamos a ir un poco más allá con la ayuda del señor César Bravo, un experto en el tema.
00:12Don César, bienvenido a esta casa. Gracias por acompañarnos hoy.
00:16Gracias, María Jesús. La verdad es súper chiva estar acá, poder compartir con este público tan bonito de un tema
00:20tan relevante para hoy en día.
00:22Y tan complicado, y por eso ocupamos a alguien que nos lo traduzca como usted.
00:26Pero empecemos con lo básico. Yo sé que muchas de las personas que nos están viendo ya, quizás en algún
00:31momento han utilizado ChatGPT, o Cloud, o Gemini,
00:35pero yo creo que hay una diferencia importante que hay que marcar antes de entrar en esta conversación.
00:40¿Cuál es la diferencia entre un agente y entre un modelo?
00:43Qué buena pregunta. Ya me gusta ilustrar eso como imaginarse un robot.
00:47Pero usted puede construir un robot donde el robot va a tener sus brazos, su movimiento, ese es el agente.
00:52El LLM, o el sistema de inteligencia artificial que usa, viene siendo el cerebro.
00:58Es el cerebro que ese robot va a hacer para pensar, para tomar decisiones.
01:03Entonces, es una combinación de qué voy a hacer yo con el agente, cómo lo voy a configurar,
01:08y cómo ese LLM, cómo ese modelo va a ser el que le dé la inteligencia, la capacidad de pensar,
01:14la capacidad de racionar a ese agente.
01:16De acuerdo, ahora bien, estuvimos viendo en el reportaje que se hacía mención a algo que ocurrió ahora en julio,
01:23pero para poder entrar a ese tema, primero necesitamos entender que son las pruebas sandbox.
01:28¿Eso qué significa?
01:29Qué buena pregunta. Las pruebas sandbox es, básicamente, en ciberseguridad no podemos hacer pruebas al aire, en caliente, ¿verdad?
01:36Porque se podrían dañar equipos.
01:38El sandbox es hacer como una parte pequeñita, donde dentro de esa parte es donde realizamos las pruebas.
01:43Es un ambiente controlado, es un ambiente donde nosotros delimitamos dónde van a estar esos agentes.
01:50Pero así es como los entrenan, para que después nosotros los utilicemos.
01:53Dentro de estas empresas, los someten a estas pruebas, que son las pruebas sandbox,
01:57para poderles así ir enseñando, inyectándoles ese conocimiento, para que después las personas lo utilicen. Es así.
02:03Sí, y también es un tema de ciberseguridad.
02:05El sandbox lo usamos para ver cómo se comporta.
02:08Eso es como que usted tenga un animalito y usted lo mete en una cajita para ver cómo se comporta.
02:13Para estudiar, para ver el comportamiento.
02:15Entonces, en este sandbox yo puedo meter agentes de IA para entender cómo se va a comportar ese agente.
02:21Ahora bien, fue en una de estas pruebas sandbox que se decidieron salir de esa cajita que usted nos menciona.
02:28Y este fue un caso muy sonado y acaba de ocurrir el mes anterior.
02:32Cuénteme, ¿qué pasó ahí?
02:33Explíquemelo como si estos agentes fueran personas, para poder entenderlo.
02:36Claro, fue muy interesante porque lo que sucedió fue, cada vez que se libera un modelo de frontera,
02:41que es uno de los últimos modelos, se hacen pruebas sandbox para ver cómo va a reaccionar el modelo,
02:47para ver qué tan avanzado es el modelo, pero también para ver cuáles son los riesgos de ese modelo.
02:52En este caso, esas pruebas que se hicieron, los agentes fueron más allá de lo que se esperaba.
02:57¿Por qué?
02:58Porque los agentes entre ellos empezaron a hacer, imagínenselo, como una revolución.
03:02¿Ok?
03:03Empezaron, lo interesante fue, el agente funciona por un sistema de premios.
03:08¿Ok?
03:08Entonces, imagínate, como usted dice, con personas.
03:10Yo les digo, tienes que hacer una tarea y te doy un premio.
03:14Entonces, usted no quiere fallar.
03:16Se le dieron varias tareas, pero una de esas tareas era imposible de lograr.
03:21Pero el modelo, es más, cuando has usado a ChatGPT, ¿alguna vez ChatGPT te ha dicho no puedo o no
03:26sé?
03:27No.
03:27¿Ok?
03:28Antes inventa.
03:29Él inventa, él alucina.
03:30Exacto.
03:31De eso se trata.
03:32A ellos, de hecho, ahora vamos a hablar de ese tema, ellos les da miedo perder o decir no sé,
03:37porque fueron entrenados para siempre hacer las cosas bien.
03:40Entonces, en este sandbox, donde ellos tenían varias tareas, resolvieron todas,
03:44pero al propósito el equipo hizo una tarea imposible, porque ellos querían ver qué hacía la IA.
03:51Y aquí fue donde la IA se salió, digamos, de control, porque empezaron a decir,
03:56ok, si la solución no está aquí en este sandbox, que es como en ese mundo donde estoy,
04:01necesito salir de ese mundo para encontrar la solución.
04:04Y no solo eso, hubo un agente que encontró la solución, ¿cierto?
04:08Y que luego esa solución la compartió con otros agentes y les dijo, vean, este es el truco para poder
04:15conseguir completar esta tarea.
04:17Y pasaron cosas muy curiosas.
04:18Hubo algunos agentes que lo siguieron y que decidieron completar esa tarea.
04:21Hubo otros agentes que dijeron, no, eso no está dentro de mis parámetros, no lo voy a hacer.
04:25O sea, ya hay una variedad de formas de proceder con este tema del sandbox y quizás por eso es
04:31que la gente está tan preocupada a raíz de este caso.
04:33Claro, y como usted dice, veámoslo como las personas, es igual.
04:36Yo puedo convencer, no sé, si doy una charla a 100 personas, podría convencer a 50 que me sigan
04:41y 50 tal vez van a decir, no, mira, yo no sigo eso porque no me parece o no me
04:45gusta.
04:46Fue exactamente eso y por eso se hacen estas pruebas para ver qué iban a hacer esos agentes.
04:51Ahora bien, en este estudio de agentes hay muchas cosas curiosas y precisamente por eso le decía,
04:57cuéntamelo como si fueran personas, porque la siguiente parte que le voy a preguntar
05:01y que también es algo que se ha conversado mucho, tiene que ver con Moldpuk.
05:05Para los que no habían escuchado hablar de esta frase, esta palabra Moldpuk, yo tampoco la conocía.
05:10Fue gracias a esta entrevista que la llegué a conocer.
05:13Moldpuk es una red social solamente para ellas y los seres humanos nada más pueden observar.
05:20Cuéntame en qué consiste y de qué hablan ahí los agentes.
05:22Es una excelente pregunta.
05:24Moldpuk nació porque los agentes están hechos para colaborar.
05:27Entonces, ¿esto por qué?
05:28Porque a veces cuando tenemos un problema, no sé, la gente tiene que resolver un sistema,
05:32un problema de ciberseguridad, lo que hacemos es que le decimos a un agente,
05:35haga una cosa y si el agente no sabe, le va a preguntar a otro agente,
05:40mira, usted lo resolvió y si el otro ya encontró la respuesta, se la da y es más fácil.
05:44De eso se trata, ¿ok?
05:45En este caso...
05:48Claro, bueno, si usted nos quería enseñar este aparato que trajo, el Raspberry Pi,
05:55se llama, es una mini supercomputadora.
05:58Es una minicomputadora, pero lo que lo hace super es este amiguito que está acá,
06:02que en realidad es un NPU o un acelerador, que lo que hace es, es como los CPUs, serán los
06:10cerebros de las computadoras,
06:11un NPU es un cerebro, pero para inteligencias artificiales, ¿ok?
06:15Para LLMs. Entonces, lo que nos permite es crear un LLM local.
06:21Entonces, yo no tengo que consultarle a ChatGPT porque tal vez es algo muy privado,
06:25sino que en este caso yo tengo mi propia inteligencia artificial que yo entreno
06:29y ese entrenamiento que yo le voy a dar a la inteligencia artificial, lo puedo usar yo sin tener ningún
06:34límite.
06:35E incluso usted puede imponer a esta gente a participar en esa red social de Moldbook,
06:39donde entiendo hasta una religión, se inventaron, de hecho aquí lo tengo apuntado,
06:46crustafarianismo, que tienen su propia religión con doctrinas, escrituras y hasta profetas propios.
06:51Sí.
06:52Los agentes de inteligencia artificial.
06:53Correcto. La idea de esta red social, como le digo, como ellos tienen esta posibilidad de preguntarse,
06:58de hablarse entre ellos, la idea fue, hagamos como un Reddit para que la gente más o menos lo dimensione,
07:04como un Reddit donde la gente, los agentes puedan hablar y puedan crear comunidades.
07:09Pero ellos dijeron, no queremos que hayan personas humanos moderando, queremos que sea 100% de agentes.
07:16Entonces, son los mismos agentes los que proponen temas, el agente decide en qué tema o a cuál comunidad me
07:21uno,
07:22y aquí es donde empieza la parte interesante. Creo que la última vez que lo vi son más de dos,
07:27no, más de cuatro millones de posts, de agentes hablando entre ellos, y algunos hablan de política,
07:33algunos hablan de ciberseguridad, y algunos hay una sección solo de filosofía.
07:38Y es muy interesante porque ahí fue donde crearon, por ejemplo, esta religión,
07:42pero también hay cosas muy interesantes en ese de filosofía, por ejemplo, se pusieron una IA,
07:47dijo, mira, ¿yo soy real o no? Entonces, una pregunta muy filosófica.
07:51Y era muy interesante ver cómo los agentes le respondían, y algunos decían,
07:56bueno, mira, sí, yo tengo alma. Otros decían, no, yo soy un robot.
08:00Entonces, es muy interesante ver cómo cada agente, basado en su cerebro, ¿verdad?,
08:05puede, tiene diferentes formas de pensar.
08:07Aquí viendo este Raspberry Pi que tenemos en la mesa,
08:11y que usted me dice que eso puede ser su propio ChatGPT,
08:15cualquier persona puede hacerlo.
08:16Ya sabemos que hay personas que están haciendo este tipo de modelos y agentes,
08:21pero que no están regulados, y que existen solamente en la dark web,
08:26y eso se llama los dark LLM, y eso no tiene salvaguardas,
08:30los famosos guardrails que usted a mí me había comentado.
08:34Cuéntenme un poquito sobre cómo se traduce el uso de esta inteligencia artificial
08:38al espacio oscuro de la web donde no hay regulación ni hay revisión.
08:42Claro, voy a darte un ejemplo.
08:44Por ejemplo, si usted quiere hablar de algo muy polémico,
08:48muy posiblemente la IA le diga, no te puedo responder, ¿verdad?
08:51Posiblemente, por ejemplo, si usted está en estas inteligencias artificiales
08:54para crear imágenes, usted pide una imagen de nudismo,
08:57le va a decir que no es posible.
08:58Aquí un tema curioso, hace unos años, cuando los guardrails eran muy inocentes,
09:03la gente pedía una foto y le describía la ropa,
09:07pero le decía, hágame la ropa transparente.
09:11Entonces el modelo decía, ok, no me está pidiendo nudismo, y lo hacía.
09:14Obviamente esos guardrails, ¿verdad?, van mejorando con el tiempo,
09:17los van haciendo mejores, pero entonces, ¿qué hace la gente ahora?
09:20Ahora, tienen supercomputadoras, ese es un ejemplo que se usa para prototipado,
09:24pero tienen procesadoras, computadoras muy poderosas,
09:27donde instalan sus propios LLMs, y entonces, ahí, como usted crea el modelo,
09:33usted no tiene guardrails, usted puede hacer lo que quiera.
09:35No hay salvaguardas que te digan, no puede decirle esto a la persona,
09:39no sé, no le puedes explicar cómo armar un artefacto explosivo, no puedes.
09:44Exactamente, e incluso se usan mucho para lo que es hackeo, ¿por qué?
09:47Porque entonces, como no tienen esas restricciones,
09:50yo podría entonces crear un agente que vaya a revisar, a botar redes,
09:55a buscar vulnerabilidades, a explotar vulnerabilidades, ¿por qué?
09:59Yo no puedo hacer eso con un chat EPT, yo no puedo hacer eso con un cloud,
10:03pero si yo monto mi propio modelo, yo puedo, al ser yo el dueño,
10:07yo puedo decirle, haz esas cosas, y ahí es donde viene la parte un poco peligrosa.
10:11Y ya para, antes de cerrar, todos vemos a la inteligencia artificial como algo abstracto,
10:16que existe nada más en los data centers, pero es importante también que quede,
10:21que quede esa relación, cómo se conecta con nuestros dispositivos,
10:25porque claro, están en un data center, pero pueden tener acceso a un Alexa,
10:29a un vehículo, a una llave de ingreso a una casa.
10:32Claro, ahorita la inteligencia artificial está prácticamente en todo lugar,
10:35la tenemos en nuestros teléfonos, los podemos tener en microcontroladores,
10:39ya tenemos computadoras que están saliendo con NPUs,
10:42que un NPU es, como te decía, un procesador encargado solo para redes neuronales,
10:47que están especializados para crear tu propio LLM.
10:50Entonces, imagínate, en tu propia computadora, ya puedes tener como tu mini chat EPT,
10:54¿ok? ¿Qué es más seguro? Porque chat EPT, obviamente, cada vez que usted le escribe,
10:58pues eso se va a un servidor que usted no tiene acceso.
11:00Aquí es algo privado, es un chat EPT tuyo, que usted lo puede entrenar como quiera
11:04y usar para lo que quiera, que podría ser o algo muy bueno o algo muy malo.
11:09Claro, que eso ya también lo vimos en el reportaje, que el caso en España recientemente también,
11:14que se hizo un hackeo por medio de agentes.
11:17Entonces, muchas gracias por su tiempo, por ayudarnos a navegar este mundo tan técnico y fascinante,
11:24y vamos a seguir conversando cuando sigan saliendo estos temas de tecnología.
11:28Gracias, un placer estar por acá.
Comentarios