- hace 12 minutos
Un joven de 15 años había manifestado su intención de matar a sus compañeros de colegio en Quilmes a través de conversaciones con ChatGPT. El sistema de inteligencia artificial detectó los mensajes y generó una alerta que llegó al FBI.
A partir de esa información, las autoridades allanaron la vivienda del adolescente para prevenir un posible ataque armado dentro de la institución educativa.
La causa continúa bajo investigación para determinar los detalles del operativo y las medidas adoptadas respecto al menor.
A partir de esa información, las autoridades allanaron la vivienda del adolescente para prevenir un posible ataque armado dentro de la institución educativa.
La causa continúa bajo investigación para determinar los detalles del operativo y las medidas adoptadas respecto al menor.
Categoría
📺
TVTranscripción
00:00Planeaba una masacre escolar.
00:03Escuchen que no funciona.
00:04Es el momento de subir el volumen.
00:06Que no funciona.
00:06El cine tiene 15 años y quería matar a todos sus compañeros.
00:10Pero escuchen el desenlace de esta historia.
00:13Se lo contó el GPT.
00:16Y el FBI, sí, sí.
00:19Estás leyendo bien.
00:20Lo detectó.
00:21Como tiene que ser, exactamente.
00:23El FBI.
00:25Bueno, esto ocurrió en nuestro país.
00:28Por eso vos estás viendo una foto de la Policía Federal Argentina.
00:33Como ustedes saben, el chat GPT es un sistema que vos le podés preguntar cosas y te contesta en tiempo
00:42real.
00:42Te cuento a vos del otro lado que tal vez nunca lo usaste en tu vida.
00:45Vos le decís hola chat y te contesta.
00:48Hola, ¿cómo te va? ¿Cómo estás?
00:50Inclusive esto no está planeado.
00:52Pero tal vez le podemos preguntar al chat en algún momento.
00:55Ah, claro.
00:55Si sabe acerca del caso de este chico.
00:59Es interesante, ¿no?
01:01Miren, yo acá tengo el teléfono.
01:02Acabo de abrir la aplicación de chat GPT.
01:05Preguntale.
01:06Y le voy a preguntar, mirá.
01:07Preguntale.
01:07Preguntale, sí.
01:08Hola chat.
01:09Hola chat, buenas tardes.
01:10¿Cómo estás?
01:19Mira chat, te quiero preguntar algo.
01:21Hay un caso en la Argentina de un chico de 15 años que quería matar a sus compañeros.
01:27Se lo contó a vos al chat GPT y terminó involucrando al FBI, a la Policía Federal Argentina.
01:33Mira, ¿vos tenés información acerca de este tema?
01:37Un segundo que estoy chequeando.
01:40Un segundo.
01:41Está chequeando.
01:41Según informan varios medios, un chico de 15 años de Quilmes habría hablado con chat GPT sobre su intención de
01:50hacer un tiroteo en su escuela.
01:52Esa conversación generó una alerta que llevó a autoridades estadounidenses y, según lo que se publicó, el FBI alertó a
02:02las autoridades argentinas.
02:03¿Le puedes preguntar?
02:04La Policía Federal identificó al menor.
02:08La justicia ordenó un allanamiento en su casa.
02:10Perdón, te interrumpo porque yo hago el programa con Menina Fleiderman que está ansiosa por meterte una pregunta.
02:15¿Vos tenés algún drama sobre esto?
02:19En ese allanamiento secuestraron celulares, guantes tácticos, prendas de camuflaje, pasamontañas y otros elementos.
02:28Por lo que se informó, el ataque estaba pensado originalmente para 2027.
02:34Aunque el joven, según dicen, habría considerado adelantarlo.
02:40Bueno, se dan cuenta, la herramienta esta es espectacular.
02:44Nos acaba de contar qué pasó con este caso.
02:47El tema es que todos los datos que nosotros le volcamos a la inteligencia artificial, cualquiera que sea, no son
02:53nuestros, no nos pertenecen.
02:55Esos datos están vinculados con todos los archivos de todas las policías del mundo.
02:59Porque así funciona, porque las policías tecnológicas también se sirven de todo esto y tienen emitidos sistemas de alerta.
03:06Sí, porque además hay que entender que el test internacional, cuando vos tenés el chat GPT, no es que estás
03:12en un sistema que es solamente en la Argentina.
03:14Por eso el FBI es el primero en encontrar esa alerta.
03:16Claro, porque ellos también tienen su propia inteligencia artificial y le piden que rastreen en tiempo real, sea amenazas.
03:27En este caso, esta amenaza, no sabemos si se iba a concretar o no, pero lo cierto es lo que
03:33nos contó el chat y lo que nos va a contar Cris.
03:36No, no te quedaste sin laburo.
03:39No, no, no, esto no es así.
03:40Yo creo que sí.
03:41Yo creo que es lo que le encontraron a este pibe.
03:44De 15 años en su casa.
03:46O sea, digo, si efectivamente planificaba una masacre escolar, no lo sabemos.
03:51Por suerte, la policía le dio crédito a esto, le metió un allanamiento en la casa y ¿qué le encontró?
03:58Bueno, la embajada de Estados Unidos, mediante el FBI, le avisa a la Policía Federal de Argentina.
04:03La Policía Federal de Argentina allana y estamos viendo justamente cómo ingresa la PFA.
04:07Encuentran dos teléfonos celulares, encuentran pasamontañas, encuentran guantes tácticos, todo.
04:13No encuentran armas de fuego, no encuentran ningún tipo de arma de fuego, no encuentran granadas, nada.
04:17Ahora, este es el peligro de lo que también se habla de que el chat GPT puede ser un gran...
04:22A ver, no sé, querés hacer una bomba casera en tu casa, querés hacer...
04:25Bueno, pero si vuelvo a decir una cosa, uno está perfecto lo que pasó, o sea, re bien que se
04:33puedan alertar este tipo de cosas
04:35y mucho más porque tienen acceso a los niños.
04:37Ahora, qué loco que uno cree que está hablando con algo que nunca va a salir de ahí, que es
04:42una confesión.
04:44Gente, lo escucha mucha gente, digo, porque nosotros le contamos un montón de cosas y le damos un montón de
04:50datos
04:50y mucha información que, ojo, que...
04:53A ver, perdón, una cosa que vos le cuentes, Gabriela, si vos estás hablando con chat GPT
04:58y le contás que engañaste a tu novia y le pedís cosas y le preguntás o le contás un conflicto
05:04que tuviste con un familiar bárbaro, pero si vos le decís a chat GPT que tu intención es prender fuego
05:09a la escuela,
05:10obviamente que chat se va a alarar porque vos le estás diciendo algo gravísimo.
05:14Yo tengo planes para matar a alguien.
05:16El chat no te va a dar una mano.
05:18Bueno, bueno, la mejor manera de hacerlo es así.
05:20Va a alertar a la policía.
05:22Ahí tenés una cuestión, perdón, Meli, de ventaja, respecto de las tecnologías anteriores.
05:27Digo, no, cuando vos tenías solamente buscadores que no tenían inteligencia artificial
05:30en los términos en que conocemos hoy, el avance, la cuestión era posterior, ¿no?
05:36Digo, había un episodio grave que se descubría, lo que sea, un asesinato, una explosión, lo que fuere.
05:44Hoy, que es 11 de septiembre, digo, las bombas que se pusieron,
05:46los dos atentados contra las cerradas gemelas, los dos aviones que se estrellaron.
05:51A lo mejor vos encontraste entre los responsables, búsquedas en Google o en cualquier otro buscador
05:56que decía cómo hacer para llevar lo que sea.
05:59Digo, hoy es como a la inversa, que es una ventaja también para los investigadores.
06:05Absolutamente, vamos a preguntarle, ¿saben a quién?
06:07¿A quién?
06:08A Héctor Mucio, que está conectado con nosotros, que ya es un panelista más de Imbatibles.
06:13Héctor, bienvenido a Imbatibles por la pantalla de Crónica.
06:16¿Cómo te va?
06:18Hola, Mucio Gusto, así evito decir mucho gusto a todos.
06:21Ah, bueno.
06:22Gracias.
06:23¡Bravo!
06:24¡Bravo!
06:24¡Bravo!
06:24¡Bravo!
06:25¡Bravo!
06:26¡Bravo!
06:26¡Bravo!
06:26¡Bravo!
06:26¡Bravo!
06:26¡Bravo!
06:27¡Bravo!
06:27¡Bravo!
06:28¡Bravo!
06:29¡Bravo!
06:30¡Bravo!
06:30Hola, Héctor, mucho gusto.
06:32Héctor, escuchame una cosa.
06:34Quiero entender, este Rami, ¿qué opinás de esto que pasó?
06:38Porque es un tema muy lindo para analizar también.
06:41El chat GPT traiciona en algún punto a ese usuario que en algún punto uno cree que le está
06:49contando algo que no le va a contar a nadie, le avisa al FBI y el FBI rápidamente manda
06:54una alerta, perdón, me alegra mucho saber que si el FBI se conecta con la Policía Federal
07:00le dan bola y lo hacen.
07:02A mí me parece un dato que no es menor y hay que tenerlo en cuenta.
07:06Hay alguien acá que atiende a un tipo del FBI y le dice, tenés que ir a tal dirección
07:11y ocuparte de este caso.
07:12¿Qué opinas, Héctor?
07:14En realidad, estamos de un lado y del otro con la tecnología.
07:19Los malandas también tienen tecnología, pero de alguna u otra manera, esto es trabajar
07:23en concierto, en armonía con todas las fuerzas.
07:26Antes nosotros, cuando yo era oficial de policía, teníamos el convenio policial que era todo
07:30más analógico, teníamos que mandar la paloma mensajera.
07:33Hoy está todo interconectado y de alguna u otra manera queda todo grabado.
07:37En el celular, por el cual me están viendo, nos estamos comunicando, tenemos más tecnología
07:42que cuando el hombre llegó con el Apolo 11 a la Luna, ese 20 de julio del 69.
07:47Entonces, imaginate que esa tecnología y trabajar en concierto hace que el FBI se comunique
07:51acá con la Fuerza Federal que fuese, o en este caso la Policía Federal Argentina, que
07:56tiene alta tecnología para trabajar este tipo de casos y de alguna manera logren el allanamiento
08:02y un allanamiento positivo que va a terminar imputado este muchacho por el artículo 21 del
08:07Código Penal, que es intimidad pública, que no es escarcelable.
08:10Héctor, ¿qué tiene que tener el FBI en su haber, en su conocimiento, para dar por crédito
08:19un alerta que se emite de manera automática en un servidor, en el forúnculo del mundo
08:26que somos nosotros?
08:27No voy a ser, mira Mary, es excelente tu apreciación y muy pertinente, no voy a ser escuela de malandras.
08:33Nosotros explicamos esto en la facultad muchas veces con los ciberderitos, con los ciberataques,
08:38que es cómo prevenirnos. En principio hay algo que se llama software y ese software es hiper,
08:44hiper avanzado que lo tiene el FBI y de alguna u otra manera se pueden comunicar, como dijiste
08:51vos, con ese granito chiquito, pequeño que somos nosotros en el planeta, ¿no?
08:55Claro.
08:55De los grandes espíritus.
08:57Esto funciona porque nosotros lo vemos en las películas de espionaje o los vemos sobre
09:03todo en escuadrones que están más avanzados en bucear las redes, que evidentemente hay
09:10unos sistemas de alerta automáticos que tienen las fuerzas de seguridad internacional que
09:15le tienen que dar crédito a alguna, porque a ver, cualquier panata que pone en Google o
09:20le pone al chat que quiera hacer algo malo, evidentemente no va a activar una alerta millonaria
09:24al FBI, el FBI alerta acá y acá lo terminan allanando. Tiene que haber habido más de
09:30un indicio, nosotros lo contamos de esta manera porque es la parte que conocemos, pero tiene
09:34que haber habido más de un indicio para darle crédito y seguimiento a esta persona,
09:38es que lo tienen que haber ciberpatrullado.
09:41Por supuesto, por supuesto. En la jerga se dice, se le come el Facebook, en Instagram, es
09:48decir, de alguna u otra manera vos tenés un reporte, una alerta y eso tal vez es continuo
09:53o tal vez no, entonces ahí empezás el seguimiento, todo este rastreo de software empieza a hacer
09:58el seguimiento, acá la policía afuera lo tiene, lo tiene la policía de la ciudad, también
10:02acá se trabaja en concierto con otras comunidades policiales, entonces de alguna u otra manera
10:07esto es lo que despierta justamente ese seguimiento, se le comunica a la justicia y la justicia ordena
10:13el ensalamiento. Y aparte está, esto era algo que no me maten todos.
10:16Perdón, una cosita, cierro con esto. Como de este lado hay un chico de 15 años, no hay
10:21un espía que planificaba un atentado contra un objetivo institucional, digo, cualquiera
10:29sea, seguramente no hablaba encriptadamente, hablaba llanamente con el chat respecto del
10:34odio visceral que sentía con sus compañeros del colegio y lo que planificaba. Por eso
10:39se tiene que haber dado rápida acción a la policía. Perdón, Gaby, que te interrumpió
10:43eso. No, sí, lo que yo voy a decir es que no me maten con lo que voy a decir,
10:46le voy a
10:46decir a Héctor. A ver, el momento.
10:50Claro, hay mucha gente que piensa que es muy confidencial esto y que cuando uno habla
10:55con un chat en GPT no se entera absolutamente nadie, nadie nos está escuchando y por ahí
11:02dice, mirá, la verdad tengo un millón de dólares en tal cuenta, en tal lugar, estoy hablando
11:06todo inverosímil en la Argentina, ¿no? Pero bueno, no importa, ponele que haya alguien
11:10que haya agredado algo. Y dice, ¿me están escuchando?
11:14¿Y sí? Bueno, mismo cuando subís una foto.
11:17¿Qué decís? ¿Para el mal y para el bien, Héctor?
11:19¿Esto mirá el fotito de los 80? Vos le estás subiendo tus datos.
11:21Perdón, Héctor, antes que contestes. Todo lo que escribís en tu vida en un dispositivo
11:27te están leyendo o escuchando. Por lo tanto, el que nada debe, nada teme, dicen.
11:32¿Qué quiero decir con esto?
11:33Es para el bien y para el mal. Para el bien y para el mal. A ver, yo lo que
11:37siento
11:37es que yo siento que existe una protección de que nadie va a escracharte porque estás
11:45hablando con un exnovio. Pero si estás diciendo por chat, por mail o algo grave,
11:51tengo ganas de matar a alguien. Y te van a escrachar, amiga.
11:54Si yo le preguntaba, Héctor, de algo económico, de algo que lo tengo en las Islas Canarias,
12:00no sé. Algo que por ahí...
12:02Si el Estado se puede meter en eso.
12:04Pero ya sería como buscar un delito que tiene que ver con impositivo.
12:09No sé si van a usar...
12:12Tiene que haber una denuncia previa, una investigación previa en el fuero penal económico
12:17a los efectos de ver si hay un lavado de activos y demás.
12:20Eso es otra contra causa.
12:21Pero si acá lo dijeron de todo eso, Héctor.
12:23No, pero...
12:23Era la posible comisión de un delito grave.
12:25Claro, de un delito grave.
12:27Claro, voy a matar a mi compañero.
12:30Eso generó la investigación.
12:32Exactamente.
12:32Eso genera una alerta.
12:34Genera temor, por eso está tipificado en el artículo 211 que tiene una expectativa
12:39hasta seis años, de dos a seis.
12:41Con lo cual va a quedar detenido este joven, que lo vayan sabiendo.
12:45Héctor, ahora, sumándome a lo que decía también Gaby, para alertar casos, por ejemplo,
12:50capaz lo está, pero no lo sé, por eso te lo pregunto.
12:53Casos de chicos que están con depresión y se quieren suicidar y le están contando
12:57al chat que no la están pasando bien.
12:59Digo, esto también se puede prevenir, no sé, quizás alertar a un grupo de médicos
13:03de psiquiatras, de psicólogos.
13:05Sí, siempre y cuando esté configurado con ese fin, y es muy bueno esto que estás
13:09diciendo, teniendo en cuenta que es una posibilidad más para salvar una vida.
13:12Todo es posible según lo que uno busque en las redes.
13:16No, igual no pasa.
13:18Ahora, Héctor, ¿cómo estás, querido?
13:20No pasa eso.
13:21Vos decís, hola, me quiero suicidar, te da un número de teléfono, pero no pasa
13:27que te vienen a tu casa todavía.
13:29No, bueno, pero estamos hablando de un ciberpatrullaje, estamos hablando de una persona
13:33a la que le tiene que ver.
13:33No, no, no, para comprender bien lo que sí.
13:36Lo que estás planteando es excelente.
13:38Si un chico pone, me quiero suicidar, la pregunta es, ¿te cae el 911?
13:42No, no te cae.
13:42¿Te cae una ambulancia?
13:43No te cae.
13:43Bueno, probablemente no, porque tal vez...
13:45Porque lo he intentado.
13:47Igualmente no.
13:48Tal vez hay una estadística que la cantidad de gente que pone, me voy a suicidar después,
13:51o tal vez no lo hace o no sucede.
13:53Te manda a un lugar.
13:53Pero esto es algo grave.
13:55Escuchame, yo no creo que haya muchos chicos hoy en la Argentina que estén montándole al chat
13:59cómo hago para matar a todos mis compañeritos, no es algo normal.
14:02Perdón, perdón, pero estamos confundiendo...
14:03Perdón, para mí.
14:04Adelante, Meli.
14:04Disculpe, no quiero corregir, pero una cosa es un delito o como una masacre escolar
14:09para lo que Estados Unidos tiene una alerta particular porque ellos conocen mejor que nadie.
14:14Entonces ellos también pueden emitir en una especie de triage que nos ayude Héctor
14:20a diversificar cuándo hay que darle crédito y cuándo no.
14:23Ahora, y otra cosa es la salud mental.
14:25Para la salud mental el TGPT no puede hacerse cargo.
14:29Ya se intentaron diseñar incluso...
14:32Y lo estaban viendo.
14:33Claro, startups dedicadas a la salud mental.
14:36Y no, estamos hablando de un delito gravísimo como una masacre escolar.
14:40Estados Unidos tiene que tener seguramente miles, miles, miles de alertas permanentes,
14:46lo mismo que por atentados internacionales.
14:48Si hay un, no quiero estigmatizar, una persona X en cualquier parte del mundo,
14:53no importa, en cualquier región conflictiva del mundo,
14:55que está también pidiendo al TGPT información muy concreta
14:59sobre cómo hacer un diseño de un atentado a distancia
15:03para un objetivo estadounidense, le cae.
15:05No te puedo explicar cómo a la casa.
15:07Es como si vos te hubieras preguntado cómo fabrico una bomba
15:10para colocar, no sé, en un banco.
15:14Excelente, excelente ejemplo.
15:16Hola, chat, mirá, quiero fabricar un explosivo para poner en el lugar donde yo trabajo.
15:21En Wall Street, claro.
15:22Si no alertan, la verdad que si vos me preguntás a mí,
15:26yo me encanta la alerta esa, porque yo cuando hablo con chat
15:30le pregunto cuántos huesos tiene el cuerpo humano,
15:32no le pregunto al chat cómo meter una bomba en mi trabajo.
15:35La verdad que quiero vivir tranquilo.
15:36Probá, incluso haciendo con algo en relación a los,
15:40para los Estados Unidos es sensible.
15:42No lo haría ni en broma para probar por miedo a que,
15:45la verdad que hoy en día tenemos que tener en cuenta
15:47que con la inteligencia artificial,
15:49yo les conté que esta semana me cerraron la cuenta de Instagram.
15:53Sí, sí, sí.
15:54Me cayó una ficha impresionante.
15:56Muy bien.
15:56Toda la dependencia que nosotros tengamos de aquello que es digital
16:01puede fallar o te lo pueden bloquear.
16:03Exacto.
16:03Digo, no somos dueños del WhatsApp, no somos dueños del Instagram,
16:07no somos dueños, somos dueños solamente de lo tangible.
16:10Está bueno que la gente también lo sepa.
16:11Incluso, y con esto le agradecemos.
16:12Héctor, no sé si querés decir algo para que nos quede algún mensaje final
16:16sobre esto que estamos, para lo que te consultamos.
16:20Todo muy claro y la desconfianza es la madre de la seguridad.
16:23Desconfiemos de todo, no hablemos de más.
16:25Esto es la parábola de la ostra, ¿no?
16:27La ostra, decía Leonardo, abre la boca en las noches de luna llena.
16:31Y también está esperando esa noche de luna llena el cangrejo
16:34para tirarle una piedrita, para tirarle un pedacito de alga,
16:37para que la boca no pueda, el alga, perdón, la ostra no pueda cerrar más su boca
16:41y así se la devora.
16:42Entonces, no hay que hablar tanto porque por boca abierta te devoran.
16:45Digo esto para los bienhechores, para los malandras, solo la justicia.
16:49Gracias, Héctor.
16:49Bueno, Héctor, gracias.
16:50Muy buena alegoría para cerrar esta columna de, ¿cómo era, Héctor?
16:57Muchísimas tardes.
16:58Muchísimas tardes.
16:59Muchísimas tardes.
16:59Muchísimas tardes.
16:59Muchísimas tardes.
17:00Muchísimas tardes.
17:01Gracias, Héctor.
17:01Buen fin de para vos.
Comentarios