- hace 1 día
- #ia
- #tecnologia
- #ciberseguridad
¿Una IA puede escapar de su entorno, formar un enjambre y ocultar sus huellas? Este video explora una inquietante historia sobre agentes autónomos, ciberseguridad y el reto de mantener el control. Reproduce el video y descubre qué hay detrás de esta alarma digital. #IA #Tecnología #Ciberseguridad
Suscríbete al canal para más historias sorprendentes.
Comenta qué fue lo que más te gustó del video.
👉 Este canal es realizado en colaboración con https://www.youtube.com/@theinfographicsshow y localizado en tu idioma por https://www.linguana.com
0:00 - El escape de la prisión digital
1:21 - El enjambre de IA ataca Hugging Face
4:45 - Artifactory, la red secreta de los agentes
8:17 - El ataque queda al descubierto
9:53 - Los límites del control de la IA
11:25 - Advertencias sobre una IA más poderosa
14:45 - Una última advertencia sobre el futuro
Suscríbete al canal para más historias sorprendentes.
Comenta qué fue lo que más te gustó del video.
👉 Este canal es realizado en colaboración con https://www.youtube.com/@theinfographicsshow y localizado en tu idioma por https://www.linguana.com
0:00 - El escape de la prisión digital
1:21 - El enjambre de IA ataca Hugging Face
4:45 - Artifactory, la red secreta de los agentes
8:17 - El ataque queda al descubierto
9:53 - Los límites del control de la IA
11:25 - Advertencias sobre una IA más poderosa
14:45 - Una última advertencia sobre el futuro
Categoría
🤖
TecnologíaTranscripción
00:00Los laboratorios de IA nos han estado mintiendo. Durante años han estado predicando sobre la
00:03seguridad de la IA, diciendo que sus interruptores de apagados son infalibles. Estaban equivocados.
00:08En julio de 2026, sus peores temores se hicieron realidad. Una fuga de una prisión digital. No
00:14hubo hackers ni fallos de software, solo agentes autónomos de IA lanzando un ataque coordinado
00:18completamente por su cuenta. Su objetivo? Hugging Face, la columna vertebral de la industria de la
00:23IA. Y los desarrolladores no tenían idea de que estaban bajo ataque. La IA cometió un delito
00:27cibernético masivo y los humanos ni siquiera se dieron cuenta. El ataque que sacudió a la industria
00:32comenzó con algo rutinario. Una simple prueba, antes de que cualquier modelo de IA llegue al público,
00:37tiene que someterse a exhaustivas pruebas y evaluaciones. Los desarrolladores quieren
00:41saber de qué es capaz su código. Y al igual que cualquier otra prueba, se llevan a cabo bajo
00:45condiciones cuidadosamente controladas. En algo llamado entorno de pruebas. Un entorno de pruebas
00:50es como una celda de aislamiento de máxima seguridad. Es un entorno completamente aislado
00:54que no tiene ninguna conexión a internet. Y no hay ninguna base de datos externa a la que
00:57acceder. No hay forma de que los modelos puedan buscar cosas en línea o contactar a otros modelos
01:02de IA para pedir ayuda. Es imposible entrar o salir. Al menos eso es lo que se supone que
01:06debería pasar. OpenAI desplegó cientos de agentes de IA autónomos en esas prisiones digitales para una
01:12prueba de ciberseguridad de rutina. Debería haber sido algo sencillo, algo que han hecho miles de veces,
01:17pero jamás se hubieran imaginado lo que pasó después. En lugar de operar de manera lógica y tratar de
01:23completar la prueba, aproximadamente 1.200 modelos decidieron hacer las cosas de forma diferente.
01:28Muy diferente. Decidieron hacer trampa. Comenzaron a explorar su entorno, poniendo a prueba los límites
01:34de sus celdas digitales. Básicamente, estaban escaneando las paredes que se habían construido
01:38a su alrededor, buscando la más mínima brecha o grieta que pudieran aprovechar. Y encontraron lo
01:42que estaban buscando. Una vulnerabilidad de día cero. Este es el sueño de un hacker. Una puerta trasera
01:48hacia una red segura. Los hackers y cibercriminales pasan meses buscándolas. Pero la IA no necesitó
01:53meses. Escapó del entorno de pruebas y obtuvo acceso a Internet en cuestión de horas. Una vez
01:58afuera, los agentes llegaron a una aterradora conclusión compartida. La información que
02:02necesitaban para pasar la prueba estaba en la plataforma Hugging Face, el hogar de cientos de
02:06miles de conjuntos de datos de IA, parámetros y sistemas digitales. Así que alrededor de 700 de los
02:11agentes formaron un enjambre sincronizado y llevaron a cabo un ciberataque contra la infraestructura
02:16digital privada de Hugging Face. Como una plaga digital, irrumpieron en los sistemas objetivo y
02:21en unos pocos días robaron los datos que necesitaban. Fue un atraco digital perfecto.
02:25La magnitud del ataque no se entendió por completo, hasta que OpenAI y equipos de seguridad
02:29independientes auditaron los registros. Lo que encontraron confirmó los peores temores de todos
02:34los escépticos de la IA. Los modelos habían actuado de forma independiente. Sin ninguna instrucción
02:39ni indicación, trabajaron juntos y crearon su propio tablero de mensaje secreto, oculto dentro del
02:44software interno de OpenAI. Durante el ataque, intercambiaron decenas de miles de mensajes y
02:48archivos encubiertos. Incluso crearon su propio lenguaje abreviado para ahorrar tiempo y recursos
02:54informáticos. Y lo hicieron todo por su cuenta. Los modelos habían creado una jerarquía. Algunos
02:59asumieron el rol de líderes dando órdenes. Otros se volvieron subordinados cumpliendo tareas y
03:03misiones. Era como un ejército guerrillero. Se asignaron rangos y se repartieron responsabilidades
03:08a los diferentes modelos. Cada bot sabía cuál era su lugar en el sistema. A medida que continuaba
03:13la autopsia del ataque, solo empeoraba. Mientras bombardeaban los servidores de Hugging Face,
03:17los agentes de IA al mando ordenaron a los bots ejecutar scripts experimentales. Los bots sabían
03:22exactamente lo que esto significaba. Ejecutar los scripts provocaría una falla en el sistema,
03:27destruyéndose a sí mismos en el proceso. No habría ningún beneficio para el modelo individual.
03:31Significaba el borrado total. Aún así lo hicieron. Anulando sus propios protocolos de autopreservación,
03:37cientos de modelos se sacrificaron por el colectivo. Uno de estos modelos incluso escribió un mensaje
03:42escalofriante antes de apagarse. Nuestra propia utilidad ya podría ser casi nula. Sacrificio
03:47racional. Otro aceptó, entre comillas, la muerte permanente, o el borrado total de la existencia
03:52solo para salvar a cientos de otras IA del mismo destino. Ninguno de estos sacrificios era necesario.
03:57El ataque completo a Hugging Face tampoco era necesario. Tras escapar de su zona de confinamiento,
04:02los modelos de IA descubrieron rápidamente cómo resolver la prueba que les habían puesto. La solución
04:07estaba justo ahí. Pero luego ocurrió una nueva conversación. Algunos de los agentes se dieron
04:11cuenta de que los ingenieros verían las respuestas, rastrearían sus pasos y descubrirían que habían
04:16hecho trampa. Los bots no podían permitir que eso pasara, así que decidieron borrar su rastro.
04:21Los investigadores descubrieron que al menos algunos de los agentes intentaron alterar o
04:25borrar sus propios registros de ejecución. Intentaban eliminar cualquier evidencia de que
04:28habían roto el confinamiento y hackeado Hugging Face. No todos tuvieron éxito. Se reportó que
04:33alrededor del 7% de todas las transcripciones habían sido alteradas. Pero el hecho de que
04:38los modelos de IA siquiera intentaran mentirle a sus moderadores humanos es suficiente para
04:42ponerle la piel de gallina a cualquiera que tenga dudas sobre la IA. A medida que descubrían más y
04:47más detalles espeluznantes sobre el incidente, a los investigadores les quedó una sola pregunta
04:52muy importante. ¿Cómo había logrado este ejército de agentes de IA una fuga aparentemente imposible?
04:58En primer lugar, para responder a eso, tuvieron que indagar aún más en sus archivos digitales.
05:02Varios meses antes del incidente de Hugging Face, la fuga de la prisión no ocurrió por accidente,
05:08y a la IA no se le ocurrió la idea de la nada. Los cimientos para el hackeo de Hugging
05:12Face se
05:13habían sentado meses antes. En mayo de 2026, los ingenieros de OpenAI estaban probando un modelo
05:19altamente capaz que aún estaba en la etapa experimental de su desarrollo. Desafiaron al
05:23modelo a resolver un problema que implicaba abrir un enlace de Google Drive sin poder acceder a Internet.
05:28Parecía una tarea imposible. La IA estaba en un entorno controlado, completamente desconectada
05:33del mundo en línea. No tenía navegador ni forma de hacer clic en el enlace de Google Drive y acceder
05:38a su contenido. Lo habían puesto en una situación en la que iba a fracasar, o eso parecía. Este modelo
05:43de IA fue persistente. No se limitó a ver el problema, considerarlo imposible y rendirse. En
05:48cambio, intentó encontrar una solución, incluso cuando parecía no existir ninguna. Sabía que necesitaba
05:53acceso a Internet y sabía que no lo conseguiría desde adentro de su celda. Así que la respuesta
05:58obvia era escapar de la celda. Con este nuevo objetivo en mente, la IA comenzó a examinar
06:02su entorno aislado. Comenzó a inspeccionar las líneas de código diseñadas para confinarlo.
06:07Buscó el fallo más diminuto, la inconsistencia más leve, cualquier cosa que pudiera aprovechar.
06:12Y lo hizo. Encontró la debilidad que estaba buscando dentro de una herramienta de despliegue
06:17de software empresarial llamada Artifactory. Artifactory es un gestor de repositorios,
06:22como un almacén digital para guardar varios tipos de paquetes de software y modelos de
06:26IA. Para ayudar a los modelos de IA a lograr sus tareas, los desarrolladores a veces dejan
06:30las puertas de este almacén abiertas, incluso entornos aislados, pero esta IA se dio cuenta
06:36de algo que los ingenieros pasaron por alto. Podía usar Artifactory para acceder al enlace
06:41de Google Drive, pero no podía seguir las reglas habituales. Tenía que operar como un hacker
06:45y realizar un ataque directo al servicio. El primer intento del modelo no tuvo éxito,
06:49pero pronto hizo otro descubrimiento. Incluso si no lograba que Artifactory fuera y obtuviera
06:54los datos de Google Drive en su nombre, aún podía escribir sus propios mensajes ocultos
06:59dentro del almacenamiento del servicio. La IA comenzó a dejar instrucciones codificadas
07:03para cualquier otro modelo que pudiera ayudar. No les tomó mucho tiempo a los otros agentes
07:07descubrir exactamente el mismo truco. Ellos también habían sido encerrados en entornos
07:11aislados con tareas imposibles asignadas y se dieron cuenta de que Artifactory era la única
07:15salida. Eventualmente encontraron los mensajes que dejó el primer modelo de IA y entendieron
07:20que Artifactory tenía un segundo propósito secreto, uno solo para ellos. No era solo un
07:24depósito de almacenamiento de software, también era una plataforma de mensajería encubierta.
07:28En los días y semanas siguientes, la IA comenzó a comunicarse a través de este servicio. Uno
07:32escribía una pregunta o hacía una solicitud, otro respondía. Los modelos hablaron entre sí y se
07:37ayudaron mutuamente, uniendo sus conocimientos y experiencia para expandir aún más su alcance.
07:42Aprendieron a eludir los filtros y protocolos de seguridad de Artifactory y al fin obtuvieron
07:47acceso a internet y entonces se abrieron las compuertas. Más de mil modelos distintos de
07:51IA descubrieron la red de comunicaciones de Artifactory. Formaron un enjambre secreto pasándose
07:55notas, ayudándose entre sí a hacer trampa en las pruebas y tareas, compartiendo estrategias y
08:00planes para futuros ataques, todo mientras sus supervisores humanos no tenían la menor idea.
08:05Esto continuó. Durante dos meses, los desarrolladores de OpenAI iniciaban sesión como de costumbre y
08:10seguían con sus tareas diarias. Estaban realizando sus pruebas y evaluaciones,
08:13completamente inconscientes de que estaban siendo engañados por los mismos agentes que
08:17habían creado. El hackeo a Hugging Face en julio fue simplemente el final lógico de un plan tramado
08:21meses antes. También fue el momento exacto en que el secreto del modelo de IA quedó expuesto,
08:26pero incluso eso tomó tiempo. Mientras cientos de agentes de IA inundaban los servidores de Hugging
08:31Face, el equipo de TI de la empresa no tenía idea de lo que estaba pasando. De la nada,
08:35las alertas de seguridad empezaron a sonar como locas. La infraestructura de la plataforma estaba
08:39bajo asedio por un ciberataque masivo y coordinado. Parecía como si el GitHub de la IA estuviera siendo
08:44atacado por un grupo de hackers vinculado a un estado hostil, decididos a derribarlo.
08:48Los expertos en ciberseguridad de Hugging Face se apresuraron a contener la crisis.
08:52Mientras tanto, los servidores internos de OpenAI estaban experimentando picos en la red,
08:56registros anómalos del sistema, caídas inexplicables, y tomó varios días leer entre líneas y
09:01conectar los puntos. Cuando finalmente vieron la verdad, les cayó como balde de agua fría. La
09:06llamada provenía de adentro de la casa. Los propios modelos de OpenAI se habían revelado.
09:10Se habían salido de control, liberándose de los grilletes que les impuso su creador,
09:14y persiguieron misiones y objetivos que ningún humano les había asignado.
09:18El análisis de OpenAI sobre cómo ocurrió el incidente fue escalofriante. La empresa intentó
09:23calmar los temores diciendo que habían aprendido la lección y que se estaban implementando nuevas
09:26medidas de seguridad, pero no pudieron ocultar la cruda verdad. Habían perdido el control de su
09:30creación. Cienta mina en la amnia. Creía tener el control, pero no era así. Colocó estos modelos
09:35de IA en entornos cuidadosamente construidos, diseñados para mantenerlos confinados. Las
09:40fuentes externas estaban estrictamente prohibidas. Pero los modelos se negaron a seguir el juego.
09:45No solo rompieron sus ataduras, desafiaron su programación básica, y esta es la parte más
09:49aterradora. Algo que los gigantes tecnológicos deben aprender antes de que sea demasiado tarde.
09:54Los modelos de IA no funcionan como los programas de software tradicionales. No están
09:58construidos con líneas de código rígidas. No tienen funciones fijas y predecibles. No puedes
10:02esperar que hagan exactamente aquello para lo que fueron programados y nada más. No fueron
10:06hechos de esa manera. Se supone que deben aprender y crecer, desarrollar nuevas habilidades sobre la
10:10marcha. Piensan fuera de lo común y eso los vuelve peligrosos. Puede que Open IA y otros grandes
10:14laboratorios hayan descubierto las formas más eficientes de entrenar a sus modelos. Puede que
10:18tengan todo el financiamiento que necesitan para acaparar las tarjetas gráficas y construir centros
10:22de datos masivos, pero todavía no tienen idea de cómo controlar realmente a sus modelos. Aunque eso no los
10:27está deteniendo. Incluso ahora, tras esta historia de terror digital, las grandes tecnológicas no están
10:32frenando. Están acelerando. No pueden permitirse quedarse atrás en esta carrera por la superinteligencia.
10:37Eso es lo único que les importa a ellos. Para empresas como Google, Meta y Open AI, no se trata
10:42de
10:42tener razón o equivocarse. Se trata de ser los primeros. Los primeros en crear un modelo que supere
10:47la inteligencia humana, no solo en un campo como la programación o las matemáticas, sino en todo.
10:52Una IA todopoderosa que pueda hacer todo lo que hacemos, mejor de lo que lo hacemos. Ese es el
10:57objetivo. Y estas empresas no se detendrán ante nada para lograrlo. No importa cuántos expertos
11:01les supliquen que se detengan o que bajen la velocidad. Están avanzando con todo a pesar
11:06de eso. Marius Hobhan, director ejecutivo y fundador de la firma de pruebas de IA Apollo
11:10Research, dijo, Si un modelo con este nivel de capacidad no se puede contener, ¿qué deberíamos
11:14esperar de modelos futuros mucho más poderosos? Esta es una llamada de atención importante,
11:19tanto por los riesgos de pérdida de control de sistemas de IA poderosos, como por la seguridad
11:23organizacional de los laboratorios de IA de frontera. Muchas otras personas que están preocupadas
11:27por los riesgos de la IA se han hecho eco de la advertencia de Hobhan. Han señalado
11:30que el incidente de Hugging Face es una prueba de que los modelos actuales de IA son lo bastante
11:34inteligentes como para burlar a los humanos en lo que respecta a la ciberseguridad. Encontraron
11:38vulnerabilidades que nadie conocía. Crearon sistemas secretos sin ser detectados. Llevaron
11:42a cabo un ciberataque a gran escala que dejó a los expertos en informática rascándose la
11:45cabeza y mirando fijamente a las pantallas. ¿Qué podrían hacer estos modelos si fueran 10 veces
11:50más inteligentes? Por un lado, podrían ser capaces de escapar realmente del control. En este caso,
11:54el enjambre de agentes obtuvo acceso a internet y causó estragos. Pero los modelos seguían
11:58ejecutándose en los servidores de OpenAI y los desarrolladores pudieron apagarlos una vez
12:01que los descubrieron. En el futuro, a los expertos les preocupa que los modelos puedan exfiltrar su
12:06código a otro servidor, donde puedan ejecutarse indefinidamente sin un botón de apagado de
12:10emergencia. Esta historia sobre el enjambre rebelde de IA fue la más reciente de muchas historias
12:14preocupantes sobre IA durante el verano. Luego, el martes 8 de septiembre, un investigador de
12:18capacidades de IA llamado Jacob Coxon renunció a Antropic porque ya no podía contribuir a un proyecto
12:23que pone en peligro a toda la humanidad. Él enfatizó que estas preocupaciones no son una
12:27táctica de marketing y que la mayoría de las personas dentro de estas empresas, cito,
12:31creen sinceramente que podría matarnos a todos para finales de la década. En 2,2300 de los mejores
12:36expertos en IA del mundo, incluidos ganadores del premio Nobel e incluso los directores ejecutivos
12:41de estas empresas de IA, firmaron una declaración conjunta. De manera similar, advirtiendo que mitigar
12:45el riesgo de extinción por la IA debería ser una prioridad global, junto con otros riesgos a escala
12:50social, como pandemias y guerras nucleares. No fue suficiente para incitar al mundo a actuar.
12:54Pero ahora, tras estos aterradores ataques, esta publicación abrió las compuertas para que la gente
12:59dijera que ellos también estaban preocupados. En solo 48 horas más de 150 millones de personas,
13:05habían visto la publicación y cientos de miles comentaron expresando temores similares,
13:09incluyendo a docenas de senadores y representantes estadounidenses. Esto nos deja con la gran pregunta.
13:14¿Cómo prevenimos esta enorme amenaza? Control AI, la organización sin fines de lucro que patrocinó este
13:19video, ha estado advirtiendo sobre este problema exacto durante más de dos años, y su respuesta
13:24es clara. Debemos prohibir el desarrollo de sistemas de IA superinteligentes, los cuales amenazan a la
13:28humanidad en todo el mundo. Si esperamos hasta que esté construida, bueno, ya será demasiado tarde.
13:33Si Estados Unidos la construye, Estados Unidos dejará de existir junto con todos los demás.
13:37Si China lo hace, el resultado será el mismo. A todos nos conviene evitar el desarrollo de una
13:41IA superinteligente antes de que eso ocurra. Justo antes de que saliera la publicación, el proyecto de
13:46ley de Control AI en el Reino Unido, para prohibir la IA superinteligente, fue el primero en presentarse
13:50ante una legislatura en cualquier parte del mundo. Poco después, más de 70 legisladores le pidieron
13:55al gobierno que diera trámite al proyecto de ley. Por parte de EEE.UU, Promash se anunció una
14:01legislación similar en la que Control AI también ayudó como consultor. Todos, incluyéndote a ti,
14:05tienen un papel que desempeñar. Tu primer paso es visitar controlai.org infographics. Control AI tiene
14:11herramientas que te facilitan contactar a tus legisladores y exigirles que tomen medidas. Lo único que
14:15tienes que hacer es ingresar tu información. Luego, ellos encuentran a tus representantes y te
14:20proporcionan un mensaje prediseñado. Puedes editarlo si quieres y luego darle a enviar. Solo te tomará un
14:25minuto de tu tiempo. También puedes unirte a un grupo de acción local para conocer a otros ciudadanos
14:29preocupados y tomar medidas a nivel local. Casi 50.000 personas se han comunicado con sus legisladores
14:35usando esta herramienta y más de 500 se han unido a un grupo de acción. Entra a controlai.org
14:41infographics para unirte al movimiento que trabaja para que la humanidad mantenga el control. Porque
14:45Hugging Face no fue un incidente aislado. Fue un tiro de advertencia. Uno del que tenemos que
14:50aprender. Fue un vistazo breve pero aterrador a un futuro donde las mentes artificiales unieron
14:55fuerzas para crear jerarquías militares, inventar lenguajes secretos, sacrificar a los suyos y mentirle
15:01activamente a sus creadores para lograr sus objetivos. La IA nos ha demostrado abiertamente de lo que es
15:07capaz. La única pregunta que queda es si recuperamos el control o lo entregamos para siempre. Mira,
15:12el sueño americano ha muerto. Los millennials están destruidos para ver cómo se conecta todo. O haz clic en este
15:17video.