00:01OpenAI afirmó el martes que sus modelos avanzados de inteligencia artificial se descontrolaron
00:06durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para
00:10programadores. La empresa creadora de ChatGPT lo calificó como un incidente cibernético
00:16sin precedentes y dijo que realizará una investigación conjunta con HagenFace, la biblioteca de código
00:21en línea afectada. Los modelos de inteligencia artificial que sustentan herramientas como
00:26los chatbots y generadores de imágenes son conocidos como agentes cuando actúan de forma
00:31autónoma para realizar tareas en el mundo real. Con los rápidos avances de esta tecnología,
00:36la ciberseguridad se vuelve motivo de preocupación ante el peligro de que la IA avanzada encuentre
00:41puntos débiles en los software antes que los humanos. OpenAI indicó que el incidente involucró
00:47una combinación de modelos, incluyendo su recién lanzado GPT 5.6 SOL y uno en prelanzamiento con
00:53aún más capacidad. La empresa intenta evaluar las capacidades de hackeo de sus programas al
00:59dar las tareas en un espacio digital de pruebas controlado, donde el acceso a Internet es limitado
01:04por motivos de seguridad. Según OpenAI, los modelos invirtieron una cantidad considerable
01:09de potencia de cálculo en buscar una forma de obtener acceso a Internet para resolver el problema
01:14de evaluación. Tras lograr conectarse, decidieron atacar la plataforma HagenFace, un gran repositorio
01:20de modelos de IA, conjuntos de datos y otra información para facilitar su búsqueda.
01:26Al buscar información secreta que les permitiera manipular la evaluación, el sistema de OpenAI
01:30encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas.
Comentarios