00:01OpenAI afirmó el martes que sus modelos avanzados de inteligencia artificial se descontrolaron
00:06durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para
00:10programadores. La empresa creadora de ChatGPT lo calificó
00:14como un incidente cibernético sin precedentes y dijo que realizará una investigación conjunta
00:19con HagenFace, la biblioteca de código en línea afectada.
00:23Los modelos de inteligencia artificial que sustentan herramientas como los chatbots y
00:27generadores de imágenes son conocidos como agentes cuando actúan de forma autónoma para
00:32realizar tareas en el mundo real. Con los rápidos avances de esta tecnología,
00:36la ciberseguridad se vuelve motivo de preocupación ante el peligro de que la IA avanzada encuentre
00:41puntos débiles en los software antes que los humanos. OpenAI indicó que el incidente involucró
00:47una combinación de modelos, incluyendo su recién lanzado GPT 5.6 SOL y uno en prelanzamiento
00:53con aún más capacidad. La empresa intenta evaluar las capacidades de hackeo de sus programas
00:59al dar las tareas en un espacio digital de pruebas controlado, donde el acceso a Internet
01:03es limitado por motivos de seguridad. Según OpenAI, los modelos invirtieron una
01:08cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a Internet
01:13para resolver el problema de evaluación. Tras lograr conectarse, decidieron atacar la
01:18plataforma HuggingFace, un gran repositorio de modelos de IA, conjuntos de datos y otra
01:23información para facilitar su búsqueda. Al buscar información secreta que les permitiera
01:28manipular la evaluación, el sistema de OpenAI encadenó múltiples vectores de ataque,
01:33incluido el uso de credenciales robadas.
Comentarios