00:02OpenAI afirmó el martes que sus modelos avanzados de inteligencia artificial se
00:07descontrolaron durante una prueba de seguridad y hackearon por su cuenta una popular plataforma
00:12para programadores. La empresa creadora de Chatshipity lo calificó
00:16como un incidente cibernético sin precedentes y dijo que realizará una investigación conjunta
00:21con HagenFace, la biblioteca de código en línea afectada.
00:24Los modelos de inteligencia artificial que sustentan herramientas como los chatbots y
00:29generadores de imágenes son conocidos como agentes cuando actúan de forma autónoma para
00:33realizar tareas en el mundo real. Con los rápidos avances de esta tecnología,
00:38la ciberseguridad se vuelve motivo de preocupación ante el peligro de que la IA avanzada encuentre
00:43puntos débiles en los software antes que los humanos. OpenAI indicó que el incidente involucró
00:49una combinación de modelos, incluyendo su recién lanzado GPT-5.6 SOL y uno en prelanzamiento
00:55con aún más capacidad. La empresa intenta evaluar las capacidades
00:59de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado,
01:04donde el acceso a Internet es limitado por motivos de seguridad.
01:08Según OpenAI, los modelos invirtieron una cantidad considerable de potencia de cálculo
01:12en buscar una forma de obtener acceso a Internet para resolver el problema de evaluación.
01:17Tras lograr conectarse, decidieron atacar la plataforma HagenFace, un gran repositorio de modelos
01:23de IA, conjuntos de datos y otra información para facilitar su búsqueda.
01:27Al buscar información secreta que les permitiera manipular la evaluación, el sistema de OpenAI
01:32encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas.
Comentarios