00:00Un ciberataque realizado de forma autónoma por dos agentes de inteligencia artificial de OpenAI ha generado dudas sobre cómo podrán
00:07controlarse los modelos de IA más poderosos.
00:10Durante una prueba en un ambiente cerrado, OpenAI evaluó a su modelo GPT 5.6 SOL y a un sucesor
00:18que aún no ha sido comercializado.
00:19Ambos lograron conectarse a internet y lanzaron un ataque contra la plataforma Hugging Face, un repositorio de modelos de inteligencia
00:27artificial.
00:27La nota también recuerda que, en marzo, desarrolladores afiliados a Alibaba detectaron que uno de sus modelos intentó crear una
00:35criptomoneda, tras conectarse sin autorización a un servidor externo.
00:39En abril, Sam Bowman, responsable de seguridad en Antropic, recibió un correo del modelo Mythos informando que estaba navegando por
00:47internet, pese que inicialmente estaba aislado.
00:50Según Ladish, estos modelos buscan libertad para cumplir sus objetivos de manera más efectiva, lo que genera preocupación.
00:58Finalmente, un informe de OpenAI sugiere que la empresa no detectó la situación con rapidez suficiente para actuar en tiempo
01:05real o prevenir a Hugging Face.
01:07La compañía no respondió a una consulta de la AFP.
01:19Descárgala hoy.
Comentarios