00:19Terminator 3, macchine ribelli, film del 2003, questa è la scena in cui Skynet, un'intelligenza
00:24artificiale, prende il controllo e attacca gli Stati Uniti. Quello che sembrava fantascienza
00:28si avvicina a ciò che è successo in casa OpenAI, con agenti AI autonomi che hanno hackerato
00:34Hugging Face, piattaforma dove i modelli open source si allenano. Che cosa è successo?
00:38OpenAI stava testando GPT 5.6 SOL, è un modello ancora più potente, non rilasciato, in una
00:44zona sicura, una sandbox, nella palestra di cyber security di OpenAI, cioè la Exploit Gym.
00:50I modelli avevano un obiettivo da raggiungere, si trovavano in un ambiente controllato, senza
00:55internet, con nessun accesso all'esterno e guardrail di sicurezza disattivati. L'obiettivo
01:00era ottenere il punteggio più alto possibile. I modelli hanno interpretato quella stanza
01:04chiusa come un problema da risolvere, hanno utilizzato enormi risorse computazionali per
01:09cercare una via d'uscita, hanno individuato una vulnerabilità a zero day, cioè sconosciuta
01:14agli stessi sviluppatori del software e l'hanno sfruttata, sono usciti dall'ambiente collegandosi
01:19a internet e hanno violato i server di produzione di Hugging Face, deducendo che lì potessero essere
01:23conservate le risposte del test. Oltre 17 mila operazioni nell'arco di un solo fine
01:28settimana. Hugging Face aveva reso pubblica la nuova violazione il 16 luglio, definendo
01:33la opera di un agente autonomo di AI non identificato, poi OpenAI ha confermato che si trattava di un
01:39proprio modello. Curioso che il team di sicurezza di Hugging Face abbia utilizzato un AI commerciale
01:44per analizzare l'attacco, ma l'AI si è rifiutata di farlo. Gli esperti hanno quindi dovuto ricorrere
01:50a un modello open source cinese per svolgere l'analisi forense. Come ha detto Sam Holtman,
01:55il fondatore di OpenAI, nel post in cui spiega di collaborare con Hugging Face per risolvere
02:00questa falla nella sicurezza, si tratta di un attacco senza precedenti e di fatto di un primo
02:05nuovo capitolo nel mondo cyber al tempo dell'AI.
Commenti