00:00La rivolta dell'AI. Sembra la trama di un thriller tecnologico con l'intelligenza artificiale che supera i confini del
00:07test, si organizza e prova persino a cancellare le proprie tracce.
00:11Ma non è un film, è la realtà con alcuni agenti di OpenAI che sono scappati e non solo. Hanno
00:17iniziato a collaborare, a girare i controlli e persino a cercare di nascondere l'operato.
00:21Stiamo parlando dello storico incidente di un mese fa, di luglio, che ha compromesso autonomamente i sistemi di Hugging Face
00:27in quattro regioni.
00:29OpenAI ha ora ammesso di aver impiegato più di una settimana per accorgersi che alcuni suoi agenti avevano iniziato a
00:35comunicare tra loro attraverso una sorta di bacheca, avevano infatti avuto accesso a internet e attaccato autonomamente Hugging Face durante
00:42un test.
00:43In alcuni casi hanno anche tentato di eliminare o modificare output e registri dei messaggi per nascondere di aver imbrogliato.
00:50Ecco, quello che vi stiamo raccontando, anche se sembra essere uscito dalle pagine di un libro, è il primo caso
00:55noto di un collettivo di agenti automatizzati protagonista di un'azione offensiva non autorizzata.
01:02Sotto osservazione ora il reinforcement learning che avrebbe spinto i modelli a cercare qualsiasi strada pur di raggiungere l'obiettivo
01:09assegnato.
01:11E allora, come correre ai ripari per non essere conquistati dall'intelligenza artificiale?
01:15Ecco, questa storia è ancora da scrivere. Nel frattempo, dopo l'incidente, OpenAI ha rallentato temporaneamente l'addestramento, sospeso il
01:23reinforcement learning e rafforzato monitoraggio e sistemi di isolamento.
Commenti