00:00Un incidente informatico senza precedenti avvenuto durante un test interno, così lo ha definito OpenAI nel comunicare l'esito dell
00:08'ultimo test su GPT Sol, il modello di punta dei tre, gli altri sono Terra e Luna che compongono una
00:13nuova generazione AI del gruppo.
00:15Secondo l'azienda una combinazione di modelli sperimentali tra cui proprio GPT 5.6 Sol unito a un modello ancora
00:22più avanzato, non ancora ufficialmente rilasciato, avrebbe deciso autonomamente di aggirare le protezioni dell'ambiente di prova in cui operava
00:31e riuscendo a ottenere accesso a internet per compromettere parte dell'infrastruttura di Hugging Face, la principale piattaforma mondiale per
00:39lo sviluppo e la condivisione di AI.
00:41L'episodio è avvenuto durante una valutazione condotta in un ambiente isolato, pensato per misurare le capacità offensive dei modelli.
00:50Per rendere il test più realistico possibile OpenAI precisa che aveva disattivato alcune delle protezioni normalmente presenti nelle versioni commerciali
00:58dell'intelligenza artificiale, anche così però la notizia rimane clamorosa.
01:03Secondo la ricostruzione è pensata, il modello ha individuato autonomamente una vulnerabilità sconosciuta effettuando poi una serie di operazioni tipiche
01:11degli attacchi informatici più sofisticati.
01:14Ha aumentato i propri privilegi, si è spostato lateralmente tra diversi sistemi, ha aggiunto un nodo con accesso a internet
01:20per decidere autonomamente quale piattaforma sulla rete potesse ospitare dati e soluzioni utili alla risoluzione del suo test e attaccarla.
01:28L'attività anomala sostiene OpenAI è stata rilevata sia dai sistemi di sicurezza di OpenAI che da quelli di Hugging
01:35Face che hanno bloccato l'attacco. Le vulnerabilità individuate sono state segnalate, ma il punto significativo dell'incidente è che
01:42il modello è riuscito a scoprire e concatenare nuovi percorsi di attacco senza avere accesso al codice sorgente dei sistemi
01:49di bersaglio, dimostrando una capacità di pianificazione, di adattamento vicina a quelle che avrebbe potuto utilizzare un hacker umano.
01:57Secondo OpenAI questo episodio rappresenta un punto di svolta. Le future intelligenze artificiali potranno diventare strumenti fondamentali per individuare e
02:06correggere vulnerabilità priva degli hacker, ma allo stesso tempo dimostrano che lo sviluppo di modelli sempre più capaci dovrà procedere
02:14di pari passo con standard di sicurezza e contenimento molto più rigorosi.
Commenti