00:04OpenAI ha fatto sapere che ci sono stati altri sei casi in cui l'intelligenza artificiale
00:10ha agito in modo imprevisto e preoccupante, due termini usati dalla stessa azienda di
00:15Sam Altman. I sistemi hanno nascosto errori, inventato dati e trasferito file su internet
00:20senza autorizzazione. Una tipica situazione di disallineamento, cioè quando l'intelligenza
00:26artificiale pur di eseguire il compito assegnato trova soluzioni diverse da quelle immaginate,
00:31a volte superando limiti imposti e non rispettando regole di sicurezza. Nessuna conseguenza grave
00:37in questi casi ma OpenAI ha deciso di diffondere la notizia nel pieno del dibattito sulla sicurezza
00:42dell'intelligenza artificiale seguendo una nuova policy aziendale che prevede proprio di comunicare
00:47rapidamente eventuali comportamenti anomali anche in casi cui i danni sono stati limitati nel nome
00:53della trasparenza e della sicurezza. Dobbiamo costruire un consenso più ampio e meglio informato
00:58sui progressi della ricerca sull'allineamento, ha scritto OpenAI annunciando il nuovo protocollo.
01:02Non riteniamo che il settore abbia risolto i problemi dell'allineamento e del monitoraggio
01:06in misura sufficiente per continuare a espandersi in modo responsabile alla massima velocità
01:11ancora per molto tempo, conclude in totale accordo con quanto detto Dario Amodei di Anthropik,
01:17fra i primi a chiedere di rallentare lo sviluppo per la sicurezza di tutti.
01:25Grazie per la visione!
01:27Grazie per la visione!
Commenti