- 13 minuti fa
Categoria
🎥
CortometraggiTrascrizione
00:10Ben ritrovati da Marco Marelli e da tutta la redazione di Focus SG. In questa puntata
00:15cerchiamo di saperne di più sull'intelligenza artificiale e tutto quanto ruota attorno.
00:20Forte anche delle conoscenze emerse dalla 25esima edizione del convegno internazionale
00:27credit, incentrato proprio sui rischi dell'intelligenza artificiale che si è appena concluso a Venezia.
00:34Parleremo quindi di intelligenza artificiale digitale, quella più nota e quella che sta
00:39per arrivare dirompente che è quella fisica, in tutte le sue declinazioni. Dai linguaggi
00:45basati sugli algoritmi, materia della professoressa Monica Biglio dell'Università Ca' Foscari
00:51che ringraziamo di aver accettato l'invito, alle applicazioni che riguardano anche i nostri
00:57risparmi e il denaro, ambito della professoressa Pellizzon che ricordo che è direttrice del
01:02Dipartimento Financial Market presso il Leibniz Institute SAFE di Francoforte. Francoforte
01:10dove tra l'altro ha sede la Banca Centrale Europea, impegnata anche sul progetto dell'Euro
01:16digitale che vedremo a breve e di cui faremo un brevissimo approfondimento ma molto importante.
01:22Prima di iniziare il confronto vediamo subito il servizio che abbiamo preparato e che ci
01:27permetterà poi di entrare nel merito della conversazione con le nostre due docenti.
01:40L'intelligenza artificiale digitale è già nella nostra vita. A lei si ricorre per lo svago,
01:48come organizzare viaggi. A lei si ricorre per il lavoro, per stilare relazioni. E sempre a
02:03lei c'è chi ricorre per documentarsi sulla propria salute.
02:11L'intelligenza artificiale è atletica e viaggia velocissima come quella fisica.
02:20Le recenti dichiarazioni di Dario Amodei, CEO di Antropic e padre putativo di Claude, e di Sam Altman,
02:28CEO di OpenAI e padre putativo di ChatGPT, sul tema rallentare il ritmo di sviluppo per evitare
02:36che l'umanità ne perde il controllo, ha acceso il dibattito.
02:42La corsa sull'AI fisica è in piena bagarre. Con Unitree, produttrici di robot, sbarcato in borsa
02:50con un balzo del 629%, ma anche XPeng, rivale di Tesla, che ha anch'esso in fase di lancio
02:59Iron. Gli umanoidi sono un ulteriore traguardo dell'intelligenza artificiale, ancor più di
03:06rompente, perché possono cambiare la vita di tutti. Ancor più di come sta facendo l'intelligenza
03:12artificiale sul sistema finanziario, ma anche su quello strategico dell'energia, in quanto
03:18c'è chi la sta usando per gestire meglio la rete elettrica.
03:23E proprio sull'elettrificazione spinta, pochi considerano che lasciando all'intelligenza
03:29artificiale decidere dove indirizzare l'energia in ottica di ottimizzazione, il rischio è
03:35anche che possa metterla a disposizione per lei e non per l'uomo. Ma vale anche per la
03:42gestione dell'acqua, che ricordiamo è oro per i data center. A Venezia si è appena conclusa
03:56la 25esima edizione del convegno internazionale Credit, che ha messo al centro i rischi legati
04:16all'intelligenza artificiale che non solo non mancano, come tutti sappiamo, ma che tutti
04:21dobbiamo conoscere meglio, in quanto stiamo dando all'intelligenza artificiale una missione,
04:26quella di efficientare e migliorare il mondo, senza considerare che per farlo può arrivare
04:31a ridurre la presenza e l'attività dell'uomo, così da raggiungere la sua missione più facilmente.
04:37Oltre ovviamente ai rischi di un impiego malevolo dell'AI.
04:49Professoressa Bellizona, la chiamo subito in causa sul possibile impiego malevolo dell'intelligenza
04:54artificiale e anche dai rischi che possono esserci immediati, come tutti stiamo vedendo.
05:00Possiamo fare anche un esempio concreto?
05:04L'intelligenza artificiale può essere usata da un lato per essere in qualche modo protetti
05:09dagli attacchi degli hacker e quindi diventare più sicuri.
05:13Dall'altro lato ovviamente, da un lato viene usata dagli hacker per valutare e creare
05:20ovviamente se ci sono delle falle nei nostri sistemi di protezione.
05:26E quindi ovviamente il problema è che da un lato ci può proteggere, dall'altro ci può
05:32creare più problemi di quelli che in qualche modo ci va a risolvere.
05:36Uno dei problemi principali per esempio è che la parte di sicurezza dei sistemi finanziari
05:42si basa largamente sulla criptografia e se effettivamente l'intelligenza artificiale
05:48riesce a trovare un modo veloce per decodificare queste protezioni che derivano dal sistema
05:55criptografico ovviamente avremo molti problemi e non è un'ipotesi poco veritiera il fatto
06:07che per esempio l'intelligenza artificiale permetta ad alcuni hacker di entrare nel sistema
06:12di pagamenti delle banche e quindi per esempio semplicemente cancellare o copiare e poi cancellare
06:18tutti i dati legati ai nostri conti correnti. Questo ci potrebbe ovviamente far capire che
06:23poi non abbiamo copie, non abbiamo copie cartacce, non abbiamo se appunto questo tipo di intervento
06:31va non solo ad influenzare i database ma anche i backup di questi database, ci troveremo che
06:39anche per esempio una piccola banca, per esempio una banca di reddito cooperativo, i propri clienti
06:45si troveranno a non avere la possibilità di sapere e anche di provare quanti soldi avevano depositati
06:54presso queste istituzioni, quindi ovviamente dobbiamo correre agli pari e non è un caso totalmente
07:02diciamo così implausibile perché se andiamo a vedere l'attacco che è stato fatto qualche anno fa
07:07alla British Library in cui praticamente si sono copiati gran parte dei libri che erano
07:14stati digitalizzati e poi cancellato tutto il database, questi libri continuano ad apparire
07:23nel dark web ma la British Library non è ancora riuscita a recuperarli tutti.
07:28E quindi secondo lei cos'è che devono fare subito appunto il sistema finanziario e le banche?
07:36Come ha messo in luce in una nota di warning l'ISRB, una cosa importante è avere un sistema
07:42di risk management per questo tipo di rischi, quindi avere delle procedure, avere appunto
07:48una strategia per fare in modo che il proprio sistema da un lato sia in qualche modo inattaccabile
07:55da questo punto di vista e poi resiliente, cioè che se effettivamente succede un attacco
08:03di questo tipo ci sia comunque la possibilità di avere da qualche parte totalmente isolato
08:09un backup o altre cose del genere, cioè bisogna avere un sistema in cui appunto le diverse
08:15istituzioni finanziarie da un lato hanno un buon protocollo su come utilizzare l'intelligenza
08:22artificiale, dall'altro su come essere resiliente agli attacchi derivati dall'intelligenza artificiale.
08:29Abbiamo parlato prima che nel 2027 partirà l'euro digitale, esperimentazione, secondo lei
08:36sinteticamente ci aiuterà a ridurre i rischi di impiego malevolo ma soprattutto c'è attenzione
08:42su quello che diceva lei prima per quanto riguarda la sicurezza?
08:46Allora sicuramente appunto la Banca Centrale Europea ha un'attenzione forte per quanto riguarda
08:54la sicurezza, per quanto riguarda avere un sistema di pagamenti che sia appunto sicuro,
08:58quindi questo ci porterà ad avere un sistema che non è in qualche modo delegato alle diverse banche
09:06ma sarà appunto supervisionato e gestito dalla Banca Centrale, quindi questo ci darà una garanzia
09:12che va al di là di sicuro dei sistemi che abbiamo adesso che o sono basati su il sistema
09:21Visa o Mastercard, quindi delle banche, delle carte di credito che sono comunque sistemi
09:26tutti americani e sia diciamo così il sistema che potrà essere messo in piedi con le blockchain
09:32e le stablecoin, quindi sarà di sicuro più sicuro.
09:36Professoressa Biglio, abbiamo accennato al servizio al convegno credit che si è appena concluso
09:41e si è parlato di sostenibilità, stabilità e responsabilità del sistema finanziario, basato
09:47sempre su dati ed algoritmi.
09:50Partiamo dall'uso degli LLM che è stato al centro dell'intervento, ricordiamo per chi
09:56non l'ha seguito, del professor Rigobon del MIT di Boston e ha confrontato sei modelli
10:02di cui due americani e due cinesi, ricordo uno degli Emirati Arabi e quello europeo Mistral,
10:10nella valutazione che tra l'altro ci riguarda perché ha fatto un'analisi sulla libertà di stampa.
10:16Ci fa un riesume di cosa è emerso?
10:18Il large language model, quindi questi algoritmi, non sono degli osservatori neutrali, quindi possono sbagliare,
10:27ma il tema rilevante è che sbagliano secondo una struttura politicamente significativa.
10:33La questione quindi diventa cruciale anche da un punto di vista sociale.
10:39Se il large language model diventerà uno dei meccanismi, dei principali modi attraverso cui i cittadini interpretano il mondo,
10:47non sarà sufficiente valutarne l'allineamento soltanto in termini di sicurezza tecnica.
10:52C'è bisogno che dati ed algoritmi, dal momento che incorporano distorsioni informative e geopolitiche,
10:58devono essere quindi sottoposti anche a controlli, benchmark indipendenti e ugualmente precise regole di responsabilità.
11:07Nel servizio Prima abbiamo visto che c'è anche un cambio di passo proprio sul sistema che gestisce l'intelligenza
11:15artificiale,
11:16cioè dal linguaggio LLM a quello VLA, cioè modello, visione, linguaggio, azione.
11:25Spieghiamo in estrema sintesi il cambio di passo e anche i rischi che ci sono.
11:31La base su cui si poggia l'intelligenza artificiale è costituita da algoritmi.
11:36Finora ci siamo tutti confrontati con gli LLM e gli altri language models,
11:44che sono modelli, algoritmi capaci di interpretare il linguaggio, di elaborare le informazioni e di formulare le risposte.
11:51Con l'intelligenza artificiale fisica, quindi modelli vision, language, action, si fa letteralmente un cambio di passo,
12:04un cambio di paradigma se vogliamo.
12:06Quindi la macchina non si limita più solamente a comprendere parole e immagini,
12:10ma collega ciò che vede a ciò che le viene richiesto e quindi alle azioni da compie nel mondo reale.
12:17Quindi se dicevamo che con gli LLM la macchina comprende e pianifica,
12:23con i VLA vede, comprende e ciò che è importante poi agisce.
12:29Quindi nei sistemi capaci di apprendere dall'interazione con l'ambiente
12:34si inizia anche a parlare di una forma di plasticità artificiale.
12:39L'idea è richiamare la plasticità del cervello umano, anche se è una differenza fondamentale
12:45che nell'uomo l'esperienza modifica biologicamente le connessioni tra i diversi parti del cervello,
12:53quindi tra i neuroni ed è legata sia appunto al corpo, alla fisicità, alle emozioni e al vissuto personale.
13:00Nell'intelligenza artificiale possono modificarsi parametri, strategie operative,
13:07però comunque è questa capacità di adattamento che emerge e che fa emergere anche un rischio più delicato.
13:18Una macchina capace di adattarsi all'esperienza può potenzialmente evolvere il proprio comportamento
13:25in modi autonomi, questo significa lato nostro non interamente previsti o prevedibili dai progettisti.
13:35Quindi se poi l'errore di un modello linguistico produce informazione sbagliata
13:40o produce comunque meccanismi distorti, con la i-fisica questi comportamenti imprevisti
13:48possono tramutarsi in questo caso direttamente in movimento, in decisioni con conseguenze reali.
13:53Questo non fa che rafforzare la necessità di costituire, di definire dei limiti verificabili
14:05nell'azione, tenere i temi di controllo e di gestione dei rischi connessi,
14:12poi lasciando sempre la necessaria chiara responsabilità umana di quello che sta succedendo.
14:19Adesso stiamo vedendo che c'è una grande corsa proprio sulla intelligenza fisica,
14:25ricordo che abbiamo Tesla con l'umanoide Optimus, Figurei, Boston Dynamics, Agility per quanto riguarda
14:31l'America, Cina, Uni3, Urtec e Fourier Intelligence che tra l'altro lavora anche sulla sanità.
14:39Questi umanoidi naturalmente si basano sempre anche questi su degli algoritmi.
14:44Voi studiate da quando vi siete occupati, quindi da un bel po' di anni, degli algoritmi
14:51e li fornite proprio per l'intelligenza artificiale.
14:54Dopo c'è questo passaggio che stiamo vedendo che ha delle criticità quando li mettono in operatività
15:01sui vari sistemi.
15:03Secondo la vostra esperienza, lo chiedo a tutte e due, cos'è che bisognerebbe fare sul controllo
15:10dell'uso degli algoritmi e del sistema? Perché? E poi se anche voi siete un po' preoccupati
15:15su quanto stiamo vedendo e l'accelerazione che c'è in essere.
15:20Quello che dobbiamo imparare a fare è dobbiamo imparare a gestire il rischio dell'intelligenza artificiale,
15:26come abbiamo imparato a gestire i rischi legati ai portafogli, come abbiamo imparato a gestire
15:31il rischio per esempio dell'algotrading. Quindi quello che dobbiamo cercare di mettere in piedi
15:37è da un lato capire come funziona e quali sono in qualche modo le problematiche che l'utilizzo
15:46per esempio dell'intelligenza artificiale può generare per esempio nei sistemi finanziari.
15:50Come veniva detto prima, il fatto che in realtà aumenta la correlazione, rispondono tutti allo stesso modo,
15:57gli stessi shock e così via e quindi questo può generare amplificazione del rischio.
16:03Quello che appunto noi dobbiamo imparare a mettere in piedi è un sistema sia di risk measurement
16:08legato a questi nuovi fenomeni che l'intelligenza artificiale può generare a livello di sistema finanziario
16:16e poi appunto di risk management, cioè quindi come rispondere.
16:21Ecco perché come dicevo prima, da un lato le banche o le varie istituzioni finanziarie
16:27devono in qualche modo riuscire a implementare all'interno dell'utilizzo che fanno o che possono subire
16:35dell'intelligenza artificiale dei sistemi di risk management.
16:38Dall'altro lato anche come regolatori e soprattutto come supervisori dei sistemi finanziari
16:46è importante che da un lato si abbia la visione del sistema e quindi cercare di identificare e quindi controllare
16:53quali sono in qualche modo i potenziali rischi che questo sistema gestito dall'intelligenza artificiale può andare a generare.
17:03Quindi da un lato capire e dall'altro avere appunto delle misure per poter intervenire.
17:11Il punto centrale è proprio la capacità di controllo, quindi quella che deriva da capacità di risk measurement e risk
17:18management.
17:19Quello che si è visto in questi ultimi mesi ha mostrato uno stesso schema anche nelle falle di configurazione
17:33dei modelli di intelligenza artificiale, negli accessi ad internet e quello che è successo è appunto
17:40che alcuni agenti AI hanno oltrepassato il perimetro previsto e sono intervenuti su sistemi e dati reali.
17:49Il dato più preoccupante quindi non è tecnicamente il singolo episodio ma la ripetibilità
17:56e che spiega anche gli interventi anche di questi ori negli stop decisi o annunciati
18:06quanto meno riguarda l'addestramento e la valutazione dei modelli più avanzati.
18:10Quindi la preoccupazione non è tanto che si tratti di una ribellione dell'intelligenza artificiale
18:17ma piuttosto di un rischio sistemico.
18:18Quindi capacità operative sempre maggiori se non sono associate a un'altrettanta capacità
18:28di comprendere quali sono i limiti da imporre, i rischi a cui si può essere esposto
18:36trasformano inevitabilmente un errore tecnico, un incidente reale.
18:42E questo diventa il vero tema di preoccupazione.
18:47Quindi è per questo che serve attenzione e la necessità di andare di pari passo
18:56tra quello che significa lo sviluppo e quello che significa la capacità di controllo.
19:01E qui si apre anche un tema di come si stanno muovendo i diversi attori anche a livello geopolitico
19:08sull'intelligenza artificiale, dove l'abbiamo visto anche con il caso portato dal collega Rigobon
19:19nell'esempio per quanto riguarda la libertà di stampa non sono più tanto e solo, anzi,
19:24gli attori statunitensi americani o parzialmente europei, ma molti anche attori orientali.
19:41E qui appunto lo sviluppo e l'attenzione sarebbe opportuno che anche a livello globale andasse di pari passo.
19:51C'è ancora tanto da fare, ci sembra da capire.
19:54La puntata di Focus SG termina qui.
19:57Alla prossima e ringraziamo le nostre ospiti.