- 1 minuto fa
MILANO (ITALPRESS) – Intelligenza artificiale, sicurezza finanziaria, euro digitale e physical AI: nella puntata 83 di Focus ESG si analizza una trasformazione che dai modelli linguistici entra nel mondo reale, con sistemi capaci non soltanto di elaborare informazioni, ma anche di vedere, comprendere e agire. Con il giornalista economico Marco Marelli ne parlano Monica Billio, Università Ca’ Foscari Venezia e Centro TranspArEEnS, e Loriana Pelizzon, Università Goethe di Francoforte e Leibniz Institute SAFE.
fsc/gsl
fsc/gsl
Categoria
🗞
NovitàTrascrizione
00:10Ben ritrovati da Marco Marelli e da tutta la redazione di Focus SG. In questa puntata
00:15cerchiamo di saperne di più sull'intelligenza artificiale e tutto quanto ruota attorno.
00:20Forti anche delle conoscenze emerse dalla 25esima edizione del convegno internazionale
00:27credit, incentrato proprio sui rischi dell'intelligenza artificiale che si è appena concluso a Venezia.
00:34Parleremo quindi di intelligenza artificiale digitale, quella più nota e quella che sta
00:39per arrivare dirompente che è quella fisica, in tutte le sue declinazioni. Dai linguaggi
00:45basati sugli algoritmi, materia della professoressa Monica Biglio dell'Università Ca' Foscari
00:51che ringraziamo di aver accettato l'invito, alle applicazioni che riguardano anche i nostri
00:57risparmi e il denaro, ambito della professoressa Pellizzon che ricordo che è direttrice del
01:02Dipartimento Financial Market presso il Leibniz Institute SAFE di Francoforte. Francoforte
01:10dove tra l'altro ha sede la Banca Centrale Europea, impegnata anche sul progetto dell'Euro
01:16digitale che vedremo a breve e di cui faremo un brevissimo approfondimento ma molto importante.
01:22Prima di iniziare il confronto vediamo subito il servizio che abbiamo preparato e che ci
01:27permetterà poi di entrare nel merito della conversazione con le nostre due docenti.
01:40L'intelligenza artificiale digitale è già nella nostra vita. A lei si ricorre per lo svago,
01:48come organizzare viaggi. A lei si ricorre per il lavoro, per stilare relazioni. E sempre a
02:03lei c'è chi ricorre per documentarsi sulla propria salute.
02:11L'intelligenza artificiale è atletica e viaggia velocissima come quella fisica.
02:20Le recenti dichiarazioni di Dario Amodei, CEO di Antropic e padre putativo di Claude e di Sam
02:27Altman, CEO di OpenAI e padre putativo di ChatGPT, sul tema rallentare il ritmo di sviluppo per
02:35evitare che l'umanità ne perda il controllo, ha acceso il dibattito.
02:42La corsa sull'AI fisica è in piena bagarre. Con Unitree, produttrici di robot, sbarcato in borsa
02:50con un balzo del 629%, ma anche XPeng, rivale di Tesla, che ha anch'esso in fase di lancio
02:59Iron. Gli umanoidi sono un ulteriore traguardo dell'intelligenza artificiale ancor più dirompente,
03:07perché possono cambiare la vita di tutti. Ancor più di come sta facendo l'intelligenza
03:12artificiale sul sistema finanziario, ma anche su quello strategico dell'energia, in quanto
03:18c'è chi la sta usando per gestire meglio la rete elettrica.
03:23E proprio sull'elettrificazione spinta, pochi considerano che lasciando all'intelligenza
03:29artificiale decidere dove indirizzare l'energia in ottica di ottimizzazione, il rischio è anche
03:36che possa metterla a disposizione per lei e non per l'uomo. Ma vale anche per la gestione
03:42dell'acqua, che ricordiamo è oro per i data center.
03:53A Venezia si è appena conclusa la venticinquesima edizione del convegno internazionale Credit,
04:13che ha messo al centro i rischi legati all'intelligenza artificiale che non solo non mancano, come tutti
04:19sappiamo, ma che tutti dobbiamo conoscere meglio, in quanto stiamo dando all'intelligenza
04:24artificiale una missione, quella di efficientare e migliorare il mondo, senza considerare che
04:30per farlo può arrivare a ridurre la presenza e l'attività dell'uomo, così da raggiungere
04:35la sua missione più facilmente. Oltre ovviamente ai rischi di un impiego malevolo dell'AI.
04:49Professoressa Belizzona, la chiamo subito in causa sul possibile impiego malevolo dell'intelligenza
04:54artificiale e anche dai rischi che possono esserci immediati, come tutti stiamo vedendo.
05:00Possiamo fare anche un esempio concreto?
05:03Beh, l'intelligenza artificiale può essere usata da un lato per essere in qualche modo
05:08protetti dagli attacchi degli hacker e quindi diventare appunto più sicuri. Dall'altro lato
05:14ovviamente da un lato viene usata dagli hacker per valutare e creare ovviamente se ci sono
05:23delle falle nei nostri sistemi di protezione e quindi ovviamente il problema è che da un
05:30lato ci può proteggere, dall'altro ci può creare più problemi di quelli che in qualche
05:35modo ci va a risolvere. Uno dei problemi principali per esempio è che la parte di sicurezza dei
05:41sistemi finanziari si basa largamente sulla criptografia e se effettivamente l'intelligenza
05:48artificiale riesce a trovare un modo veloce per decodificare queste protezioni che derivano
05:55dal sistema criptografico ovviamente avremo molti problemi e non è un'ipotesi poco veritiera
06:06il fatto che per esempio l'intelligenza artificiale permetta ad alcuni hacker di entrare nel sistema
06:12dei pagamenti delle banche e quindi per esempio semplicemente cancellare o copiare e poi cancellare
06:18tutti i dati legati ai nostri conti correnti. Questo ci potrebbe ovviamente far capire che
06:23poi non abbiamo copie, non abbiamo copie cartacce, non abbiamo se appunto questo tipo di intervento
06:31va non solo ad influenzare i database ma anche i backup di questi database, ci troveremo che
06:39anche per esempio una piccola banca, per esempio una banca di reddito cooperativo, i propri clienti
06:45si troveranno a non avere la possibilità di sapere e anche di provare quanti soldi avevano
06:53depositati presso queste istituzioni, quindi ovviamente dobbiamo correre agli pari e non
06:59è un caso totalmente implausibile perché se andiamo a vedere l'attacco che è stato fatto
07:06qualche anno fa alla British Library in cui praticamente si sono copiati gran parte dei libri che erano
07:14stati digitalizzati e poi cancellato tutto il database, questi libri continuano ad apparire
07:23nel dark web ma la British Library non è ancora riuscita a recuperarli tutti.
07:28E quindi secondo lei cos'è che devono fare subito appunto il sistema finanziario e le banche?
07:36Come ha messo in luce in una nota di warning l'ISRB, una cosa importante è avere un sistema
07:42di risk management per questo tipo di rischi, quindi avere delle procedure, avere appunto
07:48una strategia per fare in modo che il proprio sistema da un lato sia in qualche modo inattaccabile
07:56da questo punto di vista e poi resiliente, cioè che se effettivamente succede un attacco
08:02di questo tipo ci sia comunque la possibilità di avere da qualche parte totalmente isolato
08:09un backup o altre cose del genere.
08:11Cioè bisogna avere un sistema in cui appunto le diverse intenzioni finanziarie da un lato
08:17hanno un buon protocollo su come utilizzare l'intelligenza artificiale, dall'altro su come
08:24essere resiliente agli attacchi derivati dall'intelligenza artificiale.
08:28Abbiamo parlato prima che nel 2027 partirà l'euro digitale, sperimentazione, secondo lei
08:36sinteticamente ci aiuterà a ridurre i rischi di impiego malevolo ma soprattutto c'è attenzione
08:42su quello che diceva lei prima per quanto riguarda la sicurezza?
08:46Allora sicuramente appunto la Banca Centrale Europea ha un'attenzione forte per quanto riguarda
08:54avere un sistema di pagamenti che sia appunto sicuro. Quindi questo ci porterà ad avere
09:00un sistema che non è in qualche modo delegato alle diverse banche ma sarà appunto supervisionato
09:08e gestito dalla Banca Centrale. Quindi questo ci darà una garanzia che va al di là del sicuro
09:15dei sistemi che abbiamo adesso che o sono basati su il sistema Visa o Mastercard, quindi delle banche
09:24delle carte di credito che sono comunque sistemi tutti americani e sia diciamo così il sistema
09:30che potrà essere messo in piedi con le blockchain e le stablecoin. Quindi sarà di sicuro più sicuro.
09:36Professore Sabiglio, abbiamo accennato al servizio al convegno credit che si è appena concluso
09:41e si è parlato di sostenibilità, stabilità e responsabilità del sistema finanziario basato
09:47sempre su dati ed algoritmi. Partiamo dall'uso degli LLM che è stato al centro dell'intervento
09:54ricordiamo per chi non l'ha seguito del professor Rigobon del MIT di Boston e ha confrontato sei
10:01modelli di cui due americani e due cinesi, ricordo uno degli Emirati Arabi e quello europeo
10:08Mistral, nella valutazione che tra l'altro ci riguarda perché ha fatto un'analisi sulla
10:14libertà di stampa. Ci fa un riesume di cosa è emerso?
10:19Il large language model, quindi questi algoritmi non sono degli osservatori neutrali, quindi
10:26possono sbagliare, ma il tema rilevante è che sbagliano secondo una struttura politicamente
10:32significativa. La questione quindi diventa cruciale anche da un punto di vista sociale.
10:39Se il large language model diventerà uno dei meccanismi dei principali modi attraverso
10:44cui i cittadini interpretano il mondo, non sarà sufficiente valutarne l'allineamento
10:50soltanto in termini di sicurezza tecnica. C'è bisogno che dati ed algoritmi, dal momento
10:55che incorporano distorsioni informative e geopolitiche, devono essere quindi sottoposti anche a controlli.
11:01benchmark indipendenti e ugualmente precise regole di responsabilità.
11:08Nel servizio prima abbiamo visto che c'è anche un cambio di passo proprio sul sistema
11:14che gestisce l'intelligenza artificiale, cioè dal linguaggio LLM a quello VLA, cioè
11:21modello, visione, linguaggio, azione. Spieghiamo in estrema sintesi il cambio di passo e anche
11:29i rischi che ci sono. La base su cui si poggia l'intelligenza artificiale è costituita
11:35da algoritmi. Finora ci siamo tutti confrontati con gli LLM, i large language models, che sono
11:44modelli, algoritmi capaci di interpretare il linguaggio, di elaborare le informazioni e di
11:50formulare le risposte. Con l'intelligenza artificiale fisica, quindi i modelli appunto
11:57vision, language, action, si fa letteralmente un cambio di passo, un cambio di paradigma se
12:05vogliamo. Quindi la macchina non si limite più solamente a comprendere parole e immagini,
12:10ma collega ciò che vede a ciò che le viene richiesto e quindi alle azioni da compie nel
12:16mondo reale. Quindi se dicevamo appunto che con gli LLM la macchina comprende e pianifica,
12:23con i VLA vede, comprende e ciò che è importante poi agisce. Quindi nei sistemi capaci di apprendere
12:33dall'interazione con l'ambiente si inizia anche a parlare di una forma di plasticità artificiale.
12:39L'idea è richiamare la plasticità del cervello umano, anche se è una differenza fondamentale
12:45che nell'uomo l'esperienza modifica biologicamente le connessioni tra i diversi parti del cervello,
12:53quindi tra i neuroni ed è legata sia appunto al corpo, alla fisicità, alle emozioni e al
12:59vissuto personale. Nell'intelligenza artificiale possono modificarsi i parametri, strategie operative,
13:07però comunque è questa capacità di adattamento che emerge e che fa emergere anche un rischio
13:16più delicato. Una macchina capace di adattarsi all'esperienza può potenzialmente evolvere il
13:24proprio comportamento in modi autonomi, questo significa lato nostro non interamente previsti
13:31o prevedibili dai progettisti. Quindi se poi l'errore di modello linguistico produce
13:39informazione sbagliata o produce comunque meccanismi distorti, con la e-fisica questi comportamenti
13:47imprevisti possono tramutarsi in questo caso direttamente in movimento, in decisioni con conseguenze
13:53reali. Questo non fa che rafforzare la necessità di costituire, di definire dei limiti verificabili
14:05nell'azione, tenere i temi di controllo e di gestione dei rischi connessi, poi lasciando
14:12sempre la necessaria chiara responsabilità umana di quello che sta succedendo.
14:19Adesso stiamo vedendo che c'è una grande corsa proprio sulla intelligenza fisica, ricordo
14:25che abbiamo Tesla con l'umanoide Optimus, Figurei, Boston Dynamics, Agility per quanto
14:31riguarda l'America, Cina, Unitre, Ubtec e Fourier Intelligence che tra l'altro lavora
14:37anche sulla sanità. Questi umanoidi naturalmente si basano sempre anche questi su degli algoritmi,
14:44voi studiate da quando vi siete occupati, quindi da un bel po' di anni degli algoritmi
14:51e li fornite proprio per l'intelligenza artificiale, dopo c'è questo passaggio che stiamo vedendo
14:57che c'ha delle criticità quando li mettono in operatività sui vari sistemi. Secondo la
15:04vostra esperienza, lo chiedo a tutte e due, cos'è che bisognerebbe fare sul controllo dell'uso
15:10degli algoritmi e del sistema? Perché? E poi se anche voi siete un po' preoccupati
15:15su quanto stiamo vedendo e l'accelerazione che c'è in essere.
15:20Quello che dobbiamo imparare a fare è dobbiamo imparare a gestire il rischio dell'intelligenza
15:25artificiale, come abbiamo imparato a gestire i rischi legati ai portafogli, come abbiamo
15:30imparato a gestire il rischio per esempio dell'algotrading. Quindi quello che dobbiamo cercare
15:36di mettere in piedi è da un lato capire come funziona e quali sono in qualche modo le
15:43problematiche che l'utilizzo per esempio dell'intelligenza artificiale può generare
15:48per esempio nei sistemi finanziari. Come veniva detto prima, il fatto che in realtà aumenta
15:54la correlazione, rispondono tutti allo stesso modo, agli stessi shock e così via e quindi
15:59questo può generare amplificazione del rischio. Quello che appunto noi dobbiamo imparare a
16:05mettere in piedi è un sistema sia di risk measurement legato a questi nuovi fenomeni
16:12che l'intelligenza artificiale può generare a livello di sistema finanziario e poi appunto
16:17di risk management, cioè quindi come rispondere. Ecco perché come dicevo prima, da un lato
16:23le banche o le varie istituzioni finanziarie devono in qualche modo riuscire a implementare
16:31all'interno dell'utilizzo che fanno o che possono subire dell'intelligenza artificiale
16:36dei sistemi di risk management. Dall'altro lato anche come regolatori e soprattutto come
16:42supervisori dei sistemi finanziari è importante che da un lato si abbia la visione del sistema
16:49e quindi cercare di identificare e quindi controllare quali sono in qualche modo i potenziali
16:57rischi che questo sistema gestito dall'intelligenza artificiale può andare a generare. Quindi
17:03da un lato capire e dall'altro avere appunto delle misure per poter intervenire.
17:09Professoressa Biglio?
17:11Il punto centrale è proprio la capacità di controllo, quindi quella che deriva da capacità
17:17di risk measurement e risk management. Quello che si è visto in questi ultimi mesi ha mostrato
17:25uno stesso schema anche nelle falle di configurazione dei modelli di intelligenza artificiale negli accessi
17:36ad internet e quello che è successo è che alcuni agenti AI hanno oltrepassato il perimetro previsto
17:46e sono intervenuti su sistemi e dati reali. Il dato più preoccupante quindi non è tecnicamente
17:53il singolo episodio ma la ripetibilità e che spiega anche gli interventi anche di questi
18:01ori negli stop decisi per quanto riguarda o annunciati quantomeno riguarda l'addestramento
18:08e la valutazione dei modelli più avanzati. Quindi la preoccupazione non è tanto che si tratti
18:13di una ribellione dell'intelligenza artificiale ma piuttosto di un rischio sistemico. Quindi
18:19capacità operative sempre maggiori se non sono associate a un'altrettanta capacità di
18:29comprendere quali sono i limiti da imporre, i rischi a cui si può essere esposto trasformano
18:37inevitabilmente un errore tecnico, un incidente reale e questo diventa il vero tema di preoccupazione.
18:47Quindi è per questo che serve attenzione e la necessità di andare di pari passo tra quello
18:57che significa lo sviluppo e quello che significa la capacità di controllo. E qui si apre anche
19:02un tema di come si stanno muovendo i diversi attori anche a livello geopolitico sull'intelligenza
19:09artificiale. Dove l'abbiamo visto anche con il caso portato dal collega Rigobon nell'esempio
19:20per quanto riguarda la libertà di stampa non sono più tanto e solo anzi gli attori statunitensi,
19:31americani o parzialmente europei, ma molti anche attori orientali. E qui appunto lo sviluppo
19:46e l'attenzione sarebbe opportuno che anche a livello globale andasse di pari passo.
19:52C'è ancora tanto da fare, ci sembra da capire, la puntata di Focus SG termina qui, alla prossima
19:58e ringraziamo le nostre ospiti.
20:08Grazie.