- 5 ore fa
Categoria
📺
TVTrascrizione
00:04E ben ritrovati su Classe MVC, uno speciale dedicato a un tema che ha fatto discutere
00:09tutta la settimana per quanto riguarda la cyber security e l'intelligenza artificiale.
00:15Vi abbiamo spiegato le dinamiche del hackeraggio da parte di modelli di intelligenza artificiale
00:19di OpenAI verso la piattaforma HagingFace, ma ora è il momento di riflettere su quali
00:25sono state poi le conseguenze di quell'azione, di come l'intelligenza artificiale abbia agito
00:31in modo autonomo. Per farlo ne parliamo con un grande esperto di AI Law, il professor Oreste
00:37Policino. Ben ritrovato, grazie per essere con noi.
00:40Grazie davvero per l'invito e buongiorno a tutti.
00:43Ora professore, dicevo, è il momento di riflettere, lei ne ha scritto anche su Milano Finanza,
00:48su quale sia stato di fatto il valore, cosa ci insegna questo episodio, come ha letto
00:55lei in questo caso?
00:58Guardi, io l'ho letto innanzitutto dal punto di vista linguistico, del significato semantico,
01:04perché le parole contano, le parole contano già all'inizio dell'esplosione generativa,
01:10si ricorderà Sam Altman novembre 2022, rischio esistenziale, iniezione di distopia e di paura.
01:19Quattro anni dopo, ritornano alcune locuzioni, le AI fugge, le AI si ribella, le AI inganna,
01:33le AI decide di attaccare, le AI evade. Ora, perché le parole contano? Le parole contano perché
01:40è chiaro che qui non parliamo soltanto ad esperti, ma parliamo anche a una società che sta imparando
01:48a convivere con questi modelli e che in qualche modo ha bisogno anche di un lessico, di un glossario
01:54che non la porti a fughe, in questo caso distopiche, ovviamente sono anche altrettanto negative quelle
02:01utopistiche, però distopiche, che lei si ricorderà bene, quella appunto paura esistenziale
02:08che in qualche modo poi è stata, se ci pensa, la reazione, o meglio la causa della reazione
02:15dell'ordinamento europeo poi a quello che è la fortezza delle AI act. Perché dico che queste
02:21narrazioni sono doppiamente pericolose? Perché da un lato, e parlo sempre di narrazione,
02:28quindi di utilizzo di termini e di esercizi linguistici, da un lato trasforma un problema
02:35concreto, come avete giustamente detto voi, di progettazione, di sicurezza, di governance
02:43in una storia quasi fantascientifica, in cui tanti si vogliono ritrovare, in questa fantascienza.
02:51Dall'altra parte, e questo è il tema che mi preoccupa di più, è stato evidenziato anche
02:57da Luciano Floridi, per esempio, nelle ultime uscite, finisce per deresponsabilizzare gli
03:07attori umani. Cioè, questo è un esercizio molto delicato, perché se si attribuisce una
03:15sembianza, anche, non dico umana, ma una sembianza in qualche modo comportamentale alle AI,
03:22quindi si crea un soggetto che è in grado di evadere, di scappare, qual è il contraltare?
03:34Che se il focus è sul modello, chi è che rimane sullo sfondo? Chi è che rimane in qualche modo
03:43senza la giusta attenzione? È il soggetto o i soggetti umani che hanno in qualche modo,
03:52in questo caso specificatamente, ridotto alcuni controlli, come dire, in qualche modo lasciato
04:00che alcuni limiti potessero essere superati o accettare i rischi che si potessero superare,
04:07per in qualche modo ovviamente provare, testare questo modello. Cosa vuol dire questo? Vuol dire
04:14che di fatto chi rimane sullo sfondo è la responsabilità umana, è quello che viene chiamato
04:21ed è ormai un'etichetta di cui non se ne può più, human oversight, human in the loop, però in
04:28cosa
04:29consiste? Non consiste in un contesto in cui l'EI diventa un soggetto quasi umano, ma consiste
04:39nella permanenza della responsabilità dell'uomo, delle sue scelte, dei suoi errori, nonostante
04:50una AI agentica che chiaramente ha una marcia in più rispetto alla generativa, chiaramente
04:59fa dei passi in più, ma questi passi, come è stato dimostrato da voi e raccontato benissimo,
05:06non sono dei passi che non erano previsti, anzi, erano previsti, il tema è che i mezzi con
05:16cui sono stati raggiunti questi risultati non erano previsti. Allora che dobbiamo in qualche
05:22modo introdurre una dimensione macchiavellica al negativo delle AI per cui il fine non giustifica
05:30i mezzi, non saprei, però ecco il tema è questo secondo me, perché il rischio, ripeto, è quello che
05:38le espressioni come fuori controllo vadano maneggiate con cautela, cioè il tema è non
05:46abbiamo bisogno di una macchina cosciente perché si producano danni rilevanti, queste macchine
05:54non sono coscienti, è sufficiente un sistema molto capace, orientato rigidamente verso un
06:02obiettivo è collocato con protezioni che diventano insufficienti, volutamente insufficienti e quindi
06:12scusi se concludo questo ragionamento, ma la pericolosità non nasce da una volontà artificiale
06:18che è già un paradosso e un ossimoro d'inseno, ma dalla combinazione tra capacità tecnica, autonomia
06:24esecutiva e debolezza dei controlli umani. Quindi il rischio di questa narrativa, tanto per essere
06:31concreti, è che ci sia poi una responsabilità diffusa, bene, è responsabilità del modello
06:37che vade, allora non sarà responsabilità dell'umano che l'ha progettata e questo è
06:42molto molto pericoloso. Ecco professore, per fare una sintesi di fatto di quello che ha detto
06:47giustamente le parole sono fondamentali, stiamo personificando, dando un ruolo fisico a una
06:54tecnologia che in realtà è governata dall'uomo e quindi il rischio di de-responsabilizzare questa
06:58tecnologia, ma è chiaro che non è l'intelligenza artificiale che ha disobbedito, ma è l'uomo
07:03che non è in grado di rispondere, lei citava anche il regolamento europeo, quindi questo
07:08caso ci impone nuove regole di sicurezza, nuovi vincoli. Qual è secondo lei adesso il
07:15passo più urgente che si può fare a livello fisico e umano di fatto per controllare questo?
07:24Secondo me il tema fondamentale è innanzitutto quello che l'hai evidenziato, ora passiamo
07:29da quello linguistico a quello delle prossime tappe, cioè la narrazione delle AI ribelle
07:35che sia antropomorfizzante, esposti impropriamente la responsabilità dalla società o dall'uomo
07:43che ha configurato il test alla macchina è veramente non soltanto, come dire, sbagliato,
07:50ma dannoso. Questo è il primo punto. Qual è la conseguenza? La conseguenza è che se
07:55questo è una narrativa francamente di disinformazione, perché non è neanche lo slogan, è la disinformazione.
08:02Ora, come si combatte l'azione? Si combatte attraverso una serie di ulteriori, come dire,
08:09percorsi che vadano a fare che cosa? Proprio in questo momento in cui lo stesso AI Act,
08:15c'è una discussione in atta a Bruxelles, sembra non essere così solido rispetto alla protezione
08:22dell'EI Argentica. E francamente è un po' vero, perché nonostante gli esercizi e gli sforzi
08:28interpretativi di Bruxelles, l'EI Act è nato, poi è stato riscritto, però poi è entrato in vigore
08:35prima dell'esplosione dell'Agentica. Quindi è un po' vero che c'è un gap lì. Allora, come si colma
08:42questo gap, non con narrazioni di questo tipo, ma come si colma? Attraverso un coordinamento
08:47tra Bruxelles, innanzitutto, e iOffice, agenzie di cyber security, che l'italiana sta facendo
08:53molto bene, per fare che cosa? Per avere sempre più una chiarezza sulla prevedibilità
09:00di quelle che sono le strategie, come dire, sia di difesa, ma anche di test sul rischio
09:08e soprattutto mi faccia aggiungere sulla trasparenza. Perché qui il concetto è che
09:16Open AI ci ha raccontato una storia qualche giorno dopo rispetto a quando è successo, che
09:23francamente è una storia, come dire, a dire approssimativa è poco. È come, e Flore, devo
09:30fare utilizzare una bella metafora, no? Allentate il fuoco, non chiudete bene il coperchio
09:36e poi mi fate una bella proclamazione solenne sulla minestra sul soffitto, che cosa vuol dire?
09:43Vuol dire, di fatto, attenzione alle auto, come dire, sottrazione di responsabilità o
09:55alle narrative posticce. Non è una critica nei confronti di AI, è una critica rispetto
10:01proprio a questo tipo di modello. Quindi, al di là di questa narrativa, cosa bisogna fare
10:06adesso? Bisogna capire che c'è un tema di grandissima accelerazione rispetto alla
10:16realizzazione mezzi fini. Prima non era così, fino a un mese fa, fino a due mesi fa, fino
10:21a quando, per esempio, lo stesso Liera Antropica, che francamente, anche con un atteggiamento
10:26un po' diverso, ha valutato la pericolosità del modello, che conoscete benissimo, di Mythos
10:32e Fable 5, e l'ha in qualche modo poi ricondotto a sistema e ridotto. Questo cosa vuol dire?
10:37Vuol dire che c'è una grandissima necessità di accountability nei confronti dei provider,
10:43di responsabilizzazione, che proprio non possono neanche essere lasciati soli. C'è bisogno
10:48di un coordinamento sempre maggiore, almeno a livello europeo, dell'agenzia di cyber
10:53security per dire, attenzione, sandbox, che è ormai un termine su cui tutti parlano,
10:59ma non si capisce veramente in cosa consiste. Ecco, prendiamo seriamente il concetto di
11:04sandbox, dei test. Questi test dove vengono fatti? In ambienti protetti? Con quali criteri
11:11di misurazione? Con quale tempistica? Con quali dati? Cominciamo ad avere dei dati più
11:16solidi sui sandbox. E allora sì che potremmo magari raccontare delle narrative meno fantascientifiche.
11:23Chiarissimo. Ecco, tra l'altro parlando di narrative, lei giustamente diceva che ne ha avuto
11:27un atteggiamento diverso da Antropic. C'è anche chi ha parlato di marketing, dicendo
11:31che è stata sfruttata questa occasione per creare hype, quindi alimentare ancora di più
11:37lo spettro di quasi appunto fantascienza legato all'AI e quindi interessare ancora di più
11:44il pubblico. Però, come diceva lei, c'è un grande tema di responsabilità, quindi le direttive,
11:50almeno dal suo punto di vista sono ben chiare. Ci auguriamo appunto di leggere a breve sulla
11:54cronaca non solo queste docce fredde, di fatto anche perché non possiamo più permettercele,
11:59ma nuove linee guida anche per gestire queste situazioni. Intanto la ringrazio per essere stato
12:04con noi per questo approfondimento. Grazie al professor Ores. Grazie davvero e complimenti
12:08sempre per quello che fate. Grazie a voi per averci seguito, restate con noi su Class NBC.
Commenti