- 2 giorni fa
Categoria
📺
TVTrascrizione
00:08E parliamo di intelligenza artificiale che rimane sotto la lente degli investitori dove dopo l'appello allo speed limit, un
00:19limite alla velocità nella corsa all'intelligenza artificiale lanciato dal CEO di Antropic Dario Amodei.
00:27E poi ancora quello che sta accadendo con gli attacchi hacker su Revolut. Ne parliamo con i nostri ospiti. Abbiamo
00:36con noi Emanuela Girardi, presidente di Adra. Benvenuta.
00:40Grazie, buonasera.
00:42E Alessandro Curioni, esperto di sicurezza informatica. Benvenuto.
00:48Grazie, buonasera a voi.
00:50Gerardi, l'allarme lanciato da Amodei che fetti avrà sul settore tech? Effettivamente, come dice Trump, un assist alla Cina?
01:01Ma allora sì e no, nel senso che innanzitutto diciamo che questo allarme che ha lanciato Amodei è un allarme
01:10che non chiede una moratoria.
01:12Cioè Amodei dice qualcosa di diverso, lui dice dobbiamo evitare l'accelerazione delle capacità di questi modelli, superi la nostra
01:21capacità di controllarle.
01:23E quindi lui tra l'altro chiede diverse cose, chiede tra l'altro di portare una sorta di valutatori indipendenti
01:30dentro i laboratori con accesso quasi da dipendenti, se volete, poi il diritto di pubblicare tutto quello che trovano senza
01:37una sorta di censura aziendale.
01:39Quindi che effetto ha? E arriviamo poi anche a un po' cosa dice Trump.
01:43Secondo me può avere tre effetti. Il primo effetto è un po' sulla sicurezza, cioè la sicurezza dei modelli, quindi
01:50dell'intelligenza artificiale diventa un po' parte della competizione.
01:55Quindi è anche un'opportunità di mercato, se volete, perché crea il mercato appunto degli auditor terzi e della segnalazione
02:01obbligatoria degli incidenti,
02:03che tra l'altro di IACT in Europa già include, è un po' il modello, se volete, dell'aviazione che
02:10è portato dentro invece l'intelligenza artificiale dentro il software.
02:13Quindi questo è il primo elemento, è un'opportunità di mercato.
02:16Il secondo elemento, secondo me, potrebbe essere un po' che cambia la metrica della corsa, cioè fino ad oggi noi
02:22stiamo portati a pensare a chi sviluppa il modello più potente per primo.
02:26Mentre, diciamo, con questo impatto potrebbe essere chi fa dei modelli più potenti, ma che reggono anche un'ispezione in
02:35qualche modo.
02:36Quindi anche questo elemento è da tenere presente.
02:38E poi il terzo, e qui secondo me il punto un po' più problematico invece, è che questi requisiti di
02:47sicurezza che verrebbero in qualche modo inseriti aumentano i costi di sviluppare modelli di frontiera.
02:53E questo, diciamo, che può consolidare, agevolare e consolidare chi ha le grandi dimensioni, perché comunque è un mercato molto
03:00piccolo.
03:01Infatti una delle cose, secondo me, che è da considerare è la posizione del CEO di Coir, che è questa
03:07società sempre di large language model canadese,
03:10che non ha dato ragione ad Amodei come invece hanno fatto Sam Altman piuttosto che Elon Musk,
03:15ma lui ha detto che questo è una sorta di, se volete, un cartello sotto un altro nome, perché il
03:20piano addirittura richiede ai governi una deroga antitrust
03:25per permettere ai concorrenti di accordarsi su quella che è un po' la velocità di sviluppo e poi di imporre
03:31il risultato a tutti gli altri.
03:33Quindi questo secondo me è un po' preoccupante, perché si parla già di oligopolio, in questo caso si potrebbe parlare,
03:39se vogliamo, quasi di un cartello.
03:42E poi c'è l'aspetto finale da considerare, secondo me, che è un po', ricordiamoci, che sia Antropic che
03:49OpenAI stanno preparando la quotazione in borsa,
03:53tra l'altro quelle che si dice che siano le più grandi quotazioni in borsa della storia.
03:59Quindi anche questo è da considerare, perché per esempio Sachs, il consigliere di Trump,
04:04diceva che questi allarmi possono un po', diciamo, servire a coprirsi da quelle che potrebbero essere responsabilità civili dovute a
04:11qualche incidente grande.
04:14Trump dice che non dobbiamo assolutamente regolamentare, anzi, questo potrebbe essere un rischio, perché potrebbe essere una sorta di assist
04:23per la Cina.
04:24Ma secondo me Trump individua un po' un rischio reale, perché se noi mettiamo, diciamo, uno speed limit, quindi un
04:31limite alla velocità,
04:33ma che vale solo per una parte del mondo, è chiaro che l'altra parte continua ad accelerare, ad andare
04:38avanti nello sviluppo,
04:40soprattutto sui modelli open source, che sono i modelli, diciamo, che sviluppano di più in Cina.
04:45Però ricordiamoci che è anche vero che Amodei non propone di lasciare, diciamo, campo libero alla Cina,
04:52però anzi, lui dice, in qualche modo dobbiamo mettere una stretta su quello che è lo sviluppo dei modelli più
04:58avanzati cinesi,
04:59quindi mettiamo una stretta all'export dei chip più avanzati agli ultimi modelli,
05:03e cerchiamo anche di controllare di più il fatto che avvenga una distillazione dei nostri modelli,
05:09quindi che ci rubino un po' i dati, diciamo, dei nostri modelli, e poi questo da una parte,
05:16quindi di limitare un po' lo sviluppo dei modelli cinesi di frontiera,
05:20e dall'altra in realtà lui stesso, Amodei stesso, dice, servirebbe una governance anche con la Cina,
05:28e soprattutto su quelli che sono, diciamo, i rischi estremi, per esempio, i rischi delle armi biologiche.
05:34Questa cosa qua è stata vista poi come una sorta di, se volete, un manuare da guerra fredda,
05:38si è parlato, infatti, in alcuni giornali, perché sembra un po' ritornare veramente ai tempi della guerra fredda.
05:45Secondo me la cosa interessante da tenere presente è che in realtà la Cina già a luglio aveva provato
05:53a lanciare un'iniziativa di governance globale dell'intelligenza artificiale.
05:57Infatti al World AI Congress di Shanghai, Xi Jinping non solo aveva detto che l'AI aveva riconosciuto
06:04il fatto che l'AI può sfuggire in qualche modo al controllo umano e ha richiesto quindi dei sistemi globali
06:12di gestione del rischio, ma anche proposto la formazione di una, vado in conclusione,
06:18la formazione e hanno creato questa World AI Cooperation Organization a Shanghai,
06:23dove ci sono già 29 Stati membri, che di fatto hanno lanciato un'iniziativa
06:28per una governance globale dell'intelligenza artificiale, proprio per andare a gestire
06:32questi che sono considerati un po' questi rischi estremi dell'intelligenza artificiale.
06:36Sicuramente un effetto positivo di questo allarme è mantenere alta l'allerta sui sistemi di sicurezza,
06:44sistemi che probabilmente non hanno funzionato a dovere per la fintech Revolut,
06:50colpita da un attacco di cybercriminalità, spacciandosi infatti per funzionari pubblici
06:56attraverso una PEC contraffatta. Gli hacker hanno ottenuto dati riservati dai clienti della società di bacamenti
07:02e ora chiedono un riscatto, nella vicenda spunta una possibile pista italiana,
07:06perché la mail sarebbe partita proprio dal nostro paese. Ci racconta tutto Davide Lentini.
07:14Quasi 700 clienti coinvolti, informazioni personali, dati sui conti correnti
07:18che sono finite nelle mani dei cybercriminali. Il caso che sta scuotendo Revolut,
07:23la fintech dei pagamenti che ha confermato di aver consegnato per errore dati riservati
07:29a truffatori che si spacciavano per funzionari governativi.
07:32Di fatto all'azienda è arrivata una richiesta ufficiale, da quella che però si è rivelata
07:37essere poi una mail contraffatta. I criminali hanno ottenuto così dati sensibili di passaporti,
07:42indirizzi di casa e informazioni appunto sui conti correnti e i patrimoni.
07:46Secondo il Financial Times, Revolut ha già informato 680 persone potenzialmente coinvolte
07:52per aggiornarle su quanto successo. La vicenda porterebbe anche a una pista italiana,
07:57perché dalle prime indagini sembra che la richiesta a Revolut sia arrivata da una
08:02PEC riconducibile a un'autorità del nostro paese. Banca d'Italia e Agenzia per la Cybersicurezza
08:08starebbero già verificando se l'emittente sia stato falsificato oppure se sia stata compromessa
08:13a una casella di posta elettronica istituzionale. Intanto gli hacker minacciano di pubblicare
08:19le informazioni riservate e personali ricevute se Revolut non pagherà un riscatto.
08:24L'azienda precisa che i sistemi della banca e i fondi dei correntisti non sono stati
08:29coinvolti. Tra i clienti ci sarebbero coinvolti proprio in questa truffa anche il tenista
08:35Aleksandr Shevchenko e Mark Carpeles, ex amministratore delegato di MT Gox, un tempo la maggiore
08:41piattaforma di bitcoin al mondo.
08:44Curioni, è così facile penetrare in questi sistemi? Quali saranno gli effetti poi su tutto
08:50il settore fintech che in parte si regge proprio sulla sicurezza delle transazioni?
08:56Ma allora qui ci sono due aspetti importanti. Il primo è uscire dall'equivoco se questa
09:03casella di posta elettronica certificata, perché si sta parlando di una PEC, fosse veramente
09:09una PEC del nostro Ministero degli Interni. Da quanto hanno dichiarato gli attaccanti
09:15sembra che siano riusciti a penetrare effettivamente in una PEC del Ministero degli Interni attraverso
09:23tecniche di social engineering, ovvero hanno semplicemente raggirato alcuni dipendenti
09:29della pubblica amministrazione. Questo è il primo tema che ci riguarda direttamente,
09:34perché con una PEC istituzionale si possono fare tantissime cose. Dopodiché il tema di quello
09:40che è successo in Revolut è probabilmente una mancanza di controllo. È vero che la PEC
09:47è un canale ufficiale, è vero che sarà anche registrata, è altrettanto vero che quando
09:53arrivano determinate richieste probabilmente ci vorrebbero dei sistemi di controllo più
09:58capillari, visto che parliamo di 680 tra i principali clienti della banca. Quindi neanche
10:03dire un target casuale, un target chiaramente identificato. Perché quei 680? Perché ovviamente
10:11sono quelli più sensibili, perché ovviamente attraverso quei dati io posso immaginare di
10:17perpetrare attacchi mirati su queste persone avendo la grande disponibilità dei loro dati
10:24personali o addirittura posso utilizzare questi dati per impersonificare online questi stessi
10:29soggetti. Il problema di molte fintech in generale è quello che tante volte sono snellissime,
10:39magrissime, forse un po' troppo, sono poco più di una app tante volte e ovviamente nei
10:47mercati finanziari che sono quelli che storicamente, proprio perché ci sta il denaro e ci stanno
10:52determinati tipi di dati, sono il target privilegiato di quelli che sono i criminali informati.
10:59politici. Quindi sicuramente è una situazione preoccupante, ma mi lasci dire se la vedo da
11:06italiano e da cittadino è più preoccupante per noi, perché se fosse confermata la violazione
11:11di una PEC, di quella PEC in particolare, sarebbe decisamente...
11:15E dice che i nostri dati sarebbero molto esposti.
11:18Non solo i nostri dati, ma più che altro, lei capisce, se ricevo un'email dal Ministero
11:24degli interni e quell'email è certificata e tutti mi stanno dicendo che all'email certificato
11:29io devo credere e possono scrivermi qualsiasi cosa e probabilmente, come è capitato a Revolut,
11:35la farò anch'io. Quindi questo è abbastanza dirimente. Gli attaccanti hanno confermato che
11:44così hanno fatto e che quindi hanno effettivamente usato, utilizzato una PEC del Ministero degli
11:50Interni. Da capire adesso le indagini che sta facendo sia Banca d'Italia, sia l'Agenzia
11:57Nazionale per la Cyber Security, a che cosa porteranno? Perché quello diventa, secondo
12:02me, egoisticamente, parlando dell'italiano, l'aspetto più significativo. Poi ovviamente
12:07Revolut forse doveva controllare meglio, però il punto di partenza dell'attacco sarebbe, in
12:13quel caso, un'istituzione italiana.
12:15Girardi, in conclusione le chiedo una battuta. L'Europa potrebbe avvantaggiarsi se gli Stati
12:23Uniti effettivamente rallentassero la corsa, così come più volte sostenuto da Mario Draghi,
12:31ma ieri anche Christine Lagarde, effettivamente accelerare sull'intelligenza artificiale?
12:40No, nel senso che secondo me l'Europa non può costruire la propria strategia, sperando
12:45che gli Stati Uniti rallentino, deve assolutamente accelerare l'Europa, quindi questo è un tema
12:51importante. Non solo, tra l'altro, in questo caso stiamo parlando dei modelli di frontiera,
12:56quindi non solo sugli LLM, sui modelli di frontiera, dove ahimè in Europa ne abbiamo molto
13:01pochi, ma soprattutto se io penso alla prossima frontiera dell'innovazione, quindi quella
13:06che si chiama l'AI fisica, la convergenza tra intelligenza artificiale e robotica, in
13:12questo caso per noi è una grande opportunità di accelerare. Dobbiamo assolutamente investire
13:17su queste tecnologie perché è un tema proprio di sovranità tecnologica, come ha detto molto
13:23bene Christine Lagarde ieri. Quindi dobbiamo accelerare nell'adozione, ma soprattutto anche
13:29nello sviluppo di tecnologie di intelligenza artificiale e fisica e soprattutto noi ricordiamoci
13:35che in Europa abbiamo due grandi opportunità. Una è che abbiamo la manifattura industriale
13:41e quindi abbiamo una grande esperienza anche nell'automazione industriale e due abbiamo
13:45una cosa che negli Stati Uniti e in Cina hanno molto meno, abbiamo tutti i dati delle nostre
13:50industrie che dobbiamo in qualche modo rendere disponibili per lo sviluppo di soluzioni di
13:55intelligenza artificiale e fisica in Europa. Quindi abbiamo delle opportunità, ma dobbiamo
14:00accelerare.
14:02Grazie a Emanuela Girardi, Presidente ADRA, di essere stata con noi e Alessandro Curioni
14:09per questo approfondimento sull'intelligenza artificiale. Grazie.
14:13Io vi lascio alla programmazione di Class CMBC e vi do appuntamento a domani con una nuova puntata
14:22di Report.
Commenti