- 4 ore fa
Categoria
📺
TVTrascrizione
00:07E' stata definita Apocalypse AI, l'apocalisse lanciata proprio dopo le parole di Dario Amodei, CEO di Antropic,
00:20il quale ha chiesto nel fine settimana un rallentamento alla corsa dell'intelligenza artificiale,
00:27una lunga riflessione in cui Amodei dice che negli ultimi 12 anni mi sono dedicato all'intelligenza artificiale
00:34perché credo possa migliorare drasticamente la qualità della vita umana.
00:39Negli ultimi mesi però, sottolinea Amodei, sono convinto che affrontare a pieno i rischi richieda ancora più prudenza
00:46e quindi chiede al mondo intero.
00:48Dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli di intelligenza artificiale.
00:56Al centro del confronto, la sicurezza dei sistemi, la competizione della Cina, ci racconta tutto nel suo servizio Alessandra Pellegrino.
01:11Dario Amodei, amministratore delegato di Antropic, chiede di rallentare la corsa all'intelligenza artificiale,
01:18non di fermarla, ma di ridurre il ritmo con cui aumentano le capacità dei modelli.
01:23È da qui che parte il nuovo confronto sulla sicurezza delle AI.
01:26Per Amodei, lo sviluppo tecnologico sta correndo più velocemente della capacità di costruire sistemi adeguati di controllo e supervisione.
01:34E il problema, secondo il numero uno di Antropic, non è soltanto tecnologico.
01:38C'è anche la Cina.
01:39È proprio la competizione con Pechino, dice Amodei, a rappresentare il dilemma più difficile
01:44quando si parla di rallentare lo sviluppo dell'intelligenza artificiale.
01:48Perché se gli Stati Uniti decidessero di frenare e la Cina continuasse ad accelerare,
01:53il rischio sarebbe quello di perdere il vantaggio tecnologico e con esso anche quello strategico e militare.
01:58È il paradosso della nuova corsa alle AI.
02:01Tutti riconoscono i rischi di uno sviluppo troppo rapido, ma nessuno vuole essere il primo a rallentare.
02:06Eppure, sulla necessità di trovare un nuovo equilibrio, Amodei incassa il sostegno di alcuni dei suoi principali concorrenti.
02:13Sam Altman, amministratore delegato di OpenAI, dice
02:16«Sono d'accordo con Dario, dobbiamo rallentare la frontiera dello sviluppo dell'intelligenza artificiale».
02:22Altman sostiene anche l'idea di introdurre valutatori indipendenti in grado di controllare i sistemi più avanzati
02:28nell'interno delle aziende.
02:30Poi Elon Musk, fondatore di XA, è ancora più sintetico.
02:34Dario ha ragione.
02:35E arriva anche la presa di posizione di The Miss Assabis, numero uno di Google DeepMind.
02:40Il saggio di Dario indica la strada giusta.
02:43I dettagli devono ancora essere definiti, ma la direzione è corretta per affrontare questo momento cruciale.
02:48Una convergenza rara tra aziende che sono in prima linea nella stessa corsa tecnologica.
02:54E anche Microsoft entra nel dibattito.
02:56Satia Nadella insiste sulla necessità che l'intelligenza artificiale rimanga sotto controllo umano
03:02e che le decisioni sul suo sviluppo non siano lasciate nelle mani di pochi soggetti.
03:06Il punto quindi non è fermare l'intelligenza artificiale, ma è costruire regole e controlli
03:11che riescono a tenere il passo con la tecnologia.
03:19E proprio i big del tech che avevano spinto l'acceleratore sull'intelligenza artificiale
03:25oggi chiedono al mondo intero di rallentare affinché si possano verificare gli effetti di questo enorme sviluppo.
03:33Quali saranno le conseguenze? Lo chiediamo ad Alfonso Fuggetta, professore di informatica del Politecnico di Milano.
03:41Benvenuto.
03:43Buongiorno, buongiorno a tutti.
03:45Partiamo proprio dalle dichiarazioni di Amodei, che sostiene appunto lo sviluppo dell'EI.
03:52Sta procedendo più velocemente rispetto alla capacità di mettere in sicurezza i sistemi.
03:58Quali sarebbero oggi le conseguenze economiche più immediate per le aziende
04:02che stanno investendo centinaia di miliardi in data center, chip e infrastrutture?
04:08Appunto qui la situazione è piuttosto complessa perché ci sono diversi piani che si sovrappongono.
04:13Se ci pensiamo, noi europei con l'EI Act abbiamo da subito, magari anche anticipando troppo i tempi,
04:20cercato di definire delle regole.
04:22Quindi il fatto che servano regole non deve certo sorprendere.
04:28Ecco, sorprende un pochettino la posizione americana che fino,
04:31ricordo che un documento del governo americano di fine 2025 diceva che in realtà dovrebbero esserci mani libere.
04:38Quindi nel corso dell'anno bisogna capire che cosa è cambiato,
04:42che ha influenzato in questa maniera così decisa i grandi produttori.
04:46O c'è qualche novità che loro sanno, conoscono meglio di noi, diciamo esterni,
04:53o più prosaicamente quello che sta accadendo è che da un lato sono sotto pressione
04:58perché devono garantire dei ritorni di investimenti enormi che ancora si fa fatica a vedere.
05:04Dall'altro tal lato subiscono la concorrenza della Cina che ha dei modelli open e a basso costo
05:12che per molte aziende stanno diventando più convenienti.
05:15Quindi ci sono due o tre fattori che si stanno sovrapponendo e almeno per quel che capisco io
05:20a me non è chiaro ancora quale sia il vero driver, il vero motivo che sta spingendo verso questo rallentamento.
05:28Anche perché per certi versi nessuno impedisce loro di rallentare.
05:31Io faccio fatica a immaginare che un qualche organismo internazionale, europeo, americano,
05:36possa convincere per esempio i cinesi a fermarsi.
05:38Quindi insomma ci sono diversi argomenti che si sovrappongono e che non è chiaro come poi si combinino tra loro.
05:46L'abbiamo visto prima, c'è stato un post di Donald Trump su Truth che definisce Dario Amodei
05:55e dice ora finge di essere un piccolo angelo perfetto ma è in corso una malata congiuntura contro le AI
06:04data center
06:05l'unica a esserne felice è la Cina. Chiunque vinca la sfida delle AI vince, siamo in vantaggio sulla Cina
06:12e su tutti gli altri
06:14continueremo ad esserlo, li chiamano i teorici del complotto, persone che commettono tradimento, traditori e divulgatori
06:20di informazioni riservate, state attenti, dice Trump.
06:25Ecco Fuggetta, quali sono i rischi principali che sottolinea Amodei proprio nella sua riflessione?
06:34Lui parla di uno sviluppo incontrollato delle AI che potrebbe portare ad applicazioni malevole e addirittura apocalittiche.
06:44Ora tutto quello che, adesso perlomeno quello che noi, quello che io e alcuni molti vedono, sono in realtà sistemi
06:54che come tutti i casi dell'informatica
06:57possono essere usati in maniera malevola oppure no. Certo hanno grandi possibilità, grandi capacità, però evidentemente o loro hanno delle
07:06informazioni
07:06e hanno delle evidenze superiori a quelle che vediamo noi dall'esterno o altrimenti, ripeto, io faccio un po' fatica
07:13a capire
07:14che cosa è successo esattamente in questo periodo da portare a questo tipo di reazione.
07:21Anche gli incidenzi che sono accaduti, in realtà se poi si va a guardarli più nel dettaglio, per carità sono
07:28incidenti anche gravi,
07:30però hanno delle motivazioni razionali, non sono impazzimenti di un terminator fuori controllo.
07:38Quindi probabilmente ci sono altre informazioni che noi non abbiamo, oppure quello che prima dicevo io sulla congiuntura macroeconomica
07:49e il rapporto con la Cina sta avendo su di loro, mettendo molta pressione e quindi in un qualche modo
07:55definendo delle regole
07:56che secondo loro, nelle loro aspettative, fanno rallentare tutto, tutti permettono anche a loro,
08:02questo permette anche a loro di gestire meglio gli investimenti e lo sviluppo della tecnologia.
08:07Secondo me non è una situazione così chiara e limpida e faccio un po' fatica a capire questa visione apocalittica
08:15che adesso ci imporrebbe di fermare tutto.
08:18Non sono un appassionato degli AI per l'AI, credo che qualcosa tipo AI Act vada fatto, magari nella giusta
08:27misura, senza esagerazioni.
08:30Bisogna un po' capire meglio quello che sta accadendo perché secondo me c'è parecchia nebbia che non ci permette
08:35di vedere bene la situazione.
08:38Giustamente citava l'AI Act, a prescindere da quella che è stata la reazione a caldo del mercato,
08:43alle parole di Amodei. Una cosa è certa, questa riflessione apre di nuovo il dibattito sulla regolamentazione.
08:51Ma chi deve dettare le regole? Lo abbiamo chiesto a Oreste Pollicino, professore Iai Lo, alla Bocconi,
08:57che guarda soprattutto alla collaborazione tra pubblico e privato, ma invita a diffidare dalle fughe in avanti.
09:03È ovvio che c'è una race 2A alla regolamentazione delle AI che è senza esclusione di colpi.
09:10La proposta di Amodei, che ha tre livelli, controllo indipendente dentro i laboratori,
09:16coordinamento tra imprese e democrazie e coordinamento persino però con stati autoritari,
09:22allora pone qualche problema. Perché a questo punto chi detta le regole rispetto ai livelli di guardrail, di salvaguardia?
09:32Lì detta di fatto non una corregolamentazione pubblico-privata in cui io credo molto.
09:38Lavorando in Commissione Europea, per esempio a proposito del codice contro la disinformazione,
09:43c'erano le grandi piattaforme, la Commissione Europea e la società civile.
09:46Allora io credo molto nella collaborazione patnici pubblico-privata,
09:49ma non credo assolutamente invece in queste fughe in avanti, francamente,
09:53che nonostante io sia uno stimatore di Amodei per quello che ha fatto
09:58e per il coraggio che ha avuto a volte nei confronti dell'amministrazione Trump,
10:03però qui vede che a secondo del contesto anche l'orientamento un po' cambia.
10:10Fuggetta, chiedo anche a lei, chi deve regolamentare?
10:13Serve un'autoregolamentazione da parte delle aziende
10:17o appunto bisogna lasciare al pubblico che faccia la sua parte?
10:23Ma credo che Pollicino avesse ragione.
10:25Noi stiamo esplorando un territorio che è abbastanza nuovo.
10:29La regolamentazione di solito c'è sia una parte che è il pubblico di standard,
10:34di organi internazionali e poi ci sono anche le scelte,
10:39le decisioni che prendono le singole imprese.
10:44Noi forse in Europa se abbiamo fatto una fuga in avanti con la IACT
10:47con un eccesso di regolamentazione preventiva,
10:51forse ancora un pochettino immatura.
10:54Credo che servano delle regole di contesto, questo è sicuro.
10:57Non è per nulla facile definirle perché un eccesso, un blocco al mercato,
11:02una mancanza provoca anche dei tuoti di comportamenti,
11:06di regole, di contesto, di vincoli che in alcuni casi sono pericolosi.
11:13Secondo me serve un po' di riflessione.
11:15Ripeto, o c'è qualcosa che loro sanno e che non ci hanno detto,
11:17per cui c'è bisogno di un intervento urgente,
11:20altrimenti la cosa seria da fare è che ci si metta intorno a un tavolo
11:24e si capisca bene che cosa ha senso, per esempio come rileggere le IACT,
11:29quindi come ridefinire un perimetro di intervento del pubblico,
11:33inteso come organismi nazionali e sovranazionali,
11:36e cosa invece lasciare a meccanismi di valutazione di qualità e di sicurezza
11:41che ciascuna azienda deve applicare nello sviluppo delle proprie applicazioni,
11:45dei propri sistemi.
11:46Ci sono diverse letture su quelle che sono state le parole di Amodei
11:50e noi di Classe CNBC stiamo cercando di raccogliere diverse voci
11:55per Lorenzo Maternini, CEO di Perspective AI ad esempio,
11:59gli investimenti messi in campo sono ormai enormi
12:02e proprio per questo la narrazione apocalittica sull'intelligenza artificiale
12:06può diventare anche una scelta di marketing.
12:08Il vero problema è i nuovi modelli, quanto costa?
12:11Addirittura Amodei, il CEO di Antropic, ha dichiarato
12:14che potrebbero aspettarsi 100 miliardi per il costo di nuovi modelli nei prossimi anni.
12:21Questo significa che probabilmente è necessario rallentare.
12:25Ecco perché improvvisamente sono tutti d'accordo su un unico punto,
12:28dobbiamo rallentare.
12:30Certo che vestire questa cosa, che è una debolezza strutturale finanziaria delle aziende,
12:36vestirla come un rischio per l'umanità, dobbiamo salvare l'umanità,
12:41è facile da vendere al mercato.
12:43Ecco la strategia, secondo me, narrativa di marketing.
12:47Fuggetta, crede anche lei che Adamo Dei converrebbe rallentare questa corsa
12:52per permettere anche ad Antropic di raggiungere quelle milestone
12:57che ad esempio non sono state ancora raggiunte in questo momento.
13:01Guardi, ho scritto un articolo per la Voce.info questa primavera
13:05in cui dicevo che la scommessa di Antropic, ancorché molto razionale,
13:09è estremamente difficile.
13:11Ma tutte queste aziende si trovano di fronte al problema di come fa a tornare i conti.
13:15Noi abbiamo degli investimenti pazzeschi, forse non esistono precedenti,
13:21di investimenti di così ampia portata e con tempi così lunghi di possibile ritorno all'investimento.
13:28Quindi che la scommessa economico-finanziaria sia critica è fuori di dubbio.
13:32È per questo che molti, come anche il CEO di Perplexity AI,
13:37in realtà pensano che probabilmente questa chiamata alle armi
13:42è più dovuta al fatto che se andiamo avanti così non ci saranno gli investimenti
13:46o comunque scoppierà una bolla, presumibilmente,
13:50perché investimenti gonfiati che poi non danno un ritorno provocano comunque un contracolpo.
13:55Quindi c'è questa interpretazione, non sapendo tutto quello che c'è dietro le quinte,
14:01poi credo che sia ragionevole e prudente lasciarsi aperte le diverse strade.
14:07Però è sicuramente un'ipotesi che ha un suo fondamento.
14:11Hanno investito troppo, ci sono gli investimenti notevolissimi,
14:17la Cina fa un percorso diverso, fa un investimento pubblico,
14:21principalmente o comunque ha un meccanismo di controllo dell'economia
14:24che è molto più pervasivo rispetto a quello occidentale
14:27e quindi è chiaro che c'è una situazione di difficoltà.
14:32I modelli cinesi sono meno potenti ma sono molto più economici
14:36e quindi questo crea una situazione di disagio molto forte
14:41in un momento in cui devono andare anche in borsa
14:43e chiedere centinaia di miliardi di investimento nei capitali aziendali.
14:50Tra l'altro le parole di Amodei sono state seguite
14:53anche quelle dell'amministratore delegato di OpenAI,
14:57Sam Altman, che ha escluso la possibilità di una quotazione
15:00in borsa dell'azienda nel 2026
15:03e ha citato proprio ragioni di sicurezza dell'intelligenza artificiale.
15:09Fuggetta, per concludere, si rendono conto solo adesso
15:13che ci sono problemi di sicurezza?
15:17Ripeto, credo che sia serio dire che non avendo...
15:20Io sono una persona esterna che ho delle notizie
15:23e quindi non so, io non ho tutte le informazioni di cui dispongono loro
15:27e quindi può essere che loro abbiano degli elementi, delle evidenze
15:31che io non ho e quindi sarebbe poco professionale o serio
15:37scartarle a priori.
15:39Credo che tutti noi che esaminiamo dall'esterno
15:41anche le imprese che devono fare gli investimenti
15:43devono avere un quadro completo della situazione.
15:45Loro dicono che ci sono questi rischi,
15:48alcune cose sono trapelate e le possiamo valutare.
15:51È oggettivo che siamo in una congiuntura
15:55dove abbiamo speso, sono stati investiti
15:57centinaia di miliardi, trilioni di dollari
16:00in queste tecnologie, non si vedono le dinamiche
16:06di ritorno all'investimento, devono andare in borsa
16:09per potarsi, insomma tutto questo costituisce
16:13un pacchetto di mischia, diciamo, usando terminologia del rugby
16:16che pone dei problemi.
16:18Quanto un argomento pesi più rispetto a un altro
16:21credo che sia ancora prematuro dirlo,
16:24certamente, insomma, anche dagli interventi
16:27dei colleghi precedentemente
16:29che avete intervistato in precedenza
16:31credo che emergano delle dinamiche
16:33che vanno studiate meglio e che vanno capite
16:36perché hanno una loro significatività.
16:39Grazie ad Alfonso Fuggetta,
16:41professore di informatica del Politecnico di Milano
16:44per essere stato con noi per la sua analisi.
16:46Grazie a voi.
16:48Grazie a tutti voi di averci seguiti,
16:50vi lascio alla programmazione di Class CNBC
16:53e noi ci rivediamo domani con Report.
Commenti