- 3 ore fa
Categoria
📺
TVTrascrizione
00:04Forse un giorno i laboratori che producono i modelli di frontiere dell'intelligenza artificiale
00:09freneranno lo sviluppo che è stato impetuoso e inarrestabile dal novembre del 2022
00:14quando è uscita la prima versione di CiaGPT fino alle ultimissime fable di Entropic e Astra di OpenAI
00:21ma intanto frena la borsa che legge un po' tra le righe quello che ci stanno dicendo i leader della
00:28Silicon Valley
00:28che tutto ha un tratto e tutti insieme dicono dobbiamo frenare, dobbiamo rallentare.
00:34La preoccupazione che legge la borsa è che ci siano anche delle difficoltà, degli scenari completitivi che si stanno complicando
00:42e questo vorrebbe dire una riduzione dei flussi di investimenti trilionari nell'infrastruttura per l'intelligenza artificiale
00:49metterebbe in discussione quelli che alcuni considerano invece un boom secolare appena iniziato dell'intelligenza artificiale.
00:56Perché oggi questo allarme? Quali sono i veri pericoli reali e anche quello che potrebbe accadere da qui in avanti?
01:04Ne parliamo con gli esperti, Lorenzo Maternini è in collegamento con noi, lo saluto e lo ringrazio, è il CEO
01:11di Perspective AI, bentornato su Classi NBC.
01:14Grazie, buongiorno a tutti.
01:15Grazie, buongiorno a tutti.
01:45Che non gli erano stati ordinati dimostra che c'è un rischio concreto, addirittura dice Antropic
01:516-12 mesi questi sciami potrebbero mettere in crisi l'intera internet, ma è così?
01:59È un'altra ottima narrativa di marketing a mio modo di vedere e dovete tenere presente che i costi che
02:08stanno sostenendo queste big tech si dividono in due grandi categorie.
02:11Dei costi di inferenza, cioè i costi di gestione per far girare i modelli che sono non del tutto sostenibili
02:17ma quasi e dei costi che sono ancora molto insostenibili, cioè dei costi di capitalizzazione, dei capex, su cui verte
02:25il grosso dell'indebitamento probabilmente non sostenibile.
02:28Probabilmente si sta rendendo conto che con l'entrata in borsa potrebbe essere un grande rischio esternare e mettere in
02:34maniera trasparente questo indebitamento che riguardano il training dei nuovi modelli.
02:39Perché lì il vero problema. Il vero problema non è tanto la gestione degli attuali, il vero problema è i
02:46nuovi modelli. Quanto costa? Addirittura a Modei, il Cio di Antropic, ha dichiarato che potrebbero aspettarsi 100 miliardi per il
02:54costo di nuovi modelli nei prossimi anni.
02:57Questo significa che probabilmente è necessario rallentare. Ecco perché improvvisamente sono tutti d'accordo su un unico punto. Dobbiamo rallentare.
03:05Certo che vestire questa cosa, che è una debolezza strutturale, finanziaria delle aziende, vestirla come un rischio per l'umanità,
03:15dobbiamo salvare l'umanità, è facile da vendere al mercato.
03:19Ecco la strategia, secondo me, narrativa di marketing.
03:22Ecco, Maternini, intanto però il Presidente Trump ha già detto chiaramente, l'aveva detto anche il segretario Tesoro Bessent la
03:29scorsa settimana,
03:30qui non si può frenare perché nessuno rallenterebbe quanto noi e quindi la Cina andrebbe avanti, addirittura la Nord Corea,
03:37dice il governo americano, andrebbe avanti,
03:38mentre in corso la corsa al dominio dell'AI è una corsa per il potere, il dominio del futuro. È
03:44così.
03:45E poi ci sono i modelli open, cioè quelli che non sono i modelli di frontiera, ma sono quelli che
03:50vengono sviluppati anche su basi diverse,
03:54che a loro volta probabilmente non si fermerebbero.
03:57Assolutamente, è così. I modelli open è il vero grande competitor di questi modelli chiusi americani.
04:03La Cina, non a caso, ha scelto una strategia sui modelli aperti, perché i modelli aperti permettono di utilizzare le
04:10stesse caratteristiche
04:11e di avere anche i dati all'interno dei propri server.
04:14Certo, poi i modelli aperti, realmente aperti, oggi non ci sono, ma è vero che queste grandi big tech,
04:20che hanno un sistema di dati e che gira sul loro cloud, si trovano improvvisamente con le spalle al muro.
04:25Da una parte la competizione cinese che ha capito che deve essere una competizione su dei modelli facilmente accessibili a
04:31basso costo,
04:32ma comunque sufficientemente performanti per il mercato, e dall'altra parte dei costi di capitalizzazione difficili da sostenere.
04:38Quindi rallentiamo, ma il Presidente Trump giustamente dice che non si può rallentare.
04:43Noi siamo in una corsa geopolitica globale e non possiamo permetterci di avere le nostre aziende dietro alle aziende cinesi.
04:49Sono in molti a condividere quello che ci dice Maternini, cioè è una questione più di marketing,
04:54più di difficoltà a sostenere i livelli di investimento da parte degli hyperscaler,
04:58in particolare dei laboratori di frontiera OpenAI e Antropic in questo momento,
05:03ma dietro c'è un problema che viene percepito anche come reale,
05:08della pericolosità di una tecnologia che tanti confrontano a quella del nucleare.
05:12Quando il nucleare venne sviluppato, immediatamente furono i governi, gli stati,
05:17a stabilire anche con trattati internazionali quale sarebbe stato lo sviluppo di questa tecnologia
05:22per metterla sotto controllo.
05:24Ne parliamo con il Professor Oreste Policino, che insegna diritto dell'EIAI alla Università Bocconi.
05:30Che ringrazio, Professor, bentornato.
05:33Grazie davvero e buongiorno.
05:35Allora, Professor Policino, intanto sono loro che propongono come regolare l'intelligenza artificiale.
05:41Amodei dice che ci sono tre livelli.
05:43Uno sono gli embedded evaluator, cioè sostanzialmente degli auditor, degli esterni,
05:47che entrerebbero in azienda con gli stessi poteri dei dipendenti
05:50per valutare se le procedure, i processi e le garanzie di sicurezza vengono rispettati.
05:55E poi, dice, un accordo a livello nazionale con il governo americano
05:59per un body, un corpo regolamentare
06:01e un accordo che riconoscono ancora più difficile con gli altri partner internazionali,
06:06le altre potenze, la Cina in particolare.
06:09Ma è così? Possono le aziende decidere loro come autoregolarsi?
06:13Come la vede, Professore?
06:15Ma, guardi, lei ha fatto emergere un punto essenziale,
06:20cioè il punto che oggi ha chiede di rallentare la corsa
06:24non sono i regolatori europei, no?
06:27Che sono stacciati per iperregolamentazione,
06:30ma alcuni dei protagonisti stessi della frontiera tecnologica.
06:34Allora, qual è il problema qui?
06:37Il problema qui non è tanto chi decide di schiacciare l'acceleratore
06:43e chi decide invece di alzare e di schiacciare il freno,
06:46ma chi controlla quando questa accelerazione o questa frenata
06:53sia legata ad elementi effettivamente sistemici, di rischio sistemico,
06:59perché questo è il concetto, il rischio sistemico che è un concetto europeo
07:03che gli americani non conoscono.
07:05Quello che se l'ha detto Materniti è verissimo,
07:07cioè il tema legato, come dire, ad altri interessi
07:11è più facile in qualche modo da essere mascherato
07:15come una narrativa efficace se non abbiamo dei criteri guida.
07:18Quindi io sono stato il primo a criticare l'ipertrofia digitale europea
07:23e il concetto, come dire, di prevenire sempre meglio che curare.
07:28Però adesso siamo alla resa dei conti.
07:31Cioè, se questa cosa capitasse in Europa,
07:34allora avremmo non una sorta di self-regulation dell'accelerato, della frenata,
07:41ma avremmo un concetto, per quanto ambiguo, di rischio sistemico
07:44in cui ci dite, bene, valutazione del rischio, incidente reporting,
07:49cyber security, testing, quali sono le evidenze
07:52rispetto a queste evidenze decidiamo di rallentare o meno.
07:55Altrimenti la geometria variabile diventa esclusivamente un pretesto
07:59a volte per di fatto magari far coincidere rallentamenti
08:03e poi ipotizziamo quotazioni, no?
08:05Ecco, professor Policino, il mercato ci sta dicendo
08:08attenzione perché rischiamo di entrare in un altro ciclo
08:11dello sviluppo dell'intelligenza artificiale.
08:13In un altro momento, dopo la grande euforia
08:17di questi ultimi quattro anni e quotazioni senza limiti,
08:20adesso attenzione perché in trasparenza leggono quello che ci diceva anche Maternini,
08:25come se queste società non avessero più le risorse
08:28per sostenere questi ritmi di indebitamento e di investimento sull'infrastruttura.
08:33In che fase stiamo entrando in concreto e che cosa si aspetta lei da adesso in avanti?
08:39Allora, io mi aspetto una fase in cui ci sarà un liberi tutti abbastanza anarchico,
08:45nel senso che abbiamo una situazione europea di crisi esistenziale,
08:49in cui tutto quello che era stato fatto è stato messo in discussione.
08:53Anche le cose buone, mi faccia dire, no?
08:56Come questi concetti di rischio sistemico e di dimensione collettiva del danno, no?
09:01Questo è stato messo in discussione.
09:03È ovvio che c'è una race to EA alla regolamentazione delle AI che è senza esclusione di colpi
09:10e la proposta di Amodei, che ha tre livelli, no?
09:14Controllo indipendente dentro i laboratori, coordinamento tra imprese e democrazie
09:18e coordinamento persino però con stati autoritari,
09:22e allora pone qualche problema.
09:25Perché a questo punto chi detta le regole rispetto ai livelli di guardrail, di salvaguardia?
09:32Li detta di fatto non una corregolamentazione pubblico-privata in cui io credo molto,
09:38lavorando in Commissione Europea, sia per esempio a proposito del codice contro la disinformazione,
09:43c'erano le grandi piattaforme, la Commissione Europea e la società civile.
09:46Allora io credo molto nella collaborazione patnici-pubblico-privata,
09:49ma non credo assolutamente invece in queste fughe in avanti, francamente,
09:53che nonostante io sia, come dire, uno stimatore di Amodei per quello che ha fatto
09:58e per il coraggio che ha avuto a volte nei confronti dell'amministrazione Trump,
10:03però qui vede che a secondo del contesto anche l'orientamento un po' cambia.
10:08E allora noi non possiamo permetterci questa volatilità,
10:11perché poi si rispecchia sui mercati, sull'incertezza del diritto
10:15e sulla, di fatto, pericolosità di queste ondate.
10:19Assolutamente. Ecco, Maternini e anche Policini, in una battuta,
10:23beh, forse non si arriverà a questa previsione che fa il responsabile
10:27del cosiddetto allineamento di antropica.
10:29Allineamento significa che i sistemi devono essere allineati agli obiettivi,
10:34ai valori, al beneficio dell'umanità.
10:36E che dice, si chiama Evan Abinger, e Evan Abinger in un post venerdì ha detto
10:40attenzione perché questi sistemi producono un rischio di oltre il 10%
10:45di far fuori l'umanità nei prossimi anni.
10:48Ora, è sembrata quasi una provocazione, ma al tempo stesso abbiamo un elenco
10:53pubblicato venerdì stesso da Antropic degli usi di casi concreti
10:58in cui la tecnologia di Cloud, Cloudwork, gli agenti di Antropic
11:02sono stati utilizzati dall'Iran per i suoi sistemi d'arma, dagli UTI,
11:06dalla Cina e dalla Russia per la disinformazione.
11:08Insomma, l'AI sta uscendo dal controllo e quindi comunque è una priorità oggi
11:13fissare delle regole. Maternini, come la vede?
11:17Sì, anche se, scusate, permettetemi una battuta, le probabilità che i miei figli
11:21si facciano male col ferro da stiro sono superiori al 10% e che può essere anche mortale.
11:26Quindi è ovvio che in qualsiasi tipo di tecnologia c'è una probabilità
11:29che questa possa essere mortale per l'uomo, però essere realisti quando si vanno
11:34a vedere i casi che Amodei ha citato è ovvio che sono tutti i casi
11:38in cui è permesso l'utilizzo e come è chiaro che c'è stato quell'utilizzo
11:43è chiaro che si può bloccare quel tipo di utilizzo.
11:45Quindi, ripeto, bella questa narrativa apocalittica, ma andiamo dietro.
11:50Il vero next step sarà per loro dialogare con la Cina.
11:53È lì che vogliono arrivare e vogliono aprire un dialogo come già Nvidia sta facendo
11:57perché è necessario riuscire a parlare con la Cina e creare un mercato che è globale
12:01e questa guerra geopolitica ovviamente è un problema per tutti.
12:05Xi Jinping sarà a Washington tra pochi giorni e sarà sul tavolo sicuramente questa cosa.
12:10Professor Policino, come la vede lei?
12:13Guardi, io la vedo in questo modo.
12:16Secondo me è importante riuscire ad essere coerenti con delle affermazioni
12:21che si sono fatte quando c'è stato il momento fondativo.
12:24Cerco di essere più chiaro.
12:25Si ricorderà che Antropic ha parlato di una sorta di manifesto costituzionale.
12:32Le parole vanno prese con cura, le parole contano.
12:35Io concordo anche sulla linea opportunistica e di mercato di antropiche
12:42però non mi si può venire a dire che qui c'è una dimensione costituzionale in corso
12:48perché si stanno superando alcuni limiti a cominciare dalla proporzionalità.
12:52A quel punto è chiaramente semplifico, brutalizzo e provoco.
12:57Meglio forse chi in qualche modo non fa dei preamboli di carattere costituzionale
13:02ma dice questa cosa io la faccio per il mercato
13:05e cerco di essere il più performante possibile
13:06altrimenti l'effetto è quello di un'aspettativa
13:10che poi non si realizza in effetti in un risultato.
13:13Ecco, semplicemente la narrativa della costituzionalizzazione delle leali
13:16da parte di antropiche che io ho ammirato all'inizio
13:18dal punto di vista assiologico valoriale
13:20oggi non sto giudicando questo tipo di azione
13:23sto dicendo che chiaramente come tutti hanno un'idea
13:27quella del profitto massimo
13:29che è assolutamente ragionevole
13:31ai sensi della libertà di iniziativa economica
13:33ma non mi si parli di una dimensione etica
13:36quando sembra non esserci.
13:38Assolutamente, insomma
13:39Amodei era uscito da OpenAI
13:41proprio in nome di una AI più sicura
13:46e anche diciamo più garantita
13:48ora ovviamente alza questa palla
13:50su cui anche se Moltman si muove
13:52staremo a vedere come i mercati reagiranno
13:55e leggeranno anche la fase in cui stiamo entrando adesso
13:57dell'intelligenza artificiale
13:59di certo la costituzione non fu scritta da aziende private
14:02da signori che tra di loro
14:03addirittura proponendo il peer-to-peer
14:05quando si tratta di controllarsi a vicenda
14:07sembrano anche interessati a costruire un cartello
14:09quindi che vada anche oltre l'antitrust
14:11pur avendo già una concentrazione enorme di potere in mano
14:15io ringrazio ancora Lorenzo Materniti
14:17che è il CEO di Perspective AI
14:19grazie e a presto anche qui su Classi NBC
14:22buon lavoro anche al professor Oreste Policino
14:24e grazie di questa lettura
14:26di un tema che è il tema di oggi
14:28sul quale torneremo presto
14:30ma torniamo anche agli aggiornamenti dai mercati su questo
14:32grazie a tutti
Commenti