- 11 ore fa
Categoria
📺
TVTrascrizione
00:05Quella dell'AI sembrava una marcia trionfale verso il futuro, ma dall'inizio di questa settimana diventa un cammino pieno
00:12di dubbi.
00:14Le opportunità crescono, ma anche gli interrogativi sulle capacità di controllare sistemi sempre più autonomi.
00:20Ne parliamo con Franco Bernabè, presidente di TechVisory, già a Didi, Eni e Telecom Italia, manager di lungo corso e
00:27osservatore anche della trasformazione tecnologica.
00:30Buongiorno Bernabè, grazie di essere con me.
00:32Buongiorno a voi.
00:34Bernabè, OpenAI proprio in queste ore ha rivelato altri sei episodi di un'AI sfuggita in qualche modo ai controlli
00:45o alle determinazioni che ha ricevuto per i compiti assegnati.
00:48E' la conferma di un'allarme che sta arrivando da giorni.
00:52Io le chiedo se si tratta di una nuova narrazione che riguarda l'AI oppure se secondo lei ci sono
00:59dei segnali concreti che serva in qualche modo una frenata su questo settore.
01:05Ma francamente non si capiscono le regioni per le quali sono stati fatti questi annunci preoccupanti che creano sconcerto e
01:15preoccupazione da parte di una comunità molto vasta
01:18che utilizza l'intelligenza artificiale.
01:21Devo dire che sono rimasto molto sorpreso anche perché ovviamente l'intelligenza artificiale non è più pericolosa di tante altre
01:28tecnologie che sono state sviluppate negli ultimi 80 anni
01:32e che oggettivamente senza controlli senza vincoli e senza presidi sono molto pericolose.
01:40Ci sono tutte le tecnologie biologiche tra l'altro che hanno comportato un accordo internazionale 40-50 anni fa per
01:50la limitazione o per il controllo degli esperimenti.
01:53C'è l'energia atomica insomma tecnologie pericolose ce ne sono tante ma è chiaro che una tecnologia che presenta
02:01dei pericoli va regolata e controllata.
02:04Ora questo nell'intelligenza artificiale è possibile e honestamente tutta questa situazione che si è creata negli ultimi settimane
02:17è difficile da spiegare se non con motivazioni che riguardano più la strategia di marketing dei due grandi protagonisti.
02:27Credo che una delle ragioni di queste uscite così preoccupanti sia stato anche il desiderio di dire
02:37ma abbiamo creato una super tecnologia e solo noi siamo in grado di controllarla.
02:42Per cui fidatevi di noi e non ci deve essere nessun altro che in qualche modo può giocare liberamente in
02:50questo campo.
02:51Devo dire tra l'altro che per provare che la tecnologia è pericolosa hanno fatto degli esperimenti.
02:59Nel corso del mese di agosto è stato poi su tutti i giornali l'attacco a Hugging Face
03:03e tanti altri episodi di aggressione di questi chatbot che sono usciti dal confine, dal muro di contenimento e hanno
03:18attaccato internet.
03:21Devo dire che onestamente sono stati fatti degli esperimenti spericolati
03:28perché se uno fa degli esperimenti togliendo tutte le protezioni che ogni modello ha
03:34è chiaro che poi i problemi capitano.
03:37E questo è quello che è capitato sostanzialmente con la vicenda di Hugging Face.
03:43Che sia controllabile la tecnologia secondo me è abbastanza fuori di dubbio.
03:48Certo è una tecnologia molto avanzata di cui oggi non si conoscono bene completamente i meccanismi di funzionamento
03:58ma c'è tutto un filone di lavoro.
04:01Tra l'altro Antropic è uno dei pionieri di questo lavoro di comprensione del funzionamento delle reti neurali
04:09e del funzionamento dei modelli.
04:11Quindi c'è tutto un lavoro per la comprensione e per la reingegnerizzazione di questi modelli
04:21per consentire di capire il funzionamento.
04:24Quindi io devo dire che l'allarme che è stato lanciato, soprattutto l'ultimo,
04:28che è quello di Amodei che dice
04:32ma questa tecnologia è in grado di uscire, conquistare tutto internet, bloccare internet
04:43e creare miliardi di dollari di danni.
04:46Beh, francamente devo dire che intanto se una tecnologia è pericolosa
04:51secondo me i governi dovrebbero vietarne l'utilizzo.
04:56Così come è stato fatto con tutta la legislazione di tutela del consumatore dagli anni 50 in avanti.
05:03Tutti ricorveranno lo scandalo del talidomide
05:07per parlare di una tecnologia che veramente poteva creare problemi seri all'umanità
05:12perché la diffusione del talidomide senza controlli adeguati
05:17ha provocato decine di migliaia di nascite con gravissimi deficit cognitivi e fisici.
05:28Quindi il problema, diciamo, del controllo c'è.
05:35Bernabè, c'è anche da dire che c'è una lettura dietro logica dietro tutto questo.
05:40Da una parte qualcuno ipotizza che si volesse in qualche modo fermare anche i concorrenti
05:46che potevano arrivare a sviluppare tecnologie di frontiera altrettanto avanzate.
05:50dall'altra c'è un tema di investimenti e di sostenibilità degli investimenti
05:55che diventa, diciamo così, una corsa senza freni
05:58e che forse le aziende non riescono più a reggere.
06:01Lei in parte ha citato operazioni di marketing.
06:05Vede anche in queste dietro logiche un po' qualche, diciamo così, plausibilità?
06:11Ma devo dire che da parte degli americani c'è oggettivamente,
06:15soprattutto da parte dei due grandi player, Antropic e OpenAI,
06:21c'è la preoccupazione che i cinesi possano rappresentare veramente un serio pericolo.
06:28Devo dire che i modelli cinesi funzionano altrettanto bene dei modelli americani
06:33e costano una frazione dei modelli americani.
06:36Tant'è che, per esempio, il rilascio di Kimi 3 nelle ultime settimane
06:41ha comportato il fatto che molte imprese americane utilizzano Kimi,
06:46che è un modello cinese, così come Quen.
06:50Devo dire che i cinesi sono veramente molto, molto avanti,
06:54ha delle condizioni estremamente competitive
06:57e in più con tecnologie open source,
07:00perché questo, secondo me, è l'obiettivo che hanno questi signori.
07:05Cioè c'è tutto un mondo open source che si è sviluppato
07:09e che sottrae risorse al perimetro dei grandi motori linguistici
07:20e su questi modelli open source c'è oggettivamente una battaglia
07:25perché mette a rischio non solo la quotazione e il successo della quotazione,
07:34ma mette a rischio lo stesso modello di business chiuso
07:39che Antropic e OpenAI propongono al mercato.
07:44Quindi è vero, certamente, che uno dei loro obiettivi è quello di dire
07:48ma noi siamo in grado di controllare,
07:52chissà se c'è qualcun altro che è in grado di controllare,
07:56quindi fermiamo tutto.
07:57Solo che il problema Bernabè da giovenale in poi
08:01è quis custodiet custodes,
08:04ovvero chi controllerà poi i controllori
08:07e lei ha scritto, usando un altro paragone,
08:11chi potrebbe mettere in commercio una macchina
08:13di cui dice non ho controllato se i freni funzionano.
08:16Esatto.
08:18Diventa un tema di mercato.
08:19Però io le chiederei anche di distinguere
08:22tra due eventualità importanti,
08:26tra due elementi importanti dell'intelligenza artificiale.
08:28Si sta parlando di modelli di frontiera,
08:30di uno sviluppo continuo nella ricerca,
08:33dall'altra però si parla di aziende
08:35che devono in qualche modo adottare i modelli
08:38già esistenti di intelligenza artificiale
08:41che devono in qualche modo garantire competitività
08:45e se li adottano i concorrenti
08:46tutti li dobbiamo adottare
08:47per riuscire a rimanere sullo stesso mercato.
08:50Questo è importante sia perché riguarda
08:53un altro pezzo degli investimenti,
08:55cioè quelli nell'infrastruttura,
08:57nell'adozione dei sistemi,
08:59dall'altra però è importante anche perché riguarda
09:01un tema culturale.
09:03Lei ha scritto che non basta aggiungere un chatbot
09:06davanti ai propri sistemi aziendali
09:09per dire di aver adottato l'intelligenza artificiale.
09:13Quindi da una parte bisogna continuare a investire
09:16nell'infrastruttura, dall'altra però bisogna comprenderla
09:18e saperla fare proprio nei processi.
09:21È così?
09:22A te, quello che lei dice è correttissimo,
09:25tant'è che nelle aziende
09:27l'adozione dell'intelligenza artificiale
09:29procede con grande rilento
09:31perché le aziende hanno bisogno di capire
09:33dove si verificano effettivamente i guadagni di produttività.
09:37E i settori nei quali si verificano i guadagni di produttività
09:41sono settori abbastanza ben precisati
09:45e dove oggettivamente i modelli di frontiera
09:48non è che aggiungano moltissimo.
09:51C'è talmente tanta tecnologia open source
09:53che per i processi che sono integrabili
09:57con l'intelligenza artificiale
09:58diciamo non è che servono i chip più avanzati
10:01e più performanti,
10:03possono servire chip di generazione precedenti.
10:06Il problema è che vanno revisionati
10:10tutti i processi aziendali
10:11all'interno dei quali vanno integrati
10:13i modelli di intelligenza artificiale.
10:16Ma un po' come era successo
10:18con l'adozione delle tecnologie
10:24diciamo del personal computer
10:26negli anni Ottanta.
10:28Cioè c'è il famoso paradosso di Solo
10:31che è un grande economista
10:32che diceva ma io vedo computer dappertutto
10:36forse nelle statistiche della produttività.
10:39E questo venne risolto solamente una decina,
10:43quindicina d'anni dopo
10:44con un libro famosissimo
10:47che molti ricorderanno
10:49che era Reengineering the Corporation
10:52dove gli autori spiegavano
10:55che per utilizzare efficacemente il computer
10:58bisogna completamente rivedere i processi aziendali.
11:02Così è anche vero per l'intelligenza artificiale.
11:06Non è che basta mettere un chatbot
11:09per fare la sintesi dei documenti
11:11o per gestire le email
11:13per dire abbiamo avuto chissà che grandi progressi
11:17di competitività o di efficienza.
11:21Va fatto un'analisi molto approfondita
11:24all'interno dei processi aziendali
11:26e tra l'altro per questa analisi
11:28serve un presidio su dati che sono molto critici
11:32e quindi che non possono essere rilasciati
11:36ai modelli che si allenano con i dati
11:39che a quel punto sono di proprietà dell'azienda.
11:41Quindi diciamo c'è una grande attenzione
11:45da parte dell'azienda
11:46per non commettere errori
11:47che potrebbero essere fatali.
11:49Ma direi che oggi il problema
11:52non è neanche forse il problema più urgente
11:54non è neanche forse quello.
11:56Il problema più urgente
11:57e tra l'altro un problema
11:58che riguarda il made in Italy
12:01è il fatto che il modello
12:04che porta all'analisi
12:08di singoli settori industriali
12:11che per 25 anni è stato il modello
12:14della search engine optimization
12:19cioè il modello attraverso il quale
12:22con Google si andava a vedere
12:24chi operava in certi settori
12:26quali erano le caratteristiche
12:28quindi ti dava un elenco di risorse
12:31nelle quali tu dovevi andare ad approfondire.
12:34Oggi un chatbot ti dà il risultato finale
12:38e rende invisibili tutta una serie di imprese
12:44che invece fino a ieri
12:46nel modello tradizionale di ricerca
12:48erano visibili su internet.
12:51Ora noi come rivista di intelligenza artificiale
12:57rivista AI
12:59abbiamo prodotto un paper negli ultimi giorni
13:04che si intitola la fabbrica invisibile
13:08cioè come in un mondo in cui
13:11il chatbot dà già la risposta finale
13:14alla domanda
13:15come si può evitare che tutta una serie di operatori
13:19diventino invisibili alla ricerca
13:21e quindi che una parte del made in Italy
13:24che è fatto di rapporti, di competenze
13:28di visibilità costruita in modo tradizionale
13:31non scompaia. Abbiamo fatto un primo osservatorio
13:36dal quale emerge oggettivamente
13:38che i problemi ci sono
13:40cioè che effettivamente rischia di sparire
13:44una parte importante del made in Italy.
13:46Quindi direi affrontiamo tutti i problemi
13:49con ordine e per priorità.
13:51Oggi la priorità è quella di invitare
13:54che l'intelligenza artificiale
13:55renda invisibile le nostre imprese.
13:57Bernabè c'è anche un tema
13:59un tema importante. Io voglio ricordare
14:02che oggi all'Università Bocconi di Milano
14:04a partire dalle 15.30
14:05in occasione dei 40 anni di classe editori
14:10verrà lanciato all'interno di un convegno
14:13un nuovo manifesto per la classe dirigente nazionale
14:17e beh si pone anche un tema di classe dirigente
14:21non soltanto nella pubblica amministrazione
14:23ma anche per quanto riguarda le imprese private
14:26soprattutto di fronte alla sfida e alle sfide
14:28che quanto ci ha raccontato
14:30il contesto che ci ha raccontato pone Bernabè.
14:33Lei come vede le prossime linee di sviluppo
14:37della nostra classe dirigente?
14:40Ma guardi siamo in un momento molto complicato
14:42perché c'è una transizione
14:44c'è una transizione demografica enorme
14:49perché moltissimi dei fondatori
14:51delle imprese medie, medio-grandi
14:53delle imprese di successo italiane
14:55sono nate tra gli anni fine anni 40, anni 50
15:00e metà degli anni 60.
15:03Questa è una grande fascia di imprenditori
15:06sono collocati in quella fascia d'età
15:09e oggi stanno lasciando ai figli
15:13oppure stanno vendendo le loro aziende.
15:16Quindi è un momento in cui
15:18questa transizione demografica
15:20e di direzione delle imprese
15:23comporta dei rischi molto importanti
15:27di perdita di un patrimonio imprenditoriale
15:29di competenze e di capacità
15:33veramente fondamentali.
15:34Quindi va posta grande attenzione
15:37a questo passaggio
15:38vanno difese le nostre aziende nel passaggio
15:41e va evitato che assieme ai fondatori
15:44vada dispersa la conoscenza e la capacità
15:48delle imprese italiane di affermarsi nel mondo.
15:52Devo dire che da questo punto di vista
15:53poi si sommano tanti altri problemi
15:57perché diciamo
15:58uno dei grandi settori industriali
16:01che ha costruito l'industrializzazione europea
16:05del dopoguerra
16:06e cioè l'automotive
16:07con tutta la problematica dell'indotto
16:10si trova ad affrontare oggi
16:13una sfida mortale
16:14che è quella della Cina.
16:15La Cina
16:16in un mercato mondiale
16:19che è di 90 milioni di pezzi
16:21la Cina ha 50 milioni
16:23di capacità produttiva
16:26ne vende 20 milioni al mercato interno
16:2910-15 milioni
16:30li esporta
16:31quindi ha una capacità di pressione
16:34sul resto del mondo
16:36veramente straordinaria
16:37con tra l'altro
16:39dei progressi tecnologici
16:40che sono incredibili
16:42e quindi diciamo che
16:44noi siamo in questo momento
16:46fortemente sotto pressione
16:48sotto pressione demografica
16:50sotto pressione di transizione industriale
16:52e quindi è un momento delicatissimo
16:55per il nostro sistema economico e industriale
16:58sul quale iniziative di questo genere
17:01sono veramente benvenute
17:03per dare il senso dell'urgenza
17:07e della necessità di affrontare questo problema.
17:10E allora grazie Franco Bernabè
17:12presidente di TechVisory
17:13grazie di essere stato con noi.
17:15Grazie a tutti.
Commenti