- 23 ore fa
Categoria
📺
TVTrascrizione
00:00E' uno strappo clamoroso per il mondo dell'intelligenza artificiale, ci riguarda direttamente quello
00:10che è accaduto tra il governo degli Stati Uniti e Antropic venerdì notte, mancavano
00:14pochi minuti alla mezzanotte quando la società di Dario Amodei ha ricevuto dal Dipartimento
00:19del Commercio un ordine di divieto all'export, ovvero di accesso per chiunque non fosse un
00:26cittadino americano ai suoi due modelli più avanzati, da una parte Mythos presentato all'inizio
00:32di aprile e dall'altra invece Cloud Fable 5, cioè la versione commerciale, la versione
00:37pubblica a cui erano stati inseriti anche dei parametri di sicurezza per evitare che avesse
00:43la potenza dirompente dal punto di vista della cybersicurezza ma anche che non rispondesse
00:48a domande pericolose su biologia e chimica.
00:51In meno di 90 minuti Antropic ha dovuto disattivare questi che sono i due modelli più potenti
00:58e che stavano iniziando a diffondersi, almeno Fable 5 anche qui in Europa, sostanzialmente
01:04bloccandone l'accesso per tutti.
01:08La motivazione di natura tecnica perché alcuni clienti, tra cui Amazon, avrebbero segnalato
01:13che dentro Fable 5 c'era una vulnerabilità che avrebbe consentito di accedere a delle informazioni
01:19invece che andavano protette.
01:22Ma che cosa significa per noi, per l'Europa, che in meno di un'ora e mezza ha visto precluso
01:26l'accesso a una tecnologia fondamentale come gli ultimi modelli più potenti di intelligenza
01:32artificiale?
01:33Ne parliamo con il professor Oreste Pollicino, ben arrivato professore, grazie di essere
01:38con noi, buongiorno.
01:39Grazie, buongiorno.
01:40Il professor Oreste Pollicino che è docente di diritto costituzionale e regolamentazione
01:44dell'intelligenza artificiale all'Università Bucconi, peraltro anche presidente di class editori.
01:49Beh, innanzitutto professore, partiamo dalla motivazione con cui la Casa Bianca, che sappiamo
01:54è da tempo in polemica, se non addirittura in una posizione di scontro con Antropic, ha
01:59giustificato questa motivazione parlando di sicurezza nazionale, dicendo là dentro c'è
02:04una vulnerabilità che è un pericolo, un jailbreak si chiama tecnicamente, ovvero
02:10una possibilità di aggirare le protezioni di questo sistema.
02:15È soltanto una scusa o c'è qualcosa di vero?
02:17Lei come vede lo scontro che si è aperto?
02:21Grazie.
02:22Secondo me il primo tema è quello definitorio.
02:26Il rischio è qui che il concetto di sicurezza nazionale diventi un concetto, si dice, affisarmonica.
02:34C'è una clausola di chiusura o in qualche modo un passepartout capace di assorbire ogni
02:41altra garanzia. Questo mi spaventa dal punto di vista della separazione dei poteri, perché
02:47ovviamente la sicurezza nazionale è certamente una ragione pubblica primaria. Nessun ordinamento
02:55costituzionale ovviamente può ignorare che modelli capaci di individuare vulnerabilità
03:01o assistere operazioni complesse possono porre dei rischi sistemici. Tuttavia, e questo
03:08è il punto più importante per me dalla mia prospettiva di diritto costituzionale, proprio
03:13perché il rischio è elevato, il potere che lo governa deve essere più e non meno vincolato
03:23a forma, motivazione, proporzionalità e controllabilità. In altre parole, quando lei parlava di quei
03:2990 minuti e proprio quel lasso di tempo così ridotto fa pensare che tutte quelle questioni
03:39legate al nostro patrimonio costituzionale europeo, per esempio il due process, il fatto
03:45che ci sia un equo contraddittorio tra le parti, non venga applicato. Se non viene applicato
03:53la sicurezza diventa un passepartout. Ed è questa una delle più grandi problematiche
03:58che poi rischia di contagiare anche il continente europeo.
04:02Ecco, professor Policino, qui sta proprio la differenza di approccio di impostazione alla
04:07regolazione delle AI tra gli Stati Uniti e l'Europa. Ricordiamo la polemica che fece il
04:13vicepresidente Vance a Monaco ancora due anni fa contro le AI Act dicendo voi sbagliate
04:18tutto, non è quello l'impostazione. Oggi invece dimostrano che con la modalità un po'
04:24aggressiva degli Stati Uniti loro fanno le cose senza doverle giustificare in qualche
04:29modo. Peraltro il principio che prima deve arrivare l'innovazione e poi la regolamentazione
04:34è quello che ha guidato sinora gli Stati Uniti. Addirittura Trump ha rinviato in un primo
04:38tempo, hanno acquato in un secondo, una nuova disposizione che fondamentalmente impone
04:44agli Open AI, gli Antropic, i generatori di nuovi modelli, di presentare questi modelli
04:49alle autorità americane prima di portarli sul mercato. Si allarga ulteriormente, come
04:56dire, la differenza di impostazione sulle regole delle AI che invece tutti usiamo allo stesso
05:01modo? E questo è un punto fondamentale. C'è un'alchimetria sempre maggiore non solo
05:09dal punto di vista, diciamo, regolatorio, se si può parlare di regolazione negli Stati
05:13Uniti, ma dal punto di vista dell'approccio e dell'attitudine a utilizzare o non utilizzare
05:20o a ponderare l'utilizzo di alcuni sistemi. Cioè, quello che voglio dire è questo. Si parla
05:26tanto di sovranità digitale europea in questo momento, magari eccedendo nei toni. Però
05:31il tema è delicato perché immaginiamoci cosa che potrebbe essere già successa, che
05:39un'amministrazione, una banca, un centro di ricerca europeo possa essere escluso da un
05:46modello critico per effetto di una decisione assunta in un'altra giurisdizione. Allora qual
05:52è il punto qui? Che la dipendenza tecnologica diventa dipendenza costituzionale. Non è più
05:58soltanto un problema industriale, è un problema di autonomia regolatoria, di continuità istituzionale
06:05e di sicurezza economica e parità di accesso alle infrastrutture cognitive. Cioè, quello
06:10che voglio dire è attenzione a creare anche in Europa non soltanto la dimensione regolatoria,
06:17ma quello di cui è sempre detto il substrato di infrastruttura tale da poter un po' attenuare
06:23la dipendenza. Altrimenti, pur non condividendo evidentemente quello che è l'orientamento,
06:29l'approccio, la base, la mancanza di limiti, sono, come diceva lei all'inizio, degli effetti
06:35che comunque avranno un impatto importantissimo in Europa. Quindi questo è l'altro problema
06:41fondamentale. Tra l'altro, come nota a piedipagine, diciamo che Antropic non è che fosse stato
06:47inerte, aveva predisposto una propria architettura di sicurezza, modelli differenziati, accesso
06:54selettivo e aveva anche detto una cosa interessante. Attenzione, non esiste al momento un sistema
07:02che possa essere del tutto immune. Cioè, il jailbreak, che sono questi sistemi in qualche
07:09modo in grado di avere una capacità invasiva, non può essere pensato in una caranzia binaria,
07:16sicuro o non sicuro, ma come una gestione permanente del rischio, graduazione del rischio.
07:22Questo mi sembra che non sia ancora stato compreso.
07:25Dice che anche OpenAI, con il suo modello 5.5, presenta le stesse vulnerabilità e spiega
07:31come di fatto sia oggi impossibile costruire dei sistemi che non abbiano delle fragilità,
07:38delle vulnerabilità come quelle che sono state definite, alcune più ristrette, altre
07:42a livello universale. Peraltro il segretario alla guerra americano Exet ha twittato, ha fatto
07:48un x dicendo guardate avete visto che avevamo ragione quando abbiamo definito Antropic un rischio
07:54per la supply chain dell'economia americana. Sappiamo che l'ha esclusa dal lavoro con il
08:00Pentagono per l'indisponibilità di Dario Amodei a dare mano libera al Ministero della guerra
08:06americano sull'utilizzo della loro tecnologia. Qui in Europa però, professore, c'è stata
08:11una sorta di reazione, perché per molti questa è una sveglia, come accennava anche lei, sulla
08:17nostra dipendenza assoluta da sistemi tecnologici che arrivano dagli Stati Uniti e che durante
08:22la notte, in un'ora e mezza, possono essere chiusi. Dal Ministro degli Interni francese
08:28che dice che qui si tratta di investire sulla nostra tecnologia, all'ex Ministro della difesa
08:32in Inghilterra, che diceva che le nostre strutture lo stavano testando, i nostri ospedali
08:37ci stavano lavorando e dalla sera alla mattina è scomparsa questa tecnologia. Potrà seguire
08:41però da queste parole qualcosa di più fattuale, perché comunque se guardiamo le dimensioni
08:47degli investimenti il problema non è tanto la regolazione, quanto il capitale oggi per
08:51il ritardo sull'AI. Questo è un punto fondamentale e finalmente sgombia il campo, ho una narrativa
08:58francamente abbastanza, come dire, misleading, cioè a una disinformazione. La disinformazione
09:04è stata fino adesso che, diciamo, soltanto l'ipertrofia regolatoria europea è la causa
09:10della nostra retratezza. No, la retratezza chiaramente è causa di tanti ingredienti a cominciare
09:16dalla mancanza di capitale, che vuol dire mancanza di fiducia, e mancanza di una visione che in
09:22qualche modo viene proclamata ma non effettuata. Ora, francamente, non è la prima volta che noi
09:27abbiamo dei segnali agli Stati Uniti che ci dovrebbero indurre a fare un cambio di marcia.
09:33Il tema è che il cambio di marcia non può essere fatto dall'oggi al domani e non può
09:37essere fatto con una nuova ennesima legge, ma deve essere fatto con una differente modulazione
09:45della sensibilità intatto delle imprese private, che devono avere molta più fiducia
09:51del potere pubblico. Come? Per esempio attraverso un meccanismo, lo dico da tanto, di corregolamentazione
09:58pubblico-privata. Non possiamo avere oggi un AI Act che in qualche modo non viene applicato
10:05perché non è capito dalle imprese. Non si tratta di self-regulation, non si tratta di
10:10delega come il modello americano fa alle imprese, ma si tratta di coideare insieme delle disposizioni
10:19che siano tecnicamente eseguibili. Quindi, a mio avviso, una partnership pubblico-privata
10:25che sta un po' per essere rilanciata in alcuni temi. Pensi alla trasparenza, la trasparenza
10:30per quanto riguarda i modelli di general purpose AI, questi codici di condotte. Ecco, questo
10:36potrebbe essere una terza via tra la hard regulation, molto rigida e francamente non comprensibile,
10:43è la surfer americano.
10:46Allora, professore, io la porto, abbiamo soltanto un minuto, dobbiamo chiudere su un terreno
10:50che non è direttamente il suo, però stiamo parlando di società come Antropic, come Open
10:54AI, che hanno già presentato la richiesta di collocamento, cioè andranno in borsa nei
10:59prossimi mesi, nell'ultima parte dell'anno. Hanno valutazioni tra i 900 miliardi e il trilione
11:05di dollari, in un contesto in cui possono essere colpite nottetempo anche da ordini esecutivi
11:10che ne cambiano il profilo anche per gli investitori. Come vede da una parte valutazioni stellari
11:16e dall'altro ancora un'incertezza che questo caso ha fatto esplodere davanti agli occhi
11:20di tutti?
11:22Guardi, in una parola, montagne russe. Montagne russe che fanno di tutto tranne dare un'iniezione
11:29di certezza, non soltanto di certezza del diritto, qui vi parlo ovviamente di certezza
11:33dal punto di vista economico, di crescita e quindi azionario. A mio avviso questo tipo
11:39di montagne russe, questo tipo di modello ondulatorio in cui nel giro di una notte
11:47possono cambiare non soltanto le basi ma anche gli effetti a lungo termine, non può che avere
11:52un effetto di grande disincentivo rispetto alla stabilità che anche dal punto di vista
11:59azionario sarebbe fondamentale.
12:02Professore Policino, grazie ancora al professor Policino dell'Università Bucconi per questa
12:07analisi a caldo di quello che sta accadendo sul fronte delle IAE dopo lo scontro su OneTropic.
12:12Buon lavoro e a presto.
12:13Grazie davvero, a presto, buona giornata.
12:16E continuiamo ancora con le ultime notizie tra qualche istante.
12:19Grazie.
Commenti