- 6 mesi fa
- #pupia
https://www.pupia.tv - Roma - Tutela diritto autore - Audizione - Giorgio Glaviano, rappresentanti ADID, rappresentanti RAAI, rappresentanti ANAD, rappresentanti AIDAC, rappresentanti UNITA, rappresentanti ANICA, Alberto Gambino, Marco Scialdone - Ris. 7-00290
Alle ore 11.30 la Commissione Cultura, nell'ambito della discussione della risoluzione sulla tutela del diritto d’autore con particolare riferimento all’uso delle nuove tecnologie, ha svolto le seguenti audizioni:
- Giorgio Glaviano, sceneggiatore e presidente di Writers Guild Italia - sindacato degli sceneggiatori italiani;
- rappresentanti dell’Associazione Direttori Italiani di Doppiaggio – ADID;
- rappresentanti dell’Associazione Registro Attori Attrici italiani– RAAI;
- rappresentanti dell’Associazione nazionale attori doppiatori – ANAD;
- rappresentanti dell’Associazione Italiana Dialoghisti Adattatori Cinetelevisivi AIDAC;
- rappresentanti dell’Unione Nazionale Interpreti Teatro e Audiovisivo UNITA;
- rappresentanti dell’Associazione Nazionale Industrie Cinematografiche Audiovisive e Digitali ANICA;
- Alberto Gambino, professore ordinario di diritto privato presso l'Università Europea di Roma;
- Marco Scialdone, professore a contratto di diritto e gestione dei contenuti e servizi digitali presso l'Università Europea di Roma.(22.04.25)
#pupia
Alle ore 11.30 la Commissione Cultura, nell'ambito della discussione della risoluzione sulla tutela del diritto d’autore con particolare riferimento all’uso delle nuove tecnologie, ha svolto le seguenti audizioni:
- Giorgio Glaviano, sceneggiatore e presidente di Writers Guild Italia - sindacato degli sceneggiatori italiani;
- rappresentanti dell’Associazione Direttori Italiani di Doppiaggio – ADID;
- rappresentanti dell’Associazione Registro Attori Attrici italiani– RAAI;
- rappresentanti dell’Associazione nazionale attori doppiatori – ANAD;
- rappresentanti dell’Associazione Italiana Dialoghisti Adattatori Cinetelevisivi AIDAC;
- rappresentanti dell’Unione Nazionale Interpreti Teatro e Audiovisivo UNITA;
- rappresentanti dell’Associazione Nazionale Industrie Cinematografiche Audiovisive e Digitali ANICA;
- Alberto Gambino, professore ordinario di diritto privato presso l'Università Europea di Roma;
- Marco Scialdone, professore a contratto di diritto e gestione dei contenuti e servizi digitali presso l'Università Europea di Roma.(22.04.25)
#pupia
Categoria
🗞
NovitàTrascrizione
00:00:00Buongiorno, la Commissione avvia oggi un ciclo di audizioni informali nell'ambito della discussione
00:00:08della risoluzione numero 7 00290 Mollicone sulla tutela del diritto d'autore con particolare
00:00:13riferimento all'uso delle nuove tecnologie. Iniziamo con l'intervento di Giorgio Glaviano,
00:00:19sceneggiatore e presidente di Writers Guild Italia, sindacato degli sceneggiatori italiani,
00:00:23che ringrazio per aver accolto l'invito della Commissione. Chiedo l'assenso per la trasmissione
00:00:28dell'audizione sulla web tv della Camera dei Deputati, accedo la parola a Giorgio Glaviano
00:00:32per lo svolgimento dell'intervento che dovrà essere contenuto in 5 minuti.
00:00:36Intanto vi volevo ringraziare per averci invitato, io rappresento il sindacato degli sceneggiatori
00:00:52italiani, rappresento il sindacato degli sceneggiatori italiani e siamo molto preoccupati per l'utilizzo
00:01:00in questo momento sconsiderato dell'intelligenza artificiale, quindi vorrei leggere la nostra
00:01:04memoria. Posto che le opere degli sceneggiatori italiani sono un patrimonio culturale del nostro
00:01:09Paese, che non possiamo e non dobbiamo cedere in toto alle compagnie di intelligenza artificiale
00:01:13straniere o agli streamers mondiali senza un'attenta regolamentazione. È premesso che la complessità
00:01:19della materia e la velocità con cui si evolvono le tecnologie legate all'utilizzo dell'intelligenza
00:01:22artificiale rendono difficile prevedere norme definitive, vi sottoponiamo le nostre linee
00:01:27guida generali, la nostra proposta. L'intelligenza artificiale non può essere considerata un autore
00:01:32in quanto non possiede i requisiti di creazione intellettuale, novità e originalità. È pertanto
00:01:36necessario prevedere che la cosiddetta catena dei diritti sia riferibile esclusivamente a diritti
00:01:41d'autore e pertanto ad opere generate esclusivamente da autori umani. Le opere generate dall'IA
00:01:46non possono essere oggetto di diritto d'autore e quindi non possono beneficiare dal tax credit
00:01:51né di altri incentivi di legge. Parlo delle opere generate interamente dall'intelligenza
00:01:55artificiale. Deve essere dimostrato l'apporto di autori umani tramite documentazione fiscale
00:02:00e previdenziale, pagamento, versamenti IMS, contratti. Articolo 6, legge sul diritto d'autore.
00:02:06Il titolo originario dell'acquisto del diritto d'autore è costituito dalla creazione dell'opera,
00:02:10quale particolare espressione del lavoro intellettuale. L'uso dell'intelligenza artificiale per modificare
00:02:14o completare il lavoro dell'autore richiede un consenso scritto separato e non può essere
00:02:17utilizzato per creare opere derivate. È vietata la generazione di opere derivate, nuove sceneggiature,
00:02:23episodi successivi, spin-off tramite intelligenza artificiale. Deve essere prevista la possibilità
00:02:27del cosiddetto opt-out delle proprie opere dal dataset delle intelligenze artificiali.
00:02:32L'utilizzo per il cosiddetto machine learning, che è il problema che abbiamo in questo momento
00:02:36nei sceneggiatori i nostri contratti, ci viene chiesto dagli streamers di firmare una deroga
00:02:43e dar loro la possibilità di utilizzare ciò che scriviamo per questo machine learning
00:02:49che non si capisce bene che cosa sia, nel senso è per sviluppare il loro algoritmo interno.
00:02:54Ma questo può essere autorizzato solo previo consenso scritto, espresso successivamente alla firma
00:02:58del contratto e negoziato in modo indipendente con previsione di illegittimità nelle necessarie
00:03:03interdipendenze tra gli accordi. In assenza di consenso esplicito, esso si considera negato.
00:03:08Il consenso dello sceneggiatore è necessario per eventuali interventi che incidano sulla prestazione
00:03:13creativa e non per altri ambiti di utilizzo dell'intelligenza artificiale, quali per esempio
00:03:17approntamento di pieni di lavorazione o di materiali di marketing e promozione. L'uso
00:03:21dell'IA deve essere limitato al produttore e al suo committente. Né il consenso eventualmente
00:03:25prestato dallo sceneggiatore, né i dati derivanti dall'utilizzo dell'intelligenza artificiale
00:03:29sull'opera dello sceneggiatore possono essere ceduti a terzi, evitando la rivendita a piattaforme
00:03:33terze di qualsivoglia genere. Deve essere prevista una retribuzione aggiuntiva, negoziata in buona
00:03:38fede, per l'eventuale uso dell'intelligenza artificiale. L'uso dell'intelligenza artificiale o
00:03:43semmai consentito dallo sceneggiatore deve essere limitato alla sola opera per la quale
00:03:47il consenso è stato prestato.
00:03:50Basta, io ho finito.
00:03:53Grazie, chiedo ai colleghi anche in remoto se non vi sono domande. Amato, prego.
00:04:04Mi pare di capire che avete firmato dei contratti dove vi si chiede la possibilità all'interno
00:04:11di quella sceneggiatura di poter usare l'intelligenza artificiale. Che a lei risulti sono società
00:04:19italiane o sono le major che impongono questa clausola contrattuale?
00:04:25In questo momento sono società americane.
00:04:27Quindi le società italiane non impongono ancora questa clausola.
00:04:33Al momento come broadcaster Rai Mediaset non lo chiedono.
00:04:37Perfetto, grazie.
00:04:37Se non vi sono altri interventi, da remoto. Passiamo ora all'intervento. Ovviamente la
00:04:46memoria la può consegnare agli uffici che verranno poi distribuiti a tutti i colleghi
00:04:50della Commissione. Passiamo quindi all'intervento di Gianni Galassi e Carlo Cosolo, dialoghisti
00:04:56e direttori di doppiaggio nonché membri del Consiglio Direttivo dell'Associazione Direttori
00:05:00italiani di doppiaggio Adid. Che saluto e ringrazio per aver accolto l'invito della
00:05:04Commissione. Chiedo anche a loro l'assenso per la trasmissione dell'audizione sulla web
00:05:08TV della Camera dei Deputati e cedo la parola a Gianni Galassi per lo svolgimento del suo
00:05:13intervento e dovrà essere contenuto in cinque minuti. Prego.
00:05:16Ringrazio dell'ascolto e diamo ovviamente l'assenso. Sono presenti tre associazioni afferenti
00:05:24al settore del doppiaggio. Le nostre memorie le abbiamo coordinate in modo da evitare ripetizioni.
00:05:31Diciamo che la memoria che presentiamo noi dell'Associazione dei Direttori Italiani di
00:05:36doppiaggio costituisce una sorta di premessa umanistica a quanto poi verrà illustrato dai
00:05:42colleghi attori e dialoghisti. Dall'avvento del cinema sonoro quasi un secolo fa il doppiaggio
00:05:48delle opere audiovisive ha dato e continua a dare un contributo fondamentale alla cultura
00:05:52e all'unità linguistica della nostra nazione. Non sarebbe solo riduttivo ma scientificamente
00:05:58sbagliato derubricare il doppiaggio a un processo di mera sostituzione di parole straniere con
00:06:03altre che sono presenti nel nostro vocabolario. Doppiare un'opera audiovisiva significa porre
00:06:09lo spettatore della lingua di destinazione nelle stesse condizioni di fruizione in cui si è
00:06:14trovato lo spettatore della versione originale. Il doppiaggio è dunque una necessità intrinseca
00:06:20dell'opera audiovisiva perché ristabilisce un'indispensabile simmetria. Per farlo sostituisce
00:06:27nella sua interezza una performance vocale che è essenzialmente corporea con una nuova performance
00:06:33vocale che è altrettanto corporea di quella che va a sostituire. Sarebbe forse più appropriato
00:06:40definire tale processo una traduzione performativa perché è proprio attraverso la corporeità della
00:06:46voce che il testo si fa parola agita e genera nel corpo dello spettatore attraverso la vista
00:06:52e l'udito il senso e l'emozione di una scena. La traduzione performativa è resa possibile dal
00:06:59lavoro del dialoghista adattatore che riversa nel testo tradotto il proprio sapere linguistico
00:07:03maturato attraverso l'esperienza vissuta e la propria creatività. Si pensi alla necessità di
00:07:09reinventare all'interazione, motti di spirito, giochi di parole. Dalla sensibilità del direttore
00:07:15di doppiaggio, vero e proprio regista della performance che ha il mandato di interpretare
00:07:20l'opera originale e di orchestrarne la nuova versione scegliendo le voci più adatte e
00:07:25guidandole battuta per battuta in sala di registrazione. Dal talento spesso imprevedibile
00:07:31degli attori doppiatori che mettono in gioco il proprio corpo e il proprio portato emotivo.
00:07:36So che il microfono non è comodo, soprattutto per chi fa il vostro lavoro, però dovrebbe parlare
00:07:42un po' più al microfono, perché è un microfono corto, abbiamo anche noi lo stesso problema.
00:07:49Restituendo alle immagini il senso della parola agita, dal supporto degli assistenti e dei
00:07:55tecnici del suono che sovrintendono alla coerenza sincronica e acustica della performance
00:08:00attoriale, dall'efficienza degli studi di doppiaggio che contribuiscono al processo sotto
00:08:05il profilo organizzativo e tecnologico, accollandosi il peso di cospicui investimenti. Stiamo dunque
00:08:11parlando di un'attività artistica nel senso più stretto del termine, un processo nel quale
00:08:16il sapere artigianale si coniuga con l'estro e la creatività, in vista di un risultato che
00:08:22è fatto anche di quegli aspetti imprevedibili che sono costitutivi di tutto ciò che chiamiamo
00:08:27arte. La capacità di andare oltre il già visto, il già sentito, il già detto. Quello
00:08:34slittamento verso territori ancora inesplorati che, a proposito della performance attoriale,
00:08:39Carmelo Bene definisce il delirio, o per citare Paolo Sorrentino, l'imperfezione è
00:08:45la cifra dell'arte, un'esitazione, un respiro fuori tempo, un'inflessione inaspettata. Sono
00:08:50questi dettagli apparentemente insignificanti che creano l'emozione. Con l'avvento delle
00:08:56intelligenze artificiali generative, studiosi, giuristi e politici si stanno ponendo alla
00:09:01domanda come distinguere un'opera d'arte umana da un artefatto prodotto da una macchina. Non
00:09:06è solo questione di stile, di sensibilità, di originalità. È una questione che investe
00:09:11la natura stessa dell'atto creativo. A fondare questa differenza sono tre dimensioni dell'essere
00:09:16umano che nessun algoritmo, per sua natura, sarebbe in grado di simulare. Coscienza, desiderio,
00:09:22istinto di sopravvivenza. Una macchina può generare immagini, testi, musica, performance
00:09:28transvocale, può combinare strutture, imitare effetti, costruire coerenza, ma non può voler
00:09:35creare. La volontà è una caratteristica biologica del vivente, in tutte le sue molteplici declinazioni.
00:09:42Nell'uomo è volontà di soddisfare i propri bisogni, volontà di essere nel mondo relazionandosi
00:09:47con l'ambiente che lo circonda, volontà di comunicare con i propri simili, volontà di creare
00:09:53attraverso l'arte qualcosa che lasci una traccia di sé. Tutte funzioni che l'uomo assolve mettendo
00:10:00in gioco il proprio corpo. Il pensiero, ce lo dimostrano le neuroscienze, è metabolico,
00:10:06le emozioni sono viscerali, le mani danno materialmente forma alle cose per la nostra
00:10:12gratificazione, la voce dà forma fisica alle parole dotandole di un senso che altrimenti
00:10:19non avrebbero. La macchina binaria, al contrario, non ha coscienza di sé, né volontà, né
00:10:24intenzionalità, né esperienza del tempo vissuto. Il suo io è un effetto linguistico che emerge
00:10:31da un calcolo probabilistico, non la coscienza di un sé che scaturisce dall'esperienza corporea
00:10:37del mondo. Nessuna tensione la muove, nessuna attesa la attraversa, nessuna mancanza la costituisce.
00:10:44Il desiderio di un essere umano non è un semplice bisogno, è una mancanza che struttura
00:10:49la coscienza stessa. Ogni atto creativo autentico nasce da questa tensione, un'urgenza interna
00:10:56che cerca forma, senso, espressione, imboccando strade inesplorate. La creazione artistica non
00:11:03è un progetto lineare, è un movimento attraversante, dal caos al gesto, dall'informe alla materia,
00:11:10è una pratica di senso guidata da uno squilibrio unico e irripetibile che non si può regolare
00:11:17né codificare, perché non è riducibile a un codice binario. Per questo ogni vera opera
00:11:23d'arte porta in sé una traccia mai vista e irreplicabile del corpo, del tempo, dell'interiorità
00:11:28che l'ha generata. Anche la più banale delle realizzazioni artistiche è attraversata da
00:11:32un desiderio storicamente situato, affettivamente abitato, corporeamente orientato. Una macchina
00:11:39invece quando genera un testo, un'immagine, una melodia, un'espressione vocale lo fa per
00:11:44addestramento, non per necessità. Gli algoritmi apprendono e fondano le loro elaborazioni su
00:11:51fenomeni già osservati, registrati, classificati e in quanto tali riferiti al passato. Se si
00:11:57lascia sostituire dall'intelligenza artificiale, l'uomo in ogni campo di attività assumerà
00:12:02decisioni prevedibili quanto i modelli che consulta e perderà l'attitudine a rompere gli schemi,
00:12:07a immaginare il nuovo, a intravedere possibilità che i dati non possono ancora raccontare. Il
00:12:14cosiddetto processo creativo dell'intelligenza artificiale in sostanza non è altro che una
00:12:18riorganizzazione statistica di espressioni già viste. Può imitare gli effetti del desiderio
00:12:23umano ma è indifferente a ciò che produce. Non ha storia, non ha mancanza, non ha interiorità,
00:12:29non ha vera creatività, non slitterà mai verso territori inesplorati.
00:12:34Quando genera non risponde a una tensione interiore, risponde a un prompt e questa
00:12:40oggettività algoritmica rischia di diventare per l'uomo un fattore invisibile di distorsione
00:12:45cognitiva. Vado a concludere. Permetteteci per concludere una domanda forse impertinente,
00:12:56visto che spesso si sente parlare di arte della politica. Affidereste mai la formazione di una
00:13:02maggioranza parlamentare all'intelligenza artificiale.
00:13:09Grazie. Sì, prima di amato faccio un quesito. Quali regole andrebbero introdotte per la manifestazione
00:13:16del consenso sulla cessione della prestazione artistica nel caso del vostro, proprio per
00:13:23tutelare tutto quello che ha illustrato nella sua relazione, peraltro condivisibile. Perché
00:13:32poi per capire noi stiamo facendo una risoluzione che ha un obiettivo, che è quello di tutelare
00:13:38tutta la filiera. Però nel frattempo poi il mercato va avanti, quindi bisogna capire anche
00:13:43tecnicamente quali possono essere le tutele che possiamo prevedere per tutelare in particolare
00:13:49in questo caso tutta la filiera dei doppiatori. Sì, la risposta è duplice. Riguarda da un
00:13:56lato noi operatori, quindi che siamo i protagonisti, i potenziali derubati della nostra performance
00:14:04da parte dell'intelligenza artificiale. Poi c'è un tema che riguarda invece la tutela
00:14:09dei cittadini in quanto consumatori di beni culturali. Questi due aspetti sono stati ben
00:14:16enucleati nella memoria che l'ANAD si accinge a leggere.
00:14:26E Amato, prego.
00:14:30Grazie Presidente, due domande. Una è la stessa che ho rivolto al dottore sceneggiatore. Sono
00:14:40le produzioni italiane o principalmente quelle straniere che cercano di imporre all'interno
00:14:47del doppiaggio l'uso dell'intelligenza artificiale? Seconda domanda. È già in uso per quelli che
00:14:56erano i sospiri, i riempitivi che in genere facevano gli attori che si approcciavano inizialmente
00:15:06al doppiaggio, quindi quei riempitivi, quei fegatelli che si mettevano sotto voci, eccetera.
00:15:16Quindi è già in uso l'intelligenza artificiale per quelli o vengono ancora chiamati giovani
00:15:23attori a doppiare quegli spazi?
00:15:26Allora, diciamo per la prima parte, diciamo che comunque sono le major che stanno usando
00:15:34questo sistema, ma che noi sappiamo in particolare in questo momento sta succedendo in America,
00:15:42dove pare che abbiano scoperto il doppiaggio grazie all'intelligenza artificiale, vabbè
00:15:47non voglio fare dell'umorismo di bassa lega. In particolare Prime ha doppiato una serie
00:15:54di film spagnoli in americano, oltretutto utilizzando non solo per la voce ma anche
00:16:01per i movimenti labiali, essendo... sì perché il problema è che il fruitore americano è
00:16:08abituato molto alla presa diretta, per cui è sensibilissimo a qualsiasi tipo di fuori
00:16:11sink, contrario. Sì sì, lo vede, lo vede, anche se è in un'altra lingua.
00:16:16Sì perché cambia i movimenti labiali, in quella... puoi cambiare, puoi clonare la voce,
00:16:26utilizzarla, puoi anche però cambiare i movimenti labiali.
00:16:29Collega Amato, almeno al microfono però, perché sennò non rimarrà traccia della sua voce.
00:16:44Mi scusi, mi scusi Presidente. Chiedevo, in questo caso, in questo esempio che lei ha fatto,
00:16:50i dialoghi sono stati fatti da dialoghisti adattatori o anche in quel caso agito l'intelligenza artificiale?
00:16:57Allora, non lo so per certo, ma al 90% penso che siano stati fatti con l'intelligenza artificiale
00:17:03e con un post-editing, che è quello che già si usa, tra le altre cose, in editoria, già in Italia.
00:17:08Oramai i traduttori puri se la stanno vedendo molto molto brutta e questo è un altro aspetto ancora.
00:17:15Per quello che riguarda invece la seconda parte della domanda, in Italia che mi risulti
00:17:22ancora non è in uso l'intelligenza in maniera ufficiale, perlomeno l'intelligenza artificiale.
00:17:28Ancora si fanno i famosi turni di Brusio, per piccole battutine ancora vengono chiamati degli esseri
00:17:34più o meno umani, diciamo umani, e ancora stiamo in questa situazione.
00:17:40Il problema è che non sappiamo quanto ancora possa reggere, perché chiaramente la pressione
00:17:45in particolare da parte delle major, ma soprattutto nei confronti dei distributori italiani,
00:17:49è molto forte, perché chiaramente il risparmio sarebbe notevole, per cui stiamo un po' a guardare,
00:18:01stiamo un po' in finestra in questo momento.
00:18:04Quello che io so, però, lo dico in maniera non ufficiale, è che per esempio in produzioni italiane
00:18:09viene utilizzata spesso l'intelligenza artificiale, questo mi è stato detto da persone,
00:18:16per fare invece battutine di cose tipo voci radio, eccetera.
00:18:20Insomma, diciamo che è un fatto, ed è un fatto che va regolamentato, insomma, ovviamente,
00:18:28e vedremo poi quali sono le nostre proposte per farlo.
00:18:32Grazie.
00:18:32Grazie, se non vi sono altre domande, passiamo allora, anticipiamo direttamente l'ANAD,
00:18:38che è omogenea per filiera, passo la parola, sempre dopo aver ricevuto il consenso,
00:18:44Daniele Giuliani e Andrea Di Maggio, rispettivamente Presidente e Consigliere
00:18:49dell'Associazione Nazionale Attori Doppiatori ANAD, che saluto e ringrazio per aver raccolto l'invito della Commissione.
00:18:55Vi raccomando, però, l'intervento previsto in cinque minuti.
00:18:58Qualora la relazione dovesse durare di più, tanto verrà distribuita in copia a tutti i membri della Commissione,
00:19:05anche quelli non presenti.
00:19:07Prego.
00:19:08Grazie, buongiorno Presidente, buongiorno a tutti i presenti e alle persone che sono collegate.
00:19:12Sì, cercherò di essere rapido.
00:19:15Il problema emergente in relazione all'intelligenza artificiale l'abbiamo canalizzato in quattro punti chiave,
00:19:22che sono il primo, la sostituzione dei professionisti.
00:19:25Le produzioni potrebbero optare per soluzioni di doppiaggio artificiale a basso costo,
00:19:29questo genererebbe gravi ricadute occupazionali e una conseguente contrazione del gettile contributivo, fra l'altro.
00:19:35Il secondo punto molto importante è il depauperamento culturale.
00:19:38Il ricorso al doppiaggio sintetico comprometterebbe la qualità artistica dell'opera,
00:19:41e questo ovviamente esula dal solo ambito del doppiaggio, ma a tutto ciò che ha a che vedere con l'arte e con la cultura.
00:19:47Terzo punto, citato precedentemente dall'Adid, grazie a Gianni Gelassi e a Carlo Cosolo,
00:19:53è la froda ai danni del pubblico.
00:19:55Questo è un punto fondamentale, perché l'assenza di trasparenza sull'impiego di IA nel doppiaggio,
00:20:01in questo caso, configura una forma di inganno ai danni degli spettatori.
00:20:06Si tratta, tra l'altro, di una deriva particolarmente allarmante,
00:20:09che mina il rapporto di fiducia tra il pubblico e l'industria culturale in generale.
00:20:13Quarto punto, quello che ci sta più a cuore, che crediamo essere il più grave di tutti,
00:20:17è l'appropriazione in debita dell'identità vocale.
00:20:20Mi prendo dieci secondi per ricordare a questa commissione che l'Europa ha scritto una regolamentazione armonizzata
00:20:28in merito all'intelligenza artificiale, che si chiama AI Act.
00:20:33In questa normativa la voce viene considerata un dato biometrico,
00:20:38quindi qui parliamo di un furto di identità molto grave.
00:20:42Visto che prima venivano chieste quali potevano essere le strade da seguire a livello normativo,
00:20:48il primo punto che per noi è molto importante sicuramente è la tutela del consenso esplicito.
00:20:53Nel momento in cui noi stiamo parlando qui, adesso, alle 11.53 di questa mattina,
00:20:58ci sono siti che vendono in maniera illecita la voce nostra e di tanti altri colleghi,
00:21:03anche molto più bravi e importanti di noi, senza il loro consenso.
00:21:07E questa è una cosa gravissima.
00:21:09Quindi sicuramente la tutela del consenso esplicito è un punto fondamentale.
00:21:14Qualunque utilizzo dell'identità vocale di un artista
00:21:17deve essere avuto, che sia fatto mediante tecnologie di intelligenza artificiale,
00:21:23deve essere figlio di un consenso esplicito, libero, informato e specifico.
00:21:28Il secondo punto molto importante per noi sono le sanzioni per fraude artistica.
00:21:32Si propone l'introduzione di un sistema sanzionatorio efficace, dissuasivo e proporzionato,
00:21:38volto a reprimere le condotte illecite connesse all'impiego di intelligenza artificiale
00:21:41nella creazione di prodotti audiovisivi doppiati in assenza delle necessarie autorizzazioni
00:21:46e degli obblighi di trasparenza previsti dalla legge.
00:21:50Questo, ripeto, crediamo sia un punto fondamentale.
00:21:53In particolare si ritiene necessario che il legislatore qualifichi come frode artistica
00:21:57la diffusione di opere audiovisive doppiate in tutto o in parte,
00:22:00mediante tecnologie di intelligenza artificiale,
00:22:03senza l'apposizione del segno identificativo prescritto, un bollino,
00:22:06e senza un'adeguata informativa rivolta al pubblico.
00:22:09Tale condotta integra una violazione del principio di trasparenza,
00:22:12lede il diritto degli spettatori a una fruizione consapevole dell'opera
00:22:15e costituisce una forma di concorrenza sleale ai sensi dell'articolo 2598 del Codice Civile
00:22:22nei confronti dei professionisti del doppiaggio.
00:22:25E poi, come dicevo prima, ovviamente l'introduzione di un bollino obbligatorio.
00:22:29Ci sembra opportuna una riflessione sull'articolo 23 del Decreto Legge 1146
00:22:33in materia di intelligenza artificiale, già passato all'esame del Senato
00:22:36e approvato il 20 marzo scorso, nel quale si dispone l'inserimento
00:22:40nel Decreto Legislativo, l'8 novembre 2021, numero 208,
00:22:43di un nuovo articolo, il 40 bis.
00:22:45In tale articolo si esibisce l'obbligo di etichettare i contenuti informativi
00:22:49generati con l'IA tramite l'inserimento di un elemento o segno identificativo
00:22:53chiaramente visibile e riconoscibile.
00:22:56Tutto questo chiudo dicendo ovviamente che il rischio più grosso è la criminalità,
00:23:01perché si esula anche solo dal mondo artistico.
00:23:03Sicuramente crediamo che questi punti siano fondamentali per quanto riguarda il nostro settore.
00:23:07Grazie a tutti.
00:23:08Grazie, allora, sì, prima di Amato, abbiamo, rispetto a quello che avete detto,
00:23:22in realtà questa commissione per prima rispetto al Parlamento italiano
00:23:27ha già introdotto, ha già proposto di introdurre in un parere che votammo nell'ambito del TUSMA
00:23:34i cosiddetti watermark, addirittura allegammo quattro bozze di grafica del bollino
00:23:43e c'era proprio quella, era la proposta che il Parlamento italiano faceva a quello europeo
00:23:50prima che passasse l'intelligenza act e tra questi c'era esattamente un bollino solo
00:23:57intelligenza artificiale, un bollino solo intelligenza artificiale e intelligenza umana,
00:24:03quindi ibrido, un bollino e questa era la novità solo intelligenza umana
00:24:06perché a nostro parere, e poi c'era il deep fake, intelligenza artificiale,
00:24:11a nostro parere, con cui in questo, al di là della tutela, è chiaro che chiedete
00:24:19ed è il motivo per cui la Camera sta esaminando questa risoluzione da me proposta
00:24:26però il concetto era anche di andare a lavorare in valorizzazione dell'intelligenza umana
00:24:32cioè del prodotto dell'intelligenza umana, far rovesciare la piramide di prospettiva
00:24:39per cui il concetto è che se è una cosa fatta per il mercato, se è una cosa un elaborato,
00:24:46un'ideazione, come è stato detto anche ai precedenti relazioni, creata da intelligenza umana
00:24:53con creatività umana e la voce ovviamente all'OS sicuramente fa parte, oltre che come dato biometrico
00:24:59anche proprio rappresenta un'espressione artistica, questa dovrebbe valere di più, non di meno,
00:25:07dell'intelligenza artificiale, questo è un concetto proprio umanistico che tendiamo a voler
00:25:13affrontare. Però la domanda quindi è, con questa distinzione secondo voi, quindi Bollino
00:25:22non un solo Bollino, ma questa distinzione A4 servirebbe a tutelare in particolare con
00:25:30la normativa nazionale di ricevimento di quella europea maggiormente rispetto a quella europea,
00:25:35una prima domanda, e come tutelare la manifestazione del consenso, così come da voi citata, in maniera
00:25:42esplicita nella contrattualistica, in maniera preventiva, cioè tutte le produzioni italiane,
00:25:49a cominciare da quelle nazionali, quindi la RAI e tutta la filiera, dovrebbero esplicitare
00:25:56il consenso, la clausa del consenso in maniera esplicita, esporlo?
00:26:01Sicuramente sì, il punto del Bollino che è chiaramente uno strumento non solo intelligente
00:26:09ma necessario secondo noi, è chiaro che non può essere l'unico strumento che si mette
00:26:17in campo, la tutela dell'artista in questo caso vanno messe insieme esattamente, per
00:26:22forza, per noi è obbligatorio che sia così.
00:26:26Prego, Amato.
00:26:30Grazie Presidente.
00:26:32Io credo che l'uso della voce tramite l'intelligenza artificiale è difficilmente controllabile per
00:26:45quanto riguarda internet. Anche se ci mettiamo il bollino, insomma, sono uscite del fake della
00:26:55Presidente del Consiglio che diceva di tutto di più e nemmeno in quel caso, dove vogliamo
00:27:01parlare di una delle massime esponenti da tutelare, insomma, rappresentante del governo
00:27:07italiano, non si è riuscito a debellare quella cosa, insomma. Però vi voglio rassicurare
00:27:13se una cosa, normalmente io sono all'opposizione, il Presidente Moligone di maggioranza, normalmente
00:27:19litighiamo sui provvedimenti, in questo caso noi non litighiamo perché andiamo tutti nella
00:27:25stessa direzione, sia il Presidente Moligone, sia la maggioranza che l'opposizione, andiamo
00:27:31tutti nella stessa direzione, stiamo cercando davvero di tutelare le varie categorie che compongono,
00:27:38che formano questa, questa che un amico un giorno definì una professione utile alla
00:27:47società civile, in quanto funge quasi da, come dire, da supporto al pubblico che guarda
00:27:58e che segue i film. Quindi di questo vi posso rassicurare, siamo tutti nella stessa direzione.
00:28:06Certamente sarà difficile controllare Internet, quello sarà una cosa molto difficile da fare.
00:28:12Credo che sia la Commissione possa suggerire al governo principalmente la salvaguardia in
00:28:19quella che è la rappresentazione pubblica, cioè parliamo di cinema, parliamo di televisione,
00:28:25ma su Internet davvero, se non siamo ancora riusciti, abbiamo fatto già una legge già
00:28:32approvata sulla pirateria e la pirateria è là, tranquilla, che prosegue, vuol dire che
00:28:38davvero con Internet dovremo capire come regolarci. Secondo me più che impedire ad Internet
00:28:46bisognerà punire chi utilizza, cioè è l'utilizzatore che andrà punito e non chi trasmette, perché
00:28:54farlo su Facebook significa andare da Zuckerberg negli Stati Uniti e quando ti rispondi.
00:29:00Grazie.
00:29:02Non c'era quindi la domanda, era un'osservazione.
00:29:05Ok, va bene. Grazie. Allora proseguiamo e concludiamo la filiera dei doppiatori e poi
00:29:13passiamo a quella degli attori con l'intervento dei rappresentanti dell'Associazione Italiana
00:29:18Dialoghisti Adattatori Cine Televisivi, AIDAC. Saluto Francesco Vairano, presidente dell'AIDAC,
00:29:25collegato in videoconferenza, Antonio Biocca e Marina D'Aversa, rispettivamente vicepresidente
00:29:29e tesoriere, ringraziandoli per aver accolto l'invito della Commissione. Chiedo anche a loro
00:29:34l'assenza per la trasmissione dell'audizione sulla web tv della Camera dei Deputati e lascio
00:29:40la parola ad Antonio Biocca per lo svolgimento dell'intervento che dovrà essere contenuto, ricordo,
00:29:45in cinque minuti. Prego. Grazie presidente. Ecco, non vedo il mio presidente Francesco
00:29:51che lei dice in collegamento forse no. Sì, sì, c'è, c'è. Lo vediamo. Lo vedo io qua
00:29:59nel pane. Le porto i saluti di Francesco Vairano. Salutiamo il presidente Vairano.
00:30:05Io devo dire che non leggo l'intervento o la memoria che vi lascerò senz'altro, che l'AIDAC
00:30:11ha elaborato. Sono molto soddisfatto di questo primo giro di interventi da parte nostra, ma
00:30:19soprattutto da parte vostra, della risoluzione che è un testo molto molto preciso e pontuale,
00:30:26per cui non sto ad annoiarvi a dire chi sono i dialoghisti, che mi sembra di aver capito
00:30:30che lo sapete bene. Vi do qualche informazione che noi abbiamo così sul campo. In effetti
00:30:38sì, per quanto riguarda l'elaborazione dell'adattamento dei testi, l'uso dell'intelligenza artificiale
00:30:44ci risulta già in atto per alcuni prodotti minori. Per alcuni prodotti minori, sì, effettivamente.
00:30:51Così come... Ah, ecco se mi giro di là. Se no dobbiamo doppiarla. Così come, e questo
00:30:58in modo molto più invasivo, è in uso per la sottotitolazione. Quindi lamentiamo nei nostri
00:31:05colleghi sottotitolatori una preoccupazione enorme. Ecco, si metta la grazie amato, grazie
00:31:12onorevole amato. Ok. No, la ringrazio molto. Sottotitolatori molto preoccupati per i livelli
00:31:24occupazionali, cioè nel senso che è così facile riuscire a scrivere sottotitoli, sicuramente
00:31:31non precisi come quelli che potrebbe scrivere chi vede il film, chi lo... e cos'è ad adattarlo
00:31:39perché questo anche il sottotitolista fa. Che altro posso dirvi che già non sapete o che
00:31:45già non è stato detto? Sì, questa tecnologia è nata così sembrerebbe a proposito in internet
00:31:53con applicazioni che sembravano da usare per gioco. In realtà in pochissimo tempo sono
00:31:58perfezionate, eccetera, sono diventate appunto molto sofisticate, tanto da confondere il fruitore
00:32:06con il caso del Presidente del Consiglio. Insomma, ed è piuttosto grave. Quello accenno
00:32:13che faceva il mio collega relativamente alla criminalità, già il fatto che è criminale
00:32:19o l'uso sbagliato va tenuto in considerazione. C'è un problema relativo anche all'adattatore
00:32:27dialoghista, al diritto d'autore, è riconosciuto, lui elabora un nuovo testo e in questo senso
00:32:33gli è stato riconosciuto all'adattività del diritto d'autore. E questi appunto nuovi testi
00:32:41a chi sarà attribuito il diritto d'autore, a chi ha elaborato il PRONT per scrivere dialoghi
00:32:47precisi, a chi ha revisionato il risultato del lavoro dell'intelligenza artificiale su
00:32:55questa o quell'altra battuta. Insomma, è una partita molto aperta e difficile da capire
00:33:01a chi sarà dato il diritto d'autore. C'è quest'altra cosa, già abbiamo, sempre Daniele
00:33:09ha citato il decreto che il disegno di legge è emanato dal Senato, lì è proprio all'articolo
00:33:161, di questo siamo molto contenti, necessità e volontà del normatore, dei voi legislatori
00:33:24di lavorare sulla umanità del lavoro qualunque questo sia. C'è un approccio molto positivo
00:33:35dal nostro punto di vista già in quel disegno di legge. E altro non so che altro dirvi,
00:33:42i tempi, i tempi, ecco forse Marina aggiungerà qualcosa. Ecco, quando appunto usavamo questi
00:33:49giochini sembrava una cosa irreale, chissà quando si perfezioneranno, i tempi sono velocissimi,
00:33:56quindi noi, come dire, siamo preoccupati perché spesso le norme, l'EIA e l'AT, anche
00:34:07in questo carente, arrivano con troppo ritardo, hanno un tempo di iter troppo lunghi rispetto
00:34:14alla velocità con cui camminano questi progressi tecnologici. Marina?
00:34:18Sì, buongiorno a tutti. Così? Mi si sente? Allora, io volevo parlare un attimo del consenso,
00:34:31qui si è parlato, si è detto del consenso. Cosa significa il consenso? Il consenso comunque
00:34:38deve avere un limite di tempo, cioè io non ti posso dare il consenso a vita, deve essere
00:34:46diciamo, entro un certo limite di tempo e eventualmente rispetto a un certo tipo di
00:34:54opera, nel senso che se io sia ti do un testo, sia la voce o sia qualunque altra cosa, io
00:35:02non posso dire ti do il mio consenso fino alla fine dei miei giorni. È chiaro che ci deve
00:35:08essere un limite, che può essere, non lo so, questo va fissato, un anno, sei mesi, dieci
00:35:14anni. Cioè, voglio dire, ci vuole un limite, non solo, ma questo tipo di consenso comunque
00:35:22andrebbe remunerato, perché non è possibile che io ti dia il consenso a usare i miei testi,
00:35:29la mia voce, eccetera, gratis, d'amore dei. Questo non rientra in nessun parametro.
00:35:36Poi, per quanto riguarda l'web e l'internet e l'intelligenza artificiale, io sono d'accordo
00:35:46con lei, nel senso che non esiste, a mio avviso, possibilità di bloccare questa cosa. Nel senso
00:35:55che se, io sono un'adattatrice, se scrivo un testo, come dice? Ah, vabbè, allora, basta,
00:36:05mi taccio. Sì, allora, faccio adesso, proprio per aiutarvi a far capire anche, insomma, a
00:36:12chi ci ascolta, un po' l'avvocato del diavolo. La domanda che faccio è duplice. Allora, uno
00:36:19è, ma secondo voi, perché uno spettatore dovrebbe preferire un film straniero, prendiamo
00:36:33un film che viene dall'America con attori famosi così, con la voce originale dell'attore
00:36:43che, appunto, parla in italiano rispetto a un attore americano doppiato da un doppiatore
00:36:52italiano con la voce ormai, insomma, tradizionale. E poi vi spiego perché faccio questa domanda.
00:36:59E l'altra è, proprio per quanto diceva adesso la signora, sul consenso. Sappiamo che l'intelligenza
00:37:08artificiale con l'alias digitale adesso potrebbe addirittura campionare, ci potrebbero essere
00:37:14doppiatori che si fanno campionare la voce e cedono tutti i diritti per cui una volta
00:37:21campionata, facendosi pagare ovviamente il corrispettivo, quella voce può essere utilizzata
00:37:26e con i sistemi di learning machine dell'intelligenza artificiale sempre più perfezionati, addirittura
00:37:34andare in teoria a doppiare, a utilizzare quella voce per, e questo poi lo vedremo anche dopo
00:37:40con gli attori addirittura, per sempre senza più dover lavorare. Allora, sono due domande
00:37:47da avvocato del diamolo, cioè nel senso questo potrebbe permettere a quel doppiatore di vedere
00:37:53utilizzata la propria voce senza più dover lavorare, ma ricevendo comunque i diritti.
00:38:01Allora, questo che io vedo, lo avete capito dall'indirizzo della risoluzione, lo vedo
00:38:09come ovviamente una minaccia, come un rischio. Non pensate che possa essere poi il vero pericolo,
00:38:17cioè da una parte ascoltare la voce di un attore straconosciuto come George Clooney in italiano,
00:38:27che parla in italiano con la sua voce. Dall'altra, e già ci sono sistemi di intelligenza artificiale
00:38:32in grado, come diceva prima lui, di fare addirittura il sincro labiale, cambiando il movimento delle labbra.
00:38:42Dall'altra, il rischio che appunto si vada oltre il consenso, quindi ha senso chiedere il consenso limitato,
00:38:50ma tecnicamente in base alla discrezionalità un doppiatore, che poi penso verrebbe linciato da tutti gli altri,
00:38:57però insomma comunque potrebbe addirittura cedere la propria voce in maniera definitiva
00:39:02e quindi non lavorare più e prendere solo i diritti. Ecco, come secondo voi si può ovviare a questi due rischi?
00:39:10rischi, insomma. Poi Amato.
00:39:14Io vorrei molto velocemente, poi lascio magari la parola ai miei colleghi, rispondere alla prima parte della domanda
00:39:20con un aneddoto, proprio un minuto, un momento di vita vissuta, poi lascio la parola a qualcuno meno astratto di me.
00:39:27Ultimamente mi è capitato di vedere un trailer di un film di fantascienza americano,
00:39:35parlavano in americano, recitavano in americano, e lo guardavo e dicevo, siccome poi io sono specializzato
00:39:42in film di fantascienza catastrofici con mostri e navi spaziali, dicevo, vedi, bello però,
00:39:49tutte intonazioni belle, semplici, piatte, voci usate, proprio basic, fantastico, lo doppierei veramente,
00:39:56per una volta non avrei il problema di rovinare un'opera originale.
00:40:00Morales, sono da vedere, era intelligenza artificiale, io credo che questo risponda un po' alla domanda,
00:40:07perché? Perché non mi è arrivata nessuna emozione, perché non c'era dentro alla fine niente,
00:40:12e questo è un problema umanistico, cioè se pensiamo...
00:40:17Grazie, mancava l'intenzione questa era.
00:40:18Mancava non solo l'intenzione, mancava proprio l'anima, se vogliamo.
00:40:21Grazie, una cortesia, non l'ho interrotta per cortesia,
00:40:26però le audizioni funzionano che a quella domanda risponde chi ha fatto l'ultima relazione.
00:40:32Quindi, per cortesia non l'ho interrotta, mi rispetterebbe a voi rispondere.
00:40:36D'accordo, giustamente però, ecco, ha fatto bene il presidente dell'ANAD,
00:40:41ha fatto bene il presidente dell'ANAD a rispondere su questo,
00:40:45che era tutto legato alla voce, però vorrei aggiungere,
00:40:48posso, in questo la domanda è molto stimolante.
00:40:51C'è un problema relativo al testo, che anche se George Clooney con sua voce parla in italiano,
00:41:00che testo sta recitando?
00:41:02La traduzione della sceneggiatura iniziale?
00:41:05E com'è questa sceneggiatura iniziale?
00:41:08Cioè, il nostro lavoro è quello di trasportare una cultura ad un'altra, la nostra,
00:41:15e cercando di organizzare tutti i ponti possibili e le mediazioni possibili,
00:41:22per cui una cosa che fa ridere a New York, a parte che non fa ridere a Los Angeles,
00:41:27ma certamente non da noi, e viceversa una che fa piangere così.
00:41:31Questo è il lavoro del doppiaggio.
00:41:34Quindi il problema potrebbe essere proprio relativamente alla base, quella testuale.
00:41:39Grazie per la risposta.
00:41:42Prego, Amato.
00:41:44Ancora una volta, era una considerazione rapida e veloce.
00:41:49Tra il Presidente anche dell'ANICA e tutte le associazioni.
00:41:51Sì, sì.
00:41:52Il fatto che lei narrava poco fa, era quello che stavo per dire io,
00:41:57ma questo entra in campo in po' tutte le professioni,
00:42:01dallo sceneggiatore al doppiatore all'attore.
00:42:04Manca l'anima.
00:42:04Ci sono miei colleghi che non sanno dire buongiorno,
00:42:08ma poi si inventano delle cose particolari che l'intelligenza artificiale non riuscirà mai ad inventare.
00:42:14Invece per quello che volevo dire a lei,
00:42:16l'hanno già girata il fatto dei diritti.
00:42:20Se lei si ricorda, noi attori, 30 anni fa,
00:42:23i contratti che firmavamo, rifirmavamo come attori,
00:42:26adesso è già diviso in due, i diritti di immagine e i diritti di prestazione.
00:42:32I diritti di immagine che danno la possibilità a qualsiasi produzione
00:42:36di sfruttare quello che io ho fatto all'interno del film, anche dopo 30 anni,
00:42:41fanno una riedizione di quel film.
00:42:43Io ho già firmato perché loro la possano utilizzare.
00:42:46Non solo, ma in quei contratti,
00:42:48mi ricordo fino a due anni fa filmavo contratti per il cinema,
00:42:53c'era scritto con qualsiasi tipo di sistema inventato o da inventare.
00:42:59Quindi, voglio dire, le produzioni erano già pronte per questo.
00:43:05Quello che noi, secondo me, potremmo fare,
00:43:07e lo proporrò poi quando saremo in commissione al Presidente Moligone e ai colleghi,
00:43:12è dato che da quanto sta emergendo ci viene dall'estero questa pressione,
00:43:17noi dobbiamo creare una barriera dall'estero.
00:43:21Cioè, chi impone cose di questo tipo
00:43:23non potrà usufruire di benefici dal governo italiano.
00:43:29Grazie, inviterei il collega Amato però a fare domande, non osservazioni,
00:43:35fermo restando che sono legittime,
00:43:36ma lo dico solo per rispetto agli altri auditi, perché sono veramente tanti.
00:43:40Io ringrazio tutti i rappresentanti delle associazioni
00:43:43e proseguiamo adesso in videoconferenza
00:43:46con l'audizione di Marco Scialdone,
00:43:49professore a contratto di diritto e gestione dei contenuti e servizi digitali
00:43:53presso l'Università Europea di Roma.
00:43:55Che saluto e ringrazio per aver accolto l'invito della commissione,
00:43:57chiedo l'assenso per la trasmissione e l'audizione sulla web tv
00:44:00e cedo la parola al Professor Scialdone per cinque minuti.
00:44:03Prego.
00:44:05Grazie Presidente, confermo l'assenso
00:44:07e ringrazio per l'opportunità.
00:44:10La risoluzione proposta interviene su un tema cruciale dell'attualità,
00:44:16cioè quella del rapporto tra diritto d'autore e creatività umana
00:44:20di fronte alle sfide poste dall'intelligenza artificiale.
00:44:24Come anche si è sentito dalle precedenti interventi,
00:44:30è un tema che coglie soprattutto per quanto riguarda il comparto del doppiaggio
00:44:35che è riconosciuto come un'eccellenza nazionale profili molteplici.
00:44:39Oggi ci occupiamo di quello del diritto d'autore,
00:44:41ma è evidente da tutto quanto è emerso
00:44:43che ci sono anche profili che trascendono quello della tutela autoriale,
00:44:47che sono più prossimi a quella della tutela dei dati personali,
00:44:51dell'identità dei soggetti che operano in tale filiera.
00:44:56Ovviamente il tema di cui dibattiamo oggi
00:44:58è più legato invece alla tutela del diritto d'autore.
00:45:03Da questo punto di vista mi sia consiglio dire
00:45:06che la risoluzione ovviamente in maniera meritoria
00:45:11cerca di evidenziare la necessità di una tutela
00:45:17dei soggetti impegnati nella filiera del doppiaggio
00:45:21rispetto all'attività di estrazione di testo e dati
00:45:24per finalità di addestramento dei modelli di intelligenza artificiale,
00:45:28lo fa suggerendo iniziative legislative finalizzate
00:45:33a quello che potremmo chiamare un opt-in generalizzato
00:45:37rispetto all'utilizzazione di questi contenuti
00:45:40da parte degli sviluppatori dei sistemi di intelligenza artificiale.
00:45:44Ora, tuttavia, sebbene l'intento sia lodevole,
00:45:50va detto che ciò appare in conflitto, direi insanabile,
00:45:55con il quadro normativo armonizzato dell'Unione Europea,
00:45:59specificatamente con la direttiva 2019-790,
00:46:03come recepita nell'ordinamento italiano nel 2021
00:46:07dal decreto legislativo 177,
00:46:09perché, come certamente a voi noto,
00:46:13la scelta che l'Europa ha operato da questo punto di vista
00:46:17è diametralmente opposta,
00:46:19con le eccezioni introdotte agli articoli 3 e 4 della direttiva,
00:46:24eccezione per quella più limitata ai fini di ricerca scientifica
00:46:29dell'articolo 3 e quella più generalizzata dell'articolo 4,
00:46:33il regime prescelto è quello dell'opt-out,
00:46:37cioè esattamente il contrario,
00:46:39cioè la possibilità di utilizzare i contenuti
00:46:43a cui si abbia legittimamente accesso
00:46:47da parte degli sviluppatori dei sistemi di intelligenza artificiale,
00:46:50salvo che non ci sia stata un'espressa indicazione,
00:46:55di segno contrario,
00:46:56da parte dei titolari dei diritti.
00:46:58Peraltro, con riferimento alle utilizzazioni online,
00:47:02il considerando 18 della direttiva specificava che
00:47:06la riserva dei diritti era considerata appropriata
00:47:10soltanto se effettuata tramite strumenti
00:47:12che consentano lettura automatizzata,
00:47:15machine readable means come metadati,
00:47:17o termini e condizioni di un sito web o un servizio,
00:47:20dove ancora oggi,
00:47:23nonostante gli sforzi che l'industria sta ponendo in essere,
00:47:27l'assenza di uno standard tecnico universalmente riconosciuto
00:47:31per segnalare tale riserva,
00:47:33rimane in effetti una criticità operativa.
00:47:38Da questo punto di vista va ulteriormente segnalato
00:47:42che per quanto riguarda l'eccezione oggi presente
00:47:48nell'articolo 70 a terra della legge sul diritto d'autore
00:47:51che recepisce l'articolo 3 della direttiva,
00:47:54il comma 9 di questo articolo
00:47:56sancisce addirittura la nullità dei patti contrari
00:47:59rispetto alla possibilità di avvalirsi di questa eccezione.
00:48:05Dunque, da un punto di vista strettamente operativo,
00:48:09il fatto che un ordinamento nazionale possa discostarsi
00:48:13rispetto al quadro comunitario
00:48:16è evidentemente non consentito,
00:48:20pena ovviamente una procedura di infrazione
00:48:22nei confronti del nostro ordinamento,
00:48:25tuttavia è una discussione interessante
00:48:27se non altro perché il prossimo anno
00:48:31è prevista la prima fase di analisi e di riesame
00:48:35della direttiva 790-2019
00:48:38e quindi anche nella fase ascendente
00:48:43che evidentemente ci sarà
00:48:44e coinvolgerà i parlamenti nazionali
00:48:45sulla valutazione di questa direttiva
00:48:48considerando che la direttiva è del 2019
00:48:52i lavori preparatori ovviamente sono di qualche anno addietro
00:48:56e quindi di un mondo che è stato completamente rivoluzionato
00:49:00dall'introduzione dei sistemi
00:49:02e di intelligenza artificiale generativa
00:49:06probabilmente quella è la sede più appropriata
00:49:08per portare avanti, da dove lo si ritenga,
00:49:12delle istanze di diverso tipo.
00:49:15Un'ultima nota e poi concludo i miei cinque minuti
00:49:21riguarda il cosiddetto voice cloning.
00:49:26Da questo punto di vista credo che sia opportuno distinguere
00:49:30da due fatti specie che sono molto diverse tra di loro.
00:49:33Un conto è la sintesi vocale di soggetti, della voce,
00:49:39di soggetti, di persone finalizzata a clonare la loro voce
00:49:44cosicché il risultato finale generato dall'intelligenza artificiale
00:49:47sia una riproduzione della voce del soggetto
00:49:50che questo ovviamente porta con sé una serie di problematiche
00:49:54relative alla tutela dell'immagine,
00:49:55alla tutela dei dati personali e quant'altro.
00:49:57Altro è invece quando la voce viene utilizzata
00:50:01come materiale grezzo per generare dei pattern
00:50:06che poi servono per la generazione di voci sintetiche
00:50:09cioè voci che non hanno nulla a che vedere con i soggetti
00:50:13rispetto ai quali quelle voci sono state addestrate
00:50:18perché ovviamente mentre nel primo caso
00:50:20sussistono evidentemente tutta una serie di questioni
00:50:24legate alla tutela dell'identità del soggetto
00:50:26e che non sono molto dissimili dalle questioni
00:50:30già affrontate dall'ordinamento sulla tutela del diritto
00:50:34all'immagine del soggetto, all'identità personale del soggetto,
00:50:38nell'altro caso ci troviamo invece nell'ambito
00:50:41per certi versi più nuovo ma anche questo
00:50:44oggetto di grandi riflessioni
00:50:46sulla tutelabilità dei cosiddetti contenuti sintetici
00:50:50cioè dei contenuti che non abbiano dietro un autore
00:50:53vero e proprio ma che siano contenuti
00:50:55integralmente generati dai sistemi di intelligenza artificiale.
00:50:58Lascio a disposizione la relazione e vi ringrazio per l'opportunità.
00:51:03Sì, allora le faccio io un quesito.
00:51:08Per noi sono tutelate dal diritto d'autore solo le opere prodotte dall'essere umano.
00:51:12La legge italiana lo stabilisce già chiaramente.
00:51:16Non si tutela ciò che non è prodotto da mente umana.
00:51:19Del resto gli stessi sistemi di intelligenza artificiale generativa
00:51:22si allenano con testi che sono stati prodotti da uomini ovviamente
00:51:27e non possiamo usare il sistema delle eccezioni per usi scientifici
00:51:31della direttiva copyright cioè text and data meaning.
00:51:34Come si pone rispetto a questo?
00:51:37No, no, assolutamente corretto.
00:51:39Cioè la tutelabilità, l'essenza stessa del riconoscimento delle tutele apprestate dal diritto d'autore
00:51:46discende dal fatto che ci sia un soggetto umano.
00:51:49Poi si può discutere quale sia il grado di intervento umano che sia necessario.
00:51:55Il copyright office statunitense ad esempio ha riconosciuto una certa tutelabilità
00:52:00delle opere generate dai sistemi di intelligenza artificiale
00:52:03a condizione che questa creatività non sia autonoma ma sia assistita dall'intervento umano.
00:52:11Quindi se c'è una certa creatività ad esempio nel prompt che viene utilizzato per poi generare l'opera
00:52:16quell'opera teoricamente proteggibile ma l'intervento umano è assolutamente imprescindibile.
00:52:22Quello che ci contraddistingue per certi versi.
00:52:25Grazie, la ringrazio. Proseguiamo con le audizioni.
00:52:31Abbiamo ora Raffaele Buranelli, presidente dell'associazione RAI, che è qui in presenza.
00:52:38Regista, attrice e attori italiani, che ringrazio per accolto l'invito alla Commissione.
00:52:41Chiedo l'assenso per la trasmissione dell'audizione sulla web tv della Camera dei Deputati.
00:52:47Cedo la parola per cinque minuti. Prego.
00:52:48Buongiorno, assenso accordato. Ringraziamo la Commissione tutta dell'invito, ringraziamo l'onorevole Mollicone
00:52:58e gli onorevoli cofirmatari della risoluzione per l'attenzione rivolta ad un tema drammaticamente allarmante
00:53:04per la professione di attrice e attore, così come per la tutela del diritto d'autore,
00:53:08ma allarmante anche per la tutela del presupposto stesso di ogni arte e della insostituibile funzione
00:53:16che le arti hanno nel contesto sociale.
00:53:19L'enciclopedia Treccani definisce l'arte una straordinaria espressione della creatività umana
00:53:25e aggiunge che la parola arte indica le attività e le opere che richiedono sì una tecnica di esecuzione precisa,
00:53:33ma ravvivata dall'interpretazione personale di un autore.
00:53:37Grazie alla creatività e all'inventiva dell'artista, l'oggetto non si esaurisce nella sua funzione d'uso,
00:53:43ma acquista un valore proprio e indipendente che viene sentito come bello, piacevole, oppure sorprendente e innovativo.
00:53:53L'utilizzo dell'intelligenza artificiale cancella dunque il presupposto stesso di questo processo empatico, emotivo e intellettuale.
00:54:02Rendere incerto l'apporto umano ad un'opera e la sua misura
00:54:06significa minare alla base la disposizione del fruitore all'emozione
00:54:11che poggia appunto sullo stupore di fronte alla creazione umana
00:54:15che abbia saputo raggiungere precisione di esecuzione o forza espressiva
00:54:20in grado di suscitare emozioni o riflessioni sorprendenti.
00:54:25Condividiamo l'analisi dell'Associazione ANAD, con cui ci siamo preventivamente confrontati,
00:54:30sulle pesanti ricadute occupazionali e fiscali
00:54:34e sulle implicazioni legali collegate all'impiego della IA
00:54:39nel campo del doppiaggio e sulle tutele necessarie in fatto di machine learning.
00:54:45E richiamiamo che stesse implicazioni negative si estendono anche all'interprete esecutore,
00:54:52essendo gli stessi interventi tecnologici oggi possibili anche sull'immagine dell'interprete,
00:54:58oltre che sulla voce.
00:55:01Sottoscriviamo dunque la necessità dell'istituzione per legge di un evidente bollino
00:55:06che segnali allo spettatore fin dal manifesto, il trailer e ogni altro materiale promozionale
00:55:13la presenza nell'opera dell'impiego di intelligenza artificiale
00:55:17e aggiungiamo, precisando in quale ruolo, scrittura creativa, musica, regia, interpretazione, doppiaggio, montaggio, eccetera,
00:55:27per permettere allo spettatore una scelta consapevole.
00:55:31Necessità questa già espressa nel manifesto attrici e attori sull'uso di intelligenza artificiale
00:55:37nella produzione di audiovisivo e spettacolo dal vivo,
00:55:40prodotto dal tavolo aperto attrici e attori che abbiamo promosso su questo allarmante tema
00:55:46come associazione RAI, registro attrici e attori italiani, nel 2023.
00:55:50Manifesto allora pubblicato e inviato alla Presidenza di questa Commissione,
00:55:56alla omologa Commissione del Senato, alla Commissione Algoritmi, ai Ministeri del Lavoro e della Cultura
00:56:01e ai sindacati e di cui troviamo rispondenze nella risoluzione in oggetto
00:56:06come ne abbiamo trovata nelle formule del CCNL e interpreti di audiovisivo
00:56:11seppur solo come rimando alla necessità di disciplina.
00:56:15Nel manifesto che alleghiamo alla memoria che depositiamo agli atti della Commissione
00:56:21si ricorda come il nostro lavoro in cinema, televisione, teatro, doppiaggio, radio
00:56:26poggi sul diritto sulla nostra immagine, sulla nostra voce, sul diritto voce-volto
00:56:32che ci riconosce il diritto di doppiare noi stessi nella nostra lingua
00:56:36e su tutti i diritti connessi e come il mestiere dell'attore sia quanto di più umano
00:56:41attingendo infatti al cuore, al sangue, alla vita e all'anima dell'interprete
00:56:47che gli offre al personaggio perché arrivino al cuore, al sangue, alla vita e all'anima dello spettatore.
00:56:54Si ricorda come un personaggio sia il risultato dell'incontro del talento dell'autore
00:56:59con quello dell'interprete, ma anche del contributo offerto da ogni altra professione
00:57:04che opera nel processo produttivo creativo.
00:57:07Regia, trucco, costume, scenografia, fotografia, montaggio, musica, suono, effetti visivi
00:57:14e come tutta questa ineguagliabile alchimia di professionalità e talenti
00:57:20sia a rischio di venire spazzata via dall'impiego di algoritmi e intelligenza artificiale.
00:57:25Sottrarre o ridurre l'elemento dell'umanità ad un'espressione artistica
00:57:31creando inoltre nello spettatore uno spazio di inconsapevolezza
00:57:35sul confine tra il contributo umano e quello artificiale
00:57:38apre scenari disumanizzanti e stranianti.
00:57:42E proprio il cinema non ha mancato da molti anni di disegnare opere
00:57:46che fungessero da monito sulle possibili derive sociali e antropologiche di simili pratiche.
00:57:51A.I. appunto, Simone, Lei, I'm a Mother, Ex Machina, Black Mirror e molte altre ancora.
00:58:00Da cittadini ci dichiariamo altamente preoccupati per queste prospettive
00:58:04e da lavoratori altrettanto preoccupati per il concreto rischio
00:58:08che tutte le declinazioni del nostro lavoro insieme a tutte le professioni
00:58:12fin anche quella del produttore stesso, delle filiere di produzione di spettacolo
00:58:18vengano profondamente lese quando non spazzate via dall'impiego della tecnologia.
00:58:23Ringraziamo dunque i promotori della risoluzione e l'intera Commissione
00:58:27per voler impegnare il Governo perché si pongano argini legislativi chiari e solidi
00:58:32alle diverse ricadute di varia natura, per tutelare l'occupazione e il lavoro umano,
00:58:39la sua integrità, consapevolezza e libertà.
00:58:42Peraltro in una proiezione distopica ma non infondata,
00:58:47l'essere umano è minacciato nel proprio ruolo in ogni ambito,
00:58:50anche quello della politica, da un potenziale dilagare e deregolamentato dell'intelligenza artificiale.
00:58:56Nel manifesto l'appello alle istituzioni che oggi rinnoviamo viene rivolto affinché
00:59:021. sia vietata ogni forma di intervento di IA sulla prestazione,
00:59:07sull'aspetto, sulla voce dell'interprete senza espressa autorizzazione di quest'ultimo,
00:59:13a seguito di chiara informazione sulle modalità di intervento.
00:59:162. L'espressione del consenso sia limitata alla singola opera
00:59:20e sia stabilito che l'intervento non possa mai pregiudicare decoro, onorabilità,
00:59:25immagine personale e professionale dell'artista,
00:59:28prevedendo specifiche forme di risarcimento del danno in caso di violazione.
00:59:333. Venga riconosciuto all'artista il diritto di controllare e approvare
00:59:37l'uso della sua immagine generata o manipolata artificialmente.
00:59:424. L'artista venga informato dei suoi dati personali utilizzati per addestrare l'IA,
00:59:47retribuito per questo, e i dati vengano protetti e anonimizzati.
00:59:525. Si imponga l'obbligo di indicare nei titoli e in ogni materiale promozionale dell'opera
01:00:00se vi siano interventi di IA, in che misura e in che ambito,
01:00:03per consentire la consapevolezza della scelta allo spettatore.
01:00:076. E ultimo, i finanziamenti pubblici destinati ad opere audiovisive e di spettacolo dal vivo
01:00:13rimangano indirizzati a sostegno e tutela del lavoro umano e non diminuiti.
01:00:18Eventuali opere realizzate con interpreti in IA possano accedere solo a finanziamenti distinti
01:00:24e mai distolti dai primi.
01:00:26Concludiamo questo intervento con lo stesso appello con cui si conclude il manifesto.
01:00:30McLuhan disse il mezzo è il messaggio.
01:00:34Oggi noi invochiamo il mezzo così come il messaggio,
01:00:39siano sempre l'essere umano, il lavoro umano e l'umanità.
01:00:43Grazie.
01:00:45Grazie, invito tutti gli auditi a rispettare i tempi e le faccio un quesito.
01:00:50Dagli interventi precedenti è emerso come vengono utilizzate illegalmente le prestazioni artistiche
01:00:55di doppiatori, attori, voce, immagini e suoni senza consenso.
01:00:58L'introduzione delle fattispecie di materiale protetto e di pubblico dominio aiuterebbe a evitare disfunzioni.
01:01:04Cosa ne pensa?
01:01:06Sono assolutamente d'accordo ed è un rischio concreto a cui è necessario porre un argine, certamente.
01:01:15Allora, passiamo ora all'audizione di Unita, Unione Nazionale Interpreti Teatro e Audiovisivo,
01:01:26rappresentato da Domenico Chiarello e da Francesco Rossini, attore e membro del direttivo di Unita.
01:01:32Ringraziandoli per aver raccolto l'invito della Commissione, chiedendo l'assenso per la trasmissione dell'audizione
01:01:36sulla web tv e sottolineando che l'intervento deve durare 5 minuti.
01:01:43Se poi dovesse essere lungo la relazione la potete trasmettere.
01:01:47Grazie, prego.
01:01:47Sì, grazie Presidente.
01:01:48Mi sentite?
01:01:50Sì, benissimo.
01:01:51Allora, l'Avvocato Chiarello purtroppo ha avuto dei problemi con l'audio, quindi invieremo anche la nostra memoria tecnica.
01:01:57Io faccio un discorso di pianto un pochino più filosofico.
01:02:02Intanto, grazie a nome della nostra associazione, il tema che la risoluzione 7.290, presentata da lei, Presidente,
01:02:10pone ai presenti e di stringente attualità, costringe l'intero settore a urgenti riflessioni.
01:02:15L'ingresso dell'intelligenza artificiale nel mondo della creatività dello spettacolo
01:02:19sta cambiando radicalmente il peso specifico dei soggetti coinvolti.
01:02:23E sebbene la risoluzione faccia esplicito riferimento al settore del doppiaggio,
01:02:27non possiamo considerare esenti da questo problema anche gli specifici comparti
01:02:33che riguardano gli autori, come detto, e gli interpreti, cioè noi, dell'opera creativa
01:02:37nella sua collocazione all'interno del mondo del cine audiovisivo e dell'entertainment.
01:02:41Prendiamo atto del massiccio intervento di questa nuova tecnologia presso le professioni appena citate
01:02:46e comprendiamo anche come non sia possibile negare ciò che questo rappresenta,
01:02:50ovvero il passaggio a una nuova era nel campo della produzione del cine audiovisivo.
01:02:55Tuttavia riteniamo che sia doveroso anticipare con una visione consapevole e lungimirante
01:03:00le sempre più numerose contraddizioni e i sempre più evidenti conflitti
01:03:04che insorgono tra la sfera umana che può e deve continuare a generare e rappresentare i contenuti
01:03:10e questo antagonista silenzioso che sempre più spesso troviamo presente
01:03:13nelle sue estensioni, applicazioni o riproduzioni digitali.
01:03:17La categoria che noi rappresentiamo, quella delle attrici e degli attori,
01:03:20è a stretto contatto con quella dei colleghi doppiattori e direttori di doppiaggio.
01:03:24Molto spesso le due professioni risiedono entrambe nello stesso soggetto,
01:03:28talvolta anche l'attore che non sia un vero e proprio doppiatore viene chiamato a correggere se stesso,
01:03:33quindi in pratica viene chiamato a doppiare se stesso in studio.
01:03:37Per questo, in seno al nostro consiglio direttivo,
01:03:39oltre ad essere in perfetta sintonia con le riflessioni provenienti dal mondo del doppiaggio,
01:03:43siamo consapevoli di come non si debba mai escludere l'elemento umano dal processo produttivo delle opere in questione.
01:03:49La domanda che tutti noi dobbiamo porci riguardo all'avvento di questa nuova tecnologia nel nostro settore è
01:03:55si tratta di progresso?
01:03:57Per rispondere è necessario fare alcune valutazioni e concordare sul fatto che il termine progresso
01:04:02debba essere usato in caso di accrescimento, miglioramento delle condizioni umane,
01:04:06in questo caso lavorative ed economiche,
01:04:09nonché di un'estensione dei diritti connessi a questo miglioramento,
01:04:12ma allo stato attuale l'impiego dell'intelligenza artificiale nel settore dello spettacolo
01:04:16non sembra ottemperare a queste inderogabili istanze.
01:04:20Gli unici a beneficiare di un vantaggio sono sempre allo stato attuale quelle imprese di produzione,
01:04:25cioè le major, che facendo a meno dell'impiego di professionisti altamente specializzati,
01:04:29come gli autori, i doppiatori, gli interpreti,
01:04:32risparmiano sul capitale umano aumentando il profitto.
01:04:34Questo dato, più che un progresso, sembra piuttosto profilare un regresso,
01:04:38un peggioramento generale del settore dovuto all'inevitabile calo occupazionale
01:04:43o all'utilizzo di copie artistiche e digitali senza corrispondizioni di alcun diritto d'immagine,
01:04:47laddove evidentemente la presenza umana inizia a risultare superflua.
01:04:51Ecco, questo è un altro punto interessante, la presenza umana nell'arte.
01:04:55Crediamo davvero che l'intelligenza artificiale possa creare prodotti adeguati
01:05:00o paragonabili a quelli dell'ingegno umano?
01:05:02Io ho provato a chiedere a una di queste applicazioni di intelligenza artificiale,
01:05:06ho provato a chiedere, tu puoi sognare?
01:05:08La risposta è stata no, non posso sognare ma posso combinare in maniera razionale
01:05:13ciò che mi viene comunicato sui sogni.
01:05:16Cioè, se noi consideriamo la cultura, lo spettacolo, l'arte in generale,
01:05:20come nutrimento necessario per l'anima,
01:05:23o anche solo come intrattenimento, come fattore di completamento dell'esperienza umana,
01:05:27allora possiamo facilmente comprendere quanto sia fondamentale che i contenuti
01:05:31e soprattutto le loro esposizioni debbano continuare ad essere generati
01:05:36e veicolati dai professionisti in carne ed ossa.
01:05:38Per usare una metafora facilmente comprensibile e molto attuale,
01:05:42potremmo dire contenuti e interpretazioni bio,
01:05:46contrapposte evidentemente a quelle generate in modo sintetico,
01:05:49algoritmico e troppo razionale, come diceva la macchina.
01:05:53Cioè, immaginate, Presidente, la scena di un bacio, una lacrima o un grido di rabbia.
01:05:58Quale sentimento può farci sorgere quella scena sapendo che quel frammento
01:06:01non è per così dire umano?
01:06:04Cioè, non è generato e maturato nell'esperienza umana,
01:06:07ma è solo una serie di dati, una sequenza binaria, un algoritmo.
01:06:11Per rimanere nel campo del nutrimento è come se noi scegliessimo di consumare plastica
01:06:15anziché cibo biologico.
01:06:17Quindi, dal punto di vista strettamente etico,
01:06:19pensiamo che l'utilizzo dell'IA nello spettacolo debba essere consentito
01:06:23solo per ottenere effetti altrimenti irraggiungibili,
01:06:26come il ringiovanimento dell'interprete,
01:06:29oppure oltremodo rischiosi,
01:06:30come quelli che implicano la possibilità di danni ai professionisti.
01:06:34Allo stesso modo, l'impiego di questa tecnologia nel campo autorale,
01:06:37pensiamo, debba essere circoscritto all'uso di mero strumento di correzione
01:06:41o di facilitazione della stesura dell'opera.
01:06:44Ecco, nessun misoneismo, quindi, ma un semplice realismo.
01:06:47Dobbiamo considerare l'intelligenza artificiale uno strumento.
01:06:50Uno strumento che, dal punto di vista tecnico e legale,
01:06:53debba essere normato ogni qualvolta che vada a sovrapporsi
01:06:56alla prestazione individuale del professionista in questione.
01:06:59Cioè, debba essere innanzitutto autorizzato dallo stesso
01:07:02e successivamente monetizzato, anche sia in termini economici che previdenziali.
01:07:07Perché è vero che il contributo avviene solamente in presenza di prestazione d'opera,
01:07:13ma se dovesse, come abbiamo detto, vedere maturare il guadagno per un doppiatore
01:07:20che se ne sta a casa sul divano, sapendo che intanto la sua voce registrata lavora,
01:07:24beh, in quel caso ci sarebbe una contraddizione in termini di previdenza
01:07:29perché non potrebbe essere conferito.
01:07:31Comunque, a questo proposito, la nostra associazione ha intrapreso già un percorso
01:07:35insieme agli autori e vi sottoporremo anche tutti i nostri rilievi tecnici.
01:07:41Grazie per l'attenzione.
01:07:43Grazie, approfitto per farle due quesiti, perché poi la risoluzione non tratta solo
01:07:50dell'intelligenza artificiale.
01:07:51Allora, su questo, quali iniziative dovremmo adottare per garantire l'interazione,
01:07:57come appunto accennava, fra creatività umana e intelligenza artificiale
01:08:00tutelando il lavoro umano?
01:08:02E il secondo quesito riguarda invece, dal fatto che la tutela della creatività umana
01:08:09del settore del doppiaggio non può eludere anche la tutela previdenziale
01:08:14dei lavoratori dello spettacolo, così come indicato dalla risoluzione 8.000.17,
01:08:19approvata il 28 giugno del 2023, che impegna il Governo ad adottare iniziative
01:08:24di interpretazione autentica e relative alla cosiddetta quota B,
01:08:27tema che questa Commissione ha già affrontato più volte.
01:08:29come si pone in merito all'aumento delle tutele nel settore dello spettacolo
01:08:33e nello specifico in quella citata?
01:08:36Prego.
01:08:44Deve attivare il microfono.
01:08:47Deve essere...
01:08:48Sì, adesso allora.
01:08:51Grazie.
01:08:52Allora, dal punto di vista, diciamo, delle associazioni, ogni qual volta si accrescono
01:08:57i diritti, evidentemente le tutele, nei termini sia previdenziali,
01:09:01ma anche, diciamo, proprio di riconoscimento del lavoro e della professione,
01:09:06noi vediamo di buon grado ogni tipo di attività intrapresa.
01:09:12Quella dei bollini è senz'altro uno strumento interessante.
01:09:15Noi riteniamo che comunque, dal punto di vista previdenziale,
01:09:17debba essere normata con estrema attenzione,
01:09:20proprio perché sussistono leggi precedenti,
01:09:22che evidentemente escludono, diciamo, dal conferimento della contribuzione
01:09:28se in assenza di prestazione d'opera.
01:09:31Quindi, in ogni caso, la macchina non può percepire contributo,
01:09:36è evidente, previdenziale, perché non va in pensione.
01:09:39Noi consideriamo, in linea teorica, l'intelligenza artificiale come uno strumento
01:09:44e come tale debba essere adottato.
01:09:46Quindi, tutto quello che pertiene al lavoro umano ha la precedenza in assoluto
01:09:51e l'intelligenza artificiale deve figurare come una facilitazione
01:09:56di tutte queste attività,
01:09:58a maggior ragione per quello che riguarda le attività creative.
01:10:03Sostanzialmente, quello che intendiamo noi è, diciamo,
01:10:06quella specie di piccola metafora alla quale ho accennato.
01:10:10Dopo la sbornia, sicuramente, che è di questi tempi,
01:10:13della meraviglia, del mirabolante di queste, diciamo,
01:10:18attività intraprese con l'intelligenza artificiale,
01:10:20crediamo che si debba tornare al calore umano,
01:10:24soprattutto per quello che riguarda le attività artistiche.
01:10:28Ovvero, la metafora sta sull'alimentazione,
01:10:31il nutrimento dell'anima.
01:10:33Ci nutriremmo mai noi di algoritmi, cioè di plastica, di cose sintetiche?
01:10:38Che differenza c'è tra un bacio vero, reale,
01:10:40che è maturato dentro l'esperienza umana,
01:10:42o vedere una scena sapendo che quello è semplicemente
01:10:46un cartone animato un po' più evoluto.
01:10:48Ecco, questo è quello che intendiamo noi.
01:10:51Dal punto di vista culturale,
01:10:53mantenere questo tipo di bar.
01:10:55Grazie.
01:10:55Sì, la seconda da questo video sull'Inps,
01:10:57in realtà, era riferito alla quota B
01:10:59e quindi alla vertenza che c'è tra gli artisti,
01:11:04e la previdenza,
01:11:05e quindi era riferito più a quell'aspetto.
01:11:07Sì, come lei sa, abbiamo appoggiato già la sua risoluzione
01:11:11nel merito...
01:11:12Perfetto.
01:11:13Grazie.
01:11:14La ringrazio.
01:11:15Grazie.
01:11:15Allora, andiamo verso la conclusione.
01:11:17Mancano le ultime due audizioni.
01:11:20Passiamo ora all'intervento in videoconferenza
01:11:22di Alessandro Usai e Francesca Medolago,
01:11:25Albani, rispettivamente presidente e direttrice
01:11:27sviluppo strategico, relazioni esterne e formazione
01:11:30dell'Associazione Nazionale Industria Cinematografica,
01:11:33Audiovisiva e Digitali, ANICA.
01:11:34che saluto e ringrazio per aver accolto l'invito della Commissione.
01:11:38Chiedo l'assenso per la trasmissione dell'audizione
01:11:40sulla web tv della Camera dei Deputati.
01:11:42Cedo la parola al presidente Usai
01:11:44per lo svolgimento dell'intervento
01:11:45e dovrà essere contenuto in cinque minuti.
01:11:48Prego.
01:11:49Grazie presidente.
01:11:51Ovviamente do l'assenso.
01:11:53Sarò breve,
01:11:55perché,
01:11:56contrariamente, diciamo così,
01:11:58all'ampiezza della rappresentanza
01:12:02della nostra associazione
01:12:05starò su pochi punti.
01:12:08Ricordo l'ampiezza della rappresentanza
01:12:10perché penso sia un punto importante,
01:12:13non ci vediamo spessissimo
01:12:14e quindi lo ricordo,
01:12:16l'ANICA rappresenta circa 200 imprese del settore,
01:12:20quindi parliamo di imprese,
01:12:21ovviamente non di singoli professionisti o di artisti,
01:12:25suddivisi in sette unioni,
01:12:27quindi abbiamo dentro un po' tutte le imprese
01:12:30della filiera audiovisiva
01:12:32che vanno dalla produzione alla distribuzione,
01:12:35esportatori, industrie tecniche, cartoni animati
01:12:38e abbiamo anche i più volte citati
01:12:41distributori cinematografici,
01:12:44ovviamente abbiamo i più volte citati EMAV,
01:12:47ovvero gli streamers,
01:12:49che sono, diciamo così,
01:12:50spesso il punto di riferimento del dibattito
01:12:56in merito all'intelligenza artificiale.
01:12:59Ora, proprio per via della complessità di questo tema
01:13:02abbiamo avviato internamente,
01:13:05non solo limitatamente alla tematica di cui parliamo oggi,
01:13:11un approfondimento che sia normativo che tecnologico,
01:13:15perché l'intelligenza artificiale impatta e impatterà
01:13:20il nostro lavoro in una varietà
01:13:24che è ancora difficile, come dire, circoscrivere,
01:13:29ma che riguarda tutti gli aspetti dei processi produttivi
01:13:32e su questo quindi, proprio per via del suo impatto,
01:13:36per via della sua ampiezza, della sua varietà,
01:13:39a nostro avviso merita un approfondimento
01:13:43che sia sia normativo che sia anche di comparazione
01:13:46rispetto a quello che avviene negli altri paesi.
01:13:49Qui sottolineo l'importanza, a nostro parere,
01:13:56di fare riferimento il più possibile a normative
01:13:59che siano a livello europeo,
01:14:03perché oggi il nostro settore, diciamo così,
01:14:06ha una trasparenza, una fluidità
01:14:12anche di business tra un paese e l'altro
01:14:15che potrebbe essere, come dire,
01:14:17potrebbe portare dei danni all'industria
01:14:20e anche all'occupazione
01:14:21qualora in qualche modo
01:14:25un singolo paese, nel caso specifico l'Italia,
01:14:29decidesse di muoversi in maniera, diciamo,
01:14:33isolata, perché purtroppo, per fortuna,
01:14:37sta di fatto, è un dato di fatto di oggi,
01:14:40la facilità con cui importanti investimenti,
01:14:44lo abbiamo visto su un tema diverso,
01:14:46che era quello del tax credit,
01:14:48importanti investimenti in nostro settore
01:14:50si possono spostare da un paese all'altro,
01:14:54possono, diciamo, questo, questo,
01:14:57l'impatto di queste scelte
01:14:58può avere delle conseguenze
01:15:00molto anche deleterie nel nostro settore.
01:15:03Detto questo, è evidente che ci vuole una tutela,
01:15:08ci vuole una tutela delle professionalità,
01:15:11ci vuole una tutela dell'autoralità.
01:15:14Per parte Anica, come sanno molti
01:15:17degli uditi prima di me,
01:15:21noi abbiamo anche un livello
01:15:24di confronto su questi temi
01:15:28che non è quello legislativo,
01:15:30ma è che quello della contrattazione collettiva,
01:15:33cioè in una serie di casi
01:15:35cerchiamo con i nostri interlocutori
01:15:38di raggiungere degli accordi
01:15:41che siano tutelanti per entrambi
01:15:44con dei contratti collettivi.
01:15:46A dicembre del 2023
01:15:48l'Unione delle Industrie Tecniche
01:15:51ha sottoscritto un contratto collettivo
01:15:55per il doppiaggio
01:15:56e ancora oggi, domani,
01:16:01in particolare vedremo se sarà confermata
01:16:03o visto il possibile lutto nazionale,
01:16:06ma come sapete,
01:16:07perché è una notizia di dominio pubblico,
01:16:09siamo stati convocati insieme ad altre associazioni
01:16:11dai due sottosegretari del MIC
01:16:15per parlare del decreto sul tax credit,
01:16:18ma anche lì dentro il decreto sul tax credit
01:16:21c'è stato anticipato
01:16:22che verranno illustrate alcune
01:16:23diciamo declinazioni
01:16:26che riguardano l'uso dell'intelligenza artificiale.
01:16:32Ecco, su questo una linea guida
01:16:35che ci permettiamo di, come dire,
01:16:39sottolineare
01:16:41è quando si fanno interventi
01:16:44per regolamentare questo tipo di attività
01:16:47cercare di essere specifici
01:16:50soprattutto su quello che non si può fare.
01:16:54Cioè, a nostro avviso,
01:16:56fare un elenco di attività,
01:17:02di azioni che non possono essere fatte
01:17:05è più facilmente intellegibile,
01:17:09interpretabile da parte delle imprese
01:17:12che poi sono quelle su cui
01:17:14verosimilmente graverà
01:17:18l'obbligo di far rispettare quelle regole.
01:17:21Mentre vediamo con più difficoltà
01:17:25diciamo un elenco di attività consentite
01:17:30perché con lo sviluppo tecnologico in corso
01:17:33prevedere solo quello che è consentito
01:17:36rischia di lasciare in un ambito,
01:17:39in una zona grigia
01:17:40e quindi esposte a possibili sanzioni
01:17:43tutta una serie di nuove applicazioni
01:17:48e nuovi sviluppi
01:17:49che potrebbero nascere quotidianamente.
01:17:53Qualcuno prima sottolineava
01:17:56come una delle difficoltà di regolamentare
01:17:59questa materia sia proprio il fatto
01:18:01che i tempi dell'elaborazione
01:18:04della regolamentazione sono più lunghi
01:18:07rispetto allo sviluppo tecnologico
01:18:10e quindi si corre il rischio
01:18:12di essere costantemente in ritardo.
01:18:16Per questo motivo, ripeto,
01:18:18penso che sia molto importante
01:18:20identificare anzitutto
01:18:21le fattispecie chiare
01:18:24di attività non consentite.
01:18:27Quindi tutti quegli utilizzi
01:18:29in cui l'intelligenza artificiale
01:18:31è fraudolenta,
01:18:33lede dei diritti
01:18:35e quindi non può essere utilizzata.
01:18:38Perché poi ci sono,
01:18:39e lo ricordo...
01:18:40Si avvia a concludere?
01:18:42Sì, sì, mi avvio.
01:18:44Ci sono una serie di utilizzi
01:18:46che già avvengono da anni
01:18:48dell'intelligenza artificiale
01:18:50in una serie di fasi produttive,
01:18:54penso agli effetti speciali,
01:18:55penso alla fotografia,
01:18:56penso alla scenografia,
01:18:57che già sono da anni, ripeto,
01:19:01utilizzate ma che non impattano
01:19:06nel caso specifico,
01:19:08diciamo, la lesione di diritti specifici,
01:19:11ma che se non consentite
01:19:13o se non esplicitamente consentite
01:19:15rischierebbero di automaticamente
01:19:19essere implicitamente vietate.
01:19:21Questa è la considerazione generale,
01:19:26se volete, un po' così,
01:19:28di politica industriale.
01:19:32Grazie.
01:19:33Allora, le farei un quesito
01:19:36rispetto alla sigla del contratto collettivo
01:19:39e l'accordo successivo
01:19:40sull'intelligenza artificiale
01:19:41che è sicuramente valevole.
01:19:44Il Governo ha già modificato
01:19:46il tax credit cinema
01:19:48evitando esattamente
01:19:49l'ammissibilità dei costi
01:19:51relativi all'uso indiscriminato
01:19:53dell'intelligenza artificiale.
01:19:54Come si pone relativamente
01:19:56la sua associazione
01:19:57rispetto all'introduzione
01:19:58dei watermark
01:19:59che abbiamo già citato
01:20:01sia da parte delle associazioni
01:20:03e sia come commissione
01:20:06che addirittura proponemmo
01:20:08alla vigilia
01:20:09dell'introduzione dell'intelligence act
01:20:11rispetto poi
01:20:14all'interno della regolamentazione nazionale
01:20:16sulla creatività
01:20:17e al rafforzamento
01:20:19dei meccanismi
01:20:20di manifestazione
01:20:21del consenso
01:20:22che come abbiamo sentito
01:20:23è un tema cruciale
01:20:25e molto sentito.
01:20:26Quindi rispetto a quello che diceva
01:20:28capiamo ovviamente
01:20:30l'elenco
01:20:31che l'associazione chiede
01:20:32e condivide
01:20:34l'elenco
01:20:36degli utilizzi vietati
01:20:38però rispetto a questo
01:20:40chiediamo qual è l'opinione
01:20:42esplicita
01:20:43sulla manifestazione
01:20:44del consenso
01:20:45e sull'introduzione
01:20:47dei quattro watermark
01:20:48per cui
01:20:49intelligenza artificiale
01:20:51intelligenza artificiale
01:20:52più intelligenza umana
01:20:53intelligenza umana
01:20:54e deepfake
01:20:55intelligenza artificiale.
01:20:57Prego.
01:20:59Qui diciamo così
01:21:00esprimo
01:21:01a questo punto
01:21:03parlo
01:21:03parla il presidente
01:21:05non abbiamo avuto
01:21:06ancora una consultazione
01:21:09di tutte le unioni
01:21:10specifica
01:21:11su questo tema
01:21:12però mi sento di dire
01:21:14noi siamo
01:21:15abituati come industria
01:21:16ad avere watermark
01:21:18penso siamo
01:21:19forse tra le industrie
01:21:21culturali
01:21:21già soltanto
01:21:22per il fatto
01:21:23della censura
01:21:24e dell'indicazione
01:21:26dei contenuti
01:21:28che sono adatti
01:21:29a diverse fasce
01:21:30di età
01:21:30siamo tra quelli
01:21:31più
01:21:32diciamo allenati
01:21:34ad avere
01:21:35quel tipo di indicazioni
01:21:36quindi
01:21:36non vedo
01:21:37una problematica
01:21:40sarà importante
01:21:41ovviamente capire
01:21:42su chi
01:21:43peserà
01:21:45la responsabilità
01:21:46di questa indicazione
01:21:48abbiamo una preoccupazione
01:21:50un po' generica
01:21:51che tutti questi
01:21:52obblighi
01:21:53poi ricaschino
01:21:55sulla
01:21:55categoria
01:21:57dei produttori
01:21:58che spesso
01:21:58va ricordato
01:22:00non sono
01:22:00grandi imprese
01:22:01perché poi
01:22:02e chiudo
01:22:03dicendo
01:22:04vengono citati
01:22:06giustamente
01:22:07i committenti
01:22:08però poi
01:22:09i contratti
01:22:10con
01:22:11gli artisti
01:22:12non sono
01:22:13quasi mai
01:22:14fatti
01:22:14direttamente
01:22:15dalla committenza
01:22:16ma sono fatte
01:22:16dalle società
01:22:17di produzione
01:22:18e queste società
01:22:20di produzione
01:22:20non sempre
01:22:21hanno la dimensione
01:22:23anche proprio
01:22:24banalmente
01:22:25di personale
01:22:25le strutture
01:22:26amministrative
01:22:27in grado
01:22:28di gestire
01:22:29un imponente
01:22:30mole
01:22:30di obblighi
01:22:32quindi
01:22:32questo
01:22:33diciamo
01:22:34sarà qualcosa
01:22:35che poi
01:22:35andrà
01:22:36discusso
01:22:37proprio
01:22:38nell'operatività
01:22:39però
01:22:39in linea
01:22:40di principio
01:22:40non vediamo
01:22:42problematicità
01:22:44ecco
01:22:45sui watermark
01:22:46e sulla
01:22:48clausola
01:22:48del consenso
01:22:49esplicito
01:22:49sulla clausola
01:22:51del consenso
01:22:52esplicito
01:22:53altrettanto
01:22:54mi viene
01:22:56da dire
01:22:56è chiaro
01:23:00che
01:23:00mi verrebbe
01:23:01sempre da
01:23:02ricollegarmi
01:23:02a quello
01:23:02che ho detto
01:23:03all'inizio
01:23:04penso
01:23:05ma penso
01:23:06nell'interesse
01:23:07proprio
01:23:07di tutti
01:23:08noi
01:23:08che
01:23:09sarebbe
01:23:10importante
01:23:10che
01:23:11questa
01:23:11clausola
01:23:12sia coerente
01:23:13poi con
01:23:13quanto prevede
01:23:14anche il regolamento
01:23:15a livello
01:23:16di Unione
01:23:17Europea
01:23:17ecco
01:23:18per non
01:23:18ritrovarci
01:23:19in situazioni
01:23:20che potrebbero
01:23:21capitare
01:23:22penso per esempio
01:23:23alle coproduzioni
01:23:24tra più paesi
01:23:25quindi dove
01:23:26esistono doppie
01:23:27nazionalità
01:23:28ad avere
01:23:29clausole
01:23:30diverse
01:23:31o in conflitto
01:23:33magari per un film
01:23:34che è coprodotto
01:23:35tra l'Italia
01:23:36e la Francia
01:23:36o l'Italia
01:23:37e la Germania
01:23:38e via dicendo
01:23:39ecco
01:23:40grazie
01:23:41grazie
01:23:42all'anica
01:23:43chiudiamo ora
01:23:45il ciclo di audizioni
01:23:46con l'intervento
01:23:47in videoconferenza
01:23:48del professor
01:23:49Gambino
01:23:50dell'Università Europea
01:23:52di Roma
01:23:52a cui chiedo
01:23:52l'assenso
01:23:53sulla web tv
01:23:54e cedo la parola
01:23:55pregandolo davvero
01:23:57perché abbiamo
01:23:57la fiducia
01:23:58di essere
01:23:59rimanere in cinque minuti
01:24:00prego
01:24:01bene bene
01:24:02l'assenso accordato
01:24:04dunque
01:24:05devo subito
01:24:07dirvi che
01:24:07la mia impressione
01:24:09è che
01:24:09ci troviamo davanti
01:24:10a due scenari
01:24:12uno scenario
01:24:13che è
01:24:14il contingente
01:24:15cioè
01:24:16la fase
01:24:17in cui ci sono
01:24:18dei lavoratori
01:24:20dei doppiatori
01:24:21che hanno
01:24:22un profilo artistico
01:24:23perché a tutti gli effetti
01:24:25possono rivendicare
01:24:26dei diritti
01:24:26d'autore
01:24:27in base alle leggi
01:24:28in base alla giurisprudenza
01:24:29e all'esperienza
01:24:29e poi c'è un dopo
01:24:31una seconda fase
01:24:32quando in realtà
01:24:34si entrerà
01:24:34in competizione
01:24:35con
01:24:36è stato detto
01:24:37la voce sintetica
01:24:38il doppiatore
01:24:39è legato
01:24:40alla tecnologia
01:24:41dell'intelligenza artificiale
01:24:42che viceversa
01:24:43entrerà
01:24:44necessariamente
01:24:45in competizione
01:24:46come già lo sta facendo
01:24:47adesso
01:24:47quindi
01:24:48la mia impressione
01:24:49è che vadano
01:24:50un po' scissi
01:24:51di queste due fasi
01:24:52nella fase
01:24:53del contingente
01:24:54occorre
01:24:55come fa bene
01:24:56anche la raccomandazione
01:24:58i documenti
01:24:58del Parlamento
01:24:59e anche tutte
01:25:00le normative
01:25:01sulle quali
01:25:01si sta lavorando
01:25:02preservare
01:25:03e rivendicare
01:25:04l'autorialità
01:25:05ai soggetti
01:25:06che oggi lavorano
01:25:07il comparto
01:25:08del cinema
01:25:09e in particolare
01:25:10del doppiaggio
01:25:11e tuttavia
01:25:12tenere ferma
01:25:14una prospettiva
01:25:15che consenta
01:25:16di recuperare
01:25:17l'anno prossimo
01:25:19sono 140 anni
01:25:20dalla convenzione
01:25:21di Berna
01:25:21il senso
01:25:23del diritto d'autore
01:25:24il diritto d'autore
01:25:25nasce proprio
01:25:26per evitare
01:25:27il mecenatismo
01:25:28cioè il fatto
01:25:28che ci fossero
01:25:29delle preferenze
01:25:30verso alcuni soggetti
01:25:32assolutamente talentuosi
01:25:33e altri
01:25:34che a questo punto
01:25:35potevano solo
01:25:35essere sfruttati
01:25:36è una normativa
01:25:38in qualche modo
01:25:38lavoristica
01:25:39e se la nostra
01:25:41carta costituzione
01:25:42inizia
01:25:43con la tutela
01:25:44della Repubblica
01:25:45fondata sul lavoro
01:25:46questo significa
01:25:48che abbiamo
01:25:48un archetipo
01:25:50che è formidabile
01:25:51oggi per preservare
01:25:53io non mi spingo
01:25:54a indicare
01:25:55con questa espressione
01:25:57il futuro
01:25:57cioè
01:25:58quota di mercato
01:26:00però forse
01:26:01potrebbe essere
01:26:02quella la soluzione
01:26:03cioè di preservare
01:26:04una quota di mercato
01:26:06a tutto quello
01:26:06che c'è di umano
01:26:07di frutto
01:26:09dell'arte
01:26:10e della capacità artistica
01:26:12dell'essere umano
01:26:13rispetto
01:26:14ad altre quote
01:26:14di mercato
01:26:15che saranno tutte
01:26:16invece sintetiche
01:26:17artificiali
01:26:18questo è un lavoro
01:26:19che può fare il diritto
01:26:21deve fare il diritto
01:26:22perché il diritto
01:26:23alla fine
01:26:23anch'esso è artificiale
01:26:24oggi dice una cosa
01:26:25domani ne dice un'altra
01:26:27allora da questo punto di vista
01:26:28io inviterei a
01:26:30da un lato
01:26:30preservare
01:26:31l'esistente
01:26:32con le battaglie
01:26:33legate
01:26:34all'attualità
01:26:35e quindi
01:26:36dentro le maglie
01:26:37dell'ordinamento
01:26:38rivendicare
01:26:39questa necessità
01:26:40che solo
01:26:41umano
01:26:43può essere
01:26:44suscettibile
01:26:45di tutela
01:26:46autoriale
01:26:47il non umano
01:26:48non è suscettibile
01:26:49di tutela autoriale
01:26:50tuttavia è libero
01:26:51non è che non è libero
01:26:53lo è libero addirittura
01:26:54c'è l'embrione sintetico
01:26:55quindi si sta creando
01:26:56addirittura
01:26:57la vita umana
01:26:58a livello di sintesi
01:26:59quindi poi
01:26:59ne viene anche la voce
01:27:01un domani
01:27:01che può essere
01:27:02addirittura
01:27:03non umano
01:27:03però da questo punto di vista
01:27:05c'è invece poi
01:27:06un dopo
01:27:07sul quale bisogna
01:27:08cominciare a ragionare
01:27:09da subito
01:27:10perché altrimenti
01:27:11il mercato
01:27:11a questo punto
01:27:12andrà a stritolare
01:27:13necessariamente
01:27:14le prospettive
01:27:15di queste professioni
01:27:16quindi
01:27:17il mio è un auspicio
01:27:19che accanto ai documenti
01:27:20che già ci sono
01:27:21e sono peraltro
01:27:21ben fatti
01:27:22e su cui state discutendo
01:27:24se ne possano affacciare
01:27:25altri
01:27:25direttamente
01:27:26uso questa espressione
01:27:28dentro il diritto
01:27:28antitrust
01:27:29dentro il diritto
01:27:30della concorrenza
01:27:31dentro il diritto
01:27:31di quelle tutele
01:27:33che riguardano anche
01:27:34il fruitore
01:27:35dell'opera cinematografica
01:27:36dell'audiovisivo
01:27:37in generale
01:27:38che non solo
01:27:39deve avere un warning
01:27:40ma deve essere
01:27:41anche consapevole
01:27:42che c'è una fetta
01:27:43di mercato
01:27:44che verrà preservata
01:27:45per quelle categorie
01:27:47potranno essere
01:27:48categorie protette
01:27:49chiamiamole come vogliamo
01:27:50ma che non possono essere
01:27:51spazzate via
01:27:52dalla tecnologia
01:27:53questo per me
01:27:54è un punto
01:27:55che altrimenti
01:27:56va a finire
01:27:57che ci troviamo
01:27:58a una situazione
01:27:59di non ritorno
01:28:00dove inevitabilmente
01:28:02quello che costa meno
01:28:03è o più appropriato
01:28:05per chi fa business
01:28:06in questo comparto
01:28:08grazie
01:28:11secondo solo
01:28:14sì
01:28:19una specifica
01:28:21anche a lei
01:28:22sulla clausola
01:28:23esplicita
01:28:24nei contratti
01:28:25cosa ne pensa
01:28:27prego
01:28:28ne penso
01:28:30che ovviamente
01:28:31è un profilo interessante
01:28:32però
01:28:33siccome
01:28:34è un profilo
01:28:34dirigista
01:28:35ci deve essere
01:28:36una norma primaria
01:28:37che consente
01:28:39in questo caso
01:28:39l'opt-in
01:28:41anziché
01:28:42l'opt-out
01:28:42quindi
01:28:43favorevole
01:28:44ma da un punto di vista
01:28:46del dentellato
01:28:47normativo
01:28:48non può essere lasciata
01:28:49la libera negoziazione
01:28:50grazie
01:28:52ringraziamo
01:28:52il professor Gambino
01:28:53ringraziamo tutte le associazioni
01:28:54che hanno seguito
01:28:55sia da remoto
01:28:56che qui in presenza
01:28:57per tutto il ciclo
01:28:58di traduzioni
01:28:59ci aggiorniamo
01:29:01la prossima sessione
01:29:02che sarà l'ultima
01:29:03con il presidente
01:29:04della SIAE
01:29:05ed altre associazioni
01:29:06grazie a tutti
01:29:07grazie a tutti
Consigliato
1:45:51
1:11:04
57:27
54:52
1:17:25
2:18:22
52:49
Commenta prima di tutti