00:04Mi rialaccio alla citazione dell'accademica Susan Levy, l'intelligenza artificiale ha il potere di esacerbare i pregiudizi della società
00:12e di far arretrare i decenni progressi in materia di parità di diritti e libertà civili.
00:18Per parlare di questo abbiamo chiesto aiuto alla professoressa Francesca Ervas dell'Università di Cagliari.
00:24Da dove possiamo partire per avere un linguaggio più inclusivo in chat GPT?
00:28Dunque verrebbe da dire che si potrebbe partire dai testi perché in effetti chat GPT attinge da un'enorme quantità
00:36di testi disponibili in internet.
00:38Però questi testi riproducono gli stereotipi e tutto quel linguaggio non inclusivo di cui si è parlato che risale a
00:50decenni e decenni.
00:51Solo recentemente è stato fatto uno sforzo in questo senso per cambiare l'uso del linguaggio e quello che ritroviamo
01:01però in chat GPT è appunto esattamente questo.
01:11Si può partire per cambiare questo tipo di linguaggio dal modo in cui si programma, ovvero dal modo in cui
01:20si analizzano i dati, dal modo in cui vengono selezionati, dal modo in cui i programmatori scelgono di organizzare i
01:31dati
01:31e poi in base a questa organizzazione addestrare chat GPT.
01:36Quindi il risultato che noi troviamo poi in chat GPT sarebbe diverso se i programmatori in modo opulato programmassero le
01:48ricerche, le analisi e quanto proposto da chat GPT cercando di ottenere un linguaggio più inclusivo.
01:55Questo in parte è già stato fatto, per esempio l'uso degli slurs o epiteti denigratori oppure delle parolacce è
02:06stato addestrato chat GPT per riconoscerle e per segnalare all'utente la problematicità dell'uso di quella parola.
02:16Questo però può essere esteso a tanti altri usi non inclusivi del linguaggio, ma questo appunto, come dicevamo, deve partire
02:25da chi programma, da chi appunto fa una scelta, analizza i dati e allena questa intelligenza artificiale per darci determinati
02:37risultati.
02:38In che modo possiamo evitare che alcune classi sociali vengano discriminate nell'uso del linguaggio?
02:45In effetti questo è un grosso problema per chat GPT perché come sua caratteristica dà dei testi che sono coesi
02:53da un punto di vista grammaticale e coerenti dal punto di vista del significato.
02:58Quindi la tendenza di chat GPT è quella di perpetuare in qualche senso gli stereotipi e il linguaggio poco inclusivo
03:07che potremmo trovare nel set di testi da cui attinge.
03:12Come possiamo entrare e spezzare questa coerenza e proporre altre coerenze, altri tipi di coerenze?
03:22Un primo modo, e ci riporta però sempre alla programmazione, è quello di identificare certi termini poco inclusivi, un linguaggio
03:32poco inclusivo, che potrebbe discriminare le classi sociali.
03:37Un esempio è quello noto del distinzione, per esempio in un testo delle elementari si potrebbe fare attenzione all'uso
03:49di termini come archeologo e archeologa oppure in un testo di scienza, scienziato e scienziata
03:57e cercare nella programmazione di chiedere a chat GPT di dare come input dei termini che appunto soddisfino questo requisito
04:08mettendo in luce sia il genere maschile sia il genere femminile.
04:12Un altro modo per non escludere classi sociali è quello di identificare nelle varie lingue appunto alcuni termini chiave che
04:24potrebbero essere stereotipici.
04:26Facciamo l'esempio della danza, in una storia in cui si parla di danza potrebbe essere il soggetto principale una
04:37ballerina, ma questo potrebbe perpetuare lo stereotipo della ballerina leggiara, della farfalla eccetera,
04:45mentre nella programmazione si potrebbe chiedere di considerare rappresentanti di quella classe che sono meno stereotipici come il ballerino, l
04:59'uomo oppure la ballerina di colore, includendo così nella classe sociale più elementi.
05:06Però di nuovo questo, come dicevamo, deve avvenire a livello di programmazione, cioè deve essere portata a consapevolezza questa necessità
05:18di un linguaggio inclusivo già a livello di programmazione,
05:21in modo da avere come output in chat GPT un linguaggio più inclusivo.
05:28Si potrebbero inserire solo testi che rispettano già delle norme di inclusione nel linguaggio?
05:34In realtà sì, si potrebbero inserire solo quei testi che consideriamo o che hanno, che seguono delle norme di inclusione
05:43per il linguaggio, però questo non avrebbe molto senso perché non avremmo a disposizione tutti i testi del passato,
05:50dovremmo evitare di inserire testi come quelli di Dante o di Manzoni, mentre il motivo per cui utilizziamo chat GPT
06:00è che ha questo enorme insieme di testi che riproduce in qualche modo tutta la nostra cultura
06:08e non solo anche i blog odierni, mentre i testi che rispettino o che siano conformi a queste norme sono
06:17un numero molto esiguo.
06:19Quello che invece si deve fare è diventare più consapevoli e quindi il lavoro non è tanto sul ridurre il
06:28numero di testi,
06:29quanto piuttosto, come si diceva, nella programmazione nel cercare di mettere in luce in qualche modo quelli che sono i
06:37bias, gli stereotipi di genere nei testi del passato
06:42che appunto appartengono anche ad un'altra epoca, cioè una storia del linguaggio che influenza l'uso della lingua e
06:51quindi quello che è da cambiare
06:53non sono tanto i testi da cui attinge chat GPT ma il modo in cui li pensiamo, il tentativo di
06:59mettere in luce il pensiero legato al genere nei testi del passato,
07:05il pensiero che appunto va cambiato cercando anche di agire sul linguaggio e questo però ancora una volta dovrebbe essere
07:13il compito di chi programma in chat GPT.
Commenti