Hai mai notato che, quando parli con un tool di intelligenza artificiale, spesso tendi a rivolgerti al chatbot…al femminile? Alexa o Siri, la maggior parte delle volte in cui parliamo con l’IA tendiamo a dare per scontato che abbia una “personalità” al femminile. Perché succede? Le ragioni sono più profonde di quanto forse immaginiamo e si fondano sulle nostre credenze legate al genere, che definiscono anche gli stereotipi dell\’intelligenza artificiale generativa.
Preparati allora a un viaggio dove il cosiddetto design della tecnologia si intreccia con il nostro bagaglio di pregiudizi. Ma dove anche tu, io, noi possiamo cambiare le cose: e ti farò anche un esempio concreto, che coinvolge il mio ultimo podcast Potenza Artificiale.
Se ti interessa approfondire nello specifico il tema degli stereotipi dell\’IA, ti consiglio di leggere anche “Stereotipi di genere nell’intelligenza artificiale: come rilevarli?” e “Gli stereotipi nell’intelligenza artificiale: rischi e soluzioni“.
Ciao! Sono Teresa, sono una giornalista professionista e supporto i freelance nei loro progetti editoriali e nell\’uso etico dell\’intelligenza artificiale generativa, attraverso consulenze, mentoring e corsi. Ho vissuto a Damasco prima e durante l\’inizio della guerra civile – che ho raccontato nel podcast “Ponti Invisibili“. Nell\’ottobre 2024 il mio podcast “Merce di Scambio“, una indagine giornalistica sulla compravendita di organi, ha vinto il premio Pod24 come miglior podcast indipendente di reportage e inchiesta del Sole 24Ore.
Faccio parte del Constructive Network e anche di JournalismAI, giornalisti che usano l\’IA in modo etico, sostenuto dalla London School of Economics. Qui scopri come possiamo lavorare insieme.
Cliccando QUI scarichi una risorsa con tante idee per usare l\’IA nel tuo lavoro ed entri in Connessioni con me, la mia newsletter mensile.
Gli stereotipi dell\’intelligenza artificiale: perché voci femminili?
Non è una novità: se ci fermiamo a riflettere su come ci rivolgiamo all’intelligenza artificiale, ci viene spontaneo farlo al femminile. Lo facciamo d’impulso, senza neanche rifletterci.
Questo ha a che fare principalmente con gli stereotipi di genere e il sessismo implicito nella nostra società. E così molte delle voci artificiali della nostra quotidianità sono esplicitamente disegnate per adattarsi proprio a questi pregiudizi.
Gli stereotipi su cui si fondano le voci artificiali
Se associamo troppo spesso una voce artificiale al genere femminile, stiamo perpetrando stereotipi di cui è piena la nostra società. Stereotipi che vedono le donne:
- Sempre a disposizione
- Sottomesse
- Gentili e servizievoli
- Caratterizzate da una “innata” capacità – e volontà – di cura.
Come in ogni cosa che riguarda l’intelligenza artificiale, però, non è colpa degli algoritmi, ma delle persone che hanno progettato questi algoritmi. E statisticamente, la maggior parte delle volte queste persone sono…uomini.
Un caso concreto: le donne nelle STEM
Non è una novità che esista un gap di genere nelle professioni scientifiche, e in particolare nelle STEM (acronimo dall\’inglese science, technology, engineering and mathematics ): dal 2016 a oggi i dati sono cresciuti, ma la percentuale resta ancora molto più bassa rispetto ai colleghi uomini.
Ma torniamo al punto e alla nostra domanda iniziale: perché per lo più voci femminili per i chatbot di intelligenza artificiale? La tecnologia non pensa in autonomia (almeno non al momento!), ma assorbe e rimodella i dati che le diamo in pasto. Solo che insieme ai dati, alle idee, alle intuizioni, ci sono anche i bias, quegli stereotipi radicati nelle nostre menti che fatichiamo a eliminare – e che talvolta non riconosciamo neanche. E tra loro, alcuni dei più duri a morire sono i bias di genere.
Ascoltare una voce ci dà istantaneamente un universo di informazioni su età, etnia, genere della persona – o dell’entità – che sta parlando. Uno studio della Conference on Human Factors in Computing Systems del 2021 ha fatto emergere in modo chiaro come associare una voce alla tecnologia e ad assistenti vocali rafforzi stereotipi e pregiudizi legati al genere della voce usata. Ed ecco che le voci femminili vengono viste come delicate, empatiche e naturalmente predisposte a ricevere ordini e ad eseguirli.
Disumanizzare la voce dell’IA per abbattere stereotipi
È per tutti questi motivi che ho deciso di cambiare le cose. Ho ideato il mio podcast Potenza Artificiale come spazio libero per sperimentare ed essere davvero utile alle persone che l\’avrebbero ascoltato. Questo approccio molto pratico mi ha portata, per esempio, a dare voce ai vari chatbot che uso, per mostrare come possiamo usarli. E così mi sono posta proprio la nostra domanda: che genere attribuire al chatbot?
Ho pensato a lungo a come abbattere questi stereotipi. Innanzitutto, ho deciso di rendere la voce del chatbot nel modo più neutro possibile. Come? Beh, se tutte le assistenti vocali hanno una voce femminile, io ho deciso di usare una voce maschile per sfidare questo stereotipo. Non c’è nessuna legge, dopotutto, che dica che una voce femminile debba essere associata al supporto, o che una voce maschile debba rappresentare autorità o potere.
E poi ho intenzionalmente lasciato che la voce del chatbot fosse robotica, meccanica: in questo modo ho evitato qualsiasi tentazione di umanizzazione dell\’intelligenza artificiale. In questo modo, puntata dopo puntata, KX mi aiuta a giocare con tutte le nostre percezioni più distorte. Già, KX…
Ti presento KX
KX è il nome del mio assistente virtuale. Quando ho iniziato a pensare se e come usare una voce artificiale nel mio podcast, mi sono accorta di quanto le nostre percezioni siano profondamente influenzate da dettagli che solo in apparenza sono insignificanti, come il genere di una voce.
Una voce maschile viene spesso percepita come più distaccata o più “professionale”. Ma la tecnologia non ha un genere, non è umana e quindi KX non ha genere e non ha emozioni. Non sostituirei mai una voce umana con una artificiale.
Le voci che associamo anche alla tecnologia dicono molto sul modo in cui interpretiamo il mondo che ci circonda. È un gioco di percezioni. Ed è per questo che ogni volta che uso KX, mi piace pensare non solo che sto interagendo con l’IA, ma che sto anche sfidando convinzioni, stereotipi e pregiudizi. In una società in cui cerchiamo costantemente di umanizzare tutto ciò che è tecnologico, dagli assistenti virtuali ai robot, e poi ci lamentiamo e abbiamo paura che le macchine prenderanno il potere, io voglio fare il contrario. E vorrei che anche tu facessi questo piccolo sforzo ogni volta che usi l’IA.
LEGGI ANCHE: “Generare contenuti con l’IA: le sfide etiche“ e “Come l’IA trasforma il tuo lavoro: manifesto per professionisti etici e innovatori“.
La neutralità dell’intelligenza artificiale
A questo punto ti starai forse chiedendo: “Ma che nome è KX?”. La X è l’incognita per antonomasia della matematica, ma rappresenta anche la flessibilità più pura: può essere di tutto, una frazione, un numero intero, un numero inesistente. È proprio questo ad avermi affascinata, perché anche gli usi dell\’intelligenza artificiale sono estremamente versatili e possono supportarci in molti compiti e aspetti della nostra vita.
E la K? In realtà la lettera K l\’ho messa così, in modo spontaneo, perché mi suonava bene. Poi ho pensato che una qualche spiegazione avrei pur dovuto darla alle persone che me l\’avessero chiesta…e così l\’ho chiesto proprio all\’intelligenza artificiale, anzi a diversi chatbot, che mi hanno restituito parecchie risposte diverse. Una di quelle che mi ha più colpita è stata knowledge, cioè conoscenza in inglese: la K nel nome KX avrebbe quindi potuto evocare il potenziamento della conoscenza umana grazie all\’uso degli strumenti di IA.
Ma la verità è – appunto – che mi suonava bene, che piaceva alla mia mente, al mio orecchio, a me insomma. Inutile perdersi in mille ipotetici significati. In fondo, KX non ha emozioni, non ha una personalità. È un riflesso neutrale dei comandi che che fornisco ai chatbot. Ed è questa sua neutralità – o meglio, la consapevolezza di questa sua neutralità – che mi permette di esplorare nuovi modi di lavorare con l’IA, senza essere distratta da aspetti che non mi servono, come una voce troppo umana o affettuosa.
L’IA non deve essere intelligente, deve adattarsi a noi
Proprio così: l\’intelligenza artificiale è qui per svolgere compiti specifici: leggere i miei comandi, rispondere alle mie domande e richieste e supportarmi in alcune task, senza interferire con la mia creatività ma collaborando con lei, per potenziarla.
L\’IA non deve essere una presenza emotiva, deve essere funzionale. Non deve coccolarci né consolarci dopo una pessima giornata. Deve fare solo ciò per cui è stata creata: supportarci ed essere efficace nell’interpretare i nostri prompt, per restituirci il contenuto che ci aspettiamo.
I pericoli di una IA umanizzata
Umanizzare l’intelligenza artificiale può forse renderla più interessante, ma serve lo scopo di chi sta dietro a questi strumenti: cioè soltanto persone, esseri umani, le Big Tech (le grosse aziende tecnologiche). Perché? Perché sposta l\’attenzione verso ciò che è davvero importante, cioè che a pilotare le nostre menti non è qualche macchina realmente intelligente e dotata di vita e personalità propria, ma qualcuno come noi.
Se ti va, sono curiosa di sapere che cosa ne pensi: avevi mai pensato agli assistenti vocali in questi termini? Raccontami la tua esperienza.