L’intelligenza artificiale usa un linguaggio inclusivo?
Vi parliamo spesso da ultimedalweb sull’intelligenza artificiale, che non è in grado ancora di cucinare, ma sì di fare ricette e messe. Oggi, più che di una questione che ci porta e riflettere sulla portata dell’AI nella vita umana, vorremmo sollevare assieme a voi un quesito del tutto inclusivo. L’intelligenza artificiale è maschio o femmina? O non fa differenza? Voi cosa ne pensate? Vediamo insieme ad una persona capace e preparata quello che significa per l’IA usare un linguaggio inclusivo.
L’esperta che parla di Intelligenza Artificiale e di donne
Ivana Bartoletti è Global chief privacy officer di Wipro, una multinazionale indiana con sedi nei principali paesi del mondo che si occupa di ICT. L’azienda conta più di 200 mila ingegneri. Ivana ha due lauree umanistiche (scienze politiche e legge) ed è consulente europea per l’intelligenza artificiale, esperta in materia per il Consiglio di Europa. Lavora sul punto esatto d’intersezione tra tecnologia e normativa.
Ivana Bartoletti
Iscriviti gratuitamente sul canale Telegram, cliccando qui
oppure su Whatsapp, cliccando qui per non perdere tutte le novità
La discriminazione che parte dal linguaggio
Bartoletti contestualizza l’intelligenza artificiale nel nostro periodo storico e la posiziona in un punto delicato del rapporto tra umanità e tecnologia. Ed è per questo che secondo lei bisogna accelerare sulle regole e sulle competenze per essere educati ai vantaggi (e ai rischi collegati) dell‘intelligenza artificiale, che non possiamo negare sia il nostro futuro (già presente).
Di fatto, come ci invita a rifletter la manager, oltre 100 milioni di persone nel mondo usano ChatGPT. Tutti ne parlano. Vediamo quali sono i rischi.
Chi usa ChatGPT si rende conto che le informazioni che rilascia non sono tutte affidabili. Eppure, ci sono sempre più utilizzatori. Non si può negare la sua importanza in questo periodo storico.
Eppure, come riconosce l’esperta, “abbiamo visto un’intelligenza artificiale dare meno finanziamenti alle donne rispetto agli uomini, perché le donne tradizionalmente guadagnano di meno. Abbiamo scoperto che fatica a riconoscere il cancro sulla pelle nera perché il sistema è stato educato sulla pelle bianca“. E’ o non è questo una discriminazione?
L’AI ACT e la regolamentazione consapevole
Secondo Bartoletti : “Sono affascinata dalle potenzialità dell’IA e mi batto perché non lasci indietro nessuno. Ma dobbiamo tessere le regole sulle questioni più a rischio. I temi sono tanti. E si chiamano bias e pregiudizi, trasparenza e sicurezza dei dati, privay, copyright, disinformazione, deep fake”.
Di fatto, una delle conseguenze drammatiche di avere usato l’intelligenza artificiale si è verificata in Olanda, dove l’algoritmo che si occupa di sussidi sociali li ha tolti ingiustamente a migliaia di famiglie. Considerava fraudolente quelle con doppia cittadinanza. Non ci possiamo permettere non avere regole.
A tale proposito è stato approvato recentemente l’AI Act, che potrebbe cambiare le cose. Di fatto, a maggio del 2023 i deputati europei hanno approvato le prime regole al mondo sull’Intelligenza Artificiale. Ed era la prima volta al mondo che si legiferava sull’Intelligenza Artificiale, prevedendo specifici divieti di sorveglianza biometrica, riconoscimento delle emozioni, sistemi di polizia predittiva e utilizzo di strumenti avanzati come GPT. Tuttavia, nonostante questa misura, è fondamentale che vi sia un allineamento tra Paesi con gli stessi valori e con la stessa ambizione democratica.
Per approfondire:
Riconoscimento facciale con l’IA bocciato in Parlamento UE fino al 15 giugno
La rappresentazione algoritmica ed i suoi limiti “disumani”
Tra i vari problemi che presenta l’IA c’è quello della rappresentatività. Wikipedia, ad esempio, per l’80% dei casi è scritta dagli uomini. Il fenomeno si chiama softwarizzazione della disuguaglianza. Esistono diverse discriminazioni su base algoritmica.
L’IA può introdurre nuove forme di discriminazione. L’algoritmo che decide se darti un mutuo potrebbe discriminare se si visita un determinato sito. E queste forme di discriminazione non si riescono a gestire con il AI Act.
Un esempio eclatante è la ricerca di clienti da parte di un’azienda che fa prodotti per pulire la casa. L’algoritmo correrà subito dalle donne. Il risultato non è, certamente, equo. La scelta dell’equità è una scelta sociale e politica. Bisogna darsi da fare per offrire gli elementi necessari a fare scelte consapevoli e non equivoche.
Altri esempi risiedono nella traduzione di termini dall’inglese, che non prevede la distinzione di sesso nell’uso comune della lingua. O della generazione di un testo creativo. Se chiediamo a Chat GPT di scrivere un racconto in prima persona, si genererà un racconto al maschile. Allo stesso tempo, se si chiede a Google Translate di tradurre “the doctor”, la risposta è solamente “il dottore”.
Per approfondire:
L’intelligenza artificiale celebra la messa nel 2023 ma fallisce, dove e come?
Natura versus Intelligenza Artificiale, 7 scatti che le dividono
L’Intelligenza Artificiale che fa 450 bottiglie di birra, ci proporrà anche un giorno la pizza?
Colmare il “gap” della discriminazione
Per riuscire a risolvere la discriminazione di genere di cui abbiamo parlato, serve la presenza di più donne nel settore. Come fare?
Intanto, bisogna eradicare lo stereotipo che le donne non siano portate per la scienza. Sempre di più la scienza prova che questo non è vero. Inoltre, scuola e famiglie devono lavorare per creare un ambiente stimolante per orientare le proprie figlie anche verso i percorsi STEM. Per esempio, si potrebbe ispirare la nuova generazione di scienziate con la condivisione dei successi delle donne nel settore dell’informatica.
E’ vero che a volte le aziende compiono processi di reclutamento discriminatori per le donne, che ricevono stipendi inferiori agli uomini e fanno più fatica a fare carriera, il che costituisce un ostacolo per perseverare in questo settore.
Tuttavia, i dibattiti sociali, la divulgazione e l’aumento dell’informazione possono aiutare le parti a capire quanto sia importante per tutti (anche per la scienza) trovare una maggiore parità nella forza lavoro dedicata ai percorsi STEM. Il 26% di partecipazione femminile è decisamente bassa per offrire un’intelligenza artificiale inclusiva e imparziale.