Nel mondo della tecnologia (e anche sul palco di IAB Forum) c’è poca diversity. Ed è un problema
Gli algoritmi sono maschilisti. Si, perché nonostante tendiamo a crederli neutrali, sono invece frutto del lavoro di chi li crea, che in essi introduce lo status quo, le esperienze pregresse e bias. E se gli ingegneri sono tutti uomini…
L’ammonimento arriva da Ivana Bartoletti, Head of Privacy and Data Protection di Gemserv, che rileva appunto come anche sul palco dello IAB Forum le donne scarseggino: nel giro dei 2 giorni solo 4, inclusa la conduttrice Barbara Serra.
«Se non governiamo la AI, la tecnologia si trasforma in uno strumento limitante, creando un mondo peggiore dell’attuale. Bisogna fare in modo che l’AI non traduca gli stereotipi in pregiudizi. Quando aggiungiamo valori alle macchine, chi sceglie i valori? Solo maschi bianchi o persone provenienti da tutto il mondo? Vogliamo più donne che disegnino algoritmi, che decidano i valori ed entrino nel dibattito politico. Ma sappiamo benissimo che uguaglianza e parità di genere non arrivano mai per caso ma per una decisione politica di chi governa il cambiamento. C’è bisogno di diversità, non solo di genere ma anche di etnia. E abbiamo bisogno di un approccio multidisciplinare. O saremo capaci di governare il cambiamento o decideranno le grandi corporation che dominano il mondo del digitale».
Accanto alla diversità, un altro grosso problema degli algoritmi dell’AI è la trasparenza. «Stiamo conducendo una battaglia per l’explainability. Gli algoritmi devono essere spiegabili e per le aziende dovrebbe essere obbligatorio pubblicare il loro assetto, i parametri, e rendere possibile l’Algorithmic Impact Assessments da un organismo indipendente».
Che fare in Italia? «L’AI sta ridefinendo gli equilibri di geopolitica. C’è una corsa al nazionalismo anche nell’ambito dell’intelligenza artificiale. L’Italia deve capire la portata del cambiamento, fare in modo che il dibattito sull’etica del digitale entri nelle nostre discussioni. Se no ne trarremo le conseguenze e non saremo noi a determinare il nostro futuro».
