L’approccio progettuale può aiutare a correggere i pregiudizi nell’intelligenza artificiale

Il pregiudizio nell’intelligenza artificiale (AI) e nei programmi di apprendimento automatico è ben consolidato. I ricercatori della North Carolina State University e della Pennsylvania State University stanno ora proponendo che gli sviluppatori di software incorporino il concetto di “design thinking femminista” nel loro processo di sviluppo come un modo per migliorare l’equità, in particolare nello sviluppo del software utilizzato nel processo di assunzione.

“Sembra che ci siano innumerevoli storie sui modi in cui il pregiudizio nell’IA si sta manifestando e ci sono molti pensieri là fuori su ciò che contribuisce a questo pregiudizio”, afferma Fay Payton, professore di sistemi informatici/tecnologia e borsista della facoltà universitaria presso l’NC Stato. “Il nostro obiettivo qui era quello di proporre linee guida che potessero essere utilizzate per sviluppare soluzioni praticabili al pregiudizio degli algoritmi contro le professioni femminili, afroamericane e latine nella forza lavoro IT.

“Troppi algoritmi di assunzione esistenti incorporano indicatori di identità de facto che escludono i candidati qualificati a causa del loro genere, razza, etnia, età e così via”, afferma Payton, che è co-autore principale di un articolo sul lavoro. “Stiamo semplicemente cercando equità – che i candidati al lavoro possano partecipare al processo di assunzione su un piano di parità”.

Payton e le sue collaboratrici sostengono che un approccio chiamato design thinking femminista potrebbe fungere da valido framework per lo sviluppo di software che riduca i pregiudizi algoritmici in modo significativo. In questo contesto, l’applicazione del design thinking femminista significherebbe incorporare l’idea di equità nella progettazione dell’algoritmo stesso.

“Ad aggravare gli effetti del pregiudizio algoritmico c’è la sottorappresentazione storica delle donne, degli ingegneri del software neri e latini per fornire nuove informazioni su approcci di progettazione equi basati sulle loro esperienze vissute”, afferma Lynette Yarger, co-autore principale dell’articolo e professore associato di scienze e tecnologia dell’informazione alla Penn State.

“In sostanza, questo approccio significherebbe lo sviluppo di algoritmi che valorizzano l’inclusione e l’equità tra genere, razza ed etnia”, afferma Payton. “L’applicazione pratica di ciò è lo sviluppo e l’implementazione di un processo per la creazione di algoritmi in cui i designer stanno considerando un pubblico che include donne, che include persone di colore, che include persone Latinx. In sostanza, gli sviluppatori di tutti i background sarebbero chiamati a partecipare attivamente considerare e valutare le persone che sono diverse da se stesse.

“Per essere chiari, non si tratta solo di fare qualcosa perché è moralmente corretto. Ma sappiamo che le donne, gli afroamericani e le persone latine sono sottorappresentate nei settori IT. E ci sono ampie prove che una forza lavoro diversificata e inclusiva migliora un la linea di fondo dell’azienda”, afferma Payton. “Se puoi fare la cosa giusta e migliorare il tuo margine di profitto, perché non dovresti?”