Algoritmo e pregiudizio

Condividi

Care amiche di Via Dogana 3, ho partecipato alla riunione domenica 11 settembre e ho letto con molto interesse l’articolo di Alice Peverata Gli algoritmi non sono amici delle donne (16 settembre 2016).

Vi scrivo perché mi sono imbattuta in una notizia che dà spunti di riflessione proprio su donne e algoritmi.

Il 31 agosto 2016 Matt Day, giornalista esperto di tecnologia del Seattle Times, ha pubblicato un articolo in cui mette in luce come l’algoritmo di ricerca di LinkedIn, il social network dei professionisti in rete tra loro, non sia immune da pregiudizi di genere (How LinkedIn’s search engine may reflect a gender bias). Nel momento in cui si cercava il nome di una donna, “Stephanie Williams” è l’esempio di Matt, il sistema proponeva l’alternativa maschile “Stephen Williams”. Non era così se l’oggetto della ricerca era un nome maschile. Parlo al passato perché in pochissimi giorni LinkedIn ha cambiato l’algoritmo, proprio in seguito al report del Seattle Times: ora se si cerca il nome di una donna, non c’è alcun avviso ai naviganti per una possibile alternativa maschile (LinkedIn changes search algorithm to remove female-to-male name prompts, 8 settembre 2016).

In questi articoli, il giornalista sottolinea che ricercatori e ingegneri del software sanno che gli algoritmi di intelligenza artificiale alla base dei motori di ricerca sono soggetti agli umani pregiudizi. Nel caso riportato sembrerebbero ricondurre a uno schema neo patriarcale, passato dal subconscio dell’architetto software al codice attivato nel motore di ricerca. Il rimedio sembra essere la rimozione della differenza sessuale, entrata dalla finestra (come misoginia) con l’algoritmo di ricerca, dal momento che LinkedIn non chiede di dichiarare il proprio genere quando ci si registra. È una posizione in linea con l’altro paradigma alla base (anche) della rete, cioè il superamento della distinzione binaria maschio / femmina. Forse sta qui, tra patriarcato di ritorno e liquidazione della differenza, la lotta per un senso diverso da dare alla rete?