L’intelligenza artificiale e il colore della pelle. Esperti etici puntano il dito su nuovi bias – Artificial intelligence and skin colour. Ethical experts point the finger at new biases

(Marzia Giglioli)

Nuovi test sui bias dell’intelligenza artificiale dimostrano che non viene garantito un elemento fondamentale che si riferisce al colore della pelle.

A sostenerlo sono alcuni ricercatori di etica dell’AI di Sony, che chiedono che gli algoritmi vengano tarati rispetto ad una più ampia gamma di tonalità della pelle delle persone.

Mentre l’industria dell’intelligenza artificiale si è concentrata nel rendere i suoi algoritmi meno distorti in base alla luminosità o all’oscurità delle tonalità della pelle, una nuova ricerca di Sony punta il dito su quest’aspetto insistendo sul fatto che vengano prese in considerazione anche le tonalità della pelle rossa e gialla.

In un recente articolo, William Thong e Alice Xiang della Sony AI, insieme a Przemyslaw Joniak dell’Università di Tokyo, hanno proposto una misurazione più ‘multidimensionale’ del colore della pelle nella speranza che possa portare a risultati più diversificati con l’obiettivo di arrivare a sistemi di intelligenza artificiale più rappresentativi.

L’argomento dei bias continua a far discutere. Il tema che sessismo e razzismo possano nascondersi negli algoritmi sta alimentando la nuova letteratura intorno all’intelligenza artificiale e continua a dividere i suoi detrattori da chi la vede come strumento ormai inseparabile dallo sviluppo tecnologico.

(English version)

New tests on artificial intelligence bias show that a key element that relates to skin colour is not guaranteed.

This is claimed by AI ethics researchers at Sony, who are calling for algorithms to be calibrated against a wider range of people’s skin tones.

While the artificial intelligence industry has focused on making its algorithms less biased based on the brightness or darkness of skin tones, new research from Sony points the finger at this aspect by insisting that red and yellow skin tones also be taken into account.

In a recent paper, Sony AI’s William Thong and Alice Xiang, together with Przemyslaw Joniak of the University of Tokyo, proposed a more ‘multidimensional’ measurement of skin colour in the hope that it could lead to more diverse results with the aim of arriving at more representative artificial intelligence systems.

The topic of bias continues to cause debate. The theme that sexism and racism may lurk in algorithms is fuelling the new literature around artificial intelligence and continues to divide its detractors from those who see it as a tool now inseparable from technological development.

(riproduzione riservata)

Latest articles

Related articles