L’intelligenza artificiale e i rischi della ‘non diversità’ / Artificial intelligence and the risks of ‘non-diversity’

(Marzia Giglioli)

ChatGPT sa davvero essere democratico e rappresentare le differenze di genere e quelle culturali?

L’interrogativo non è nuovo ma si ripropone soprattutto dopo la recente rivoluzione interna che ha visto prima l’uscita e poi il reintegro di Altman (il padre di ChatGPT) e l’estromissione dal CdA delle uniche due donne del board.

In 12 mesi, OpenAI ha consolidato la sua posizione come una delle startup tecnologiche più potenti al mondo: a sua volta, ChatGpt ha innescato una vera rivoluzione digitale e il suo valore ha raggiunto i 90 miiardi di dollari. Man mano che la sua influenza cresce salgono anche le critiche per quella che alcuni media americani definiscono ‘la sua mancanza di diversità’ per essere in ‘mano solo a uomini di razza bianca’.

Della questione si stanno occupando, a Washinton, alcuni legislatori che puntano l’attenzione sul fatto che un’alta rappresentatività non può prescindere dalla presenza, nell’organo di supervisione, di persone con background diversi.

‘Incoraggiamo fortemente OpenAI a muoversi rapidamente nella diversificazione del suo consiglio di amministrazione’, hanno scritto Emanuel Cleaver e Barbara Lee ad Altman e al consiglio direttivo (come riferisce Cnn).

‘La mancanza di diversità e rappresentanza nel settore dell’intelligenza artificiale è profondamente intrecciata con i problemi di pregiudizio e discriminazione nei sistemi di intelligenza artificiale’, ha aggiunto la coppia di legislatori che sollevano la questione di una predominanza culturale degli uomini nella Silycon Valley. Anche Margaret Mitchell, fondatrice del team Ethical AI di Google, in un’intervista sostiene che ‘per far avanzare l’intelligenza artificiale in un modo che sia più vantaggioso per le persone di tutto il mondo occorre avere al tavolo persone con esperienze di vita diverse, non solo affidare ai cavalieri bianchi il compito di interpreti dell’AI’.

Nota: Margaret Mitchell è una scienziata informatica che lavora sul pregiudizio algoritmico e sull”equità nell’apprendimento automatico

(English version)

Does ChatGPT really know how to be democratic and represent gender and cultural differences?

The question is not new but comes up again especially after the recent internal revolution which saw first the exit and then the reinstatement of Altman (the father of ChatGPT) and the ouster from the Board of Directors of the only two women represented.

In 12 months, OpenAI has consolidated its position as one of the most powerful technology startups in the world: in turn, ChatGpt has triggered a true digital revolution and its value has reached 90 billion dollars. As its influence grows, so does criticism for what some American media define as ‘its lack of diversity’ for being in ‘the hands only of white men’.

Some legislators in Washington are dealing with the issue and are drawing attention to the fact that high representativeness cannot ignore the presence of people with different backgrounds in the supervisory body.

‘We strongly encourage OpenAI to move quickly in diversifying its board of directors’, Emanuel Cleaver and Barbara Lee wrote to Altman and the board (as CNN reports).

‘The lack of diversity and representation in the AI industry is deeply intertwined with problems of bias and discrimination in AI systems’, added the pair of lawmakers who raise the issue of a cultural predominance of men in Silicon Valley. Margaret Mitchell, founder of Google’s Ethical AI team, also argues in an interview that ‘to advance artificial intelligence in a way that is more beneficial to people around the world we need to have people with different life experiences at the table, not just entrusting the white knights with the task of AI interpreters’.

Note: Margaret Mitchell is a computer scientist working on algorithmic bias and fairness in machine learning

(riproduzione autorizzata citando la fonte – reproduction authorized citing the source)

 

Latest articles

Related articles