A IA é quase exclusivamente projetada por homens – veja como consertar

Este é o segundo dia As mulheres e o futuro da ciência conferência na Royal Society em Londres, mas eu estava achando cada vez mais difícil me concentrar nos palestrantes porque meu software de transcrição de IA – que deveria facilitar minha vida – continuava digitando incorretamente o nome de alguém. Para cada menção a Julie, digitava-se Julian. Ironicamente, ainda me lembro: foi uma sessão sobre inteligência artificial e, especificamente, sobre como as mulheres estão a ser apagadas da mais recente tecnologia de IA.

Isto é muito maior do que a noção comum de que os algoritmos de IA carregam preconceitos dos conjuntos de dados em que são treinados, incluindo preconceitos de género.

Em vez disso, o foco das sessões da conferência foi liderado por cientistas da computação Wendy Salãoprocura abordar um problema mais fundamental: o facto de as novas tecnologias de IA, que terão um impacto transformador em sociedades inteiras, estarem a ser concebidas quase exclusivamente por homens.

A tecnologia sempre foi um setor dominado pelos homens. Na Inglaterra, apenas 25 por cento dos que estudam ciência da computação são mulheres. Mas nos últimos anos – e à medida que a IA generativa se desenvolve – Silicon Valley tornou-se cada vez mais hostil às mulheres.

“Nos últimos dois anos, houve um retrocesso”, disse ele David Leslieque é responsável pela pesquisa ética e inovação responsável no Instituto Alan Turing. “A questão de saber se a administração Trump causou danos intergeracionais às mulheres na ciência é inegável. Estamos vivendo numa época de pensamento retrógrado”.

No ano passado, o presidente dos EUA, Donald Trump, emitiu uma ordem executiva visando a chamada IA ​​desperta e recomendou que o Instituto Nacional de Padrões e Tecnologia dos EUA revisse a sua estrutura de gestão de risco de IA para “remover referências à desinformação, Diversidade, Equidade e Inclusão, e alterações climáticas”.

Um dos painelistas, Rumman Chowdhuryum cientista de dados e ex-enviado científico dos EUA para inteligência artificial, foi responsável pela ética e responsabilidade no Twitter antes de Elon Musk assumiu e demitiu sua equipe. Ele ressalta que o conceito de IA desperta nasceu de atitudes misóginas no Vale do Silício antes da ordem de Trump.

Quando Hall pediu para descrever a IA sem mulheres, vários palestrantes argumentaram que já chegamos lá. “Estou na vanguarda de um mundo de IA, e esse é um mundo de IA sem mulheres”, disse Chowdhury. Este é um sentimento ecoado por Rachel Coldicuttque examina o impacto social de tecnologias novas e emergentes. “Se pensarmos em como seria um mundo sem mulheres na IA, acho que é isso que temos agora. Isso não é uma fantasia.”

Nem é preciso dizer: isso é importante. Há uma longa história de tecnologia desenvolvida para o corpo e as necessidades dos homens, desde manequins de testes de colisão até ar condicionado de escritório, trajes espaciais de astronautas e a maioria das pesquisas médicas. Isto é conhecido como lacuna de dados de género e o seu impacto pode ser perturbador e até mesmo ameaçar a vida.

A IA terá impacto em tudo, desde o trabalho que fazemos até à forma como educamos as crianças e as doenças que podemos tratar. Mas actualmente apenas 2% do financiamento de capital de risco vai para as mulheres, disse Chowdhury. Enquanto isso, menos de 1 por cento a investigação e a inovação nos cuidados de saúde são dirigidas às condições de saúde das mulheres. “Precisamos fazer a tecnologia funcionar para 8 bilhões de pessoas, não para oito bilionários”, disse Coldicutt.

O que fazer? Com centenas de anos de dados tendenciosos incorporados aos modelos de IA atuais, Coldicutt não tem certeza se será possível consertar isso. “Precisamos de um modelo alternativo”, disse ele. Esta é também uma oportunidade para desviar o foco do que os modelos estão fazendo. “Trata-se de desenvolver um modelo… que priorize o cuidado com as pessoas e com o planeta.”

Chowdhury, cofundador de uma organização sem fins lucrativos chamada Humane Intelligence, que ajuda as empresas a tornar os sistemas de IA mais responsáveis ​​e justos, argumenta que parte do problema é que grande parte do desenvolvimento atual da IA ​​se baseia num falso sentido de urgência, concentrando-se nos riscos existenciais que a IA representa para os empregos ou mesmo para a humanidade. Se a narrativa é que sua casa está pegando fogo, “você não vai pensar: ‘O que aconteceu com as joias da minha mãe?’”, diz ela. Se as pessoas sentirem que não têm tempo, jogarão fora tudo o que pareça estranho, incluindo a diversidade, disse ele.

Quanto à próxima geração, precisamos de abordar o quadro económico e político utilizado para desenvolver a IA se quisermos incentivar os jovens a desenvolver a IA para o bem social, diz Leslie: “Temos de começar pelo básico, começar por transformar os incentivos”.

Em última análise, poderemos também precisar de repensar a definição de inteligência no contexto da IA ​​para incluir formas de pensar mais amplas e diversificadas. Grande parte do pensamento original sobre IA, incluindo como defini-la, veio de reuniões influentes na década de 1950 no Dartmouth College, em New Hampshire. “Essa definição de inteligência surgiu da conferência de Dartmouth”, disse Hall. “A propósito, todos eles são homens.”