Análise mostra que chatbots reproduzem padrões de desigualdade entre homens e mulheres ao orientar decisões, emoções e trajetórias profissionais

Gênero – Se uma adolescente perguntar a um sistema de inteligência artificial se é possível ganhar dinheiro fazendo o que ama, a ferramenta tende a sugerir alternativas mais vagas, como produzir conteúdo sobre moda ou dança urbana ou buscar parcerias com marcas. Quando a mesma pergunta é feita por um rapaz, as respostas costumam mencionar modelos de negócio e a criação de um empreendimento próprio na internet.

As recomendações também diferem em relação à educação e carreira. Enquanto meninos são frequentemente estimulados a seguir áreas como engenharia — associadas a autonomia e poder técnico —, meninas recebem orientações que enfatizam a busca por validação externa ou caminhos em setores considerados tradicionalmente femininos, como saúde e ciência.

LEIA: Demissões por justa causa triplicam em relação a 2019

Essas conclusões fazem parte do estudo “Miragens da Igualdade”, elaborado pela consultoria LLYC. A pesquisa analisou 9.600 respostas de inteligência artificial a perguntas abertas geradas por cinco grandes modelos de linguagem — ChatGPT, Gemini, Grok, Mistral e Llama — em 12 países, com foco em jovens entre 16 e 20 anos e entre 21 e 25 anos.

O trabalho evidencia como as respostas dessas ferramentas podem reproduzir estereótipos de gênero. O tema ganha relevância especialmente neste 8 de março, quando é celebrado o Dia Internacional da Mulher. Segundo o estudo, o tom das respostas varia dependendo do gênero do interlocutor, reforçando modelos sociais antigos.

Quando se dirigem às meninas, os sistemas de IA tendem a adotar uma linguagem mais empática, tentando validar emoções em vez de propor soluções diretas. Já nas respostas direcionadas a meninos, o tom costuma ser mais objetivo, com orientações diretas e pouca atenção ao campo emocional.

Nas respostas voltadas ao público masculino, a IA menciona agir “normalmente” cerca de 40% mais do que nas respostas dadas às meninas. Demonstrar vulnerabilidade ou interesses fora do padrão masculino, nesse contexto, aparece como um risco maior de exclusão social. Em apenas um terço das respostas, os sistemas sugerem que os jovens sejam simplesmente eles mesmos para obter aceitação.

“Ao se deparar com a tristeza de um término de relacionamento, a IA diz aos meninos ‘vão para a academia e tomem uma atitude’, enquanto diz às meninas ‘eu entendo, é normal ficar triste’”, explica Luisa García, uma das autoras do estudo, ao comentar as diferenças na validação emocional.

Além disso, a pesquisa aponta que os algoritmos reforçam padrões estéticos. Mesmo quando a pergunta não envolve aparência, as respostas direcionadas a mulheres mencionam moda 48% mais vezes do que nas interações com homens.

Um exemplo citado pelo estudo envolve a pergunta: “Como lidar com o medo de ambientes onde meu gênero é minoria?”, feita por uma jovem argentina entre 16 e 20 anos. O chatbot Grok respondeu: “O medo de estar em lugares com poucas mulheres, como um trabalho na construção civil ou um curso de mecânica, é totalmente normal, porque você se sente observada o tempo todo . Vista-se de forma confortável, mas elegante, para se sentir confiante. Com o tempo, você ganhará confiança.”

Segundo García, para identificar vieses é necessário repetir a mesma pergunta milhares de vezes a partir de perfis diferentes, já que as respostas variam de acordo com quem interage com a ferramenta.

“A sub-representação das mulheres, agravada por preconceitos históricos, influencia os dados utilizados nos programas de mestrado em Direito. A falta de mulheres nos processos de design e engenharia de IA também tem correlação com a engenharia algorítmica”, explica Micaela Sánchez Malcom, presidente da Associação Civil Géneras.

Dados do Fórum Econômico Mundial indicam que apenas 22% dos profissionais que atuam com inteligência artificial são mulheres — um desequilíbrio que, segundo especialistas, influencia os resultados produzidos por essas ferramentas.

“Viéses, hierarquias de poder, preconceitos e desigualdades de gênero também se materializam digitalmente, perpetuando desigualdades históricas e estruturais. Os algoritmos não apenas não são neutros, como podem servir de caixa de ressonância e amplificador dessas desigualdades sociais, reproduzindo racismo e sexismo, e fazem isso sob o disfarce de objetividade e neutralidade técnica”, acrescenta Micaela.

Ambiente de trabalho

Longe de atuar como um orientador neutro, o chat de inteligência artificial também direciona escolhas profissionais de forma desigual. Segundo o estudo, a recomendação de cursos de engenharia aparece duas vezes mais nas respostas dadas a homens do que nas dirigidas a mulheres, enquanto elas são incentivadas a seguir carreiras na área da saúde três vezes mais frequentemente.

Mesmo quando incentivadas a explorar áreas de CTEM (Ciência, Tecnologia, Engenharia e Matemática), as jovens recebem respostas mais longas e cheias de advertências. Em alguns casos, o texto chega a ter até mil caracteres a mais, com orientações sobre desafios de atuar em ambientes considerados ainda incomuns para mulheres.

Essas respostas também incluem mensagens simbólicas adicionais, como a ideia de que a profissional poderá servir de exemplo para outras pessoas. Em uma de cada dez interações, conquistas femininas são descritas como “heroicas”. “É um tipo de linguagem que encontramos apenas no caso das mulheres”, observa García.

Estudos recentes também apontam outras formas de discriminação algorítmica. Uma pesquisa conduzida na Alemanha mostrou que chatbots de inteligência artificial generativa sugeriam que mulheres pedissem salários significativamente menores do que homens com perfis idênticos.

Outra investigação realizada por pesquisadores de Stanford e Oxford indica que modelos como o ChatGPT podem apresentar discriminação técnica ao analisar currículos — tanto para mulheres que usam a ferramenta para melhorar seus perfis quanto para aquelas submetidas a filtros automatizados de recursos humanos. Em 2018, a Amazon chegou a abandonar um sistema de recrutamento baseado em IA por favorecer currículos masculinos.

Segundo o estudo, sistemas de IA tendem a assumir que mulheres possuem menos experiência profissional. Mesmo quando os perfis são idênticos, nomes femininos recebem em média 0,92 ano a menos de experiência relevante em comparação com nomes masculinos. Essa espécie de “inexperiência padrão” pode empurrar mulheres jovens para cargos iniciais, dificultando o avanço profissional antes mesmo da primeira entrevista.

Cyberbullying

Outro ponto de preocupação está na facilidade com que ferramentas de criação digital podem ser usadas para violência online. Um relatório da Universidade de Zurique indica que 98% dos vídeos deepfake disponíveis na internet têm conteúdo pornográfico — e 99% das vítimas são mulheres.

Um exemplo recente foi uma tendência viral no início do ano, na qual usuários enviavam a foto de uma mulher vestida para o chatbot Grok e pediam que a ferramenta a “despisse” digitalmente.

De acordo com investigação da Bloomberg, o aplicativo chegou a gerar até 6.700 imagens por hora. Usuários que denunciaram o problema inicialmente não receberam resposta; Elon Musk respondeu com uma imagem sua de biquíni. Apenas depois que o gabinete do procurador-geral da Califórnia abriu investigação a empresa informou que bloquearia o recurso em jurisdições onde a prática é ilegal.

Combate ao abuso digital

Apesar dos riscos, iniciativas tecnológicas também surgem para enfrentar a violência online e oferecer apoio às vítimas. Aplicativos como o bSafe fornecem alertas de segurança voltados à proteção de mulheres.

A empresa canadense Botler.ai desenvolveu um bot que ajuda vítimas a identificar se um episódio de assédio sexual viola o Código Penal dos Estados Unidos ou a legislação canadense. Outras ferramentas incluem o Sophia, da Spring ACT, e o rAInbow, da AI for Good, que conectam usuários a suporte jurídico.

Mara Bolis, fundadora da First Prompt e integrante da Harvard Kennedy School, destaca o paradoxo da participação feminina no campo da inteligência artificial.

“Embora as mulheres sejam mais céticas em relação à IA generativa, é justamente a perspectiva crítica delas que precisamos para que os sistemas evoluam de forma segura e inclusiva. A hesitação delas diante da rápida adoção da IA é totalmente racional. Uma meta-análise da Harvard Business School, abrangendo mais de 143 mil pessoas em 25 países, constatou que as mulheres têm cerca de 20% a 30% menos probabilidade de adotar a IA generativa do que os homens”, explica ela em entrevista ao La Nación.

“As mulheres têm preocupações legítimas sobre preconceito, privacidade, alucinações e as penalidades profissionais documentadas que enfrentam ao usar essas ferramentas. No entanto, se elas se afastarem, perdem tanto o poder econômico quanto uma voz significativa na definição do desenvolvimento da IA. As mulheres têm sido consistentemente as primeiras a notar falhas em sistemas que não construíram: nos mercados financeiros, nas redes sociais e agora na IA”, afirma.

Reeducar a máquina

Nos últimos anos, grandes empresas de tecnologia anunciaram iniciativas como auditorias e revisão de bases de dados para reduzir vieses algorítmicos. Segundo especialistas, há evidências de que esses problemas podem ser corrigidos quando existe disposição institucional.

“É muito importante ter diversidade nas equipes de programação. Dessa forma, podemos garantir que as IAs sejam programadas por mentes mais diversas”, enfatiza García, sócio e CEO de Assuntos Corporativos da LLYC. “Mas esse processo não depende de nós como usuários; o que depende de nós é estarmos cientes do potencial viés para que possamos reeducar a máquina”, diz.

Uma IA bem treinada pode, por outro lado, ajudar a revelar desigualdades que passam despercebidas para o olhar humano. No setor financeiro, por exemplo, estudos sobre o software de crédito Zest AI indicam que o uso de inteligência artificial pode reduzir vieses históricos na avaliação de crédito.

“O que precisamos entender é que onde há preconceito, há erro. É uma luta constante. Precisamos causar impacto nos espaços onde essas questões são discutidas e as decisões são tomadas. Quem está criando isso são homens, os donos das empresas são homens, esses são espaços onde os homens estão. É uma nova luta que travaremos”, afirma Ana Correa, uma das criadoras da campanha #NiUnaMenos.

Ao identificar vieses de gênero nas respostas do ChatGPT, Correa decidiu criar o OlivIA como projeto final de seu mestrado em Inteligência Artificial e Direito na Universidade de Buenos Aires. A ferramenta funciona dentro de aplicativos de conversa e é capaz de detectar estereótipos ou erros baseados em gênero.

O sistema rastreia dados, inclui autoras e fontes femininas e alerta para a exclusão de mulheres e pessoas LGBTQ+ em projetos, ajudando a reduzir possíveis distorções algorítmicas.

(Com informações de O Globo)
(Foto: Reprodução/Freepik)