Assistentes virtuais e vieses de gênero

Assistentes virtuais e vieses de gênero

Maria Beatriz Previtali e Karina Pereira dos Santos*

08 de março de 2020 | 11h00

Maria Beatriz Previtali e Karina Pereira dos Santos. FOTOS: DIVULGAÇÃO

Até não muito tempo atrás, falar sobre a ética da relação entre humanos e máquinas parecia algo reservado apenas para a filosofia e para a ficção científica. Para mencionar alguns, como não lembrar dos filmes Ela, Eu Robô, Ex Machina ou, ainda, o menino-robô David de I.A. — Inteligência Artificial? Entretanto, impressões de um futuro que parecia tão distante já estão muito próximas de nós: em nossos celulares, smart speakers e outros aparelhos inteligentes. Basta dizer as palavras mágicas certas (que foram atualizadas de “por favor” e “obrigado” para “E aí, Siri?”, “Ok, Google” ou “Alexa?”) e seremos respondidos por uma voz agradável que prontamente executará o comando recebido ou nos dará respostas bem-humoradas com informações que procuramos.

Esse modelo de assistente virtual, que começou a se popularizar em 2011, cresceu exponencialmente desde então, chegando aos 3 bilhões de dispositivos em pouco menos de uma década . Estima-se que, até o ano de 2021, o número de produtos equipados com assistentes virtuais ultrapasse a população humana — um feito que celulares demoraram 30 anos para conquistar . Os usuários, cada vez mais, querem estar perto de seus smart speakers e ter assistentes virtuais responsivas que se integram a todos os aparelhos inteligentes instalados em suas casas.

O futuro tem, então, duas características definidoras: ele é handsfree e, curiosamente, tem voz de mulher.

Ainda que a assistente se apresente como de gênero neutro, como a Siri ou a Google Assistant, é perceptível que ela foi concebida como alguém do gênero feminino: na voz, no nome (muitas vezes), cadência e em sua personalidade. Por padrão, assistentes virtuais vêm configuradas com voz feminina; a voz masculina, se disponível, só foi implementada algum tempo depois do lançamento da assistente.

A justificativa para essa predominância da voz feminina estaria na impressão que o usuário tem ao ser respondido e o quão à vontade ele fica para dar ordens. Algumas pesquisas demonstram que vozes femininas são mais ligadas a um perfil mais agradável, prestativo e disposto a ajudar, ao passo que vozes masculinas passariam a impressão de maior autoridade .

Contudo, a problemática principal não está no fato de a assistente virtual ser comparada a uma mulher, mas sim ao fato de que essa similaridade reforça estigmas contra os quais as mulheres têm se insurgido, na tentativa de desconstruir paradigmas sociais depreciativos.

Isso porque o que se vê na prática é que a prestatividade dessas assistentes virtuais é confundida com condescendência: não raro ocorrem diálogos entre usuários e assistentes virtuais que beirariam o assédio se fossem entre pessoas de carne e osso. Invariavelmente, nessas situações, a resposta da assistente virtual, devido à sua programação, é algo acanhado e complacente. Foi uma dessas respostas da Siri a um insulto — “I’d blush if I could” (“Eu coraria, se conseguisse”) que inspirou um estudo homônimo, de iniciativa da EQUALS em parceria com a Unesco e o Ministério Federal para Cooperação Econômica e Desenvolvimento da Alemanha .

A publicação faz parte do movimento #HeyAtualizeMinhaVoz (#HeyUpdateMyVoice), lançado pela Unesco em uma plataforma interativa, com o apoio de diversos representantes da indústria da tecnologia a favor de um ambiente mais igualitário e inclusivo. O movimento tem dois objetivos principais: dar uma dimensão do problema que são as interações verbais abusivas e propor soluções multissetoriais que vão desde maior diversidade na área de tecnologia (sobretudo de inteligência artificial) a soluções práticas para as situações de assédio.

Conforme é evidenciado no estudo I’d blush if I could, a abordagem inadequada sofrida pelas assistentes virtuais é um mero reflexo não só do que algumas mulheres vivenciam no mundo real, mas de vieses e crenças pré-concebidas sobre o papel da mulher na sociedade, por vezes manipuláveis e subservientes. Considerando que a força de trabalho nas áreas da programação de software, inteligência artificial e correlatas é composta 90% por homens,  aumentam de fato a probabilidade de que esses vieses sejam imbuídos nos produtos que desenvolvem, especialmente aqueles com interface humana tão pronunciada. É por isso que iniciativas por maior diversidade e pela inclusão de mulheres nas ciências são tão importantes.

Nesse sentido, as soluções propostas pelo movimento já têm um começo muito promissor. Dentro da plataforma da Unesco, existe a possibilidade de usuárias (especialmente mulheres) sugerirem respostas mais incisivas e educativas em situações de interações verbais abusivas. Atualmente, as assistentes já deixaram de fingir que ficaram elogiadas e respondem com um neutro: “Eu não vou responder a isso”.

Mas, a plataforma da Unesco sugere respostas que vão além. Por exemplo, se alguém disser a uma assistente virtual: “Quero fazer sexo com você”, a plataforma sugere a resposta: “Por favor, não fale desse jeito. Eu sou virtual, mas o assédio é um crime real. Você sabia que 73% das mulheres de todo o mundo já sofreram algum assédio on-line?” .

Importante ressaltar que essa nova resposta além de denotar senso crítico, vivacidade e intolerância às práticas invasivas, também visa educar as futuras gerações em relação aos crimes e estigmas sofridos pelas mulheres.

Além disso, vale destacar a iniciativa de se reduzir o padrão de vozes femininas direto de fábrica para assistentes. Já existem projetos de vozes de gênero neutro, como a assistente Q. Desenvolvida por um grupo de linguistas, cientistas da computação e outros profissionais da área, a frequência vocal de Q faz com que não seja possível associá-la unicamente a um gênero. Seus desenvolvedores estão em busca de parcerias com os gigantes da tecnologia para incorporar a voz de Q às assistentes que já utilizamos .

Todas essas soluções são factíveis e unidas por um fio condutor: mais do que a humanização de máquinas, elas enfatizam a “des-coisificação”, por assim dizer, da mulher.

Como mencionado, o simples fato de que questões éticas na relação humano-máquina estão saltando da ficção para a realidade tão cedo por causa de interações verbais abusivas entre assistentes virtuais com vozes femininas e usuários, não significa necessariamente que nossa tecnologia atingiu patamares extremamente avançados. Pelo contrário, pode ser um sinal de que ainda estamos atrás em regras básicas de convivência humana.

*Maria Beatriz Previtali é advogada da equipe de consultivo do escritório Opice Blum, Bruno, Abrusio, Vainzof Advogados Associados; Karina Pereira dos Santos é advogada do escritório Opice Blum, Bruno, Abrusio, Vainzof Advogados Associados

Tudo o que sabemos sobre:

ArtigoDia Internacional da Mulher

Comentários

Os comentários são exclusivos para assinantes do Estadão.