Inteligência artificial preconceituosa

Inteligência artificial preconceituosa

José Renato Nalini*

17 de agosto de 2021 | 12h00

José Renato Nalini. FOTO: ALEX SILVA/ESTADÃO

A Inteligência Artificial está nos regendo completamente. Não vivemos sem ela. Está nas comunicações, está nas contas-correntes, nos cartões de crédito, no PIX, nos celulares, esta nova extensão do corpo humano.

Não existe ainda um consenso a respeito da inteligência artificial. Duas principais tendências podem ser detectadas: os utopistas e os distopistas. Os primeiros acreditam que a IA vai aprimorar o convívio, fará bem à humanidade. Os distopistas, a começar por Elon Musk, pensam que ela é um demônio incontrolável.

Parece que eles têm certa razão. O documentário “Coded Bias”, da Netflix, narra a aventura da Microsoft que, em 2016, criou um perfil no Twitter chamado Tay. Era uma chatbot, uma robô que conseguia interagir com adolescentes, movida por IA. Ela parece ter tomado vida própria e enveredou por vias tortuosas. Acabou elogiando o Holocausto, fez piadas de mau gosto, além de racistas e machistas. O documentário consegue mostrar como é que a IA se apropria de conteúdos impróprios, os assimila e propaga.

O insuspeito MIT vai muito além. Conclui que os próprios algoritmos podem ser preconceituosos. O estudo de Joy Buolamwini, doutoranda em ciência de computação, mostrou que o reconhecimento facial erra mais em relação a faces negras do que brancas. Ela é negra e foi vítima dessa falha. Pôs-se então a estudar os softwares das maiores empresas de tecnologia nos Estados Unidos. Dentre elas, IBM, Microsoft, Google e Amazon. Confirmou que os algoritmos identificam rostos brancos. Mais ainda, o processo de recrutamento da Amazon, confiado a um robô, excluía a maioria das mulheres que concorriam ao certame.

Ela atribui o fato a que os códigos são criados por homens brancos. Só que as mulheres estão reagindo. Diz Amanda Lemos (FSP, 24.4.21) que Cathy O’Neil escreveu “Algoritmos de destruição em massa”, Meredith Broussard, mestra na Universidade de Nova Iorque, publicou “Desinteligência Artificial: como os computadores desentendem o mundo”, duas entre muitas estudiosas das novas tecnologias.

Somos efetivamente manipulados pelas redes inspiradas pela IA. Será que deixamos de ser vigiados pelo Estado – que não consegue competir com esses poderosos conglomerados – para ser vigiados por essas tentaculares empresas?

O exemplo chinês no documentário é bastante eloquente. Ali, tudo é objeto de pontuação. O rendimento escolar, o cumprimento das obrigações financeiras, há permanente acompanhamento da vida de cada indivíduo. Tudo feito de forma explícita. O exemplo mencionado é sugestivo: uma jovem afirma escolher com quem vai sair de acordo com o seu saldo de pontos. Assim ela economiza tempo, que não perderá com alguém ‘mal pontuado’.

O reconhecimento facial, já introduzido no Brasil, serviu em Hong-Kong para perseguição política. Na Inglaterra, esse processo de identificação foi adotado pela polícia de Londres. Há quem compare isso à coleta oculta de digitais ou amostras de DNA. Por outro lado, a China conseguiu administrar a pandemia com enorme facilidade, o que não ocorreu em outros lugares. Quanto ao Brasil, a vigilância de certa forma já existe, embora feita de forma amadorística. Quais os procedimentos a que todos estamos sujeitos quando vamos a um edifício ocupado por setor de negócios?

Os algoritmos já não sabem nossas preferências, nossos passatempos, o que fazemos de nosso tempo? Não recebemos mensagens que parecem ter sido elaboradas especificamente para nós?

Para quem gosta do assunto e quer aprender de forma lúdica, descompromissada, além do “Coded Bias”, recomendam-se os documentários “Code Girl”, “O dilema das redes”, “AlphaGo” e “Privacidade Hackeada”. São interessantes e mostram algo do que, para alguns menos atentos, ainda está submerso. Mas presente em nossa rotina, mudando nossos hábitos e nossa vida.

Existem os que acreditam numa regulação. Como se a lei fosse, só por si, suficiente para disciplinar tudo aquilo que a ciência e sua serva, a tecnologia, desenvolvem e colocam à disposição de quem tem dinheiro.

Será que governos cada vez mais fracos, um dia conseguirão regulamentar – e, mais do que isso – fiscalizar de forma eficiente, esses gigantes que faturam mais do que a maior parte das nações do planeta?

*José Renato Nalini é reitor da Uniregistral, docente da pós-graduação da Uninove e presidente da Academia Paulista de Letras – 2021-2022

Tudo o que sabemos sobre:

ArtigoJosé Renato Nalini

Comentários

Os comentários são exclusivos para assinantes do Estadão.