Caso George Floyd: um paralelo entre a injustiça racial e a inobservância de preceitos éticos e morais na Inteligência Artificial

Caso George Floyd: um paralelo entre a injustiça racial e a inobservância de preceitos éticos e morais na Inteligência Artificial

Ana Paula Ribeiro Serra e Christine Albiani*

22 de junho de 2020 | 08h00

Ana Paula Ribeiro Serra e Christine Albiani. FOTOS: ARQUIVO PESSOAL

Nas últimas semanas o mundo paralisou após o trágico acontecimento na cidade de Minneapolis quando um homem negro foi asfixiado e assassinado pela violência proveniente do racismo. As últimas palavras de George Floyd ecoaram globalmente e continuam a ser repetidas em manifestações por diversas cidades nos Estados Unidos. A inquietude promovida pelo preconceito ultrapassou os limites geográficos e acendeu vozes do mundo inteiro que clamam, atualmente, pelo fim do racismo estrutural na sociedade.

Enquanto Floyd morria pela falta de ar causada pela intolerância racial, leitos do mundo a fora são palco de mortes causadas pela pandemia do novo Coronavírus e pela luta daqueles que precisam da ajuda de respiradores nas UTIs para sobreviver. A covid-19 atinge os pulmões por meio da multiplicação do vírus nas células humanas, levando pacientes à morte pela asfixia, mesma causa que levou Floyd a óbito.

Vírus natural versus vírus social colocam em perspectiva o panorama de injustiças, morte e calamidade que nos leva a um fator comum que une a humanidade, a dignidade humana. Atos diários de violência contra negros são um verdadeiro vírus social e o evento trágico ocorrido em Mineapollis foi o estopim da mobilização na internet para reafirmar o valor da vida e a necessidade da união de forças em prol da luta antirracista .

Recentemente não só a terrível e trágica morte de Floyd por policiais, como a de João Pedro no Rio de Janeiro, a de Ahmaud Arbery, Breonna Taylor e muitos outros, nos lembram que a luta contra o racismo é mais urgente do que nunca e exige posturas ativas para impedir que ocorram ainda mais injustiças raciais.

Com o avanço da tecnologia e a contaminação desenfreada do novo Coronavírus, a Inteligência Artificial vem, cada vez mais, sendo utilizada como instrumento de combate à disseminação da doença pelo mundo. Dentre as suas mais diversas formas de utilização, que hoje integram todos os setores socioeconômicos em tecnologias implementadas em ambientes públicos, domésticos e empresariais, é inegável o seu papel de protagonismo, principalmente, na área da saúde e da medicina.

A Inteligência Artificial, portanto, ganha gradativamente papel de destaque diante da sua crescente utilização neste período de crise, que vai da triagem à criação da vacina do Coronavírus.

O aumento da capacidade de processamento da Inteligência Artificial, os avanços na eficiência dos algoritmos e a maior disponibilidade de dados que geram experiências de aprendizagem (através da utilização do Big Data) representam fatores fundamentais para o desenvolvimento da velocidade na tomada de decisões de qualidade. Na comunidade científica se diz que se os algoritmos são o motor, os dados são o combustível dessa revolução.

Dados e algoritmos são utilizados para o desenvolvimento da Machine Learning como método de aprendizagem constante dos sistemas dotados de Inteligência Artificial, que torna capaz o desenvolvimento de novas habilidades, dispensando cada vez mais interferências externas para tanto, sendo capazes, inclusive, de agir de forma imprevista pelo seu programador e/ou proprietário.

Inevitável observar que algoritmos são mais eficientes do que humanos em quaisquer atividades que já desempenham, embora seja necessário perceber também que vieses humanos são perpetuados naqueles e impactam as suas tomadas de decisão. Sistemas projetados por humanos refletem vieses humanos (parcialidades e preconceitos) como decorrência lógica, na medida em que algoritmos se utilizam de dados que capturam o passado, automatizando, assim, o status quo, se não houver uma preocupação em evitar a propagação de injustiças sociais.

Se, de um lado, pode-se afirmar que a tecnologia vem desbravando novos resultados jamais obtidos pelo homem, de forma eficaz, célere e precisa, num momento em que a velocidade corresponde à potencialidade de salvar vidas, de outro, a exponencial utilização da Inteligência Artificial vem revelando falhas que são capazes de reafirmar práticas racistas perpetuadas na sociedade, colocando em evidência a temática da ética e moral nas soluções apresentadas por ela.

No contexto internacional, muito vem se discutindo sobre a necessidade de que esses agentes inteligentes fossem projetados de forma que respeitassem direitos humanos, mesmo possuindo poder suficiente para violá-los. Apresenta-se, portanto, o desafio de alinhamento de valores éticos e morais, a fim de evitar que essas tecnologias que representam verdadeiros avanços sejam concomitantemente uma ameaça a valores fundamentais.

Temos iniciativas ainda incipientes que se propõem a trazer diretrizes éticas relacionadas à Inteligência Artificial. Fazendo um breve recorte no território nacional, segundo os dados apresentados pela ONU, o Brasil é o quarto país com mais usuários de internet, ou seja, estamos no ranking dos países mais conectados ao mundo virtual, inobstante os conhecidos problemas relacionados à desigualdade na inclusão digital.

Ao passo que estamos bem colocados no âmbito da economia digital, é consequência lógica que a utilização de sistemas dotados de Inteligência Artificial se torne cada vez mais comum nas diversas atividades cotidianas, o que traz à tona a necessidade de enfrentamento da seguinte questão: como conciliar um desenvolvimento adequado das novas tecnologias ante a ausência de orientações objetivas sobre o tema e regulação específica?

Diante desse cenário e da importância do tema, diversos pesquisadores vêm afirmando a necessidade de desenvolvimento de estratégias de regulação no Brasil, através da elaboração de uma política nacional própria para essa área. No início de 2019, o Ministério da Ciência, Tecnologia, Inovações e Comunicações começou a ampliar projetos relacionados à Inteligência Artificial. O Brasil, em maio do mesmo ano, aderiu aos princípios da OCDE (Organização para a Cooperação e Desenvolvimento Econômico) que visa a administração responsável da Inteligência Artificial, com base em valores democráticos.

Em razão das incertezas que permeiam o tema, evidencia-se uma série de preocupações acerca dos aspectos éticos relacionados às tomadas de decisão dos sistemas inteligentes e da utilização dessas ferramentas de modo a reproduzir o racismo estrutural atrelado à sociedade brasileira.

Para uma compreensão aprofundada do assunto, oportuno rememorar um dos casos mais emblemáticos que ocorreu em junho/2015, quando um usuário do Google Photos descobriu que o programa vinculava a imagem dos seus colegas negros a figura de gorilas. A Inteligência Artificial utilizada pela plataforma não era capaz de diferenciar a pele de um ser humano da pele do macaco, como chimpanzés. A postura racista foi absolutamente rechaçada e fez com que a Google se comprometesse a reparar a falha que causou indignação e constrangimento à população. Fato é que além dos negros diariamente sofrerem com preconceitos e policiamento ostensivo, tiveram sua dignidade vilipendiada mais uma vez, colocando em cheque os aspectos éticos relacionados às novas tecnologias.

Ao passar dos anos, em que pese já tivesse sido verificado outros problemas causado pelos algoritmos, a situação ainda volta a se repetir nos tempos atuais. Em razão do confinamento causado pela pandemia da Covid-19, o site AI Gahaku virou passatempo no isolamento. Isso porque, a página virtual permite que você tire uma selfie enquanto a Inteligência Artificial irá “pintar” sua imagem em diversos estilos da história da arte. A partir da utilização do programa os internautas perceberam que o site modifica drasticamente as imagens das pessoas não brancas, deixando-as com traços mais “europeus”. Após alguns testes com fotos de celebridades, todas as imagens reproduzidas eram de pessoas brancas ou imagens borradas, como se a plataforma não reconhecesse a face negra apresentada.

O caso ganhou destaque nas mídias internacionais que ratificou que o problema do site japonês não se tratava de um caso isolado. De acordo com o balanço de 2019 do AI Now Institute, centro da Universidade de Nova York que investiga o impacto social da Inteligência Artificial, esta continua ampliando as disparidades raciais e de gênero.

A prática preconceituosa promovida pela tecnologia já havia sido reconhecida pelos profissionais da área como “racismo algorítmico”. Ao tomar conhecimento das repercussões negativas que se difundiram nas redes sociais, a programadora reconheceu que alguns resultados divulgados pela plataforma ocorriam de forma tendenciosa e afirmou que utilizaria uma maior variedade de dados para apresentar uma maior diversidade de resultados.

Os episódios apresentados, assim como muitos outros não mencionados aqui, são perfeitos exemplos de problemas identificados no campo da Inteligência Artificial. O que ocorre é que os algoritmos utilizados nas plataformas digitais podem ser tendenciosos, parciais e herdam os preconceitos contidos nas bases de dados criadas pelos seres humanos. Desenvolvedores de sistemas inteligentes são, em sua maioria, engenheiros jovens, brancos e do sexo masculino que trabalham para grandes companhias. Se as atribuições de experiências e vivências por esses profissionais da tecnologia digital não forem atreladas aos preceitos éticos e morais, a Inteligência Artificial será um vetor para sedimentar o preconceito humano, reafirmando o racismo estrutural e causando enormes danos à sociedade.

A Ética discutida brilhantemente pelos filósofos como Immanuel Kant precisam aqui ser aplicadas também nas questões tecnológicas, visto que não há espaço para condutas negligentes. O primeiro passo é entender que a Inteligência Artificial não é um instrumento autônomo, pois possui cognição para “aprender” e “compreender” o direcionamento apresentado nas bases de dados.

Assim, não podemos perder de vista que, mesmo no campo da tecnologia, a Inteligência Artificial deve ser programada e utilizada em consonância com a responsabilidade social e princípios éticos, para que não seja um instrumento colaborador, incentivador muito menos legitimador de práticas racistas, como tivemos o desprazer de assistir nos noticiários nas últimas semanas. Padrões éticos e morais devem, portanto, ser previamente instituídos nas bases de informação, a fim de erradicar as práticas preconceituosas através da Inteligência Artificial.

Após o brutal assassinato de George Foyd e a série de protestos vivenciados no mundo, a IBM, empresa especializada nesse tipo de tecnologia, acabou informando recentemente em carta direcionada ao congresso dos Estados Unidos, que não irá mais desenvolver ferramentas de reconhecimento facial para vigilância em massa ou qualquer outro propósito que viole diretos e liberdades humanas, nem intensifique a discriminação.

Seguido, deste evento, a Amazon se manifestou proibindo o uso de sua tecnologia para o reconhecimento facial (chamada de Rekognition) pela polícia por um ano, até que os legisladores dos EUA adotem um conjunto de regras mais fortes para tratar do uso ético da tecnologia.

O tema é polêmico não só nos Estados Unidos, mas também no Brasil, quando o recurso foi adotado por autoridades durante o carnaval. E, causa ainda mais preocupação, quando se observa o estudo do MIT que demonstra que sistemas de reconhecimento facial possuem um erro médio de 0,8% para homens brancos, mas podem chegar até 34% ao reconhecer mulheres negras. Por essa razão, especialistas do direito e da tecnologia, cada vez mais, salientam a premente necessidade de se discutir o uso da tecnologia em termos de prevenção aos direitos dos cidadãos, além de tratar também os aspectos técnicos, como não permitir que os algoritmos disseminem em larga escala preconceitos e vieses.

Ante os fatos aqui expostos, destaca-se a necessidade de estabelecimento de critérios claros e objetivos sobre o tema, através de uma resposta assertiva e proporcional do Direito tanto para prevenir possíveis danos causados por robôs inteligentes que agem de forma discriminatória, como garantindo a responsabilização civil nesses casos e, possibilitando, ao mesmo tempo, o desenvolvimento da ciência e inovação.

A repercussão da morte de George Floyd que chocou o mundo traz intensas reflexões acerca do racismo estrutural, tornando imperativo o enfrentamento da necessidade de erradicar práticas de preconceitos amplificadas pela Inteligência Artificial, através da “discriminação algorítmica”. Coloca-se como pauta urgente, portanto, os debates acerca da proteção de valores éticos, direitos humanos e princípios do ordenamento no desenvolvimento da Inteligência Artificial.

A brilhante filósofa Djamila Ribeiro afirma que “Não dá para falar em consciência humana enquanto pessoas negras não tiverem direitos  iguais e sequer forem tratadas como humanas”. De fato, infelizmente, se essa consciência humana ainda não existe em diversas pessoas, o que falar da Inteligência Artificial? Seria a criatura muito diferente do seu criador?

Ressalta-se, dessa forma, que os protestos vistos em todo o mundo durante as últimas semanas, mesmo em meio a uma pandemia global, representaram um marco histórico para a luta antirracista, e só nos resta promover, cada vez mais, debates e clamar para que o desenvolvimento tecnológico caminhe em conjunto com valores atinentes à humanidade.

*Ana Paula Ribeiro Serra, advogada. Especialista em direito empresarial e compliance. Membro da comissão de compliance da OAB-BA

*Christine Albiani, advogada. Autora do livro Violação de direitos autorais e responsabilidade civil do provedor diante do Marco Civil da Internet. Integrante do terceiro grupo de pesquisa do Instituto de Tecnologia e Sociedade (ITS-Rio) que teve por objetivo explorar o impacto da Inteligência Artificial

Tudo o que sabemos sobre:

ArtigoRacismoGeorge Floyd

Comentários

Os comentários são exclusivos para assinantes do Estadão.