Vieses algorítmicos no Judiciário brasileiro?

Vieses algorítmicos no Judiciário brasileiro?

Fernanda Bragança, Juliana Loss e Renata Braga*

02 de julho de 2022 | 08h00

Fernanda Bragança, Juliana Loss e Renata Braga. FOTOS: DIVULGAÇÃO

A inteligência artificial é composta por algoritmos, que são modelos matemáticos programados para uma determinada finalidade. Com o avanço dessa tecnologia, foi possível que a máquina aprendesse a tomar decisões a partir dos dados inseridos no sistema. Esses vieses algorítmicos podem ser originados desses dados (inputs) ou ser decorrência do funcionamento do sistema, relacionados à forma com que o algoritmo foi programado.

À medida que a inteligência artificial se torna cada vez mais presente na vida das pessoas, é necessário dedicar maior atenção à questão, que ganha ainda maior notoriedade quando essa ferramenta é aplicada em setores sensíveis, como a Justiça. De fato, alguns estudos relacionados a softwares como o COMPAS, utilizado por diversos tribunais dos Estados Unidos, alertam para a possibilidade de os algoritmos reproduzirem e, consequentemente, acentuarem padrões discriminatórios da sociedade. Vale destacar que essa ferramenta tem o objetivo de determinar a probabilidade de reincidência de condenados. Este caso chamou a atenção de todo o mundo quando a organização ProPublica divulgou um estudo que mostrou que esse software avaliara pessoas negras como de mais alto risco à reincidência do que pessoas brancas, a partir de dados viciados que geravam, por sua vez, decisões enviesadas.

Os vieses algorítmicos têm despertado a preocupação de diversos profissionais que lidam com a inteligência artificial. O uso dessa tecnologia possibilita uma série de vantagens, como mais celeridade e maior precisão em tarefas repetitivas e automatizáveis, mas, por outro lado, gera a desconfiança quanto à produção de resultados discriminatórios.

O Poder Judiciário de diversos países tem investido em inteligência artificial, tendo em vista a sua utilização em determinadas atividades. Os tribunais brasileiros também seguem nessa direção, impulsionados pelo grande contingente de processos judiciais em tramitação – mais de 77 milhões de processos aguardam uma decisão judicial, segundo o Relatório Justiça em Números 2021 – e pela necessidade de promover uma gestão mais eficiente e sustentável dos recursos disponíveis. Assim, é necessário aprofundar e acompanhar em quais atividades essa tecnologia está sendo empregada, bem como os resultados produzidos.

Nesse sentido, o Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento realizou uma pesquisa inédita que buscou fazer um diagnóstico do uso da inteligência artificial nos tribunais do país. O estudo abrangeu o Supremo Tribunal Federal, o Superior Tribunal de Justiça, o Tribunal Superior do Trabalho, os cinco Tribunais Regionais Federais, os 27 Tribunais Estaduais de Justiça e os 24 Tribunais Regionais do Trabalho, além do Conselho Nacional de Justiça. O relatório da primeira edição da pesquisa foi publicado em 2020 e a segunda edição foi disponibilizada recentemente, em abril de 2022.

Na 1ª edição, a pesquisa mapeou os seguintes quesitos em relação ao uso da inteligência artificial: origem (equipe responsável pela produção da tecnologia); ano da implantação; situação atual da iniciativa; funcionalidades; problemas que busca solucionar, resultados aferidos com o uso dessa ferramenta e outros sistemas em desenvolvimento. Essa fase identificou que 35 tribunais (STF, STJ, TST, os cinco TRFs, 19 Tribunais Estaduais e 8 TRTs) e o CNJ contavam com alguma iniciativa de inteligência artificial.

A pesquisa foi replicada em 2021 com um escopo mais extenso em relação à quantidade de quesitos. O formulário buscou coletar informações sobre a tecnologia; dados da equipe responsável pela sua criação e desenvolvimento; aspectos técnicos; bases de dados; avaliação e monitoramento; prognósticos de investimento e aprimoramento. A abrangência dos tribunais pesquisados foi mantida. A 2ª edição apurou 64 iniciativas de inteligência artificial em 44 Tribunais (STF, STJ, TST, os cinco TRFs, 23 Tribunais de Justiça e 13 TRTs), mais o CNJ.

Foi possível verificar iniciativas de inteligência artificial para identificar assuntos de repercussão geral; para encaminhar processos à conciliação; realizar reconhecimento facial para ingresso nas dependências do tribunal; cumprir mandados; elaborar minutas de decisões; avaliar a concessão de gratuidade de justiça; classificar automaticamente documentos; entre outras. Assim, foram mapeadas iniciativas tanto na atividade-meio quanto na atividade-fim do Judiciário, sendo a maioria destinada a esta. Um exemplo é o Tribunal Regional Federal da 1ª Região, cuja iniciativa, denominada de ALEI, em fase de desenvolvimento, funciona como um assistente inteligente de elaboração de minutas, como decisões monocráticas e votos colegiados, a partir da associação do processo judicial em análise com julgados anteriores, sob o objetivo de possibilitar julgamentos em lotes, por meio do agrupamento de processos similares. Nessa mesma linha, a iniciativa do Tribunal de Justiça do Mato Grosso do Sul, ainda em fase de ideação, visa apontar tendências de julgamento com base em acórdãos e jurisprudência. Também em fase de ideação, o Tribunal de Justiça do Espírito Santo tem uma iniciativa denominada de ARGOS, que recomenda decisões de deferimento ou indeferimento dos pedidos de gratuidade de justiça, a partir de informações relativas às condições financeiras e de patrimônio extraídas de bases públicas.

Diante de um quadro em que mais da metade dos tribunais do país conta com, pelo menos, uma iniciativa de inteligência artificial, inclusive com aplicação em sua atividade-fim, acende o alerta quanto aos vieses algorítmicos. De pronto, é preciso afirmar que nenhuma das iniciativas mapeadas alcança qualquer proximidade com um juiz-robô. Isso significa que todos os resultados produzidos pela inteligência artificial são revisados pelo homem – no caso concreto, pelo magistrado ou servidor.

Ainda assim, pode persistir a dúvida: o status atual da inteligência artificial desperta algum receio quanto aos vieses algorítmicos no Judiciário brasileiro, no sentido de que possa produzir decisões discriminatórias, como aconteceu com o COMPAS? A resposta é não. Mesmo aquelas iniciativas que são voltadas à elaboração de minutas partem da extração de informações categorizadas dos processos, que não levam em consideração, portanto, nenhum aspecto subjetivo das partes.

*Fernanda Bragança, pesquisadora do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento

*Juliana Loss, coordenadora acadêmica do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento. Diretora Executiva da Câmara de Mediação e Arbitragem da FGV

*Renata Braga, professora da Universidade Federal Fluminense. Pesquisadora colaboradora externa do Centro de Inovação, Administração e Pesquisa do Judiciário da FGV Conhecimento

Tudo o que sabemos sobre:

Artigo

Comentários

Os comentários são exclusivos para assinantes do Estadão.