Sistemas computacionais que incorporam inteligência artificial são cada vez mais comuns em uma série de aplicações no campo de relações sociais e econômicas, como o marketing direcionado, sugestões personalizadas de conteúdo para engajamento em plataformas digitais, realização de diagnósticos e indicação de tratamento, aplicações de reconhecimento facial, predição de clima e o chamado high-frequency trading, dentre inúmeros outros. Diante da popularização e emprego capilar de tais agentes digitais inteligentes, surge o desafio de assegurar que eles não adotem ações antiéticas ou ilegais.
Ocorre que com a ubiquidade desses sistemas será impraticável a fiscalização do comportamento diuturno das máquinas e softwares por humanos, assim como seria impraticável a verificação de todo o comportamento humano pelos tribunais. Da mesma forma que cada ser humano incorpora a capacidade de deliberação ética e, em maior ou menor grau, cálculo das consequências jurídicas de suas ações, inteligências artificiais deverão incorporar a capacidade de computar a moralidade e juridicidade de seus atos sem a necessidade de intervenção externa pelo seu controlador ou designer humano. Esta abordagem se reflete em uma crescente literatura a respeito da responsabilidade pelos algoritmos, destinada a combater decisões discriminatórias e outras formas de injustiça social, econômica, política e moral que possam resultar do uso de sistemas inteligentes.
Uma primeira abordagem para este problema é a regimental, ou seja, o compliance já pré-estabelecido e implícito dos agentes inteligentes: um sistema inteligente obedece à lei (e aos princípios éticos relevantes) porque seus desenvolvedores o construíram de forma que, certos comportamentos, tomados como ilegais e antiéticos sejam, de antemão, excluídos do campo de possibilidades de tomadas de decisão pelos agentes.
Contudo, um entendimento estreito do que significa construir agentes computacionais em respeito a requisitos éticos e jurídicos pode ser contraproducente. As escolhas feitas por projetistas de um sistema podem se tornar obsoletas em virtude de mudanças na lei ou no entendimento socialmente predominante de princípios éticos - o que exige a constante adaptação dos agentes inteligentes. Esta maleabilidade no contexto social em que o agente inteligente atua é potencializada pela possibilidade de que estes agentes sejam reaproveitados em outros tipos de emprego, e esta transferência pode fazer com que escolhas que eram compatíveis com a lei tornem-se ilegais no novo contexto (ou vice-versa). Mesmo que um agente inteligente seja construído em conformidade com um entendimento socialmente aceitável dos princípios éticos e jurídicos aplicáveis, atores maliciosos ainda podem buscar se aproveitar de vulnerabilidades e limitações deste agente.
Porém, a limitação mais importante da abordagem regimental está no fato de que agentes inteligentes, apoiados em sistemas de aprendizagem de máquina, adaptam seu comportamento a diferentes contextos em sua operação, o que exige a capacidade de adequar também a deliberação sobre princípios éticos e regras jurídicas para cada circunstância de atuação.
Para que a abordagem regulamentar seja implementável, é necessário que os sistemas incluam considerações éticas e morais em sua operação em forma e linguagem baseada em cláusulas lógicas, de tal modo que tais premissas normativas possam ser computadas ou consumíveis pela máquina (machine-consumable). Em outras palavras, o Direito e a Ética precisam se tornar computáveis. Considerar ativamente as exigências éticas e jurídicas que se apliquem às suas decisões pressupõe a capacidade de representar os fatores e argumentos relevantes em um contexto moral ou jurídico e raciocinar com base neles. Para tanto, existem desafios de ordem tecnológica e conceitual a serem sanados.
Dentre eles, está o fato de que o ordenamento jurídico precisa ter suas regras interpretadas em seu processo de aplicação. O ordenamento pode apresentar lacunas, suas regras podem ser ambíguas ou conflitar com outras regras. As soluções interpretativas para essas questões, muitas vezes apelam para valores éticos subjacentes, políticas almejadas ou jurídicos. O desenvolvimento de sistemas que realizem inferências a partir de representações pré-definidas desse tipo de conhecimento devem ser capazes de modelar o processo de interpretação construtiva de fontes jurídicas, a ponderação de direitos fundamentais e princípios relevantes para uma norma em um caso concreto, ou a avaliação de argumentos causais no debate das evidências de um caso. Já no domínio ético, sistemas baseados em conhecimento também são usados para representar o raciocínio com base em valores.
Esses modelos empregados para representar formalmente o raciocínio jurídico ou ético já contam com algum grau de sofisticação. Todavia, essa evolução teórica ainda não se traduz em um grau correspondente de aplicação prática, uma vez que os dados de entrada esperados por estes sistemas são representações abstratas de seu contexto de aplicação, de modo que a formatação dos dados demanda um esforço substancial. Como consequência, a pesquisa em inteligência artificial aplicada ao direito vem buscando meios para identificar automaticamente os fatores juridicamente relevantes em um caso e de identificar estruturas argumentativas, em ambos os casos tomando como ponto de partida textos jurídicos em linguagem natural.
Pelo estado da arte da inteligência artificial, portanto, a construção de agentes éticos e jurídicos inteligentes requer a combinação entre duas tradições da inteligência artificial: as correntes baseadas em representação do conhecimento e aquelas focadas no aprendizado de máquina. Mas a meta de tornar computável a lei e a ética só faz sentido em um contexto em que a própria ética da inteligência artificial seja efetivamente implementável. Será, pois, necessário atingir este objetivo através do desenvolvimento de princípios e regras éticas próprias para diferentes domínios de aplicação.
Com isso abre-se caminho para agentes digitais inteligentes capazes de processar regras e princípios éticos com o potencial de direcionar o uso da inteligência artificial para os fins socialmente aceitáveis, reduzindo os custos de compliance e facilitando a adaptação dos sistemas a novas realidades.
*Juliano Souza de Albuquerque Maranhão, professor associado da Faculdade de Direito da USP; diretor do Instituto LGPD - Legal Grounds for Privacy Design; diretor do Instituto Lawgorithm e sócio de Sampaio Ferraz Advogados
