Foi aberta uma consulta pública na União Européia sobre a responsabilidade civil relacionada a utilização de sistema de inteligência artificial. Uma clara preocupação com os riscos de algoritmos violarem, intencionalmente ou não, normas jurídicas estabelecidas.
Quando falamos em responsabilidade civil, especialmente no Brasil, estamos falando, no final, da obrigação de reparar. Ou seja, indenizar, corrigir um fato, modificar algo que foi estabelecido; e isso não precisa decorrer necessariamente de uma ação que teve o objetivo de prejudicar.
Pense no exemplo da perda de uma chance decorrente de um currículo não ser aceito em um processo seletivo. Caso a decisão da sua exclusão tiver sido feita por um algoritmo, e houver indícios de preconceito de máquina envolvido, caberá indenização por parte do serviço, ou da empresa, que utilizou a ferramenta.
Mas não imagine que esse foi um ato que teve o propósito da empresa em realizar, pode apenas ser consequência de o desenvolvedor do serviço não ter sido capaz de evitar que esse posicionamento se formasse. Afinal, com uso de aprendizado de máquina um algoritmo pode adotar um caminho enviesado por observar que a maior parte das pessoas contratadas e que possuem maior tempo de casa nesta empresa terem determinados sobrenomes, ou virem de determinadas instituições ou mesmo são de um único gênero.
Para o direito, o fato de não haver a intensão não exime da responsabilidade por reparar. Bastando, para tanto, que exista o dano claro e o chamado nexo de causalidade; o que equivale a dizer que tem que haver uma relação direta entre o uso do algoritmo e a consequência indicada.
Hoje, nosso código de direito civil, na forma como está, já permitiria recorrer a responsabilização civil relacionada a consequências do uso de inteligência artificial. O que torna ainda mais urgente para as empresas brasileiras entenderem o alcance das soluções que adquirem, ou desenvolvem.
É provável que surjam momento em que a responsabilização por um dano atribuído a um algoritmo acabe tendo, como indicados, dois responsáveis solidariamente: a empresa que faz uso da ferramenta e a que a desenvolveu. Devendo ficar a cargo do tempo a formação dos precedentes que permitam equalizar o nível de responsabilidade de cada ator.
Em muito o direito digital, no seu alcance ao perfil da responsabilidade civil, vai acabar se lastreando em soluções já estabelecidas em leis que lhe são próprias; como a LGPD. Neste dispositivo, por exemplo, a figura de quem é detentor dos dados e de quem é operador dos mesmos dados em favor do primeiro, estão presentes e participam em conjunto na ocorrência de um vazamento de dados pessoais.
Ao pensar, ou optar, por incorporar qualquer solução baseada em IA, tente prever seu alcance, suas externalidades (consequências não previstas); já tentando precaver-se e proteger-se contra qualquer dano futuro que ela venha a causar. Inclusive optando por contratualizar a relação e responsabilidade de quem vai prover o serviço, ou desenvolvê-lo, ou até mesmo treina-lo.
*Christiano Sobral é advogado e administrador, diretor executivo do Urbano Vitalino Advogados. Law Master em Direito Digital, mestre em Estratégia e especialista em marketing, finanças, economia e negócios
