As informações e opiniões formadas neste blog são de responsabilidade única do autor.

Inteligência Artificial e Administração Pública: os dilemas de um novo modelo decisório

Humberto Dantas

29 de outubro de 2019 | 16h07

Autores do texto:

Tadeu Luciano Seco Saravalli é advogado, especialista em gestão pública pela UFScar, líder MLG pelo Master em Liderança e Gestão Pública -MLG, mestrando em ciências sociais e membro da Comissão Estadual de Direito Digital da OAB-SP. Atualmente, trabalha como assessor técnico de gabinete na Secretaria de Desenvolvimento Econômico do Estado de São Paulo.

Rafael Seco Saravalli é advogado, especialista em Direito Público pela EPM-SP, mestrando em Direito pela USP e pesquisador vinculado a Lawgorithm – Associação de Pesquisa em Inteligência Artificial e Direito. Atualmente é Procurador Chefe da Universidade de São Paulo e atua nas áreas de Convênios e Propriedade Intelectual.

Neste conteúdo, Tadeu e Rafael falam sobre a necessidade de políticas de inteligência artificial na administração pública. Leia:

Na Semana Nacional de Ciência e Tecnologia (SNCT), realizada entre os dias 21 a 27 de outubro de 2019, o Ministro da Ciência, Tecnologia e Comunicação Marcos Pontes comentou sobre os planos do governo para a elaboração de uma Política Nacional de Inteligência Artificial. Em face da relevância do tema, foi anunciado que diretrizes regulatórias sobre este assunto devem ser divulgadas até o final deste ano.

Vários países e organizações internacionais já buscam determinar estratégias de fomento, regulação e promoção ética da inteligência artificial. São as chamadas estratégias nacionais de inteligência artificial, em que, além de se procurar dar ganho competitivo para os países, busca-se determinar modelos de gestão pública adaptados a esta nova tecnologia, bem como aos preceitos ético-legais mais relevantes em cada localidade (para saber mais, acesse aqui).

Entre vários pontos que a futura Política Nacional de Inteligência Artificial deverá tratar, a questão da própria administração pública como um ser híbrido (parte institucional e parte integrado a sistemas inteligentes) se apresenta como um desafio fundamental, ante os reflexos fáticos e institucionais que estas novas tecnologias apresentam. Concentrando nossa atenção no aspecto institucional, podemos observar reflexos no exercício da cidadania, manutenção das liberdades individuais, prestação de serviços públicos, escolha de políticas públicas, etc. Especialmente, porque esta nova tecnologia interage intimamente com o processo decisório da administração pública.

No processo de deliberação administrativa baseado em sistemas inteligentes, temos várias questões em jogo (representatividade, por exemplo), mas o ponto que nos chama atenção é a na necessidade de justificação dos atos administrativos. No âmbito do Direito Administrativo, a justificação do ato permite aos cidadãos e outros órgãos controlar as razões da gestão pública, podendo estabelecer juízos sobre legitimidade, eficiência ou probidade. A partir desta função da justificação, o que legitimaria uma tomada de decisão fundamentada em sistemas inteligentes? A mera aceitação de uma decisão robótica, sem compreender suas razões, não parece razoável. Assim, seria necessário delimitar o processo de cálculo realizado pela máquina para se compreender a justificação do ato. E é aí que chegamos em uma situação difícil.

>> Conheça boas práticas no Setor Público

O desenvolvimento de sistemas de aprendizado automático, recentemente, caminhou para modelos nos quais a determinação das razões efetivas da decisão não são diretamente interpretáveis por humanos. Baseando-se em grande uma quantidade de dados (big data), tais sistemas conseguem, por meio de regressão/classificação estatística, associar esta informação a funções, o que lhes permite “aprender” a decidir. A despeito da existência de modelos de interpretação destes sistemas, a compreensão de seus processos decisórios ainda é limitada. Em outras palavras, a partir de uma quantidade de dados impossível para um ser humano compreender, ele consegue estabelecer uma generalização (ou hipótese), não havendo clareza da relação entre estes dados e este processo decisório.

A partir desta dificuldade de compreender por que e como tal sistema apresenta uma decisão administrativa, o ato público poderia ser considerado desfundamentado, nulo e, consequentemente, de difícil controle pela população. Não seria, portanto, recomendável a tomada de decisões administrativas auxiliada ou tomada exclusivamente por máquinas. Soma-se a isso a necessidade de se responsabilizar, político e juridicamente, os administradores pela sua gestão.

Contudo, a despeito destas dificuldades, ainda há fortes razões jurídico e econômicas para aceitação da inteligência artificial no processo decisório. Primeiro, cada vez mais estes sistemas inteligentes conseguem superar a capacidade dos seres humanos em tomada de decisões. Segundo, em uma sociedade complexa, decisões desancoradas em análises precisas de dados são sinônimos de ineficiência, o que violaria à Constituição Federal. Portanto, é aconselhável pensar em maneiras institucionais de se mitigar a dificuldade de justificação.

A palavra chave para tentarmos contornar o problema da fundamentação das decisões administrativas por máquinas é controle. Como podemos controlar as razões de uma decisão se elas não são diretamente interpretáveis? Além de políticas de desenho de softwares e limitação de tipos de dados que alimentariam os sistemas inteligentes da administração, podemos pensar também em uma releitura de um preceito institucional tradicional: o Princípio da Publicidade.

O sentido tradicional deste preceito jurídico é o dever da administração tornar acessível todas informações relativas aos seus atos. Ocorre que, neste novo cenário, esta afirmação precisa ser refinada, para que o destinatário da informação não seja somente o ser humano, mas também as máquinas aptas a processar estes dados e dar outputs externos à administração. Com este novo olhar, a administração pública se torna obrigada a um tratamento de dados adequados a uma utilização por máquinas da sociedade civil e de outros órgãos estatais. Isso torna possível que sistemas concorrentes apresentem opções, ou que outros modelos tornem a decisão um pouco mais interpretável e, em razão disso, o controle pode detectar vieses ou tendências indesejáveis.

Não é exagero dizer que saímos do Princípio da Publicidade tradicional e caminhamos para um Princípio da Publicidade Inteligente. Aliás, a legislação brasileira já trata as máquinas como destinatárias do princípio da publicidade. Vide, por exemplo, artigo 8º da Lei de Acesso à Informação. Todavia, a política de gestão de dados ainda é incipiente e não trata as máquinas como destinatárias necessárias da informação da administração.

Aqui não se apresenta uma solução para este problema, mas se demonstra um tipo de situação que representa bem a necessidade de se repensar a relação entre tecnologia e instituições. Tais preocupações não podem ser menosprezadas e devem ser trazidas na Política Nacional de Inteligência Artificial. Isso porque a sociedade complexa na qual vivemos requer uma Administração Pública com maior interação com novas tecnologias, mas, ante a peculiaridade da inteligência artificial, é imprescindível refletir sobre as alterações institucionais no nosso modelo tradicional de Estado.

Comentários

Os comentários são exclusivos para assinantes do Estadão.