Durante a maior parte do domínio humano sob a Terra nos consideramos invencíveis, senhores do mundo, os únicos seres com a capacidade cognitiva para moldar o mundo conforme o seu desejo. Éramos inevitáveis. Toda e qualquer habilidade poderia ser dominada pelos seres humanos. Apenas pelos seres humanos. Mas isso mudou: há uma nova forma de “inteligência” tomando os lugares outrora ocupados apenas por nós, os seres inevitáveis, e demonstrando habilidades surpreendentes, quase humanas, embora ainda consideradas “artificiais”.
Nos momentos finais de “Eu, Robô”, livro de Isaac Asimov, a dra. Calvin afirma: “Apenas as Máquinas são, de agora em diante, inevitáveis” (Asimov, 2015, p. 302). Publicado em 1950, o livro antecipa uma verdade da qual nossa sociedade não pode escapar, pois, parafraseando Asimov, devemos ter mente que, de agora em diante, a Inteligência Artificial é inevitável.
Há muito o que se debater sobre os sistemas dotados de Inteligência Artificial. Por exemplo, pode-se discutir primeiro o que significa inteligência, ou mesmo se esses sistemas são inteligentes ou apenas uma jogada de marketing, como afirmou Miguel Nicolelis em recente entrevista (Gomes; Cortiz; Oliveira, 2025). Não obstantes sejam discussões dotadas de importância, traçaremos um debate que considera Inteligência Artificial como uma tecnologia inevitável para os próximos anos (e toda vida humana, até quando ela existir).
Para se solidificar como uma tecnologia inevitável, a Inteligência Artificial certamente implica em inúmeros benefícios e, dentre eles, pode-se destacar a automatização de tarefas antes realizáveis apenas por seres humanos, característica que constitui o próprio conceito de Inteligência Artificial.
A Inteligência Artificial deve ser compreendida como uma ferramenta tecnológica capaz de solucionar problemas que até então eram submetidos apenas ao pensamento racional humano, independente de autonomia ou racionalidade. Dessa forma, com a utilização de algoritmos, softwares e hardwares, todos criados com finalidades específicas, essa tecnologia pode auxiliar nas resoluções de tarefas, dentre as mais básicas do dia a dia até as mais complexas atividades, inclusive para fins decisórios no Poder Judiciário, sendo onde repousa um dos maiores riscos da difusão dos sistemas artificialmente inteligentes.
De forma exemplificativa, os sistemas de Inteligência Artificial nos Tribunais podem ser estuados com base em seis metáforas, a saber: o bibliotecário, o oráculo, o auxiliar judicial, a testemunha, o advogado geral e o funcionário com poderes ilimitados (Pedrosa, 2022).
Na metáfora do bibliotecário, a IA criada tem como finalidade realizar tarefas de pesquisa e documentação jurídica das bases de dados disponibilizadas. No caso do oráculo, trata-se de um sistema de IA capaz de prever resultados processuais, como uma futura decisão favorável ou desfavorável de uma ação judicial. Um sistema de Inteligência Artificial que funciona como auxiliar judicial é responsável por tarefas mais objetivas, que não envolvam diretamente a tomada de decisão ou promovam alguma orientação que a facilite. A metáfora da testemunha é destinada aos sistemas com a capacidade de produzir provas, ou auxiliar na produção e análise de provas. O advogado geral seria o sistema capaz de emitir soluções fundamentadas sobre os litígios concretos submetidos, ou seja, fornecendo um parecer prévio ao juíz. Por fim, o funcionário com poderes ilimitados representa o momento em que a Inteligência Artificial assumiria as funções de um juiz, sem a supervisão humana (Pedrosa, 2022).
Ao contrário do que o imaginário popular pode ter gravado em sua mente, após a influência de muitos filmes e livros de ficção científica nos quais as máquinas são criaturas mais inteligentes que os humanos, o conceito acima trata essa tecnologia como o que ela realmente é: uma ferramenta. Entretanto, não é porque ela é apenas uma ferramenta, que não pode oferecer riscos. Cada uma das metáforas apresentadas anteriormente, embora possam trazer melhorias para a prestação jurisdicional, também são fontes de riscos para o Poder Judiciário.
Um desses riscos é o viés de automação. De acordo Citron (2008), o viés de automação pode ser compreendido como o impulso de seguir a recomendação de um computador, mesmo quando apresentam mal funcionamento, transformando a recomendação da máquina em decisão final. No mesmo sentido, Cummings (2006) explica que o viés de automação ocorre quando o ser humano aceita a solução gerada por uma máquina sem nem sequer buscar informações que possam o contradizer.
É verdade que os sistemas de Inteligência Artificial são capazes de processar grandes quantidades de dados, de forma incrivelmente rápida, superando bastante a capacidade humana de processar informações em curto espaço de tempo. Contudo, eles não são infalíveis, e frequentemente apresentam erros que podem causar danos aos usuários.
Volvendo às metáforas de Pedrosa (2022), é possível identificar diversos impactos que o viés de automação pode acarretas, a depender do nível de influência que cada sistema terá no processo decisório. Os sistemas que funcionam como auxiliares judiciais, por exemplo, têm pouco impacto no processo de tomada de decisão, pois não são responsáveis por fornecer elementos de convicção para o julgamento. No entanto, podem ser responsáveis por movimentações equivocadas, certificações imprecisas, traduções equivocadas etc. Sem uma supervisão humana bem orientada até um sistema mais simples como esse pode alterar o curso de um processo e gerar prejuízo às partes envolvidas.
No caso de bibliotecários, o risco repousa na hipótese do sistema de utilizado também com a finalidade de indicar precedentes, se assemelhando ao advogado geral. Imagine um sistema que funcione como um bibliotecário que tem como objetivo principal a celeridade processual: ele pode dar preferência por indicar julgados que acarretam a extinção do processo diante de um erro formal, mesmo quando existam decisões que desconsideram o formalismo em prol da primazia do julgamento do mérito. Nesse caso, um usuário dependente do sistema e incapaz de se desprender do viés de automação não conseguiria identificar o erro.
Um sistema oráculo, ao realizar uma atividade preditiva, pode induzir equivocadamente um Tribunal a manter consolidada uma jurisprudência que deveria ser superada, ou então deixar de aplicar o distinguishing quando seria o caso.
Por sua vez, o sistema utilizado como testemunha pode receber vieses dos próprios programadores ou até mesmo cometer erros na análise do material probatório, maculando a produção de provas e induzindo o julgador a seguir as orientações de um sistema apenas aparentemente infalível.
O viés de automação também impacta o operador de sistemas que funcionem como advogado geral. Existe uma tendência de seguir decisões algorítmicas, mesmo que com a suspeita de mau funcionamento do sistema. Portanto, uma IA que tem como objetivo sugerir decisões é um campo aberto para a concretização indesejada do viés de automação. No contexto de supervalorização da capacidade das máquinas, um sistema cujo objetivo é processar grandes quantidades de dados e fornecer uma solução pode levar os supervisores humanos a preferirem suas decisões às deles.
Das metáforas anteriormente discutidas, o funcionário com poderes ilimitados no Judiciário é a única que ainda não está difundida, seja no Brasil ou no exterior. Ela pressupõe que as partes aceitariam receber, pelo menos em um primeiro momento, uma decisão proferida integralmente por um sistema de Inteligência Artificial. Embora as partes eventualmente aceitem a se submeter ao sistema, hsvendo recurso, o Tribunal estará certamente sujeito ao viés de automação. Em casos assim, o risco é que o juiz apenas chancele a decisão algorítmica, deixando de exercer a função crítica que a supervisão demanda.
Citron (2008) propõe como solução para o viés de automação o treinamento dos operadores sobre o próprio viés. Assim, os usuários seriam alfabetizados tecnologicamente sobre o funcionamento do sistema, compreendendo os potenciais erros e como evitá-los. Outras soluções são a produção de decisões explicáveis e transparentes, as quais devem detalhar como o sistema foi utilizado e porque forneceu aquele resultado. Desse modo, tanto o julgador quanto o jurisdicionado compreenderão interna e externamente o resultado, tornando o processo judicial tecnológico participativo e democrático.
REFERÊNCIAS BIBLIOGRÁFICAS
ASIMOV, Isaac. Eu, Robô.Tradução: Aline Storto Pereira. São Paulo: Aleph, 2015.
CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, vol. 85, n. 1249, 2008.
CUMMINGS, Mary L. Automation and Accountability in Decision Support System Interface Design. Journal of Technology Studies, 2006.
GOMES, Helton Simões; CORTIZ, Diogo; OLIVEIRA, Ruam. Nem inteligente nem artificial: IA é jogada de marketing, diz Nicolelis. Disponível em: https://www.uol.com.br/tilt/noticias/redacao/2025/02/01/nem-inteligente-nem-artificial-ia-e-jogada-de-marketing-diz-nicolelis.htm. Acesso em: 7 set. 2025.
PEDROSA, Manuel Baena. Aplicación de inteligencia artificial por los tribunales europeos. 1ª ed. Valencia: Tirant Lo Blanch, 2022.
