A incorpora\u00e7\u00e3o de sistemas de Intelig\u00eancia Artificial nos Tribunais reclama aten\u00e7\u00e3o para um \u201cnovo\u201d direito: o direito \u00e0 explica\u00e7\u00e3o, que consiste, em breves linhas, na exig\u00eancia de que os jurisdicionados possam compreender como e porque aquela decis\u00e3o foi tomada (Morato; Nunes, 2025). Para isso, aos pr\u00f3prios Tribunais, como gestores dos sistemas artificialmente inteligentes que utiliza, cabe assegurar que esses sistemas forne\u00e7am explica\u00e7\u00f5es suficientes para os jurisdicionados. <\/p>\n\n\n\n
Diante desse conceito, o direito \u00e0 explica\u00e7\u00e3o compreende-se como uma consequ\u00eancia do princ\u00edpio da motiva\u00e7\u00e3o das decis\u00f5es judiciais, que exsurge do princ\u00edpio m\u00e1ximo do devido processo legal. Insculpido, \u00e0 n\u00edvel constitucional, pelo art. 93, IX, da Constitui\u00e7\u00e3o Federal, o princ\u00edpio da motiva\u00e7\u00e3o das decis\u00f5es judiciais \u00e9 uma forma de impedir arbitrariedades e assegurar que as partes possam se insurgir contra os fundamentos que justificaram uma decis\u00e3o injusta.<\/p>\n\n\n\n
Nesse sentido, a motiva\u00e7\u00e3o das decis\u00f5es judiciais tem duas fun\u00e7\u00f5es. A primeira \u00e9 a fun\u00e7\u00e3o endoprocessual, por meio da qual as partes conhecem as raz\u00f5es de decidir do julgador e podem exercer um controle interno, por interm\u00e9dio dos recursos. Na fun\u00e7\u00e3o extraprocessual, a fundamenta\u00e7\u00e3o \u00e9 escrutinada pela via da democracia participativa, ficando sujeita ao controle externo (Pinto, 2024).<\/p>\n\n\n\n
Antes do advento dos sistemas de Intelig\u00eancia Artificial, a exig\u00eancia de motiva\u00e7\u00e3o das decis\u00f5es judiciais era direcionada ao magistrado, a fim de que o processo argumentativo que o levou a tomar determinada decis\u00e3o fosse exposto e, assim, seus fundamentos pudessem ser impugnados. No entanto, no atual cen\u00e1rio tecnol\u00f3gico em que est\u00e3o inseridos os processos judiciais a exig\u00eancia da motiva\u00e7\u00e3o deve ser destinada sobretudo aos sistemas de Intelig\u00eancia Artificial, que muitas vezes podem ser completamente opacos.<\/p>\n\n\n\n
De acordo com Morato e Nunes (2025, p. 105-106), um modelo de Intelig\u00eancia Artificial pode ser considerado opaco quando \u201cn\u00e3o \u00e9 poss\u00edvel visualizar, com clareza, como<\/em> e porque<\/em> ele toma determinada decis\u00e3o\u201d. A opacidade pode se manifestar como estrat\u00e9gia corporativa ou segredo de estado, como analfabetismo t\u00e9cnico ou decorrer da alta complexidade dos algoritmos, conforme preceitua Jenna Burrel (2025).<\/p>\n\n\n\n A estrat\u00e9gia corporativa ou segredo de estado tem como objetivo a prote\u00e7\u00e3o de interesses econ\u00f4micos, estrat\u00e9gicos ou de seguran\u00e7a, de empresas ou pa\u00edses. Essa forma de opacidade \u00e9 proposital e serve para proteger as vantagens competitivas daqueles que se aproveitam do sistema. O analfabetismo t\u00e9cnico \u00e9 dificuldade que os usu\u00e1rios teriam de compreender o funcionamento do sistema. Nesse caso, embora exista algum grau prim\u00e1rio de transpar\u00eancia, ele \u00e9 apenas formal, pois os usu\u00e1rios ainda s\u00e3o despreparados. No terceiro caso, embora o c\u00f3digo do sistema seja aberto ou os usu\u00e1rios sejam treinados, dificilmente poder\u00e1 existir uma verdadeira transpar\u00eancia ou explicabilidade, pois os sistemas s\u00e3o treinados com gigantescos volumes de dados, em v\u00e1rias camadas e por muitos programadores, de modo que nem mesmo eles conhecem todo o sistema e seu funcionamento integral (Burrel, 2025).<\/p>\n\n\n\n Um Tribunal n\u00e3o pode ter como estrat\u00e9gia a falta de transpar\u00eancia dos sistemas de Intelig\u00eancia Artificial, pelo menos n\u00e3o daqueles que sejam utilizados para fins de aux\u00edlio \u00e0 decis\u00e3o judicial. Do mesmo modo, ao integrar esse tipo de tecnologia \u00e9 indispens\u00e1vel que os servidores sejam devidamente instru\u00eddos e \u201calfabetizados\u201d para compreenderem o funcionamento do sistema (como<\/em> e porque<\/em>). \u00c9 desafiador, no entanto, superar a opacidade de sistemas de alta complexidade, uma vez que s\u00e3o treinados com quantidades de dados imposs\u00edveis de serem conferidos previamente por humanos, ou mesmo validados em uma supervis\u00e3o posterior (Burrel, 2025).<\/p>\n\n\n\n Por isso, faz-se necess\u00e1rio classificar os sistemas de Intelig\u00eancia Artificial de acordo com os riscos oferecidos e, a partir da\u00ed, buscar o m\u00e1ximo de explica\u00e7\u00e3o poss\u00edvel. Morato e Nunes apresentam classifica\u00e7\u00e3o que se divida em sistemas de baixo risco, alto risco e risco excessivo. No primeiro caso, o sistema apresenta impacto que \u00e9 limitado e revers\u00edvel, ainda que aconte\u00e7a uma falha. No segundo caso, o sistema pode impactar direitos fundamentais, como no caso de ser utilizado para fins decis\u00f3rios envolvendo acesso ao cr\u00e9dito, sa\u00fade, seguran\u00e7a, pol\u00edticas p\u00fablicas e etc. No terceiro caso, os sistemas seriam capazes de eliminar a revis\u00e3o humana, fazer julgamentos morais ou realizar a previs\u00e3o de condutas, o que geraria grandes chances de vulnera\u00e7\u00e3o de direitos fundamentais (Burrel, 2025).<\/p>\n\n\n\n A Resolu\u00e7\u00e3o n\u00ba 615, de 11 de mar\u00e7o de 2025, do Conselho Nacional de Justi\u00e7a, possui cap\u00edtulo pr\u00f3prio acerca da categoriza\u00e7\u00e3o dos riscos dos sistemas de Intelig\u00eancia Artificial. De acordo com a referida Resolu\u00e7\u00e3o (art. 9\u00ba), os tribunais t\u00eam o dever de avaliar as solu\u00e7\u00f5es que utilizem IA, com o objetivo de estabelecer o grau de risco. Os fatores a serem avaliados s\u00e3o potenciais impactos nos direitos fundamentais, complexidade do modelo, sustentabilidade financeira, os usos da solu\u00e7\u00e3o e a quantidade de dados sens\u00edveis que ser\u00e3o utilizados.<\/p>\n\n\n\n Em sequ\u00eancia, o art. 10 da supracitada Resolu\u00e7\u00e3o prev\u00ea que o Poder Judici\u00e1rio n\u00e3o pode desenvolver e utilizar solu\u00e7\u00f5es:<\/p>\n\n\n\n I \u2013 que n\u00e3o possibilitem a revis\u00e3o humana dos resultados propostos ao longo de seu ciclo de treinamento, desenvolvimento e uso, ou que gerem depend\u00eancia absoluta do usu\u00e1rio em rela\u00e7\u00e3o ao resultado proposto, sem possibilidade de altera\u00e7\u00e3o ou revis\u00e3o;<\/p>\n\n\n\n II \u2013 que valorem tra\u00e7os da personalidade, caracter\u00edsticas ou comportamentos de pessoas naturais ou de grupos de pessoas naturais, para fins de avaliar ou prever o cometimento de crimes ou a probabilidade de reitera\u00e7\u00e3o delitiva na fundamenta\u00e7\u00e3o de decis\u00f5es judiciais, bem como para fins preditivos ou estat\u00edsticos com o prop\u00f3sito de fundamentar decis\u00f5es em mat\u00e9ria trabalhista a partir da formula\u00e7\u00e3o de perfis pessoais;<\/p>\n\n\n\n III \u2013 que classifiquem ou ranqueiem pessoas naturais, com base no seu comportamento ou situa\u00e7\u00e3o social ou ainda em atributos da sua personalidade, para a avalia\u00e7\u00e3o da plausibilidade de seus direitos, m\u00e9ritos judiciais ou testemunhos; e<\/p>\n\n\n\n IV \u2013 a identifica\u00e7\u00e3o e a autentica\u00e7\u00e3o de padr\u00f5es biom\u00e9tricos para o reconhecimento de emo\u00e7\u00f5es.<\/p>\n<\/blockquote>\n\n\n\n Ademais, conforme \u00a7 1\u00ba do art. 10, cabe aos tribunais implementar mecanismos de monitoramento capazes de assegurar o cumprimento das veda\u00e7\u00f5es, bem como monitorar o desenvolvimento das solu\u00e7\u00f5es que utilizem Intelig\u00eancia Artificial. No caso de alguma solu\u00e7\u00e3o (em desenvolvimento ou j\u00e1 em aplica\u00e7\u00e3o) se enquadrar nas veda\u00e7\u00f5es anteriormente indicadas, ela dever\u00e1 ser descontinuada, conforme \u00a7 2\u00ba do art. 10. Nesse ponto, \u00e9 de se destacar a relev\u00e2ncia do trabalho de fiscaliza\u00e7\u00e3o interno dos tribunais, que tem um verdadeiro dever de autogest\u00e3o para impedir que sistemas vedados sejam inseridos na tramita\u00e7\u00e3o de um processo judicial.<\/p>\n\n\n\n De acordo com o art. 11, os sistemas artificialmente inteligentes poder\u00e3o ser considerados de alto ou baixo risco, conforme Anexo de Classifica\u00e7\u00e3o de Riscos. Nesse sentido, \u00e9 considerado de baixo risco a:<\/p>\n\n\n\n detec\u00e7\u00e3o de padr\u00f5es decis\u00f3rios ou de desvios de padr\u00f5es decis\u00f3rios, bem como detec\u00e7\u00e3o de precedentes qualificados pertinentes, observado o car\u00e1ter complementar da t\u00e9cnica de intelig\u00eancia artificial, desde que n\u00e3o haja substitui\u00e7\u00e3o da avalia\u00e7\u00e3o humana sobre processos, sendo seu uso destinado para apoio interno ao tribunal e para uniformiza\u00e7\u00e3o da jurisprud\u00eancia;<\/p>\n<\/blockquote>\n\n\n\n \u00c9 especificamente em atividades desse tipo que o Direito \u00e0 Explica\u00e7\u00e3o se torna relevante. Definir um padr\u00e3o decis\u00f3rio e, mais ainda, detectar o desvio desse padr\u00e3o exige uma atividade cognitiva que n\u00e3o se resume a correlacionar grandes bases de dados, mas, na verdade, exige uma an\u00e1lise profunda, inclusive para que o julgador identifique se seria o caso de distinguishing<\/em> ou overruling<\/em>.<\/p>\n\n\n\n H\u00e1 ainda outra problem\u00e1tica nos sistemas de Intelig\u00eancia Artificial que detectam padr\u00f5es e desvios de padr\u00f5es. Eles existem para que muitos processos sejam julgados ao mesmo tempo, aplicando-se a mesma decis\u00e3o paradigm\u00e1tica a todos eles. Ora, um simples erro da m\u00e1quina e o impacto seria profundo. Pode-se levantar o argumento sempre citado da \u201csupervis\u00e3o humana\u201d, mas ela muitas vezes \u00e9 apenas formal, ou seja, n\u00e3o h\u00e1, de fato, uma revis\u00e3o do ato praticado pela IA, at\u00e9 porque se o julgador humano fosse revisar cada ato o sistema perderia o sentido: o objetivo dele \u00e9 otimizar o tempo, e isso nada tem a ver com revisar grandes quantidades de processos.<\/p>\n\n\n\n Nesse contexto, para al\u00e9m das \u201craz\u00f5es humanas\u201d expostas na decis\u00e3o, que se situam no \u00e2mbito do princ\u00edpio da motiva\u00e7\u00e3o das decis\u00f5es judiciais, com fun\u00e7\u00e3o endoprocessual e extraprocessual, as \u201craz\u00f5es algor\u00edtmicas\u201d tamb\u00e9m s\u00e3o indispens\u00e1veis, e se situam no \u00e2mbito do direito \u00e0 explica\u00e7\u00e3o. Em outras palavras, os motivos que conduziram o sistema de Intelig\u00eancia Artificial a determinado resultado tamb\u00e9m devem ser expostos.<\/p>\n\n\n\n Assim, quando um sistema de IA identifique um padr\u00e3o decis\u00f3rio, por exemplo, a sua indica\u00e7\u00e3o de padr\u00e3o deve explicar como<\/em> e porque<\/em> aquela escolha foi realizada. Quando ele indicar um desvio de padr\u00e3o decis\u00f3rio, tamb\u00e9m deve ser explicado como e porque esse resultado foi obtido. Dessa forma, eventuais erros ou inconsist\u00eancias poder\u00e3o ser submetidas ao escrut\u00ednio p\u00fablico, inclusive com a possibilidade de impugna\u00e7\u00e3o pelas partes envolvidas no processo.<\/p>\n\n\n\n REFER\u00caNCIAS BIBLIOGR\u00c1FICAS<\/strong><\/p>\n\n\n\n BURRELL, Jenna, How the Machine ‘Thinks:’ Understanding Opacity in Machine Learning Algorithms <\/strong>(September 15, 2015). Dispon\u00edvel em: https:\/\/ssrn.com\/abstract=2660674 or http:\/\/dx.doi.org\/10.2139\/ssrn.2660674. Acesso em: 20 dez. 2025.<\/p>\n\n\n\n MORATO, Ot\u00e1vio; NUNES, Dierle. Intelig\u00eancia Artificial: <\/strong>O Desafio da Explicabilidade. S\u00e3o Paulo: Editora JusPodivm, 2025.<\/p>\n\n\n\n PINTO, Henrique Alves. A tripla fundamenta\u00e7\u00e3o das decis\u00f5es jurisdicionais pautadas em Intelig\u00eancia Artificial:<\/strong> o redimensionamento da fundamenta\u00e7\u00e3o pela explicabilidade algor\u00edtmica. 2. ed., rev., atual. e ampl. S\u00e3o Paulo: Editora Juspodivm, 2024.<\/p>\n","protected":false},"excerpt":{"rendered":" A incorpora\u00e7\u00e3o de sistemas de Intelig\u00eancia Artificial nos Tribunais reclama aten\u00e7\u00e3o para um \u201cnovo\u201d direito: o direito \u00e0 explica\u00e7\u00e3o, que consiste, em breves linhas, na exig\u00eancia de que os jurisdicionados possam compreender como e porque aquela decis\u00e3o foi tomada (Morato; Nunes, 2025). Para isso, aos pr\u00f3prios Tribunais, como gestores dos sistemas artificialmente inteligentes que utiliza, […]<\/p>\n","protected":false},"author":264,"featured_media":24179,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1,2045],"tags":[2046],"class_list":["post-24178","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artigos","category-direito-digital-lgpd-novas-tecnologias","tag-direito-digital"],"acf":[],"yoast_head":"\n\n
\n