Transparência e participação social em projetos de uso de inteligência artificial na tomada de decisões judiciais, à luz do devido processo algorítmico jurisdicional: uma análise empírica do Poder Judiciário brasileiro, segundo diretrizes éticas e regulatórias internacionais e nacionais (2024)
- Authors:
- Autor USP: LEAL, AUGUSTO CESAR DE CARVALHO - FD
- Unidade: FD
- Sigla do Departamento: DES
- Subjects: INTELIGÊNCIA ARTIFICIAL; DECISÃO JUDICIAL; DEVIDO PROCESSO LEGAL
- Language: Português
- Abstract: No contexto do constitucionalismo digital, o devido processo legal é refundado como devido processo algorítmico jurisdicional, passando a exigir a transparência e a participação social, no âmbito de projetos de desenvolvimento e uso de sistemas de inteligência artificial (IA) na atividade decisória jurisdicional, como garantias procedimentais antecipadas, de natureza administrativa, das quais depende a proteção dos direitos fundamentais processuais nos processos judiciais em que utilizadas as respectivas ferramentas algorítmicas. No caso da utilização de sistema de IA no processo decisório jurisdicional, é como se a decisão judicial começasse a ser elaborada no momento da concepção (design), do desenvolvimento, da implementação e da operação da ferramenta tecnológica que a influenciará significativamente. Por isso, devem ser implementadas medidas de salvaguarda desde a fase administrativa de concepção e construção de sistemas de IA que tomam ou apoiam decisões judiciais, protegendo-se as garantias fundamentais do processo judicial antes mesmo de seu início, de forma preventiva (ex ante), coletiva e colaborativa, por meio da atuação de uma rede democrática de múltiplas partes interessadas (stakeholders). Desse modo, não se vislumbra como efetivar cada um dos direitos fundamentais processuais que constituem o devido processo legal em um cenário em que sejam determinantes para o conteúdo das decisões jurisdicionais resultados (outputs) de um sistema de IA concebido, desenvolvido, implementado, operado e aplicado pelo tribunal sem a ciência e a compreensão das partes processuais afetadas, das demais partes interessadas específicas e da sociedade em geral, bem como sem a participação e a influência destas. Nesse sentido, a transparência e a participação social em tais projetos são pré-condições para a concretização de todos os direitos fundamentais processuais quecompõem o conteúdo mínimo do devido processo legal, a exemplo daqueles que garantem o contraditório e a ampla defesa, a fundamentação, o recurso, o juiz natural, independente e imparcial, a igualdade e a publicidade processual. Têm, por isso mesmo, a natureza jurídica de direitos fundamentais preferenciais prima facie. Já existem 143 projetos de IA nos tribunais brasileiros. Destes, 71 (49,65%) são destinados ao desenvolvimento e uso de sistemas de IA com o potencial de influenciar o conteúdo de decisões jurisdicionais. Apesar dessa expansão acelerada, comprovou-se, por meio da realização de duas pesquisas empíricas conectadas, que, no Brasil, os projetos de desenvolvimento e uso de sistemas de IA de apoio às decisões judiciais possuem níveis extremamente baixos de transparência e de participação social, incompatíveis com a realização do devido processo legal nos processos judiciais em que aplicadas as respectivas ferramentas algorítmicas, não adotando a maioria das medidas exigidas pelas principais diretrizes éticas e regulatórias internacionais e nacionais. Foi, portanto, diagnosticado um estado de coisas que ameaça o devido processo legal, cujas garantias tradicionais não são mais suficientes diante de decisões judiciais influenciadas por sistemas de IA. Diante disso, foram recomendadas, aos tribunais e ao Conselho Nacional de Justiça, diversas ações para a promoção da transparência e da participação social nos projetos dessa natureza
- Imprenta:
- Data da defesa: 30.08.2024
-
ABNT
LEAL, Augusto Cesar de Carvalho. Transparência e participação social em projetos de uso de inteligência artificial na tomada de decisões judiciais, à luz do devido processo algorítmico jurisdicional: uma análise empírica do Poder Judiciário brasileiro, segundo diretrizes éticas e regulatórias internacionais e nacionais. 2024. Tese (Doutorado) – Universidade de São Paulo, São Paulo, 2024. . Acesso em: 09 jan. 2026. -
APA
Leal, A. C. de C. (2024). Transparência e participação social em projetos de uso de inteligência artificial na tomada de decisões judiciais, à luz do devido processo algorítmico jurisdicional: uma análise empírica do Poder Judiciário brasileiro, segundo diretrizes éticas e regulatórias internacionais e nacionais (Tese (Doutorado). Universidade de São Paulo, São Paulo. -
NLM
Leal AC de C. Transparência e participação social em projetos de uso de inteligência artificial na tomada de decisões judiciais, à luz do devido processo algorítmico jurisdicional: uma análise empírica do Poder Judiciário brasileiro, segundo diretrizes éticas e regulatórias internacionais e nacionais. 2024 ;[citado 2026 jan. 09 ] -
Vancouver
Leal AC de C. Transparência e participação social em projetos de uso de inteligência artificial na tomada de decisões judiciais, à luz do devido processo algorítmico jurisdicional: uma análise empírica do Poder Judiciário brasileiro, segundo diretrizes éticas e regulatórias internacionais e nacionais. 2024 ;[citado 2026 jan. 09 ]
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
