POR: MARCO AURELIO NASCIMENTO AMADO
MARCUS TONETE DE ARAGÃO (coautor)
RESUMO: Aborda-se a crescente integração de algoritmos no sistema de justiça penal, fenômeno conhecido como algoritmocracia, que se refere à predominância dos algoritmos nas decisões sociais e políticas. A pesquisa investiga as implicações dessa integração, destacando como os algoritmos podem otimizar processos e reduzir custos, mas também como podem perpetuar preconceitos e comprometer a transparência e a equidade nas decisões judiciais. A análise concentra-se em diversos casos e revisões de literatura para avaliar as consequências da utilização de algoritmos, especialmente no que se refere à reprodução de preconceitos raciais, de gênero e sociais. Propõe-se a criação de estratégias éticas e práticas para assegurar que o avanço tecnológico contribua de forma positiva para o sistema de justiça, sem exacerbar as desigualdades existentes. Metodologicamente, adotou-se uma abordagem variada, analisando documentos jurisprudenciais de cortes europeias, norte-americanas e brasileiras, bem como estudos teóricos e aplicações práticas. Isso permite uma compreensão abrangente dos desafios e perspectivas para a justiça penal no contexto da algoritmocracia, enfatizando a necessidade de uma participação mais ampla da sociedade civil para garantir transparência e justiça nas aplicações tecnológicas.
Palavras-chave: Algoritmocracia. Preconceito epistêmico. Justiça penal algorítmica.
ABSTRACT: The increasing integration of algorithms in the criminal justice system, a phenomenon known as algorithmocracy, which refers to the predominance of algorithms in social and political decisions, is addressed. The research investigates the implications of this integration, highlighting how algorithms can optimize processes and reduce costs, but also how they can perpetuate biases and compromise transparency and fairness in judicial decisions. The analysis focuses on various cases and literature reviews to assess the consequences of using algorithms, especially regarding the reproduction of racial, gender, and social prejudices. The creation of ethical and practical strategies is proposed to ensure that technological advancement positively contributes to the justice system without exacerbating existing inequalities. Methodologically, a varied approach is adopted, analyzing jurisprudential documents from European, North American, and Brazilian courts, as well as theoretical studies and practical applications. This allows for a comprehensive understanding of the challenges and perspectives for criminal justice in the context of algorithmocracy, emphasizing the need for broader civil society participation to ensure transparency and justice in technological applications.
Key word: Algorithmocracy. Epistemic prejudice. Algorithmic criminal justice.
INTRODUÇÃO
Nos últimos anos, a integração da tecnologia no sistema de justiça penal, particularmente através do uso de algoritmos, tem ganhado destaque como uma forma de otimizar processos e reduzir custos operacionais. Contudo, essa algoritmização do campo penal não está isenta de controvérsias, especialmente no que tange à perpetuação de preconceitos e à garantia de transparência e equidade nas decisões judiciais. O conceito de algoritmocracia, que se refere à predominância dos algoritmos nas decisões sociais e políticas, sugere uma reflexão crítica sobre como esses sistemas são concebidos e executados. O problema central diz respeito a como os algoritmos, ao serem empregados nessa esfera, podem reproduzir ou mesmo exacerbar preconceitos existentes, além de influenciar significativamente os custos sociais e econômicos do sistema judicial.
A justificativa para investigar esse problema apresenta dupla faceta: primeiro, há uma necessidade urgente de garantir que os avanços tecnológicos contribuam para uma sistematização mais íntegra e eficiente, e não o contrário; segundo, é fundamental abordar os desafios éticos e operacionais para mitigar o risco de erros judiciais que podem afetar profundamente a vida das pessoas e a percepção pública sobre a justiça. Este trabalho tem como objetivo principal explorar a aplicação e as implicações dos algoritmos no sistema penal, analisando casos específicos e revisões de literatura existentes para avaliar como os preconceitos e erros podem ser mitigados. Além disso, o estudo busca propor frameworks[2] éticos e práticos para a efetivação responsável de tecnologias algorítmicas.
Para alcançar esses objetivos, empregou-se metodologia multidisciplinar, incluindo a análise de documentos jurisprudenciais de cortes europeias, norte-americanas e brasileiras, bem como a revisão de estudos teóricos e aplicações práticas documentadas em artigos científicos. Essa abordagem permitirá uma compreensão abrangente dos desafios e das perspectivas para uma justiça penal algorítmica, considerando tanto a eficácia quanto os riscos éticos envolvidos, destacando a importância da transparência e da participação da sociedade civil nesta discussão. Como a tecnologia de algoritmos pode reforçar preconceitos raciais, de gênero e sociais, é crucial que diferentes perspectivas sejam consideradas no desenvolvimento e na instalação de tais sistemas. Através de uma abordagem ampla, incluindo a do Direito, princípios morais e ciência da computação, procura-se desenvolver um quadro ético robusto que não apenas enderece questões de eficiência, mas também promova a paridade entre os cidadãos.
Por fim, considerando que os algoritmos aprendem continuamente a partir de novos dados, é essencial que existam processos para atualizar e refinar constantemente estes modelos à medida que mais informações se tornam disponíveis e as circunstâncias sociais evoluem. Isso requer uma colaboração contínua entre cientistas da computação, especialistas em ética, juristas e a comunidade mais ampla para garantir que os sistemas não perpetuem preconceitos ou injustiças. Portanto, busca-se contribuir para o debate sobre este tema, propondo caminhos para que a tecnologia seja utilizada de forma proba e justa, garantindo um equilíbrio entre inovação tecnológica e os princípios fundamentais.
ALGORITMOCRACIA: CONCEITUAÇÃO E APLICAÇÃO
Algoritmocracia é uma nomenclatura que alude à aplicação de algoritmos nos mecanismos de deliberação, particularmente em esferas sociais e políticas. Tal concepção insinua que os algoritmos podem desempenhar um papel preponderante na gestão e estruturação da sociedade, exercendo influência desde a distribuição de recursos até a formulação de diretrizes governamentais. A governança algorítmica, que se refere ao uso de algoritmos para tomar decisões e regular comportamentos, está se tornando cada vez mais prevalente em diversos contextos sociais. Embora os algoritmos possam oferecer eficiência e precisão, podem levar a resultados problemáticos, como a reprodução de preconceitos e a falta de transparência. (PETERSEN, VESTERGAARD e ANDERSEN, 2017).
Essa abordagem dentro do contexto de transparência levanta questões sensíveis sobre a accountability dos sistemas automatizados e o potencial de reforço de desigualdades existentes, pois existe a complexidade e a importância deste conceito no Brasil. A dificuldade em traduzir o termo para o português reflete a ausência não apenas linguística, mas também da prática de responsabilização no país. Percebe-se que é fundamental para a democracia, sendo que sua efetividade depende de transparência e participação cidadã. Os desafios culturais e políticos, como a centralização do estado e a passividade cidadã impedem o desenvolvimento de uma governança responsável no Brasil. Com isso, há necessidade de promover uma cidadania ativa e fortalecer as instituições democráticas para estabelecer efetivamente a accountability, garantindo que os algoritmos sejam justos, imparciais e alinhados com os valores éticos da sociedade. (CAMPOS, 1990).
A possibilidade do uso dos algoritmos no contexto jurídico refere-se ao uso de técnicas computacionais avançadas, como inteligência artificial e aprendizado de máquina, para auxiliar no processo de tomada de decisões judiciais e pesquisas jurisprudenciais. Essas tecnologias podem ser empregadas em diversas áreas do direito, como análise de precedentes, previsão de resultados de casos, gestão de documentos e otimização de processos.
No Brasil, o uso de algoritmos no contexto jurídico ainda está em fase inicial, a exemplo do que ocorre com o sistema Victor do Supremo Tribunal Federal. A finalidade desta engenharia automatizada, no STF, é o auxílio na decisão acerca da repercussão geral[3] (RG) nos processos. Para tanto, descortinam-se vários procedimentos – como ocerização[4] de documentos e determinação de temas de RG – que exigem algoritmo com nível próprio de IA. Examinam-se 5 peças dos autos – acórdão recorrido, juízo de admissibilidade do recurso extraordinário (RE), petição do RE, sentença e agravo no RE – segundo 27 temas de RG (TOLEDO e PESSOA, 2023).
Existe o desenvolvimento de um modelo de inteligência artificial que visa facilitar a busca de jurisprudência no âmbito do Superior Tribunal de Justiça, ainda dentro do contexto brasileiro. Esse modelo, desenvolvido pelo Conselho Nacional de Justiça (CNJ) em parceria com a Universidade de Brasília (UnB) no contexto do Programa Justiça 4.0, é capaz de buscar decisões judiciais de casos concretos realizadas anteriormente em instâncias superiores e listar precedentes qualificados em ordem decrescente de similaridade. A ferramenta, denominada PEDRO (Plataforma de Extração e Descoberta de Precedentes dos Tribunais), foi integrada ao modelo com mais de 300 precedentes qualificados e tem o potencial de agilizar a análise de processos judiciais afetados pelo sistema manual de precedentes qualificados, aumentando a segurança jurídica e otimizando a gestão processual (PNUD, 2023).
