A Justiça sob o olhar das máquinas

A concepção de que a vigilância digital se restringe ao campo da ficção revela-se cada vez mais equivocada, uma vez que cada clique, cada trajeto e cada mensagem transmitida podem estar sendo monitorados por sistemas de inteligência artificial, sem que haja plena percepção disso. A sociedade contemporânea caminha, de forma acelerada, para um modelo de Estado em que algoritmos passam a definir quem é suspeito e quem é inocente.

Nesse sentido, há longas décadas, a sociedade se encontra em debate sobre o surgimento e o uso de máquinas movidas pela inteligência artificial ao convívio humano, recorrentemente dramatizado em livros e produções hollywoodianas, como Matrix, Resistência, O Exterminador do Futuro e Inteligência Artificial, dentre outras célebres criações.

Além disso, é fato que, embora a ficção tenha a liberdade e licença poética para teatralizar e tornar mais comoventes os cenários, suas narrativas têm como inspiração experiências concretas do mundo real, sob a conhecida máxima de que a arte imita a vida e vice-versa. Assim, a existência do Homo sapiens sapiens encontra-se em permanente e profunda integração com a chamada vida smart.

Assim, a integração das tecnologias inteligentes à vida cotidiana não se restringe ao conforto ou à praticidade: ela representa uma profunda transformação na forma como o ser humano se relaciona com o mundo, com o Estado e com outras pessoas. A partir do momento em que dados como localização, hábitos de consumo, preferências políticas e padrões de comportamento são coletados continuamente, vive-se sob uma vigilância difusa e silenciosa. Quando tais dados são processados por sistemas opacos de inteligência artificial, utilizados por instituições estatais para subsidiar investigações e decisões judiciais, a promessa de neutralidade tecnológica encobre um risco concreto de discricionariedade algorítmica.

Desse modo, o que se observa é um deslocamento do juízo humano para a máquina, em que decisões que outrora dependiam de interpretação contextual e ponderação de princípios e regras passam a ser pautadas por estatísticas e probabilidades, muitas vezes extraídas de bancos de dados enviesados.

Assim, o problema se agrava quando o uso dessas tecnologias ocorre em ambientes altamente sensíveis, como o sistema de justiça criminal, pois sistemas automatizados podem produzir perfis de risco e até sugerir medidas cautelares com base em correlações opacas, não raro reforçando preconceitos estruturais já existentes, como os de classe, gênero e raça. Nesse sentido, a lógica da eficiência técnica não pode ser confundida com justiça substantiva.

Sob essa análise, é fundamental reconhecer que o uso de inteligência artificial na esfera penal não é apenas uma inovação técnica, mas uma decisão política de fundo: quem deterá o poder sobre os dados? Quais valores serão incorporados aos algoritmos? Que critérios nortearão a avaliação de suspeição, periculosidade ou reincidência? Sem transparência algorítmica, sem auditoria independente e sem controle público, o risco é a naturalização de um processo penal automatizado, guiado por decisões desumanizadas que ignoram o contexto individual de cada caso, ou seja, o exato oposto do que se espera de um julgamento justo e equânime.

Dessa forma, o grande problema é que, sem um marco regulatório claro, os limites entre segurança e invasão de privacidade tornam-se progressivamente mais difusos. Impõe-se, portanto, a necessidade de um debate público urgente, sustentado por regras transparentes e controle social efetivo, antes que se estabeleça a realidade de sermos julgados por máquinas ininteligíveis ou, ainda mais grave, por sistemas que escapem a qualquer forma de controle.

Vinícius Segatto Jorge da Cunha é advogado.