A Proteção de dados pessoais e Inteligência Artificial: tratamento automatizado e o direito à explicação
Palavras-chaves: Proteção de dados pessoais, Direito à explicação de decisões automatizadas, Inteligência Artificial, Motivação de decisões judiciais.
O uso de sistemas de Inteligência Artificial é comum em muitos países, incluindo o Brasil,
abrangendo diversas aplicações, inclusive no campo jurídico, como o apoio à tomada de decisões
judiciais. No entanto, mesmo quando a decisão é gerada com o auxílio da Inteligência Artificial,
a obrigação de motivar essa decisão ainda persiste. Como os processos judiciais envolvem
dados pessoais, a Lei Geral de Proteção de Dados (Lei nº 13.709 de 2018) se aplica, garantindo
que as partes, como titulares desses dados, tenham o direito de receber uma explicação para
essas decisões automatizadas. No entanto, os modelos de Inteligência Artificial usados para
auxiliar na tomada de decisões geralmente são opacos, o que torna difícil compreender seu
funcionamento, podendo prejudicar as partes cerceando e violando direitos. O principal
objetivo deste trabalho consiste em identificar o contorno para a concretização do direito à
explicação de decisões automatizadas aplicado à motivação das decisões judiciais realizadas
com auxílio da Inteligência Artificial. Para isso, foram realizadas análises de documentos
normativos e técnicos pertinentes ao problema de pesquisa, cujos dados resultantes desse
procedimento foram confrontados e avaliados com os resultados provenientes da literatura.
Assim, observa-se que a transparência e a informação significativa formam os pilares de uma
explicação efetiva, da qual o titular de dados, como parte do processo, poderá se valer para
compreender uma decisão criada com auxílio da automatização, certificando se houvera ou não
violação de direitos. Outro fator importante está na publicização dos algoritmos, necessária para
a manutenção da lisura processual, quanto a Inteligência Artificial é utilizada, pois os sistemas
inteligentes não são acessíveis em seu código fonte. Por isso, a impossibilidade de explicação
do tratamento de dados por Inteligência Artificial, por conta da opacidade desses tipos de
sistemas, tem como consequência a inviabilidade do exercício pleno do direito à explicação das
decisão automatizadas chanceladas pelo juízo, comprometendo a concretização da motivação
das decisões judiciais.