O PAPEL DA LEGISLAÇÃO DE PROTEÇÃO DE DADOS PESSOAIS NA MITIGAÇÃO DE VIESES RACIAIS EM DECISÕES TOMADAS POR INTELIGÊNCIA ARTIFICIAL
Resumo
Este artigo investiga o papel da legislação sobre proteção de dados pessoais na redução do viés racial em decisões automatizadas tomadas por sistemas de Inteligência Artificial (IA), como o Correctional Offender Management Profiling for Alternative Sanctions (COMPAS). O COMPAS é um sistema algorítmico utilizado pelo Sistema de Justiça Criminal dos EUA com o objetivo de avaliar a probabilidade de um infrator reincidir em um crime. O artigo apresenta as descobertas do ProPublica sobre as decisões racialmente tendenciosas tomadas pelo COMPAS e analisa as razões pelas quais os infratores negros são erroneamente classificados como indivíduos de alto risco pelo COMPAS, mesmo quando são menos violentos do que réus brancos que recebem avaliações de baixo risco. O estudo explora o potencial da legislação de proteção de dados pessoais, como a LGPD e o GDPR, na mitigação do viés racial em decisões automatizadas, tomadas por sistemas de inteligência artificial. Assim sendo, enfatizando a necessária conformidade com o princípio do Data Protection by Design, este artigo propõe o uso do legítimo interesse como base legal para a coleta de dados pessoais sensíveis relacionados à origem racial, com o intuito de permitir que os desenvolvedores de IA identifiquem e corrijam os vieses raciais presentes nos conjuntos de dados, para, dessa forma, promover decisões automatizadas racialmente imparciais, especialmente no âmbito de Sistemas de Justiça Criminal. Logo, buscou-se demonstrar a importância de desenvolver sistemas de inteligência artificial capazes de identificar vieses raciais em conjuntos de dados, evitando assim a natureza discriminatória dos conjuntos de dados aos quais esses sistemas estão expostos.
