O direito à revisão de decisões automatizadas baseadas em inteligência artificial aplicado à proteção do direito à saúde de vieses discriminatórios

Abstract

Esta pesquisa almejou compreender em que medida o direito à revisão das decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, consoante previsão do art. 20 da LGPD, é capaz de proteger o direito à saúde dos vieses discriminatórios, como os de cunho etário, étnico e social, no uso de decisões automatizadas de IA na área de saúde. Neste estudo foi realizado levantamento bibliográfico sobre as decisões automatizadas baseadas em IA e seu uso na área da saúde, bem como sobre o art. 20 da LGPD, que assegura o direito à revisão no ordenamento jurídico pátrio. Por fim, o presente trabalho conclui que a norma do art. 20 da LGPD não aparenta ser capaz de assegurar que eventuais problemas identificados sejam corrigidos de forma sistêmica, nem seria capaz de fomentar uma atuação preventiva no sentido de mitigar o risco desses vieses algorítmicos no desenvolvimento de cada aplicação tecnológica para produzir decisões automatizadas em IA na área da saúde.