Análise da abordagem antirracista como pilar fundamental no design de intervenções de inteligência artificial na área de saúde

Abstract

O crescente uso de inteligência artificial (IA) no setor da saúde no Brasil enfrenta o desafio crítico de vieses raciais, que ameaçam amplificar as desigualdades existentes e comprometer a qualidade do atendimento em um país marcado por sua significativa diversidade racial. Esta pesquisa visa investigar como a inclusão de práticas antirracistas no design de soluções de IA pode contribuir para a equidade em soluções de inteligência artificial na área de saúde. Busca também entender os mecanismos pelos quais vieses raciais afetam as soluções de IA, além de propor estratégias para mitigar esses vieses de forma eficaz. A partir de uma abordagem metodológica exploratória, indutiva e construtivista, baseada na análise de entrevistas com profissionais da saúde, designers e desenvolvedores, o estudo destaca a escassez de iniciativas antirracistas no ciclo de desenvolvimento de soluções de IA, evidenciando a necessidade de reformular as práticas atuais. Assim, revela-se a necessidade de uma abordagem holística para alcançar equidade em soluções de IA na saúde, enfatizando a adoção de práticas antirracistas, a promoção de diversidade nas equipes de desenvolvimento, e a importância de colaborações multidisciplinares. Essas medidas buscam garantir que as soluções de IA atendam às necessidades variadas da população, com a ética, a equidade racial e as práticas explicitamente antirracistas se tornando elementos centrais da inovação em IA na saúde.