Análise da abordagem antirracista como pilar fundamental no design de intervenções de inteligência artificial na área de saúde

Página do item simplificado
OrientadorBarros, Helda Oliveira
Orcid do Orientadorhttps://orcid.org/0000-0003-2337-493X
Lattes do Orientadorhttp://lattes.cnpq.br/7304349084200954
AutorAlves, Fernanda maria de souza
Orcid do Autorhttps://orcid.org/0000-0003-3078-0848
Lattes do Autorhttps://lattes.cnpq.br/5787698038810264
Membro da bancaArcoverde Junior, José Carlos porto
Membro da bancaOliveira, Tatalina
Membro da bancaAlencar, Renan costa
Orcid Membro da bancahttps://orcid.org/0000-0002-6866-0916
Orcid Membro da bancahttps://orcid.org/0000-0002-0931-1011
Orcid Membro da bancahttps://orcid.org/0000-0003-0028-558X
Lattes membro da bancahttp://lattes.cnpq.br/8668875075504449
Lattes membro da bancahttp://lattes.cnpq.br/0342261677880699
Lattes membro da bancahttp://lattes.cnpq.br/3381678604898700
Data de Acesso2025-11-19T14:48:36Z
Data disponível2025-11-19T14:48:36Z
Ano de publicação2024-03-27
AbstractThe increasing use of artificial intelligence (AI) in the healthcare sector in Brazil faces the critical challenge of racial biases, which have the potential to amplify existing inequalities and compromise the quality of care in a country marked by its significant racial diversity. This research aims to investigate how the inclusion of anti-racist practices in the design of AI solutions can contribute to equity in artificial intelligence solutions in healthcare. It also seeks to understand the mechanisms by which racial biases affect AI solutions, as well as proposing strategies to effectively mitigate these biases. Using an exploratory, inductive, and constructivist methodological approach, based on the analysis of interviews with healthcare professionals, designers, and developers, the study highlights the scarcity of anti-racist initiatives in the AI solutions development cycle, showing the need to reformulate current practices. In conclusion, it reveals the need for a holistic approach to achieve equity in AI solutions in healthcare, emphasizing the adoption of anti-racist practices, the promotion of diversity in development teams, and the importance of multidisciplinary collaborations. These strategies aim to ensure that AI solutions meet the varied needs of the population, with ethics, racial equity, and explicitly anti-racist practices becoming central elements of innovation in healthcare AI.
ProveniênciaSubmitted by fernanda maria de souza alves (fmsa@cesar.school) on 2025-08-25T14:05:20Z workflow start=Step: editstep - action:claimaction No. of bitstreams: 1 de souza alves_dissertação_ANÁLISE DA ABORDAGEM ANTIRRACISTA COMO PILAR FUNDAMENTAL NO DESIGN DE INTERVENÇÕES DE INTELIGÊNCIA ARTIFICIAL NA ÁREA DE SAÚDE.pdf.pdf: 2121881 bytes, checksum: ce8249626e818eaa22019d847a419cd0 (MD5)en
ProveniênciaStep: editstep - action:editaction Approved for entry into archive by Cássio Morais (cassiomorais@ibict.br) on 2025-11-19T14:48:36Z (GMT)en
ProveniênciaMade available in DSpace on 2025-11-19T14:48:36Z (GMT). No. of bitstreams: 1 de souza alves_dissertação_ANÁLISE DA ABORDAGEM ANTIRRACISTA COMO PILAR FUNDAMENTAL NO DESIGN DE INTERVENÇÕES DE INTELIGÊNCIA ARTIFICIAL NA ÁREA DE SAÚDE.pdf.pdf: 2121881 bytes, checksum: ce8249626e818eaa22019d847a419cd0 (MD5) Previous issue date: 2024-03-27en
Referência bibliográficaALMEIDA, S. Racismo estrutural. São Paulo: Jandaíra, 2019. ASHOK, M; MADAN, R; JOHA, A; SIVARAJAH, U. Ethical framework for artificial intelligence and digital technologies. International Journal of Information Management, v. 62, 102433, 2022. Disponível em: https://doi.org/10.1016/j.ijinfomgt.2021.102433. Acesso em: 05 dez. 2023 BAHIA, S. [Entrevista] – “O mercado de tecnologia pode ser um lugar para as mulheres negras”. 9 de outubro de 2019. Disponível em: http://inciti.org/2019/10/09/entrevista-o-mercado-de-tecnologia-pode-ser-um-lugar-paraas-mulheres-negras/. Acesso em: 01 fev. 2024. BENTO, C. O pacto da branquitude. São Paulo: Companhia das Letras; 2022. BUGHIN, J. et al. Notes from the AI frontier: Modeling the impact of AI on the world economy. McKinsey Global Institute, 04 set. 2018. Disponível em: https://www.mckinsey.com/featured-insights/artificial-intelligence/notes-from-the-ai-fronti er-modeling-the-impact-of-ai-on-the-world-economy. Acesso em: 04 mar. 2023. CARROLL, A. D. Equity-Centered Community Design Field Guide. 2018. Disponível em:https://static1.squarespace.com/static/5e3b20447d777f2b32c1bc1c/t/5e667103feb2 830f1b1b68d4/1583771908636/ECCD+FIELD+GUIDE+-+DOWNLOAD.pdf. Acesso em: 02 fev. 2024. CERDEÑA, J. P.; PLAISIME, M. V.; TSAI, J. From race-based to race-conscious medicine: how anti-racist uprisings call us to act. The Lancet, v. 396, n. 10257, p. 1125–1128, 10 out. 2020a. CHARMAZ, K. A construção da teoria fundamentada: guia prático para análise qualitativa. Porto Alegre: Artmed Editora S.A., 2009. 272 p. Tradução: Joice Elias Costa. CHEN, L; CHEN, P; LIN, Z. Artificial Intelligence in Education: a Review. IEEE Access, v. 8, n. 2169-3536, p. 75264–75278, 17 abr. 2020. CROSS, N. Design Thinking: Understanding How Designers Think and Work. 2. ed. Bloomsbury Visual Arts, 2023. DANKWA-MULLAN, I. et al. A Proposed Framework on Integrating Health Equity and Racial Justice into the Artificial Intelligence Development Lifecycle. Journal of Health Care for the Poor and Underserved, v. 32, n. 2, Supplement, p. 300-317, maio 2021. Johns Hopkins University Press. Disponível em: https://doi.org/10.1353/hpu.2021.0065. Acesso em: 8 ago. 2023. DA HORA, N. Nina da Hora: "As big techs já ultrapassaram os limites da influência delas". Revista Galileu, 02 abr. 2023. Disponível em: https://revistagalileu.globo.com/tecnologia/noticia/2023/04/nina-da-hora-as-big-techs-jaultrapassaram-os-limites-da-influencia-delas.ghtml. Acesso em: 02 fev. 2024. DISTRITO. Inteligência Artificial Report. São Paulo: Distrito, Janeiro 2021. GERMANI, A. C. et al. Interdisciplinaridade, Interprofissionalidade E Diversidade Racial Na Formação Antirracista Do Profissional De saúde: Vozes E Aprendizados. Saúde Em Debate, v. 46, n. spe6, p. 175–184, 1 jan. 2022. GOOGLE FOR STARTUPS; BOX1824; ABSTARTUPS. O Impacto E O Futuro Da Inteligência Artificial No Brasil. Disponível em: <https://startup.google.com/intl/pt-BR/inteligencia-artificial/>. Acesso em: 5 mar. 2023. IEEE GLOBAL INITIATIVE. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2. 2019. Disponível em: https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v2.pdf. Acesso em: 01 dez. 2023. KRIPPENDORFF, Klaus. Design centrado no usuário: uma necessidade cultural. Estudos em design, Rio de Janeiro, v. 8, n. 3, 2000. LEAL, M. C. et al. A cor da dor: iniquidades raciais na atenção pré-natal e ao parto no Brasil. Cadernos de Saúde Pública, v. 33, p. e00078816, 24 jul. 2017. LIMA, D. C. et al. Negras in tech: apropriação de tecnologias por mulheres negras como estratégias de resistência. Cadernos Pagu, [s.l.], n. 59, 2020. Disponível em: http://dx.doi.org/10.1590/18094449202000590006. Acesso em: 12 dez. 2023. MOZAFARI, M.; FARAHBAKHSH, R.; CRESPI, N. Hate speech detection and racial bias mitigation in social media based on BERT model. PLoS ONE, v. 15, n. 8, e0237861, 27 ago. 2020. Disponível em: https://doi.org/10.1371/journal.pone.0237861. Acesso em: 10 ago. 2023. WINETZKI, A.. Treine bem seus algoritmos para evitar decisões tendenciosas. 2020. Disponível em: https://febrabantech.febraban.org.br/temas/inteligencia-artificial/treine-bem-seus-algorit mos-para-evitar-decisoes-tendenciosas. Acesso em: 10 jan. 2024. OBERMEYER, Z. et al. Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations. Science, v. 366, n. 6464, 2019. O’BRIEN, J.; CLARE, C. A. Race-based Versus Race-conscious Medicine in Obstetrics and Gynecology. Clinical Obstetrics and Gynecology, v. 66, n. 1, p. 95, mar. 2023. SOUZA, M. C. et al. Racismo estrutural como barreira de acesso à saúde: O que a pandemia da COVID-19 nos revela?. J. of Multiprofessional Health Research, v. 2, e02.102-e02.106, 02 fev. 2021. SOSA HIDALGO, M. Design of an Ethical Toolkit for the Development of AI Applications. 2019. Dissertação (Mestrado em Strategic Product Design) - Delft University of Technology, Delft, 2019. Disponível em: http://resolver.tudelft.nl/uuid:b5679758-343d-4437-b202-86b3c5cef6aa. Acesso em: 8 ago. 2023 SHANKAR, V; COOK, A. Human-Centered Design for AI. Kaggle, [s.d.]. Disponível em: https://kaggle.com/code/var0101/human-centered-design-for-ai. Acesso em: 5 mar. 2023. STURM, T; FECHO, M; BUXMANN, P. To Use or Not to Use Artificial Intelligence? A Framework for the Ideation and Evaluation of Problems to Be Solved with Artificial Intelligence. Technical University of Darmstadt. Disponível em: <https://scholarspace.manoa.hawaii.edu/server/api/core/bitstreams/73b2d588-203d-45a a-9aed-b34e95e57d9a/content>. Acesso em: 5 ago. 2023. STANFORD UNIVERSITY. AI Index Report 2021. Disponível em: https://aiindex.stanford.edu/ai-index-report-2021/. Acesso em: 5 mar. 2023. SURESH, H.; GUTTAG, J. A Framework for Understanding Unintended Consequences of Machine Learning. 2021. Disponível em: <https://arxiv.org/pdf/1901.10002.pdf>. Acesso em: 8 ago. 2023. TONKINWISE, C. Design for Transitions ‒ from and to what? Design Philosophy Papers, 2 jan. 2015. WILES, J. Beyond ChatGPT: The Future of Generative AI for Enterprises. Gartner, 26 jan. 2023. Disponível em: https://www.gartner.com/en/articles/beyond-chatgpt-the-future-of-generative-ai-for-enter prises. Acesso em: 20 maio 2023.
ResumoO crescente uso de inteligência artificial (IA) no setor da saúde no Brasil enfrenta o desafio crítico de vieses raciais, que ameaçam amplificar as desigualdades existentes e comprometer a qualidade do atendimento em um país marcado por sua significativa diversidade racial. Esta pesquisa visa investigar como a inclusão de práticas antirracistas no design de soluções de IA pode contribuir para a equidade em soluções de inteligência artificial na área de saúde. Busca também entender os mecanismos pelos quais vieses raciais afetam as soluções de IA, além de propor estratégias para mitigar esses vieses de forma eficaz. A partir de uma abordagem metodológica exploratória, indutiva e construtivista, baseada na análise de entrevistas com profissionais da saúde, designers e desenvolvedores, o estudo destaca a escassez de iniciativas antirracistas no ciclo de desenvolvimento de soluções de IA, evidenciando a necessidade de reformular as práticas atuais. Assim, revela-se a necessidade de uma abordagem holística para alcançar equidade em soluções de IA na saúde, enfatizando a adoção de práticas antirracistas, a promoção de diversidade nas equipes de desenvolvimento, e a importância de colaborações multidisciplinares. Essas medidas buscam garantir que as soluções de IA atendam às necessidades variadas da população, com a ética, a equidade racial e as práticas explicitamente antirracistas se tornando elementos centrais da inovação em IA na saúde.
Identificador Capes25019015002P6
CitaçãoALVES, Fernanda Maria de Souza. Análise da abordagem antirracista como pilar fundamental no design de intervenções de inteligência artificial na área de saúde. 2024. Dissertação (Mestrado em Design) – CESAR School, Recife, 2024.
Identificador ISNIhttps://isni.org/isni/0000000527830351
URL da página da instituiçãohttps://www.cesar.school/
Identificador RORhttps://ror.org/02t7xfd51
URIhttps://deposita.ibict.br/handle/deposita/826
Área de conhecimento CNPqCiências sociais aplicadas
IdiomaPortuguês
InstituiçãoCentro de Estudos e Sistemas Avançados do Recife (CESAR School)
PaísBrasil
Nome do cursoMestrado em Design
Tipo de acessoAcesso aberto
Palavra ChaveInteligência Artificial
Palavra ChaveRacismo estrutural
Palavra ChaveEquidade na saúde
Palavra ChaveAtirracismo
Palavra ChaveViés algorítmico
Palavra chave em outro idiomaArtificial Intelligence
Palavra chave em outro idiomaSystemic Racism
Palavra chave em outro idiomaHealth Equity
Palavra chave em outro idiomaAntiracism
Palavra chave em outro idiomaAlgorithmic Bias
TítuloAnálise da abordagem antirracista como pilar fundamental no design de intervenções de inteligência artificial na área de saúde
TipomasterThesis

Arquivos

Pacote original

Agora exibindo 1 - 1 de 1
Imagem de Miniatura
Nome:
de souza alves_dissertação_ANÁLISE DA ABORDAGEM ANTIRRACISTA COMO PILAR FUNDAMENTAL NO DESIGN DE INTERVENÇÕES DE INTELIGÊNCIA ARTIFICIAL NA ÁREA DE SAÚDE.pdf.pdf
Tamanho:
2.02 MB
Formato:
Adobe Portable Document Format
Baixar

Licença do pacote

Agora exibindo 1 - 1 de 1
Imagem de Miniatura
Nome:
license.txt
Tamanho:
2.08 KB
Formato:
Item-specific license agreed upon to submission
Descrição:
Baixar

Coleções

Dissertação
youtubefacebooktwitterlinkedin
logos ibict governo

Instituto Brasileiro de Informação em Ciência e Tecnologia (Ibict)
SAUS Quadra 5 • Lote 6 Bloco H • Asa Sul • CEP: 70.070-912 • Brasília - DF