IA in Salute, Profiling e Protezione dei Dati

tensioni tra innovazione tecnologica, biodiritto e diritti fondamentali

Autori

DOI:

https://doi.org/10.62530/rbdc25p303

Parole chiave:

Intelligenza Artificiale, LGPD, Biodiritto, Profiling, Dati Sensibili

Abstract

Contestualizzazione: L’avanzamento dell’intelligenza artificiale (IA) nella sanità porta con sé la promessa di diagnosi più accurate e trattamenti personalizzati, ma genera anche rilevanti tensioni giuridiche e bioetiche. I rischi derivanti da queste tecnologie richiedono revisioni costanti dell’impianto normativo che le circonda. Il presente articolo esamina uno di tali rischi, indagando la possibile insufficienza della Legge Generale sulla Protezione dei Dati (LGPD) nell’affrontare le sfide legate all’uso di dati sensibili e delle tecniche di profiling, che rappresentano una minaccia alla tutela della privacy, all’uguaglianza e al libero sviluppo della personalità. Obiettivo: L’obiettivo dello studio è analizzare criticamente la presunta neutralità algoritmica, individuare le fragilità della regolamentazione vigente e proporre una lettura consequenzialista del concetto di dato personale, integrandolo con i principi del Biodiritto, in particolare con quello di precauzione. Metodi: La metodologia adottata è stata deduttiva, basata su analisi documentale e revisione bibliografica, sia nazionale che internazionale, oltre a un esame comparativo con strumenti normativi stranieri, come il Regolamento Generale sulla Protezione dei Dati (GDPR) e l’Artificial Intelligence Act dell’Unione Europea. Risultati: I risultati dimostrano che la LGPD presenta lacune rilevanti, in particolare l’esclusione dei dati anonimizzati dal suo campo di applicazione, che indebolisce la tutela della personalità, così come l’assenza di restrizioni chiare alle decisioni automatizzate con effetti significativi. Emergono inoltre rischi derivanti dall’opacità tecnica ed economica dei sistemi di IA, che favoriscono discriminazioni sottili e ostacolano l’attribuzione di responsabilità. Conclusioni: Si conclude che il diritto brasiliano, privilegiando una logica reattiva di controllo, non offre garanzie sufficienti per affrontare le sfide dell’era digitale. È quindi imprescindibile l’allineamento della LGPD a un approccio preventivo e consequenzialista, una maggiore integrazione con i principi del Biodiritto e la previsione di meccanismi solidi di trasparenza, verificabilità e intervento umano nei sistemi di IA in sanità.

Biografie autore

  • Bruno Nazih Nehme Nassar, Università Santa Cecilia-UNISANTA

    Avvocato, laureato in giurisprudenza presso la PUC/SP, specialista in diritto digitale presso la PUC/RS e in diritto penale presso l'ESMP, studente magistrale in diritto sanitario presso l'Unisanta, con borsa di studio CAPES.

  • Alexandre Rocha Almeida de Moraes, Università Santa Cecilia-UNISANTA

    Procuratore della Repubblica presso il Ministero Pubblico dello Stato di San Paolo. Laurea magistrale e dottorato in Giurisprudenza presso la Pontificia Università Cattolica di San Paolo.

Riferimenti bibliografici

BECK, Ulrich. Sociedade de Risco: rumo a uma outra modernidade. 2ª ed. São Paulo: Editora 34, 2011.

BELL, Felicity, et al. AI decision-making and the courts – a guide for judges, Tribunal Members and Court Administrators. Aija, Australia, 2002. Disponível em: <https://aija.org.au/publications/ai-decision-making-and-the-courts-a-guide-for-judges-tribunal-members-and-court-administrators/>. Acesso em: 22/09/2025.

BIONI, Bruno Ricardo. Proteção de Dados Pessoais - A Função e os Limites do Consentimento. 3ª ed. São Paulo: Forense, 2021.

BORGESIUS, Frederik Zuiderveen. Singling out people without knowing their names: behavioural targeting, pseudonymous data, and the new Data Protection Regulation. Computer Law & Security Review, v. 32, n. 2, 2016, p. 256-271. Disponível em: <https://www.sciencedirect.com/science/article/abs/pii/S0267364915001788>. Acesso em: 22/09/2025. DOI: https://doi.org/10.1016/j.clsr.2015.12.013

BRASIL. Assembleia Nacional Constituinte. Constituição da República de 1988. Disponível em: <https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm>. Acesso em: 22/09/2025.

BRASIL. Congresso Nacional. Decreto Legislativo nº 1, de 3 de fevereiro de 1994. Convenção-Quadro das Nações Unidas sobre Mudança do Clima. Disponível em: <https://www2.camara.leg.br/legin/fed/decleg/1994/decretolegislativo-1-3-fevereiro-1994-358285-publicacaooriginal-1-pl.html>. Acesso em: 22/09/2025.

BRASIL. Congresso Nacional. Lei nº 8.078, de 11 de setembro de 1990. Código de Defesa do Consumidor (CDC). Disponível em: <https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm>. Acesso em: 22/09/2025.

BRASIL. Congresso Nacional. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm>. Acesso em: 22/09/2025.

BRASIL. Congresso Nacional. Projeto de Lei 2.338. Disponível em: <https://www25.senado.leg.br/web/atividade/materias/-/materia/157233>. Acesso em: 22/09/2025.

BRASIL. Supremo Tribunal Federal (Tribunal Pleno). Referendo na medida cautelar na Ação Direta de Inconstitucionalidade 6.387. Relatora: Min. Rosa Weber, 07/05/2020. Brasília: STF, 2020. Disponível em: <https://redir.stf.jus.br/paginadorpub/paginador.jsp?docTP=TP&docID=754357629>. Acesso em: 22/09/2025.

BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, January–June, 2016. Disponível em: <https://journals.sagepub.com/doi/10.1177/2053951715622512>. Acesso em: 22/09/2025. DOI: https://doi.org/10.1177/2053951715622512

DURANTE, Massimo. The Online Construction of Personal Identity Through Trust and Privacy. Information, v. 2, n. 4, out. 2011. Disponível em: <https://www.mdpi.com/2078-2489/2/4/594>. Acesso em: 22/09/2025. DOI: https://doi.org/10.3390/info2040594

FLORIDI, Luciano. Information: a very short introduction. Oxford: Oxford University Press, 2010. DOI: https://doi.org/10.1093/actrade/9780199551378.001.0001

GARCIA, Diego. Pensar a bioética: metas e desafios. São Paulo: São Camilo; Loyola, 2010.

GARLA, Satish et al. What Do Your Consumer Habits Say About Your Health? Using Third-Party Data to Predict Individual Health Risk and Costs. SAS Global Forum, 2013, Disponível em: <http://support.sas.com/resources/papers/proceedings13/170-2013.pdf>. Acesso em: 22/09/2025.

GUTWIRTH, Serge; HILDEBRANDT, Mireille. Some Caveats on Profiling. In: GUTWIRTH, Serge; POULLET, Yves; DE HERT, Paul. (Eds.). Data Protection in a Profiled World. Netherlands: Springer, 2010. Disponível em: <https://link.springer.com/chapter/10.1007/978-90-481-8865-9_2>. Acesso em: 22/09/2025. DOI: https://doi.org/10.1007/978-90-481-8865-9_2

HILDEBRANDT, Mireille. Defining Profiling: A New Type of Knowledge? In: HILDEBRANDT, Mireille; GUTWIRTH, Serge (Eds.). Profiling the European Citizen: Cross-Disciplinary Perspectives. Cham: Springer Science, 2008. Disponível em: <https://link.springer.com/chapter/10.1007/978-1-4020-6914-7_2>. Acesso em: 22/09/2025. DOI: https://doi.org/10.1007/978-1-4020-6914-7_2

LARSON, Jeff; MATTU, Surya; KIRCHNER Lauren; ANGWIN, Julia. How We Analyzed the COMPAS Recidivism Algorithm. Nova Iorque: ProPublica, 2016. Disponível em: <https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm>. Acesso em: 22/09/2025.

MACHADO, Diego Carvalho; MENDES, Laura Schertel. Tecnologias de perfilamento e dados agregados de geolocalização no combate à Covid-19 no Brasil. Revista Brasileira de Direitos Fundamentais & Justiça, Belo Horizonte, v. 14, n. 1, p. 105-148, nov. 2020. Disponível em: <https://dfj.emnuvens.com.br/dfj/article/view/1020/998>. Acesso em: 22/09/2025. DOI: https://doi.org/10.30899/dfj.v0i0.1020

MARTINS, Pedro Bastos Lobo Profiling na Lei Geral de Proteção de Dado: desenvolvimento da personalidade em face da governamentalidade algorítmica. 1ª ed. São Paulo: Editora Foco, 2022.

MELLO, Celso Antônio Bandeira de. O conteúdo jurídico do princípio da igualdade. 3ª ed. São Paulo: Malheiros, 2014.

MOREIRA, Adilson José. Tratado de Direito Antidiscriminatório. São Paulo: Editora Contracorrente, 2020, edição digital.

NATIONAL COMMISSION FOR THE PROTECTION OF HUMAN SUBJECTS OF BIOMEDICAL AND BEHAVIORAL RESEARCH. The Belmont Report. 1978. Disponível em: <https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html>. Acesso em: 22/09/2025.

NAVES, Bruno Torquato de Oliveira; SÁ, Maria de Fátima Freire. Bioética e Biodireito. 6ª ed. São Paulo: Editora Foco, 2023, edição digital.

O'NEIL, Cathy. Algoritmos de Destruição em Massa. 1ª ed. São Paulo: Rua do Sabão, 2021.

ORGANIZAÇÃO MUNDIAL DA SAÚDE. Ethical use of artificial intelligence: principles, guidelines, frameworks and human rights standards. Disponível em: <https://www.jstor.org/stable/resrep35680.8?seq=1>. Acesso em: 22/09/2025.

PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015. DOI: https://doi.org/10.4159/harvard.9780674736061

PEARL, Judea. The Book of Why: The New Science of Cause and Effect. Los Angeles: Ingram Publisher Services, 2017.

PINTO, Paulo Mota. O Direito ao Livre Desenvolvimento da Personalidade. In: PÁDUA RIBEIRO, Antônio de et al. Coimbra: Coimbra Editora, 1999.

REALE, Miguel. Filosofia do direito. 14ª ed. São Paulo: Saraiva, 1999.

SANTOS, Boaventura de Souza. A gramática do tempo. São Paulo: Cortez, 2006.

SOUSA, Maria Eliane Alves de. Direitos humanos e princípios comuns entre inteligência artificial e direito à saúde. Cadernos Ibero-Americanos de Direito Sanitário. 2020 jul./set.; 9(3): 26-48. Disponível em: <https://www.cadernos.prodisa.fiocruz.br/index.php/cadernos/article/view/658>. Acesso em: 22/09/2025. DOI: https://doi.org/10.17566/ciads.v9i3.658

UNIÃO EUROPEIA. Artificial Intelligence Act (AI Act). Disponível em: <https://artificialintelligenceact.eu/article/5/#weglot_switcher>. Acesso em: 22/09/2025.

UNIÃO EUROPEIA. General Data Protection Regulation (GDPR). Disponível em: <https://gdpr-info.eu/>. Acesso em: 22/09/2025.

WACHTER, Sandra. Affinity Profiling and Discrimination by Association in Online Behavioural Advertising. Berkeley Technology Law Journal, v. 35, n. 2, p. 1-74, 2019. Disponível em: <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3388639>. Acesso em: 22/09/2025.

WHITE, Ryen; DORAISWAMI, Murali; HORVITZ, Eric. Detecting neurodegenerative disorders from web search signals. Digital Medicine, v. 8 n. 1, p. 1-4, 2015. Disponível em: <https://www.nature.com/articles/s41746-018-0016-6#publish-with-us>. Acesso em: 22/09/2025.

YUSTE, Rafael et al. Four ethical priorities for neurotechnologies and AI. Nature, v. 551, n. 7679, p. 159-163, 2017. Disponível em: <https://www.nature.com/articles/551159a>. Acesso em: 22/09/2025. DOI: https://doi.org/10.1038/551159a

Pubblicato

2025-11-16

Data Availability Statement

Non sono stati raccolti dati di ricerca quantitativi.

Fascicolo

Sezione

Artigos

Come citare

NASSAR, Bruno Nazih Nehme; MORAES, Alexandre Rocha Almeida de. IA in Salute, Profiling e Protezione dei Dati: tensioni tra innovazione tecnologica, biodiritto e diritti fondamentali. Revista Brasileira de Direito Constitucional, [S. l.], v. 25, p. 303–325, 2025. DOI: 10.62530/rbdc25p303. Disponível em: https://www.rbdc.com.br/revista/article/view/400. Acesso em: 17 nov. 2025.