Acceso usuarios
Hellen Lentz Ribeiro Bernasiuk
, Gabrielle Bezerra Sales Sarlet
Analisa-se o estado da arte, as bases legais e os parâmetros éticos e jurídicos para o desenvolvimento e o emprego de módulos de IA generativa aplicada à saude, utilizando-se o método hipotético-dedutivo mediante abordagem exploratória-qualitativa, bem como técnicas de pesquisa bibliográfica e documental, considerando o direito humano e fundamental à saúde no contexto brasileiro em face das inovações e das atuais tendências tecnológicas, estruturando-se em cinco seções, respectivamente, sobre molduras conceituais e jurídicas das aplicações de IA, os impactos destas últimas no mundo contemporâneo e, por extensão, na área da saúde digital, finalizando com foco na saúde no Brasil e nos impactos da IA Generativa. Achados apontaram que a falta de governança, de conhecimento técnico, a brecha digital, o potencial de vieses e de discriminações, as imprecisões e alucinações resultantes e os desafios de privacidade implicam atenção tanto do Estado quanto da sociedade civil, evitando precipitada adesão aos tecnosolucionismos radicais, vez que há insuficiência quanto ao mapeamento e a gradação dos riscos e, consequentemente, dos instrumentos de governança apropriados, sobretudo para o devido enfrentamento do adensamento da vulnerabilidade e da assimetria de poder que caracteriza o setor da saúde.
This paper analyzes the state of the art, legal foundations, and ethical and juridical parameters for the development and utilization of generative AI modules applied to healthcare. Employng the hypothetical-deductive method through an exploratory-qualitative approach, alongside bibliographic and documentary research techniques, it considers the human right to health within the Brazilian context in light of innovations and current technological trends. The analysis is structured into five sections, addressing conceptual and legal frameworks of AI applications, the impacts of these applications on the contemporary world and, by extension, on digital health. It concludes with a focus on health in Brazil and the impacts of Generative AI. Findings indicate that the lack of governance, technical knowledge, digital divide, potential biases and discrimination, resulting inaccuracies and hallucinations, and privacy challenges require attention from both the State and civil society. This necessitates avoiding hasty adherence to radical techno-solutionism, given the insufficient mapping and grading of risks and, consequently, the absence of appropriate governance instruments, particularly to address the deepening vulnerability and power asymmetry characteristic of the health sector.
