Quero começar por agradecer à Entidade Reguladora da Saúde o convite para participar na 5.ª edição das Jornadas ERS "Direitos e Deveres dos Utentes dos Serviços de Saúde",  uma iniciativa que só é possível graças ao trabalho persistente da ERS em manter viva esta discussão, e à disponibilidade de todos os oradores, moderadores e participantes que, edição após edição, têm enriquecido o debate com experiências, dúvidas e perspetivas vindas de diferentes pontos do sistema de saúde português.

A IA já não é uma promessa futura

Quando se fala em inteligência artificial na saúde é comum ainda ouvir-se o tema tratado como um cenário de horizonte distante, algo que "vai chegar". Não é essa a realidade que se vive hoje nas instituições de saúde portuguesas, sejam públicas ou privadas. A IA já está presente no quotidiano assistencial e administrativo, de forma discreta mas generalizada.

Está na imagiologia e na anatomia patológica, onde apoia a deteção de nódulos, sinais de AVC, fraturas e outras lesões em radiografias, tomografias computorizadas, ressonâncias magnéticas ou biópsias. Está nos sistemas de apoio à decisão clínica, que sugerem dosagens, emitem alertas de interação medicamentosa e estratificam risco. Está na triagem e na gestão de fluxos, apoiando decisões em contexto de urgência, na organização de listas de espera e no agendamento. Está também no registo clínico, onde ferramentas de processamento de linguagem natural transcrevem consultas, sumarizam informação e extraem dados estruturados a partir de texto livre. E começa a estar, ainda de forma incipiente, na medicina personalizada, através da análise genómica e da predição de resposta a terapêuticas.

Esta presença transversal traz ganhos reais: mais rapidez no diagnóstico, deteção precoce de padrões que escapariam ao olho humano, libertação de tempo clínico para o que só um profissional pode fazer - decidir, explicar, acompanhar. Mas traz também uma pergunta que não pode ficar em segundo plano: o que acontece aos direitos dos utentes quando uma máquina passa a participar, mesmo que de forma auxiliar, em decisões que lhes dizem respeito?

Que direitos ficam sob pressão

É importante começar por uma clarificação: a inteligência artificial não cria direitos novos. O que faz é colocar sob pressão renovada direitos que já existem e que estão consolidados no nosso ordenamento jurídico e na ética profissional. Identifico seis que me parecem particularmente relevantes neste contexto.

O primeiro é a dignidade e o respeito. Um utente tem o direito de ser tratado como pessoa, e não de ver a sua situação clínica reduzida a um score produzido por um algoritmo. O segundo é a autonomia e o consentimento informado - que, no contexto da IA, ganha uma dimensão adicional: o utente tem direito a saber, e a decidir informadamente, quando o seu processo de cuidados envolve o uso de sistemas de inteligência artificial. O terceiro é a privacidade e a proteção de dados: os dados de saúde constituem uma categoria especial de dados pessoais, sujeita a proteção reforçada nos termos do artigo 9.º do RGPD, e o seu tratamento por sistemas de IA - muitas vezes com recurso a infraestruturas externas - não pode diluir essa proteção.

O quarto direito é o de informação e explicação: o utente tem o direito de compreender, em linguagem acessível, as decisões clínicas que lhe dizem respeito, mesmo quando essas decisões foram apoiadas por um sistema cuja lógica interna é, por natureza, difícil de explicar. O quinto é a não discriminação: o tratamento tem de ser equitativo, independentemente de género, etnia, idade ou qualquer outra condição - e este é precisamente um dos pontos onde a IA pode falhar de forma mais silenciosa, como veremos adiante. O sexto e último é o direito de oposição a decisões inteiramente automatizadas, consagrado no artigo 22.º do RGPD, que garante ao utente o direito a intervenção humana significativa sempre que uma decisão com efeitos relevantes sobre si seja tomada de forma automatizada.

O quadro legal que devemos conhecer

Estes direitos não vivem no vazio: estão ancorados num quadro normativo que já existe e que se estrutura em três camadas complementares.

Na primeira camada está o RGPD (Regulamento (UE) 2016/679), que classifica os dados de saúde como categoria especial, consagra o direito de oposição a decisões automatizadas, exige avaliação de impacto sobre a proteção de dados (AIPD) antes da implementação de sistemas de maior risco, e impõe os princípios de minimização, finalidade e transparência a qualquer tratamento de dados.

Na segunda camada está o AI Act (Regulamento (UE) 2024/1689), que classifica a generalidade dos sistemas de IA utilizados em contexto de saúde como sistemas de alto risco, impondo obrigações reforçadas de gestão de risco, transparência e supervisão humana.

Na terceira camada está o direito nacional português: a Lei n.º 58/2019, que assegura a execução do RGPD na ordem jurídica interna; a Lei de Bases da Saúde (Lei n.º 95/2019); e a Carta dos Direitos do Utente dos Serviços de Saúde. A estas três camadas somam-se ainda orientações relevantes, embora não vinculativas no mesmo sentido - deliberações da CNPD, recomendações de ordens profissionais, orientações da Organização Mundial da Saúde e da ENISA sobre cibersegurança em saúde.

Conhecer este quadro não é um exercício meramente académico. É, na prática, a forma mais eficaz de proteger simultaneamente o utente e a própria instituição de saúde, que responde legal e eticamente pelo uso que faz destas tecnologias.

Os quatro grandes riscos

Da análise deste quadro emergem quatro riscos que considero centrais e que devem estar presentes em qualquer decisão de adoção de sistemas de IA em contexto clínico ou administrativo.

O primeiro é o viés algorítmico. Os modelos de IA são treinados com dados históricos, e quando esses dados refletem populações pouco diversas ou padrões de subdiagnóstico já existentes - por exemplo, em grupos minoritários ou em apresentações clínicas atípicas em determinados grupos - o algoritmo tende a reproduzir e, nalguns casos, a amplificar essas distorções. Este não é um risco teórico: é um dos temas mais documentados em diferentes estudos de investigação.

O segundo risco é o da privacidade e cibersegurança. Os dados de saúde são, reconhecidamente, um dos alvos mais valiosos e mais visados em ataques informáticos, e a integração de sistemas de IA - frequentemente dependentes de infraestruturas externas ao hospital - multiplica os pontos de exposição e o risco de reidentificação de dados supostamente anonimizados.

O terceiro é a opacidade, muitas vezes descrita como o problema da "caixa negra": a dificuldade, por vezes intransponível, de explicar e justificar como é que um sistema chegou a determinada recomendação. Esta opacidade colide diretamente com o direito à explicação e cria dificuldades práticas quando é preciso contestar ou rever uma decisão.

O quarto risco é o da desumanização dos cuidados - o excesso de confiança no sistema, muitas vezes traduzido na frase "foi o sistema que disse", e a consequente erosão do juízo clínico autónomo. Este risco é talvez o mais insidioso de todos, porque não resulta de uma falha técnica do sistema, mas de uma mudança de atitude dos profissionais que o utilizam.

Três cenários que trazem a discussão para o terreno

Para tornar esta reflexão mais concreta, parece-me útil partilhar três cenários hipotéticos, construídos a partir de situações plausíveis em ambiente clínico real, que utilizei nas Jornadas para ilustrar como estes riscos e direitos se cruzam na prática do dia a dia.

Primeiro cenário - a urgência. Uma mulher de 58 anos dá entrada no serviço de urgência com cansaço, náuseas e dor epigástrica. O sistema de triagem apoiado por IA atribui-lhe prioridade não urgente. Horas depois, é diagnosticado um enfarte agudo do miocárdio. Este cenário levanta perguntas incómodas mas necessárias: quem assume a responsabilidade clínica por esta decisão? Pode, e deve, o profissional de enfermagem contestar a classificação do algoritmo? E foi a utente informada de que a sua avaliação inicial tinha sido apoiada por um sistema automatizado? A aprendizagem central aqui é dupla: os sintomas atípicos de enfarte, mais frequentes em mulheres, podem estar mal representados nos dados de treino de muitos sistemas; e, seja qual for o desempenho do algoritmo, a IA deve ser sempre apoio à decisão, nunca decisão final - o juízo clínico tem de prevalecer, e essa prevalência deve ficar documentada no registo.

Segundo cenário - o rastreio. Uma mamografia de rastreio é processada por um sistema de IA que sinaliza microcalcificações suspeitas. A segunda leitura, feita por um médico radiologista, classifica o mesmo achado como benigno, e o sistema não permite compreender em que elementos concretos se baseou a sua sinalização inicial. Como se gere este desacordo? Que via se segue - biópsia, vigilância apertada ou alta? E o que se comunica à utente sobre este processo? Este cenário evidencia a necessidade de um protocolo escrito de gestão de discrepâncias entre IA e clínico, de informação compreensível prestada à utente sem instrumentalizar o papel da tecnologia, e da exigência de que qualquer sistema seja validado localmente antes de entrar em produção - a marcação CE, por si só, não é suficiente - e sujeito a auditoria periódica do seu desempenho no contexto real do serviço onde é utilizado.

Terceiro cenário - o registo clínico e o atendimento automatizado. Um serviço adota um sistema que grava consultas, as transcreve automaticamente através de IA e gera o registo clínico a partir dessa transcrição. Em paralelo, um chatbot apoia o agendamento e a recolha inicial de sintomas. Ambos os sistemas enviam dados a uma API externa ao hospital. Os riscos aqui são de outra natureza: dados particularmente sensíveis - relacionados com saúde mental, sexualidade ou antecedentes pessoais - são processados fora da instituição; erros de transcrição podem entrar e permanecer no registo clínico; e utentes podem dialogar com um sistema pensando estar a comunicar com uma pessoa, sem que essa distinção lhes seja clara. As respostas passam pela realização obrigatória de uma AIPD antes da implementação, pela obtenção de consentimento informado específico para este tipo de tratamento, pela verificação humana sistemática das transcrições, pela identificação inequívoca do chatbot como sistema automatizado, e por cláusulas contratuais que proíbam expressamente o reaproveitamento destes dados para treino de sistemas externos.

Boas práticas: três pilares que se sustentam mutuamente

A proteção efetiva destes direitos não se consegue com uma única medida isolada. Constrói-se em camadas, através de três pilares que dependem uns dos outros e que, isoladamente, são insuficientes.

O primeiro pilar é o da instituição: cabe às organizações de saúde realizar avaliações de impacto antes de adotar qualquer sistema de IA, exigir validação local e não apenas conformidade formal, estabelecer processos claros de auditoria periódica, e garantir contratualmente que os fornecedores destes sistemas respeitam os princípios de minimização e finalidade dos dados.

O segundo pilar é o do profissional de saúde: cabe a cada clínico e a cada profissional que interage com estes sistemas manter o juízo clínico como filtro último de segurança, documentar de forma explícita quando uma decisão diverge da sugestão do algoritmo, e comunicar aos utentes, com clareza e sem tecnicismos desnecessários, quando a IA teve um papel no seu processo de cuidados.

O terceiro pilar é o do próprio utente: garantir que este dispõe de informação suficiente para exercer, de forma real e não meramente formal, o seu direito de perguntar, de contestar e de recusar - sabendo que este direito só é efetivo se os dois pilares anteriores funcionarem em conjunto.

Cada nível depende dos outros dois. Uma instituição com processos exemplares mas profissionais desinformados não protege ninguém; um profissional atento sem apoio institucional depressa se sente sozinho perante um sistema que não domina; e um utente informado sem instituição nem profissional que o apoiem fica com direitos no papel que não consegue exercer na prática.

Uma nota final

Termino com uma ideia que orientou toda a minha apresentação e que, creio, resume bem o espírito com que devemos encarar este tema: a inteligência artificial pode tornar-nos mais rápidos, mais precisos e mais informados. Mas nunca pode tornar-nos menos humanos. Este deve ser o princípio orientador de qualquer decisão sobre o uso de IA em saúde - a tecnologia como ferramenta poderosa ao serviço do cuidado, nunca como substituto do juízo clínico, e os direitos dos utentes como fundamento não negociável de qualquer cuidado de qualidade.

Volto a agradecer à ERS o convite, a confiança e a oportunidade de partilhar esta reflexão nesta publicação que assinala cinco anos de Jornadas dedicadas a um tema que continuará, previsivelmente, a ganhar relevância nos próximos anos: a proteção dos direitos de quem procura cuidados de saúde, num tempo em que esses cuidados são cada vez mais mediados por sistemas de inteligência artificial.