Not stated in source 2025 Needs review

Privacy-preserving Case-based Explanations for Federated Learning Models

Abstract

A crescente utilização de inteligência artificial (IA) no diagnóstico médico tem vindo a transformar a prática clínica, permitindo maior eficiência e precisão.Contudo, para que as pessoas confiem em sistemas baseados em IA, é fundamental garantir a interpretabilidade destes sistemas através de, por exemplo, explicações baseadas em casos, que justificam decisões recorrendo a exemplos semelhantes.Tradicionalmente, este tipo de explicações era construído a partir de conjuntos de dados centralizados.No entanto, devido a novas leis e questões de privacidade, a partilha de dados médicos entre instituições torna-se limitada ou mesmo inviável, reduzindo a diversidade dos dados de treino e, consequentemente, comprometendo a capacidade de generalização e robustez dos modelos de IA.A Aprendizagem Federada (Federated Learning, FL) surgiu como uma resposta a este desafio, permitindo treinar modelos de forma colaborativa sem necessidade de centralizar dados sensíveis.Ainda assim, a geração de explicações baseadas em casos em cenários de FL continua a ser difícil: como os dados dos pacientes não podem ser partilhados, o acesso direto a exemplos representativos fica condicionado.Uma alternativa é recorrer a imagens sintéticas geradas localmente nos clientes, mas esta solução também acarreta riscos de privacidade, dado que os modelos generativos podem memorizar e reproduzir informação identificável dos pacientes (PII, Personally Identifiable Information).Neste contexto, esta dissertação explora como o machine unlearning (MU) -um conjunto de técnicas destinadas a remover a influência de dados específicos dos modelos -pode ser aplicado a modelos generativos baseados em difusão, por forma a remover PII memorizada de pacientes, e consequentemente, gerar imagens sintéticas anónimas mas clinicamente relevantes.Esta dissertação, para além de ser o primeiro trabalho a abordar a anonimização de imagens médicas sintéticas através de machine unlearning, e um dos poucos a explorar o data-point unlearning em modelos de generativos, apresenta dois contributos principais: em primeiro lugar, propõe uma nova técnica de unlearning adaptada a modelos de difusão Image-to-Image; em segundo lugar, introduz uma pipeline para identificar de forma sistemática conjuntos de pacientes memorizados em modelos de difusão latente e reduzir a sua influência, garantindo simultaneamente a conformidade com as normas de privacidade e a preservação da utilidade clínica das imagens geradas.Embora as abordagens propostas não tenham conseguido esquecer por completo todos os pacientes identificados, os resultados demonstram que o unlearning pode reduzir substancialmente os riscos de reidentificação em conjuntos de dados sintéticos, preservando em parte a fidelidade diagnóstica das explicações baseadas em casos.Estes resultados reforçam a necessidade de desenvolver novas técnicas de data-point unlearning adaptadas especificamente a modelos de difusão image-to-image, de modo a melhorar tanto a proteção da privacidade como a usabilidade clínica.Em suma, esta dissertação contribui para aproximar as áreas da interpretabilidade em IA e da proteção de dados na síntese de imagens médicas, através da aplicação de machine unlearning em modelos de difusão.Tal permite abrir novas perspetivas para a investigação deste tipo de técnicas em modelos generativos e para a implementação de sistemas de aprendizagem federada em saúde, promovendo uma adoção de IA mais ética, segura e confiável em contextos clínicos.

Keywords

Not available

Specialisations

Similar theses