Privacy-preserving Case-based Explanations for Federated Learning Models
Abstract
A crescente utilização de inteligência artificial (IA) no diagnóstico médico tem vindo a transformar a prática clínica, permitindo maior eficiência e precisão.Contudo, para que as pessoas confiem em sistemas baseados em IA, é fundamental garantir a interpretabilidade destes sistemas através de, por exemplo, explicações baseadas em casos, que justificam decisões recorrendo a exemplos semelhantes.Tradicionalmente, este tipo de explicações era construído a partir de conjuntos de dados centralizados.No entanto, devido a novas leis e questões de privacidade, a partilha de dados médicos entre instituições torna-se limitada ou mesmo inviável, reduzindo a diversidade dos dados de treino e, consequentemente, comprometendo a capacidade de generalização e robustez dos modelos de IA.A Aprendizagem Federada (Federated Learning, FL) surgiu como uma resposta a este desafio, permitindo treinar modelos de forma colaborativa sem necessidade de centralizar dados sensíveis.Ainda assim, a geração de explicações baseadas em casos em cenários de FL continua a ser difícil: como os dados dos pacientes não podem ser partilhados, o acesso direto a exemplos representativos fica condicionado.Uma alternativa é recorrer a imagens sintéticas geradas localmente nos clientes, mas esta solução também acarreta riscos de privacidade, dado que os modelos generativos podem memorizar e reproduzir informação identificável dos pacientes (PII, Personally Identifiable Information).Neste contexto, esta dissertação explora como o machine unlearning (MU) -um conjunto de técnicas destinadas a remover a influência de dados específicos dos modelos -pode ser aplicado a modelos generativos baseados em difusão, por forma a remover PII memorizada de pacientes, e consequentemente, gerar imagens sintéticas anónimas mas clinicamente relevantes.Esta dissertação, para além de ser o primeiro trabalho a abordar a anonimização de imagens médicas sintéticas através de machine unlearning, e um dos poucos a explorar o data-point unlearning em modelos de generativos, apresenta dois contributos principais: em primeiro lugar, propõe uma nova técnica de unlearning adaptada a modelos de difusão Image-to-Image; em segundo lugar, introduz uma pipeline para identificar de forma sistemática conjuntos de pacientes memorizados em modelos de difusão latente e reduzir a sua influência, garantindo simultaneamente a conformidade com as normas de privacidade e a preservação da utilidade clínica das imagens geradas.Embora as abordagens propostas não tenham conseguido esquecer por completo todos os pacientes identificados, os resultados demonstram que o unlearning pode reduzir substancialmente os riscos de reidentificação em conjuntos de dados sintéticos, preservando em parte a fidelidade diagnóstica das explicações baseadas em casos.Estes resultados reforçam a necessidade de desenvolver novas técnicas de data-point unlearning adaptadas especificamente a modelos de difusão image-to-image, de modo a melhorar tanto a proteção da privacidade como a usabilidade clínica.Em suma, esta dissertação contribui para aproximar as áreas da interpretabilidade em IA e da proteção de dados na síntese de imagens médicas, através da aplicação de machine unlearning em modelos de difusão.Tal permite abrir novas perspetivas para a investigação deste tipo de técnicas em modelos generativos e para a implementação de sistemas de aprendizagem federada em saúde, promovendo uma adoção de IA mais ética, segura e confiável em contextos clínicos.
Keywords
Not available
Specialisations
Similar theses
- Federated Learning of Fuzzy Rule-based Systems: Advances in Privacy, Security and Interpretability Mattia Daole · University of Pisa · 2026
- Evaluating Federated Learning and Multimodal Data for Privacy-Aware Video-Based Fall Detection Dick Kuan ; Martin Dahrén · KTH Royal Institute of Technology · 2026
- A Federated Learning Framework For Personalized and Privacy-Preserving Biosignal Interfaces Kai Devon Malcolm · Rice University · 2025
- Personalized Support Vector Machines for Privacy-Preserving Federated Learning Aleksei Ponomarenko-Timofeev · Tampere University · 2025
- Federated Learning Platforms for Dynamic and Value-Driven Participation in Privacy-Preserving Machine Learning Christoph Düsing · Universität Bielefeld · 2025
- Addressing data heterogeneity, scarcity, and training efficiency in privacy-preserving federated learning Chen, Haokun · Ludwig-Maximilians-Universität München · 2025
