Exploring Verifiable and Privacy-Preserving Federated Learning through Differential Privacy and Cryptographic Protocols

Exploration de l'apprentissage fédéré vérifiable et respectueux de la vie privée grâce à la confidentialité différentielle et aux protocoles cryptographiques L’apprentissage fédéré est apparu comme un paradigme distribué permettant à plusieurs participants d’entraîner conjointement un modèle d’apprentissage automatique sans échanger leurs données brutes. En conservant les données localement, cette approche réduit considérablement les risques liés à la divulgation d’informations sensibles, risques souvent présents dans les architectures d’apprentissage centralisées. Toutefois, malgré cette promesse de confidentialité, plusieurs travaux récents ont démontré que les gradients échangés lors du processus d’apprentissage peuvent encore révéler des informations sur les jeux de données locaux. Par ailleurs, la majorité des approches actuelles reposent sur des hypothèses de confiance fortes envers le serveur central, sans offrir de mécanismes permettant de vérifier la bonne application des mesures de protection de la vie privée. Ces limites mettent en évidence un écart important entre les garanties théoriques de confidentialité et leur concrétisation dans les déploiements réels. Dans cette thèse, nous proposons de réduire cet écart en combinant la confidentialité différentielle avec des outils cryptographiques et des protocoles de vérifiabilité. L’objectif est d’assurer un apprentissage fédéré à la fois vérifiable et moins dépendant de la confiance envers les entités centrales. Dans un premier temps, nous explorons l’utilisation du chiffrement homomorphe additif afin de protéger les mises à jour locales tout en limitant la dépendance à un agrégateur de confiance. Dans un second temps, nous introduisons un protocole de vérifiabilité non interactif fondé sur les zk-SNARKs et les fonctions de hachage cryptographiques. Ce protocole permet de prouver et de vérifier la correcte application de la confidentialité différentielle sans révéler d’informations sensibles. Enfin, nous présentons ProoFed, un cadre distribué reposant sur le partage de secret pour décentraliser la génération du bruit et intégrer des preuves d’agrégation vérifiables en connaissance nulle, supprimant ainsi les points uniques de confiance.