La confidentialité différentielle au delà des algorithmes

Série de séminaires ESD et ISOM

Intervenante : Rachel Cummings (Columbia)

Salle T-017

Résumé :

La confidentialité différentielle (DP) a été saluée comme la référence absolue en matière d'analyse de données respectueuse de la confidentialité, car elle offre de solides garanties de confidentialité tout en permettant l'utilisation de données potentiellement sensibles. Formellement, la DP fournit une limite mathématiquement rigoureuse, dans le pire des cas, de la quantité maximale d'informations pouvant être obtenues sur les données d'un individu à partir du résultat d'un calcul. Au cours des deux dernières décennies, la communauté de la confidentialité a développé des algorithmes DP qui respectent cette garantie de confidentialité et permettent une analyse précise des données pour une grande variété de problèmes informatiques et de domaines d'application. Nous avons également commencé à observer un certain nombre de déploiements de systèmes DP de haut niveau en pratique, tant dans de grandes entreprises technologiques que dans des organismes gouvernementaux. Malgré les promesses et le succès de la protection des données jusqu'à présent, plusieurs défis opérationnels critiques restent à relever avant que la protection des données puisse être facilement déployée en pratique, notamment : la mise en correspondance des garanties mathématiques de confidentialité avec la protection contre les menaces réelles, l'élaboration d'explications sur ses garanties et ses compromis pour les utilisateurs non techniques, l'intégration avec d'autres outils de confidentialité et de sécurité, la prévention des abus, et bien plus encore.

Biographie :

Rachel Cummings est professeure agrégée de génie industriel et de recherche opérationnelle et (avec l'aimable autorisation) d'informatique à l'Université Columbia, où elle est également membre du Data Science Institute et co-présidente du Cybersecurity Research Center. Avant de rejoindre Columbia, elle était professeure adjointe de génie industriel et des systèmes et (avec l'aimable autorisation) d'informatique au Georgia Institute of Technology. Elle a également obtenu un doctorat en informatique et en sciences mathématiques au California Institute of Technology. Ses recherches portent principalement sur la confidentialité des données, en lien avec l'apprentissage automatique, l'économie algorithmique, l'optimisation, les statistiques et les politiques publiques. Français Le Dr Cummings a reçu de nombreux prix, dont un prix NSF CAREER, un prix DARPA Young Faculty Award, une bourse DARPA Director's Fellowship, un Early Career Impact Award, plusieurs prix de recherche industrielle, un prix Provost's Teaching Award, deux prix de thèse de doctorat et des prix du meilleur article au DISC 2014, CCS 2021 et SaTML 2023. Le Dr Cummings siège ou a également siégé au comité consultatif scientifique du recensement américain, au comité de politique technologique américain de l'ACM, à l'IEEE Standards Association et au conseil consultatif du Future of Privacy Forum, et a été membre du Center for Democracy & Technology.