Post-Doctoral Research Visit F/M From AI audits to AI security: an information gain hierarchy

Ce poste de recherche postdoctorale s'inscrit dans le domaine de l'intelligence artificielle, plus précisément sur l'audit et la sécurité des modèles d'IA. L'objectif principal est d'explorer les liens entre les audits légaux des modèles d'IA et leur sécurité offensive, en développant une hiérarchie des attaques basée sur le gain d'information. Le projet vise à établir des connexions formelles entre ces deux domaines pour identifier de nouvelles méthodes d'attaque et de défense des modèles déployés. Le travail inclura la collaboration avec des doctorants, l'analyse des attaques existantes, et la proposition d'une hiérarchie systématique inspirée de concepts algorithmiques. Les recherches porteront sur des aspects tels que la distinguabilité des modèles et les tests de propriétés.