Doctorat F/H Défendre les modèles d'IA déployés : la manipulation comme contre-mesure

Cette offre de doctorat s'inscrit dans le cadre du projet de la chaire FANG du Cluster SequoIA, visant à explorer des stratégies innovantes pour protéger les modèles d'intelligence artificielle (IA) déployés. L'objectif principal est d'étudier comment les techniques de manipulation d'audits, traditionnellement perçues comme une menace pour les régulateurs, peuvent être utilisées comme outil défensif contre les attaques malveillantes (extraction de modèles, création d'exemples adverses, reconnaissance par empreinte). Le projet propose de concevoir des mécanismes de défense actifs, tels que la manipulation ciblée des réponses aux attaques, tout en préservant l'utilité du modèle pour les utilisateurs légitimes et les audits réglementaires. Les travaux incluront une analyse théorique des conditions de réussite de ces défenses, l'étude des compromis entre efficacité défensive et perte d'utilité, ainsi que l'évaluation de leur compatibilité avec les audits réglementaires. Le doctorat s'étendra sur trois ans et abordera des questions de recherche spécifiques, comme l'optimisation des stratégies de manipulation aléatoire ou la discrimination entre attaquants et auditeurs.