Attaque par distillation
Définition
L'attaque par distillation est une pratique où un modèle d'IA puissant (modèle enseignant) est exploité pour en entraîner un nouveau modèle, plus petit et moins cher (modèle étudiant), en copiant ses réponses à un ensemble requêtes.
Compléments
Un très grand nombres de requêtes sont utilisées pour générer un nouveau jeu de données, ce qui permet de reconstruire un distribution de probabilités.
Français
attaque par distillation
vol d'IA par distillation
Anglais
distillation attack
A distillation attack (or model extraction attack) is a form of artificial intelligence (AI) intellectual property theft. An adversary systematically prompts an expensive, highly capable "teacher" model via its API to harvest its responses. They then use this collected data to train a smaller, cheaper "student" model to perfectly mimic the advanced system.
Sources
L'usine digitale - attaque par distillation
Contributeurs: Claude Coulombe, Patrick Drouin, wiki
