Attaque par distillation

Définition

L'attaque par distillation est une pratique où un modèle d'IA puissant (modèle enseignant) est exploité pour en entraîner un nouveau modèle, plus petit et moins cher (modèle étudiant), en copiant ses comportements et ses réponses.

Français

attaque par distillation

Anglais

distillation attack

A distillation attack (or model extraction attack) is a form of artificial intelligence (AI) intellectual property theft. An adversary systematically prompts an expensive, highly capable "teacher" model via its API to harvest its responses. They then use this collected data to train a smaller, cheaper "student" model to perfectly mimic the advanced system.

Sources

L'usine digitale - attaque par distillation

Le Devoir - distillation

Mind Studio - distillation attack