Empoisonnement de modèle

Définition

L'empoisonnement de modèle est le résultat de l'entraînement d'un modèle sur des données empoisonnées.

Compléments

L'objectif malveillant d'une telle approche est de corrompre le modèle et son comportement.

Voir empoisonnement de données.

Français

empoisonnement du modèle

empoisonnement du modèle d'IA

Anglais

model poisoning

AI poisoning

Sources

Petite taxonomie des attaques des systèmes d’IA, Fabien Valet (2022)

The Conversation - AI poisoning

Législation sur l'intelligence artificielle, Parlement européen (2023)

MPAF: Model Poisoning Attacks to Federated Learning based on Fake Clients, Cao et Gong (2022)

What is model poisoning?, Devron