Prédicteur faible

Définition

Dans le contexte de l'apprentissage automatique et plus précisément de l'apprentissage ensembliste, un prédicteur faible désigne un modèle ou un algorithme d'apprentissage dont les performances sur une tâche donnée, typiquement la classification, sont seulement légèrement supérieures à celles obtenues par un choix aléatoire.

Compléments

Pour une tâche de classification binaire, cela signifie une exactitude à peine au-dessus de 50%. Un prédicteur faible produit donc un classificateur qui n'est que faiblement corrélé avec la classification correcte.

Le concept de prédicteur faible revêt une importance fondamentale dans la théorie de l'apprentissage automatique. La question centrale posée par Kearns et Valiant était de savoir si un ensemble prédicteurs faibles pouvait être combiné pour créer un prédicteur fort , c'est-à-dire un modèle d'apprentissage capable d'atteindre une exactitude arbitrairement élevée. La réponse affirmative apportée par Robert Schapire en 1990 a ouvert la voie au développement des algorithmes d'apprentissage ensembliste.

L'examen des sources francophones révèle plusieurs propositions pour remplacer l'expression « weak learner » : apprenant faible, modèle d'apprentissage faible, algorithme d'apprentissage faible, , classificateur faible, prédicteur faible enfin l'utilisation directe du terme anglais weak learner.

L'expression apprenant faible constitue une traduction directe mais présente un risque de confusion élevé avec son utilisation pour désigner des étudiants ayant des difficultés d'apprentissage.

L'expression "algorithme d'apprentissage faible" est employée dans certains textes francophones traitant d'apprentissage automatique, notamment pour décrire les algorithmes d'apprentissage ensembliste. C'est une traduction techniquement correcte mais moins concise que « apprenant faible » ou « classificateur faible ».

"Classificateur faible" est concis et fréquemment rencontré dans des descriptions d'algorithmes d'apprentissage ensembliste comme l'algorithme d'amplification adaptative (en anglais, Adaboost). Par contre, il désigne un modèle dont la tâche explicite est la classification. Par exemple, il néglige la tâche de régression.

Nous recommandons l'expression "prédicteur faible" qui apparaît également dans la littérature francophone dans le contexte des algorithmes d'apprentissage ensembliste. Le terme "prédicteur faible" est concis et met l'accent sur la fonction « faire des prédictions ». Il est sémantiquement proche de « classificateur faible », mais plus général car un « prédicteur » peut s'appliquer aussi bien à des tâches de régression (prédire une valeur continue) qu'à des tâches de classification (prédire une classe).

Le principal défaut de « prédicteur faible » est que l'utilisation des termes "prédiction" / "prédicteur" en IA pourrait être considérée comme une forme d'anthropomorphisme, puisque la "prédiction" est plutôt intuitive ou divinatoire (horoscope) alors que le terme "prévision" fait davantage appel au calcul (météo).