Modèle fondateur
Définition
Des chercheurs de l'Université Stanford ont proposé le terme modèle fondateur ou modèle de fondation (de l'anglais foundation model) pour définir un ensemble de grands modèles de langues basés sur des architectures de réseau autoattentif préentraînées sur de vastes corpus parfois selon plusieurs modalités (textes, voix, images, etc.).
Les modèles fondateurs comme BERT, GPT-3, LLaMA, DALL-E peuvent être adaptés à un large éventail de tâches.
Compléments
Les modèles fondateurs constituent un changement radical de paradigme en IA. Ils représentent une augmentation spectaculaire des capacités en termes de précision, de qualité et d'extrapolation à de nouvelles tâches.
Les modèles fondateurs présentent également des problèmes évidents d'utilisation à des fins de désinformation, l'exacerbation des biais et le risque d'oligopole de l'intelligence artificielle entre les mains de quelques entreprises.
Bien que le terme modèle de fondation soit répandu, ce terme est déconseillé par la DGLFLF.
Français
modèle fondateur
modèle de fondation
modèle fondationnel
Anglais
foundation model
Español
modelo fundacional
Investigadores de la Universidad de Stanford han propuesto el término modelo fundacional (del inglès fundation model) para definir un conjunto de modelo extenso de languaje basados en arquitecturas de red autoatencional preentrenadas en grandes corpus, a veces utilizando varias modalidades (texto, voz, imágenes, etc.).
Modelos fundacionales como BERT, GPT-3, LLaMA y DALL-E pueden adaptarse a una amplia gama de tareas.
Sources
Source : Legifrance - Modèle génératif
101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »
Contributeurs: Arianne Arel, Claude Coulombe, Espanol: Jean-Sébastien Zavalone, Patrick Drouin, wiki
