Voir la source de Grand modèle de langues (GML)

==Définition==
Les grands modèles de langues (en anglais, Large Language Models, LLM) sont des [[Modèle de langue|modèles de langue]] statistiques , pré-entraînés sur un très vaste corpus et multilingues. Basés sur des réseaux de neurones, les grands modèles de langues (GML) comportent un très grand nombre de paramètres.

Typiquement un GML est capable de prédire le prochain mot d'une séquence. 

voir : [[modèle fondateur]]

==Compléments==
On dit « grand modèle de langues » et non « grand modèle de langage », parce que le langage désigne la faculté d'utiliser une langue alors que la langue est l'objet modélisé. Aussi, tous ces grands modèles sont multilingues.
<hr/>
Un grand modèle de langue sert de base pour l'élaboration des grands modèles de langues génératifs (GMLG) qui peuvent générer un texte entier. 
<hr/>
Typiquement un grand modèle de langues comporte plus de 10 milliards de paramètres. 
<hr/>
Des chercheurs de l'Université Stanford ont proposé le terme [[modèle de fondation]] (« foundation model ») pour définir un ensemble de grands [[Modèle de langue|modèles de langue]] basés sur des [[Réseau_autoattentif|architectures autoattentives]] pré-entraînées.

==Français==
'''grand modèle de langues'''

'''GML'''

'''grand modèle de langage'''

'''modèle fondateur'''

==Anglais==

'''large language model'''

'''LLM'''

'''foundation model'''

==Sources==

[https://www.cnrs.fr/fr/livraison-du-plus-grand-modele-de-langue-multilingue-open-science-jamais-entraine Source: CNRS]

[[Catégorie:Apprentissage profond]]
[[Category:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:Publication]]