DataFranca - Contributions [fr]

OpenAI

2026-08-05T23:11:59Z

Claude COULOMBE :

==Définition==
OpenAI (nom propre) est une société à but lucratif qui développe des produits d’intelligence artificielle (IA) dont la série de robots conversationnels génératifs [[ChatGPT]].

== Compléments ==
À l'origine, OpenAI était une organisation de recherche à but non lucratif qui visait à promouvoir et à développer l'IA de manière à ce que l'humanité tout entière en bénéficie. Les fondateurs (notamment Elon Musk et Sam Altman) semblaient motivés en partie par le souci du risque que pourrait représenter une [[intelligence artificielle générale]] qui serait aussi intelligente qu'un être humain.

==Français==
'''OpenAI'''

==Anglais==
'''OpenAI'''

==Sources==

[[Utilisateur:Claude COULOMBE | source : Claude Coulombe]] ([[Discussion utilisateur:Claude COULOMBE | discussion]])

[https://www.24pm.com/117-definitions/452-openai Source : 24pm Academy]

[[Catégorie:ENGLISH]]
[[Category:GRAND LEXIQUE FRANÇAIS]]

Paramètres ouverts

2026-08-05T23:11:05Z

Claude COULOMBE :

==Définition==
[[Paramètre|Paramètres]] ou [[poids]] et [[hyperparamètres]] distribués en licence ouverte qui définissent l'[[Architecture de réseau de neurones|architecture d'un modèle]] [[Modèle préentraîné|préentraîné]] et qui typiquement résultent de l'entraînement d'un [[réseau neuronal]] sur des données.

== Compléments ==
Certains [[grand modèle de langues|grands modèles de langues]] [[Modèle préentraîné|préentraînés]] sont distribués sous la bannière de l'[[innovation ouverte]]. Cependant, il est important de noter que seuls les [[Paramètre|paramètres]] ([[poids]]), les [[hyperparamètres]] et le code source des algorithmes d'[[inférence]] du [[Modèle d'apprentissage|modèle]] sont diffusés à la communauté sous une licence avec certaines contraintes commerciales. Le code des algorithmes d'entraînement et les corpus nécessaires à reproduction des modèles ne sont pas partagés. Dans un tel cas, on parlera de [[licence en paramètres ouverts]].

==Français==

'''paramètres ouverts'''

'''paramètre ouvert'''

'''paramètre libres'''

'''paramètre libre'''

==Anglais==

'''open weight'''

'''open-weight'''

'''open weights'''

'''open-weights'''

==Sources==
[https://www.sciencedirect.com/science/article/pii/S1631072110001129. Billot et al. (2010) ''A conditionally linearly stable second-order traffic model derived from a Vlasov kinetic description - Un modèle de trafic du second ordre conditionnellement linéairement stable'']

[https://www.aikogroup.ai/blog/open-source-vs-modeles-fermes-dans-l-ia-un-debat-au-dela-de-la-transparence, Aiko Group]

[https://opensource.org/ai/open-weights, ''Open Weights: not quite what you’ve been told'', Open Source Initiative]

[https://www.reddit.com/r/LocalLLaMA/comments/1iw1xn7/the_paradox_of_open_weights_but_closed_source/ ''The Paradox of Open Weights, but Closed Source'', Reddit]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Paramètres ouverts

2026-08-05T23:10:00Z

Claude COULOMBE :

==Définition==
[[Paramètres]] ou [[poids]] et [[hyperparamètres]] distribués en licence ouverte qui définissent l'[[Architecture de réseau de neurones|architecture d'un modèle]] [[Modèle préentraîné|préentraîné]] et qui typiquement résultent de l'entraînement d'un [[réseau neuronal]] sur des données.

== Compléments ==
Certains [[grand modèle de langues|grands modèles de langues]] [[Modèle préentraîné|préentraînés]] sont distribués sous la bannière de l'[[innovation ouverte]]. Cependant, il est important de noter que seuls les [[Paramètre|paramètres]] ([[poids]]), les [[hyperparamètres]] et le code source des algorithmes d'[[inférence]] du [[Modèle d'apprentissage|modèle]] sont diffusés à la communauté sous une licence avec certaines contraintes commerciales. Le code des algorithmes d'entraînement et les corpus nécessaires à reproduction des modèles ne sont pas partagés. Dans un tel cas, on parlera de [[licence en paramètres ouverts]].

==Français==

'''paramètres ouverts'''

'''paramètre ouvert'''

'''paramètre libres'''

'''paramètre libre'''

==Anglais==

'''open weight'''

'''open-weight'''

'''open weights'''

'''open-weights'''

==Sources==
[https://www.sciencedirect.com/science/article/pii/S1631072110001129. Billot et al. (2010) ''A conditionally linearly stable second-order traffic model derived from a Vlasov kinetic description - Un modèle de trafic du second ordre conditionnellement linéairement stable'']

[https://www.aikogroup.ai/blog/open-source-vs-modeles-fermes-dans-l-ia-un-debat-au-dela-de-la-transparence, Aiko Group]

[https://opensource.org/ai/open-weights, ''Open Weights: not quite what you’ve been told'', Open Source Initiative]

[https://www.reddit.com/r/LocalLLaMA/comments/1iw1xn7/the_paradox_of_open_weights_but_closed_source/ ''The Paradox of Open Weights, but Closed Source'', Reddit]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Paramètres ouverts

2026-08-05T23:09:19Z

Claude COULOMBE :

==Définition==
[[poids|Paramètres]] ou [[poids]] et [[hyperparamètres]] distribués en licence ouverte qui définissent l'[[Architecture de réseau de neurones|architecture d'un modèle]] [[Modèle préentraîné|préentraîné]] et qui typiquement résultent de l'entraînement d'un [[réseau neuronal]] sur des données.

== Compléments ==
Certains [[grand modèle de langues|grands modèles de langues]] [[Modèle préentraîné|préentraînés]] sont distribués sous la bannière de l'[[innovation ouverte]]. Cependant, il est important de noter que seuls les [[Paramètre|paramètres]] ([[poids]]), les [[hyperparamètres]] et le code source des algorithmes d'[[inférence]] du [[Modèle d'apprentissage|modèle]] sont diffusés à la communauté sous une licence avec certaines contraintes commerciales. Le code des algorithmes d'entraînement et les corpus nécessaires à reproduction des modèles ne sont pas partagés. Dans un tel cas, on parlera de [[licence en paramètres ouverts]].

==Français==

'''paramètres ouverts'''

'''paramètre ouvert'''

'''paramètre libres'''

'''paramètre libre'''

==Anglais==

'''open weight'''

'''open-weight'''

'''open weights'''

'''open-weights'''

==Sources==
[https://www.sciencedirect.com/science/article/pii/S1631072110001129. Billot et al. (2010) ''A conditionally linearly stable second-order traffic model derived from a Vlasov kinetic description - Un modèle de trafic du second ordre conditionnellement linéairement stable'']

[https://www.aikogroup.ai/blog/open-source-vs-modeles-fermes-dans-l-ia-un-debat-au-dela-de-la-transparence, Aiko Group]

[https://opensource.org/ai/open-weights, ''Open Weights: not quite what you’ve been told'', Open Source Initiative]

[https://www.reddit.com/r/LocalLLaMA/comments/1iw1xn7/the_paradox_of_open_weights_but_closed_source/ ''The Paradox of Open Weights, but Closed Source'', Reddit]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Paramètres ouverts

2026-08-05T23:09:07Z

Claude COULOMBE :

==Définition==
[[poids|Paramètres]] ou [[Poids]] et [[hyperparamètres]] distribués en licence ouverte qui définissent l'[[Architecture de réseau de neurones|architecture d'un modèle]] [[Modèle préentraîné|préentraîné]] et qui typiquement résultent de l'entraînement d'un [[réseau neuronal]] sur des données.

== Compléments ==
Certains [[grand modèle de langues|grands modèles de langues]] [[Modèle préentraîné|préentraînés]] sont distribués sous la bannière de l'[[innovation ouverte]]. Cependant, il est important de noter que seuls les [[Paramètre|paramètres]] ([[poids]]), les [[hyperparamètres]] et le code source des algorithmes d'[[inférence]] du [[Modèle d'apprentissage|modèle]] sont diffusés à la communauté sous une licence avec certaines contraintes commerciales. Le code des algorithmes d'entraînement et les corpus nécessaires à reproduction des modèles ne sont pas partagés. Dans un tel cas, on parlera de [[licence en paramètres ouverts]].

==Français==

'''paramètres ouverts'''

'''paramètre ouvert'''

'''paramètre libres'''

'''paramètre libre'''

==Anglais==

'''open weight'''

'''open-weight'''

'''open weights'''

'''open-weights'''

==Sources==
[https://www.sciencedirect.com/science/article/pii/S1631072110001129. Billot et al. (2010) ''A conditionally linearly stable second-order traffic model derived from a Vlasov kinetic description - Un modèle de trafic du second ordre conditionnellement linéairement stable'']

[https://www.aikogroup.ai/blog/open-source-vs-modeles-fermes-dans-l-ia-un-debat-au-dela-de-la-transparence, Aiko Group]

[https://opensource.org/ai/open-weights, ''Open Weights: not quite what you’ve been told'', Open Source Initiative]

[https://www.reddit.com/r/LocalLLaMA/comments/1iw1xn7/the_paradox_of_open_weights_but_closed_source/ ''The Paradox of Open Weights, but Closed Source'', Reddit]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

ChatGPT

2026-08-05T23:06:38Z

Claude COULOMBE :

== Définition ==
ChatGPT (nom propre) est un [[robot conversationnel génératif]] ou [[dialogueur]] généraliste créé par l'adaptation d'un [[grand modèle de langues]] génératif dérivé de [[GPT-3]] dévoilé par la société OpenAI le 30 novembre 2022.

[[GPT]] est l'acronyme de ''Generative Pre-trained Transformer'', c'est-à-dire un grand modèle de langues génératif autoattentif préentraîné.

== Français ==
'''ChatGPT'''

'''dialogueur GPT'''


== Anglais ==
'''ChatGPT'''

ChatGPT is a conversational agent or generalist dialoguer created by adapting a large generative language model derived from GPT-3, unveiled by OpenAI on November 30, 2022.

GPT stands for Generative Pre-trained Transformer, i.e. a large, self-attentive, pre-trained generative language model.


==Español==
[[Catégorie:es]]

''''' ChatGPT '''''

''ChatGPT (nombre propio) es un agente conversacional o dialogante generalista creado mediante la adaptación de un gran modelo de lenguaje generativo derivado de GPT-3 presentado por OpenAI el 30 de noviembre de 2022.''

''GPT es el acrónimo de Generative Pre-trained Transformer (transformador generativo preentrenado [GPT]), que significa modelo de lenguaje generativo grande, autoatento y preentrenado.''

==Sources==

[https://openai.com/blog/chatgpt/ Source : OpenAI ]

[https://www.linkedin.com/pulse/chatgpt-un-enthousiasme-prudent-simpose-claude-coulombe/ Source: article sur ChatGPT par Claude Coulombe]

{{Modèle:101}}
[[Catégorie:ENGLISH]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

ChatGPT

2026-08-05T23:05:48Z

Claude COULOMBE :

== Définition ==
ChatGPT (nom propre) est un [[robot conversationnel|robot conversationnel génératif]] ou [[dialogueur]] généraliste créé par l'adaptation d'un [[grand modèle de langues]] génératif dérivé de [[GPT-3]] dévoilé par la société OpenAI le 30 novembre 2022.

[[GPT]] est l'acronyme de ''Generative Pre-trained Transformer'', c'est-à-dire un grand modèle de langues génératif autoattentif préentraîné.

== Français ==
'''ChatGPT'''

'''dialogueur GPT'''


== Anglais ==
'''ChatGPT'''

ChatGPT is a conversational agent or generalist dialoguer created by adapting a large generative language model derived from GPT-3, unveiled by OpenAI on November 30, 2022.

GPT stands for Generative Pre-trained Transformer, i.e. a large, self-attentive, pre-trained generative language model.


==Español==
[[Catégorie:es]]

''''' ChatGPT '''''

''ChatGPT (nombre propio) es un agente conversacional o dialogante generalista creado mediante la adaptación de un gran modelo de lenguaje generativo derivado de GPT-3 presentado por OpenAI el 30 de noviembre de 2022.''

''GPT es el acrónimo de Generative Pre-trained Transformer (transformador generativo preentrenado [GPT]), que significa modelo de lenguaje generativo grande, autoatento y preentrenado.''

==Sources==

[https://openai.com/blog/chatgpt/ Source : OpenAI ]

[https://www.linkedin.com/pulse/chatgpt-un-enthousiasme-prudent-simpose-claude-coulombe/ Source: article sur ChatGPT par Claude Coulombe]

{{Modèle:101}}
[[Catégorie:ENGLISH]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

ChatGPT

2026-08-05T23:03:48Z

Claude COULOMBE :

== Définition ==
ChatGPT (nom propre) est un [[agent conversationnel]] ou [[dialogueur]] généraliste créé par l'adaptation d'un [[grand modèle de langues]] génératif dérivé de [[GPT-3]] dévoilé par la société OpenAI le 30 novembre 2022.

[[GPT]] est l'acronyme de ''Generative Pre-trained Transformer'', c'est-à-dire un grand modèle de langues génératif autoattentif préentraîné.

== Français ==
'''ChatGPT'''

'''dialogueur GPT'''


== Anglais ==
'''ChatGPT'''

ChatGPT is a conversational agent or generalist dialoguer created by adapting a large generative language model derived from GPT-3, unveiled by OpenAI on November 30, 2022.

GPT stands for Generative Pre-trained Transformer, i.e. a large, self-attentive, pre-trained generative language model.


==Español==
[[Catégorie:es]]

''''' ChatGPT '''''

''ChatGPT (nombre propio) es un agente conversacional o dialogante generalista creado mediante la adaptación de un gran modelo de lenguaje generativo derivado de GPT-3 presentado por OpenAI el 30 de noviembre de 2022.''

''GPT es el acrónimo de Generative Pre-trained Transformer (transformador generativo preentrenado [GPT]), que significa modelo de lenguaje generativo grande, autoatento y preentrenado.''

==Sources==

[https://openai.com/blog/chatgpt/ Source : OpenAI ]

[https://www.linkedin.com/pulse/chatgpt-un-enthousiasme-prudent-simpose-claude-coulombe/ Source: article sur ChatGPT par Claude Coulombe]

{{Modèle:101}}
[[Catégorie:ENGLISH]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

OpenAI

2026-08-05T23:02:38Z

Claude COULOMBE :

==Définition==
OpenAI est une société à but lucratif qui développe des produits d’intelligence artificielle (IA) dont la série de robots conversationnels génératifs [[ChatGPT]].

== Compléments ==
À l'origine, OpenAI était une organisation de recherche à but non lucratif qui visait à promouvoir et à développer l'IA de manière à ce que l'humanité tout entière en bénéficie. Les fondateurs (notamment Elon Musk et Sam Altman) semblaient motivés en partie par le souci du risque que pourrait représenter une [[intelligence artificielle générale]] qui serait aussi intelligente qu'un être humain.

==Français==
'''OpenAI'''

==Anglais==
'''OpenAI'''

==Sources==

[[Utilisateur:Claude COULOMBE | source : Claude Coulombe]] ([[Discussion utilisateur:Claude COULOMBE | discussion]])

[https://www.24pm.com/117-definitions/452-openai Source : 24pm Academy]

[[Catégorie:ENGLISH]]
[[Category:GRAND LEXIQUE FRANÇAIS]]

Distillation de modèles

2026-08-05T22:52:38Z

Claude COULOMBE :

== Définition ==
La distillation de modèles aussi appelée distillation de connaissances est le processus qui permet de transférer les connaissances d'un grand [[modèle d'apprentissage]] à un modèle plus petit sans perte de validité et en conservant la précision lors de la compression du modèle.

== Compléments ==
Cette technique permet d’utiliser un [[Modèle enseignant|modèle enseignant]] volumineux et coûteux pour entraîner un [[Modèle étudiant|modèle étudiant]] « étudiant » plus petit et à moindre coût.
<hr/>
Beaucoup de commentaires et accusations concernant le lancement de [[paramètres ouverts|modèles à paramètres ouverts]] par des entreprises chinoise portaient sur l'emploi de la technique de distillation. Or la distillation est une technique connue depuis une décennie et un outil largement utilisé par les entreprises technologiques comme [[Anthropic]], [[DeepMind]] et [[OpenAI]] pour leurs propres modèles. De plus, aucun modèle d'IA n'est à l'abri s'il peut être sollicité.
== Français ==

'''distillation de / des modèles'''

'''distillation de / des connaissances'''

== Anglais ==
'''model distillation'''

'''knowledge distillation'''



==Sources==
[https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/ Quanta magazine , How Distillation Makes AI Models Smaller and Cheaper]

[https://en.wikipedia.org/wiki/Knowledge_distillation#:~:text=In%20machine%20learning%2C%20knowledge%20distillation,might%20not%20be%20fully%20utilized. Wikipedia - distillation de modèles, distillation des connaissances]

[https://proceedings.neurips.cc/paper_files/paper/2017/hash/e1e32e235eee1f970470a3a6658dfdd5-Abstract.html NeurIPS Proceedings 2017 - Knowledge Distillation]
]

[https://paperswithcode.com/task/knowledge-distillation Paper with code - Knowledge Distillation]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Distillation de modèles

2026-08-05T22:51:14Z

Claude COULOMBE :

== Définition ==
La distillation de modèles aussi appelée distillation de connaissances est le processus qui permet de transférer les connaissances d'un grand [[modèle d'apprentissage]] à un modèle plus petit sans perte de validité et en conservant la précision lors de la compression du modèle.

== Compléments ==
Cette technique permet d’utiliser un [[Modèle enseignant|modèle enseignant]] volumineux et coûteux pour entraîner un [[Modèle étudiant|modèle étudiant]] « étudiant » plus petit et à moindre coût.
<hr/>
Beaucoup de commentaires et accusations concernant le lancement de [[paramètres ouverts|modèles à paramètres ouverts]] par des entreprises chinoise portaient sur l'emploi de la technique de distillation. Or la distillation est une technique connue depuis une décennie et un outil largement utilisé par les entreprises technologiques comme[[Anthropic]], [[DeepMind]] et [[OpenAI]] pour leurs propres modèles. De plus, aucun modèle d'IA n'est à l'abri s'il peut être sollicité.
== Français ==

'''distillation de / des modèles'''

'''distillation de / des connaissances'''

== Anglais ==
'''model distillation'''

'''knowledge distillation'''



==Sources==
[https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/ Quanta magazine , How Distillation Makes AI Models Smaller and Cheaper]

[https://en.wikipedia.org/wiki/Knowledge_distillation#:~:text=In%20machine%20learning%2C%20knowledge%20distillation,might%20not%20be%20fully%20utilized. Wikipedia - distillation de modèles, distillation des connaissances]

[https://proceedings.neurips.cc/paper_files/paper/2017/hash/e1e32e235eee1f970470a3a6658dfdd5-Abstract.html NeurIPS Proceedings 2017 - Knowledge Distillation]
]

[https://paperswithcode.com/task/knowledge-distillation Paper with code - Knowledge Distillation]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Distillation de modèles

2026-08-05T22:50:26Z

Claude COULOMBE :

== Définition ==
La distillation de modèles aussi appelée distillation de connaissances est le processus qui permet de transférer les connaissances d'un grand [[modèle d'apprentissage]] à un modèle plus petit sans perte de validité et en conservant la précision lors de la compression du modèle.

== Compléments ==
Cette technique permet d’utiliser un [[Modèle enseignant|modèle enseignant]] volumineux et coûteux pour entraîner un [[Modèle étudiant|modèle étudiant]] « étudiant » plus petit et à moindre coût.
<hr/>
Beaucoup de commentaires et accusations concernant le lancement de [[paramètres ouverts|modèles à paramètres ouverts]] par des entreprises chinoise portaient sur l'emploi de la technique de distillation. Or la distillation est une technique connue depuis une décennie et un outil largement utilisé par les entreprises technologiques comme [[DeepMind]] et [[OpenAI]] pour leurs propres modèles. De plus, aucun modèle d'IA n'est à l'abri s'il peut être sollicité.
== Français ==

'''distillation de / des modèles'''

'''distillation de / des connaissances'''

== Anglais ==
'''model distillation'''

'''knowledge distillation'''



==Sources==
[https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/ Quanta magazine , How Distillation Makes AI Models Smaller and Cheaper]

[https://en.wikipedia.org/wiki/Knowledge_distillation#:~:text=In%20machine%20learning%2C%20knowledge%20distillation,might%20not%20be%20fully%20utilized. Wikipedia - distillation de modèles, distillation des connaissances]

[https://proceedings.neurips.cc/paper_files/paper/2017/hash/e1e32e235eee1f970470a3a6658dfdd5-Abstract.html NeurIPS Proceedings 2017 - Knowledge Distillation]
]

[https://paperswithcode.com/task/knowledge-distillation Paper with code - Knowledge Distillation]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Apprentissage par renforcement avec rétroaction humaine

2026-08-04T19:08:09Z

Claude COULOMBE :

== Définition ==
En [[apprentissage automatique]], l'apprentissage par renforcement avec rétroaction humaine (ARRH) est une technique d'amélioration des performances d'un [[agent]] à partir de rétroactions humaines.

On commence par entraîner un [[modèle de récompense]] sur des résultats annotés par des rétroactions humaines. Ensuite, on utilise ce modèle comme fonction de récompense pour améliorer la [[politique d'action|politique]] d'un agent à l'aide de l'[[apprentissage par renforcement]] grâce à un [[algorithme d'optimisation]].

==Compléments==
Ce type d'apprentissage est utilisé dans les jeux [[AlphaGo]] et les [[Robot conversationnel génératif|robots conversationnels génératifs]] ou [[générateurs automatique de textes]] basés sur les [[grand modèle de langues|grands modèles de langues]].
<hr/>
Le [[Modèle de récompense|modèle de récompense]] est pré-entraîné pour que la politique soit optimisée afin de prédire si une sortie est bonne (récompense élevée) ou mauvaise (récompense faible ou pénalité).
<hr/>
Cependant, le ARRH est une procédure complexe et souvent instable, qui consiste d'abord à adapter un [[modèle de récompense]] qui reflète les préférences humaines, puis à affiner le [[grand modèle de langues]] à l'aide de l'[[apprentissage par renforcement]] pour maximiser cette récompense estimée sans trop s'éloigner du modèle d'origine.
== Français ==

'''apprentissage par renforcement avec rétroaction humaine'''

'''apprentissage par renforcement à partir de rétroaction humaine'''

'''apprentissage par renforcement à partir de retours humains'''

'''apprentissage par renforcement avec retour humain'''

'''apprentissage par renforcement et rétroaction humaine'''

'''apprentissage par renforcement à partir de la rétroaction humaine'''

'''ARRH'''

'''apprentissage par renforcement basée sur la rétroaction humaine'''

'''ARBRH'''

'''apprentissage par renforcement avec retour d'information humain'''


== Anglais ==
'''reinforcement learning from human feedback'''

'''RLHF'''

'''reinforcement learning from human preferences'''

In reinforcement learning, the algorithm learns a behavior from repeated experiments, so as to optimize the rewards received over time. Like unsupervised learning, reinforcement learning does not require labeled data.
Typically, an intelligent agent, immersed in an environment, makes a decision or performs an action based on its current state and observation of its environment.

In return for the agent's action, the environment provides the agent with a reward or punishment.

Reinforcement learning can be seen as a game of trial and error, the aim of which is to determine which actions will maximize an intelligent agent's gains. In this way, it will develop optimal behavior, known as strategy or policy.


==Español==
[[Catégorie:es]]

'''''aprendizaje por refuerzo a partir de la retroalimentación humana'''''

''En el ámbito del aprendizaje automático, el aprendizaje por refuerzo de la retroalimentación humana es una técnica para mejorar el rendimiento de un agente utilizando la retroalimentación humana.''

''Se empieza por entrenar un modelo de recompensa a partir de resultados anotados con comentarios humanos. A continuación, este modelo se utiliza como función de recompensa para mejorar la política de un agente mediante el aprendizaje por refuerzo con un algoritmo de optimización.''

==Sources==

[https://fr.wikipedia.org/wiki/Apprentissage_par_renforcement_%C3%A0_partir_de_r%C3%A9troaction_humaine Wikipedia - apprentissage par renforcement à partir de rétroaction humaine]

[https://www.journaldunet.com/solutions/dsi/1518637-chatgpt-l-intelligence-artificielle-peut-elle-tenir-ses-promesses/ Journal du Net]

[https://www.obvia.ca/sites/obvia.ca/files/ressources/202501-OBV-Out-Glossaire_Obvia.pdf Glossaire de l'Obvia - apprentissage par renforcement à partir de retours humains]

[https://huyenchip.com/2023/05/02/rlhf.html huyenchip]

[https://crfm.stanford.edu/2023/05/22/alpaca-farm.html Stanford]

[https://en.wikipedia.org/wiki/Reinforcement_learning_from_human_feedback Wikipedia - reinforcement learning from human feedback]

{{Modèle:101}}
[[Catégorie:Intelligence artificielle]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

Optimisation directe des préférences

2026-08-04T19:07:34Z

Claude COULOMBE :

== Définition ==
L'optimisation directe des préférences (DPO) est une paramétrisation du modèle de récompense dans l'[[apprentissage par renforcement avec rétroaction humaine]] (ARRH) qui permet d'extraire la politique optimale correspondante sous forme fermée, ce qui permet de résoudre le problème d'ARRH standard avec seulement une simple perte de classification.

== Compléments ==

L'algorithme résultant est stable, performant et léger en termes de calcul, éliminant le besoin d'échantillonnage à partir du modèle de langue lors du réglage fin ou de l'exécution d'un réglage important des hyperparamètres.

Alors que les modèles de langage non supervisés à grande échelle acquièrent une connaissance générale du monde et certaines compétences de raisonnement, il est difficile d'obtenir un contrôle précis de leur comportement en raison de la nature totalement non supervisée de leur formation.

Les méthodes existantes pour obtenir une telle maniabilité collectent des étiquettes humaines sur la qualité relative des générations de modèles et affinent le modèle de langue non supervisé pour l'aligner sur ces préférences, souvent avec l'apprentissage par apprentissage par renforcement à rétroaction humaine (ARRH) qui est souvent complexe et instable.
== Français ==
''' optimisation directe des préférences '''

== Anglais ==
''' Direct Preference Optimization '''

''' DPO '''

==Sources==

[https://arxiv.org/abs/2305.18290 Source : arxiv ]

[[Catégorie:Publication]]

Apprentissage par renforcement avec rétroaction humaine

2026-08-04T19:06:13Z

Claude COULOMBE :

== Définition ==
En [[apprentissage automatique]], l'apprentissage par renforcement avec rétroaction humaine (ARRH) est une technique d'amélioration des performances d'un [[agent]] à partir de rétroactions humaines.

On commence par entraîner un [[modèle de récompense]] sur des résultats annotés par des rétroactions humaines. Ensuite, on utilise ce modèle comme fonction de récompense pour améliorer la [[politique d'action|politique]] d'un agent à l'aide de l'[[apprentissage par renforcement]] grâce à un [[algorithme d'optimisation]].

==Compléments==
Ce type d'apprentissage est utilisé dans les jeux [[AlphaGo]] et les [[Robot conversationnel génératif|robots conversationnels génératifs]] ou [[générateurs automatique de textes]] basés sur les [[grand modèle de langues|grands modèles de langues]].
<hr/>
Le [[Modèle de récompense|modèle de récompense]] est pré-entraîné pour que la politique soit optimisée afin de prédire si une sortie est bonne (récompense élevée) ou mauvaise (récompense faible ou pénalité).
<hr/>
Cependant, le ARRH est une procédure complexe et souvent instable, qui consiste d'abord à adapter un modèle de récompenses qui reflète les préférences humaines, puis à affiner le [[grand modèle de langues]] à l'aide de l'[[apprentissage par renforcement]] pour maximiser cette récompense estimée sans trop s'éloigner du modèle d'origine.
== Français ==

'''apprentissage par renforcement avec rétroaction humaine'''

'''apprentissage par renforcement à partir de rétroaction humaine'''

'''apprentissage par renforcement à partir de retours humains'''

'''apprentissage par renforcement avec retour humain'''

'''apprentissage par renforcement et rétroaction humaine'''

'''apprentissage par renforcement à partir de la rétroaction humaine'''

'''ARRH'''

'''apprentissage par renforcement basée sur la rétroaction humaine'''

'''ARBRH'''

'''apprentissage par renforcement avec retour d'information humain'''


== Anglais ==
'''reinforcement learning from human feedback'''

'''RLHF'''

'''reinforcement learning from human preferences'''

In reinforcement learning, the algorithm learns a behavior from repeated experiments, so as to optimize the rewards received over time. Like unsupervised learning, reinforcement learning does not require labeled data.
Typically, an intelligent agent, immersed in an environment, makes a decision or performs an action based on its current state and observation of its environment.

In return for the agent's action, the environment provides the agent with a reward or punishment.

Reinforcement learning can be seen as a game of trial and error, the aim of which is to determine which actions will maximize an intelligent agent's gains. In this way, it will develop optimal behavior, known as strategy or policy.


==Español==
[[Catégorie:es]]

'''''aprendizaje por refuerzo a partir de la retroalimentación humana'''''

''En el ámbito del aprendizaje automático, el aprendizaje por refuerzo de la retroalimentación humana es una técnica para mejorar el rendimiento de un agente utilizando la retroalimentación humana.''

''Se empieza por entrenar un modelo de recompensa a partir de resultados anotados con comentarios humanos. A continuación, este modelo se utiliza como función de recompensa para mejorar la política de un agente mediante el aprendizaje por refuerzo con un algoritmo de optimización.''

==Sources==

[https://fr.wikipedia.org/wiki/Apprentissage_par_renforcement_%C3%A0_partir_de_r%C3%A9troaction_humaine Wikipedia - apprentissage par renforcement à partir de rétroaction humaine]

[https://www.journaldunet.com/solutions/dsi/1518637-chatgpt-l-intelligence-artificielle-peut-elle-tenir-ses-promesses/ Journal du Net]

[https://www.obvia.ca/sites/obvia.ca/files/ressources/202501-OBV-Out-Glossaire_Obvia.pdf Glossaire de l'Obvia - apprentissage par renforcement à partir de retours humains]

[https://huyenchip.com/2023/05/02/rlhf.html huyenchip]

[https://crfm.stanford.edu/2023/05/22/alpaca-farm.html Stanford]

[https://en.wikipedia.org/wiki/Reinforcement_learning_from_human_feedback Wikipedia - reinforcement learning from human feedback]

{{Modèle:101}}
[[Catégorie:Intelligence artificielle]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

Apprentissage par renforcement avec rétroaction humaine

2026-08-04T19:04:38Z

Claude COULOMBE :

== Définition ==
En [[apprentissage automatique]], l'apprentissage par renforcement avec rétroaction humaine (ARRH) est une technique d'amélioration des performances d'un [[agent]] à partir de rétroactions humaines.

On commence par entraîner un [[modèle de récompense]] sur des résultats annotés par des rétroactions humaines. Ensuite, on utilise ce modèle comme fonction de récompense pour améliorer la [[politique d'action|politique]] d'un agent à l'aide de l'[[apprentissage par renforcement]] grâce à un [[algorithme d'optimisation]].

==Compléments==
Ce type d'apprentissage est utilisé dans les jeux [[AlphaGo]] et les [[Robot conversationnel génératif|robots conversationnels génératifs]] ou [[générateurs automatique de textes]] basés sur les [[grand modèle de langues|grands modèles de langues]].
<hr/>
Le [[Modèle de récompense|modèle de récompense]] est pré-entraîné pour que la politique soit optimisée afin de prédire si une sortie est bonne (récompense élevée) ou mauvaise (récompense faible ou pénalité).
<hr/>
Cependant, le ARRH est une procédure complexe et souvent instable, qui consiste d'abord à adapter un modèle de récompense qui reflète les préférences humaines, puis à affiner le grand modèle de langue non supervisé à l'aide de l'apprentissage par renforcement pour maximiser cette récompense estimée sans trop s'éloigner du modèle d'origine.
== Français ==

'''apprentissage par renforcement avec rétroaction humaine'''

'''apprentissage par renforcement à partir de rétroaction humaine'''

'''apprentissage par renforcement à partir de retours humains'''

'''apprentissage par renforcement avec retour humain'''

'''apprentissage par renforcement et rétroaction humaine'''

'''apprentissage par renforcement à partir de la rétroaction humaine'''

'''ARRH'''

'''apprentissage par renforcement basée sur la rétroaction humaine'''

'''ARBRH'''

'''apprentissage par renforcement avec retour d'information humain'''


== Anglais ==
'''reinforcement learning from human feedback'''

'''RLHF'''

'''reinforcement learning from human preferences'''

In reinforcement learning, the algorithm learns a behavior from repeated experiments, so as to optimize the rewards received over time. Like unsupervised learning, reinforcement learning does not require labeled data.
Typically, an intelligent agent, immersed in an environment, makes a decision or performs an action based on its current state and observation of its environment.

In return for the agent's action, the environment provides the agent with a reward or punishment.

Reinforcement learning can be seen as a game of trial and error, the aim of which is to determine which actions will maximize an intelligent agent's gains. In this way, it will develop optimal behavior, known as strategy or policy.


==Español==
[[Catégorie:es]]

'''''aprendizaje por refuerzo a partir de la retroalimentación humana'''''

''En el ámbito del aprendizaje automático, el aprendizaje por refuerzo de la retroalimentación humana es una técnica para mejorar el rendimiento de un agente utilizando la retroalimentación humana.''

''Se empieza por entrenar un modelo de recompensa a partir de resultados anotados con comentarios humanos. A continuación, este modelo se utiliza como función de recompensa para mejorar la política de un agente mediante el aprendizaje por refuerzo con un algoritmo de optimización.''

==Sources==

[https://fr.wikipedia.org/wiki/Apprentissage_par_renforcement_%C3%A0_partir_de_r%C3%A9troaction_humaine Wikipedia - apprentissage par renforcement à partir de rétroaction humaine]

[https://www.journaldunet.com/solutions/dsi/1518637-chatgpt-l-intelligence-artificielle-peut-elle-tenir-ses-promesses/ Journal du Net]

[https://www.obvia.ca/sites/obvia.ca/files/ressources/202501-OBV-Out-Glossaire_Obvia.pdf Glossaire de l'Obvia - apprentissage par renforcement à partir de retours humains]

[https://huyenchip.com/2023/05/02/rlhf.html huyenchip]

[https://crfm.stanford.edu/2023/05/22/alpaca-farm.html Stanford]

[https://en.wikipedia.org/wiki/Reinforcement_learning_from_human_feedback Wikipedia - reinforcement learning from human feedback]

{{Modèle:101}}
[[Catégorie:Intelligence artificielle]]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

Attaque par distillation

2026-08-04T19:00:26Z

Claude COULOMBE :

== Définition ==
L'attaque par [[Distillation de modèles|distillation]] est une pratique où un modèle d'IA puissant ([[modèle enseignant]]) est exploité pour en entraîner un nouveau modèle, plus petit et moins cher ([[modèle étudiant]]), en copiant ses réponses à un ensemble requêtes.

== Compléments ==
Un très grand nombres de requêtes sont utilisées pour générer un jeu de données basé principalement sur les [[chaîne de résolution|chaînes de résolution]] (COT). Ces données plus riches facilitent l'apprentissage de la distribution de probabilité du [[modèle enseignant]].

== Français ==
'''attaque par distillation'''

'''vol d'IA par distillation'''

'''piratage par distillation'''

== Anglais ==
'''distillation attack'''

A distillation attack (or model extraction attack) is a form of artificial intelligence (AI) intellectual property theft. An adversary systematically prompts an expensive, highly capable "teacher" model via its API to harvest its responses. They then use this collected data to train a smaller, cheaper "student" model to perfectly mimic the advanced system.

==Sources==
[https://www.usine-digitale.fr/cybersecurite/cybersecurite-pourquoi-les-attaques-par-distillation-qui-visent-a-copier-des-modeles-dia-deviennent-un-enjeu-pour-les-entreprises.C67RUJ64TZFUVNH4UGAKEPYHZQ.html L'usine digitale - attaque par distillation]

[https://www.ledevoir.com/economie/techno/958530/anthropic-accuse-deepseek-piller-modeles-ia-construire-siens. Le Devoir - distillation]

[https://hyper.ai/fr/stories/5b29229d84a2ed48b0ac6517333e1b82 HyperAI - vol d'IA par distillation]

[https://www.mindstudio.ai/blog/ai-model-distillation-attacks-explained Mind Studio - distillation attack]

[[Catégorie:Publication]]

Chaîne de résolution

2026-08-04T18:42:12Z

Claude COULOMBE :

== Définition ==
Processus de réalisation d'une tâche, typiquement de résolution de problèmes, qui consiste à décomposer un problème en ses différentes étapes sous la forme d'une chaîne d'étapes.

== Compléments ==
Nous recommandons « résolution » plutôt que « raisonnement », « pensée » ou « réflexion » pour éviter l'anthropomorphisme.

La question de savoir si les [[grand modèle de langues|grands modèles de langue]] raisonnent ''vraiment'' est une question chaudement débattue dans la communauté de l'IA.
<hr/>
Puisque l'on désigne le processus plutôt que le résultat, le terme « chaine de résolution » est préférable préférable à « résolution en chaîne ».
<hr/>
On peut, par exemple, demander à un [[robot conversationnel génératif]] d'expliquer les différentes étapes de la résolution d'un problème.

Voici un exemple:

'''QUESTION''' : Linda a 5 pommes. Elle achète deux autres sacs de pommes au marché. Chaque sac contient 3 pommes. Combien de pommes Linda a-t-elle maintenant ? Procède étape par étape.

'''RÉPONSE''' : Linda avait initialement 5 pommes. Elle achète deux sacs de pommes, et chaque sac contient 3 pommes. Donc, elle a acheté 2 sacs x 3 pommes/sac = 6 pommes. En ajoutant les 6 pommes aux 5 qu'il avait déjà, Linda a maintenant 5 + 6 = 11 pommes.
<hr/>
Il existe un équivalent en [[intelligence artificielle symbolique]] qui consiste à décomposer un problème en sous-problèmes.

== Français ==

'''chaîne de résolution'''

'''trace de résolution'''

'''chaîne de pensée''' ''calque de l'anglais''

'''chaîne de raisonnement'''

'''résolution en chaîne'''

'''résolution par étapes'''

'''décomposition par étapes'''

== Anglais ==
'''chain-of-thought'''

'''chain-of-thoughts'''

'''chain of thought'''

'''chain of thoughts'''

'''CoT'''

==Sources==

[https://www.ibm.com/think/topics/chain-of-thoughts IBM, ''What is chain of thoughts (CoT)?'']

[https://arxiv.org/html/2409.12183v1 arXiv - Sprague et al. 2024, ''To CoT or not to CoT? Chain-of-thought helps mainly on math and symbolic reasoning'']

[https://www.linkedin.com/posts/dlemire_lia-g%C3%A9n%C3%A9rative-devient-vraiment-bon-march%C3%A9-activity-7289356708877881344-9rZb Discussion sur LinkedIn - Daniel Lemire professeur / chercheur à la TÉLUQ]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]

Distillation de modèles

2026-08-04T18:25:37Z

Claude COULOMBE :

== Définition ==
La distillation de modèles aussi appelée distillation de connaissances est le processus qui permet de transférer les connaissances d'un grand [[modèle d'apprentissage]] à un modèle plus petit sans perte de validité et en conservant la précision lors de la compression du modèle.

== Compléments ==
Cette technique permet d’utiliser un [[Modèle enseignant|modèle enseignant]] volumineux et coûteux pour entraîner un [[Modèle étudiant|modèle étudiant]] « étudiant » plus petit et à moindre coût.
<hr/>
Beaucoup de commentaires et accusations concernant le lancement en 2025 des modèles [[DeepSeek]] et R1 par une entreprise chinoise portaient sur l'emploi de la technique de distillation. Or la distillation est une technique connue depuis une décennie et un outil largement utilisé par les entreprises technologiques comme [[DeepMind]] et [[OpenAI]] pour leurs propres modèles.
== Français ==

'''distillation de / des modèles'''

'''distillation de / des connaissances'''

== Anglais ==
'''model distillation'''

'''knowledge distillation'''



==Sources==
[https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/ Quanta magazine , How Distillation Makes AI Models Smaller and Cheaper]

[https://en.wikipedia.org/wiki/Knowledge_distillation#:~:text=In%20machine%20learning%2C%20knowledge%20distillation,might%20not%20be%20fully%20utilized. Wikipedia - distillation de modèles, distillation des connaissances]

[https://proceedings.neurips.cc/paper_files/paper/2017/hash/e1e32e235eee1f970470a3a6658dfdd5-Abstract.html NeurIPS Proceedings 2017 - Knowledge Distillation]
]

[https://paperswithcode.com/task/knowledge-distillation Paper with code - Knowledge Distillation]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Distillation de modèles

2026-08-04T18:24:50Z

Claude COULOMBE :

== Définition ==
La distillation de modèles aussi appelée distillation de connaissances est le processus qui permet de transférer les connaissances d'un grand [[modèle d'apprentissage]] à un modèle plus petit sans perte de validité et en conservant la précision lors de la compression du modèle.

== Compléments ==
Cette technique permet d’utiliser un [[modèle enseignant|Modèle enseignant]] volumineux et coûteux pour entraîner un [[modèle étudiant|Modèle étudiant]] « étudiant » plus petit et à moindre coût.
<hr/>
Beaucoup de commentaires et accusations concernant le lancement en 2025 des modèles [[DeepSeek]] et R1 par une entreprise chinoise portaient sur l'emploi de la technique de distillation. Or la distillation est une technique connue depuis une décennie et un outil largement utilisé par les entreprises technologiques comme [[DeepMind]] et [[OpenAI]] pour leurs propres modèles.
== Français ==

'''distillation de / des modèles'''

'''distillation de / des connaissances'''

== Anglais ==
'''model distillation'''

'''knowledge distillation'''



==Sources==
[https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/ Quanta magazine , How Distillation Makes AI Models Smaller and Cheaper]

[https://en.wikipedia.org/wiki/Knowledge_distillation#:~:text=In%20machine%20learning%2C%20knowledge%20distillation,might%20not%20be%20fully%20utilized. Wikipedia - distillation de modèles, distillation des connaissances]

[https://proceedings.neurips.cc/paper_files/paper/2017/hash/e1e32e235eee1f970470a3a6658dfdd5-Abstract.html NeurIPS Proceedings 2017 - Knowledge Distillation]
]

[https://paperswithcode.com/task/knowledge-distillation Paper with code - Knowledge Distillation]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Surconsommation de jetons textuels

2026-07-07T21:10:30Z

Claude COULOMBE :

==Définition==
Action de dépenser délibérément un maximum de [[jeton textuel|jetons textuels]] alloué à un [[Grand modèle de langues (GML)|grand modèle de langues (GLM)]].

== Compléments ==
La surconsommation de jetons est souvent le résultat de l'exécution de plusieurs agents dédiés à différents sous-tâches (typiquement de programmation) simultanément.

==Français==

'''surconsommation de jetons textuels'''

'''surconsommation de jetons'''

'''jetonbésité'''

'''jeton manie'''

'''maximisation de jetons'''

'''maximisation de jetons textuels'''

==Anglais==
'''tokenmaxxing'''

'''token maxxing'''

'''token maxing'''

==Sources==
[https://en.wikipedia.org/wiki/Token_maxxing Forbes - tokenmaxxing]

[https://en.wikipedia.org/wiki/Token_maxxing Wikipedia - token maxxing]

[https://www.lesaffaires.com/mon-entreprise/management-et-rh/tokenmaxxing-quand-lia-cree-de-nouvelles-inegalites-rh/ Les affaires]

[https://www.01net.com/actualites/comment-le-tokenmaxxing-transforme-lusage-de-lia-en-competition-chez-les-geants-de-la-tech.html 01net]

[[Categorie:Publication]]

Surconsommation de jetons textuels

2026-07-07T20:58:50Z

Claude COULOMBE :

==Définition==
Action de dépenser délibérément un maximum de [[jeton textuel|jetons textuels]] alloué à un [[Grand modèle de langues (GML)|grand modèle de langues (GLM)]].

== Compléments ==
La surconsommation de jetons est souvent le résultat de l'exécution de plusieurs agents dédiés à différents sous-tâches (typiquement de programmation) simultanément.

==Français==

'''surconsommation de jetons textuels'''

'''surconsommation de jetons'''

'''maximisation de jetons'''

'''maximisation de jetons textuels'''

==Anglais==
'''tokenmaxxing'''

'''token maxxing'''

'''token maxing'''

==Sources==
[https://en.wikipedia.org/wiki/Token_maxxing Forbes - tokenmaxxing]

[https://en.wikipedia.org/wiki/Token_maxxing Wikipedia - token maxxing]

[https://www.lesaffaires.com/mon-entreprise/management-et-rh/tokenmaxxing-quand-lia-cree-de-nouvelles-inegalites-rh/ Les affaires]

[https://www.01net.com/actualites/comment-le-tokenmaxxing-transforme-lusage-de-lia-en-competition-chez-les-geants-de-la-tech.html 01net]

[[Categorie:Publication]]

Tokenmaxxing

2026-07-07T20:58:16Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Tokenmaxxing vers Surconsommation de jetons textuels

#REDIRECTION [[Surconsommation de jetons textuels]]

Surconsommation de jetons textuels

2026-07-07T20:58:16Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Tokenmaxxing vers Surconsommation de jetons textuels

==Définition==
Action de dépenser délibérément un maximum de [[jeton textuel|jetons textuels]] alloué à un [[Grand modèle de langues (GML)|grand modèle de langues (GLM)]].

== Compléments ==
La surconsommation de jetons est souvent le résultat de l'exécution de plusieurs agents dédiés à différents sous-tâches (typiquement de programmation) simultanément.

==Français==
'''surconsommation de jetons'''

'''surconsommation de jetons textuels'''

'''maximisation de jetons'''

'''maximisation de jetons textuels'''

==Anglais==
'''tokenmaxxing'''

'''token maxxing'''

'''token maxing'''

==Sources==
[https://en.wikipedia.org/wiki/Token_maxxing Forbes - tokenmaxxing]

[https://en.wikipedia.org/wiki/Token_maxxing Wikipedia - token maxxing]

[https://www.lesaffaires.com/mon-entreprise/management-et-rh/tokenmaxxing-quand-lia-cree-de-nouvelles-inegalites-rh/ Les affaires]

[https://www.01net.com/actualites/comment-le-tokenmaxxing-transforme-lusage-de-lia-en-competition-chez-les-geants-de-la-tech.html 01net]

[[Categorie:Publication]]

Échantillonnage à troncature de masse p

2026-07-05T08:37:04Z

Claude COULOMBE :

== Définition ==
Stratégie d'échantillonnage où un modèle génère une distribution de probabilité pour tous les éléments possibles d'un ensemble. On ne conserve que les éléments les plus probables dont la somme des probabilités atteint un seuil ''p'' défini (la ''masse de probabilité'') également appelée ''noyau''.

Les probabilités de ces éléments sont alors normalisées pour que leur somme soit égale à 1 avant le tirage aléatoire.

Voir aussi '''[[échantillonnage à troncature k fixe]]'''

== Compléments ==
Cette stratégie d'échantillonnage est utilisée par les [[grand modèle de langues|grands modèles de langues]] pour choisir aléatoirement un [[jeton textuel]] parmi un ensemble de [[jeton textuel|jetons textuels]].

Alors que l'[[échantillonnage à troncature k fixe]] limite l'échantillon à un nombre ''k'' fixe de mots, l'échantillonnage à troncature de masse p spécifie une probabilité cumulée ''p'' entre 0 et 1 et on échantillonne parmi un nombre variable de [[jeton textuel|jetons textuels]] dont la somme des probabilités atteint ou dépasse p.

En pratique, l'échantillonnage à troncature de masse p est préféré à l'[[échantillonnage à troncature k fixe]] car il est plus adaptatif.

Notez qu'il est généralement recommandé de spécifier soit la '''[[température]]''', soit le paramètre ''p'', mais pas les deux.

== Français ==
'''Échantillonnage à troncature de masse p'''

'''Échantillonnage du noyau'''

'''Échantillonnage nucléaire'''

'''Échantillonnage par troncature dynamique'''

'''Échantillonnage par seuil de probabilité cumulée'''

'''Échantillonnage top-p'''

== Anglais ==
'''Top-p sampling'''

'''Nucleus sampling'''

''Stochastic decoding strategy for generating sequences form autoregressive probabilistic models that introduces randomness while maintaining quality. The choice of p can significantly influence the generated text. Its core idea is to sample from a smaller, more credible set of tokens at each step (called the nucleus). It is useful when you want more adaptative and context-sensitive text generation. ''

''In practice, top-p sampling is often preferred over top-k because it’s adaptive. It is generally recommended to specify either the temperature or the top_p parameter, but not both.''

== Sources ==
[https://medium.com/thinking-sand/the-top-k-and-top-p-parameters-explained-bfaecc8cd342 Medium - Top-k sampling, Top-p sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling#Top-k_sampling Wikipedia - Top-k sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling Wikipedia - Top-p sampling]

[[Catégorie:Intelligence artificielle]]

{{DEFAULTSORT: echantillonnage des p}}

Nucleus sampling

2026-07-05T08:34:15Z

Claude COULOMBE : Destination de redirection modifiée de Échantillonnage des p-meilleurs en Échantillonnage à troncature de masse p

#REDIRECTION [[Échantillonnage à troncature de masse p]]

Échantillonnage à troncature de masse p

2026-07-05T08:31:51Z

Claude COULOMBE :

== Définition ==
Stratégie d'échantillonnage où un modèle génère une distribution de probabilité pour tous les éléments possibles d'un ensemble. On ne conserve que les éléments les plus probables dont la somme des probabilités atteint un seuil ''p'' défini (la ''masse de probabilité'') également appelée ''noyau''.

Les probabilités de ces éléments sont alors normalisées pour que leur somme soit égale à 1 avant le tirage aléatoire.

Voir aussi '''[[échantillonnage à troncature k fixe]]'''

== Compléments ==
Cette stratégie d'échantillonnage est utilisée par les [[grand modèle de langues|grands modèles de langues]] pour choisir aléatoirement un [[jeton textuel]] parmi un ensemble de [[jeton textuel|jetons textuels]].

Alors que l'[[échantillonnage à troncature k fixe]] limite l'échantillon à un nombre ''k'' fixe de mots, l'échantillonnage à troncature de masse p spécifie une probabilité cumulée ''p'' entre 0 et 1 et on échantillonne parmi un nombre variable de [[jeton textuel|jetons textuels]] dont la somme des probabilités atteint ou dépasse p.

En pratique, l'échantillonnage à troncature de masse p est préféré à l'[[échantillonnage à troncature k fixe]] car il est plus adaptatif.

Notez qu'il est généralement recommandé de spécifier soit la '''[[température]]''', soit le paramètre ''p'', mais pas les deux.

== Français ==
'''Échantillonnage à troncature de masse p'''

'''Échantillonnage du noyau'''

'''Échantillonnage par troncature dynamique'''

'''Échantillonnage par seuil de probabilité cumulée'''

'''Échantillonnage top-p'''

== Anglais ==
'''Top-p sampling'''

'''Nucleus sampling'''

''Stochastic decoding strategy for generating sequences form autoregressive probabilistic models that introduces randomness while maintaining quality. The choice of p can significantly influence the generated text. Its core idea is to sample from a smaller, more credible set of tokens at each step (called the nucleus). It is useful when you want more adaptative and context-sensitive text generation. ''

''In practice, top-p sampling is often preferred over top-k because it’s adaptive. It is generally recommended to specify either the temperature or the top_p parameter, but not both.''

== Sources ==
[https://medium.com/thinking-sand/the-top-k-and-top-p-parameters-explained-bfaecc8cd342 Medium - Top-k sampling, Top-p sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling#Top-k_sampling Wikipedia - Top-k sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling Wikipedia - Top-p sampling]

[[Catégorie:Intelligence artificielle]]

{{DEFAULTSORT: echantillonnage des p}}

Échantillonnage à troncature de masse p

2026-07-05T08:17:03Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Échantillonnage des p-meilleurs vers Échantillonnage à troncature de masse p par-dessus une redirection

== Définition ==
Stratégie d'échantillonnage où un modèle génère une distribution de probabilité pour tous les éléments possibles d'un ensemble. On ne conserve que les éléments les plus probables dont la somme des probabilités atteint un seuil ''p'' défini (la ''masse de probabilité'') également appelée ''noyau''.

Les probabilités de ces éléments sont alors normalisées pour que leur somme soit égale à 1 avant le tirage aléatoire.

Voir aussi '''[[échantillonnage à troncature k fixe]]'''

== Compléments ==
Cette stratégie d'échantillonnage est utilisée par les [[grand modèle de langues|grands modèles de langues]] pour choisir aléatoirement un [[jeton textuel]] parmi un ensemble de [[jeton textuel|jetons textuels]].

Alors que l'[[échantillonnage à troncature k fixe]] limite l'échantillon à un nombre ''k'' fixe de mots, l'échantillonnage à troncature de masse p spécifie une probabilité cumulée ''p'' entre 0 et 1 et on échantillonne parmi un nombre variable de [[jeton textuel|jetons textuels]] dont la somme des probabilités atteint ou dépasse p.

En pratique, l'échantillonnage à troncature de masse p est préféré à l'[[échantillonnage à troncature k fixe]] car il est plus adaptatif.

Notez qu'il est généralement recommandé de spécifier soit la '''[[température]]''', soit le paramètre ''p'', mais pas les deux.

== Français ==
'''Échantillonnage des p-meilleurs'''

'''Échantillonnage à troncature de masse p'''

'''Échantillonnage du noyau'''

'''Échantillonnage par troncature dynamique'''

'''Échantillonnage par seuil de probabilité cumulée'''

'''Échantillonnage top-p'''

== Anglais ==
'''Top-p sampling'''

'''Nucleus sampling'''

''Stochastic decoding strategy for generating sequences form autoregressive probabilistic models that introduces randomness while maintaining quality. The choice of p can significantly influence the generated text. Its core idea is to sample from a smaller, more credible set of tokens at each step (called the nucleus). It is useful when you want more adaptative and context-sensitive text generation. ''

''In practice, top-p sampling is often preferred over top-k because it’s adaptive. It is generally recommended to specify either the temperature or the top_p parameter, but not both.''

== Sources ==
[https://medium.com/thinking-sand/the-top-k-and-top-p-parameters-explained-bfaecc8cd342 Medium - Top-k sampling, Top-p sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling#Top-k_sampling Wikipedia - Top-k sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling Wikipedia - Top-p sampling]

[[Catégorie:Intelligence artificielle]]

{{DEFAULTSORT: echantillonnage des p}}

Modèle autorégressif

2026-07-02T06:10:36Z

Claude COULOMBE :

== Définition ==
Un modèle autorégressif prédit le comportement futur sur la base du comportement passé. Il est utilisé pour la prévision lorsqu'il existe une certaine [[corrélation]] entre les valeurs d'une [[série chronologique]] et les valeurs qui les précèdent et les suivent.

Autrement dit, dans un modèle autorégressif, la prochaine valeur se base sur les valeurs précédentes et ces valeurs sont réinjectées dans le modèle pour prédire la valeur suivante.

== Compléments ==

En [[traitement automatique de la langue naturelle]], les modèles autorégressifs sont à la base du fonctionnement des [[agent conversationnel|agents conversationnels]] comme [[ChatGPT]] qui utilisent des [[grand modèle de langues|grands modèles de langues]].

Les modèles autorégressifs sont également utilisés pour générer des images en considérant une image comme une séquence de pixels.

== Français ==
'''modèle autorégressif'''

== Anglais ==
'''autoregressive model'''

'''AR model'''

'''all-pole model'''

==Sources==

[https://www.isi-web.org/glossary?language=2 Source : ISI Glossaire ]

[https://isi.cbs.nl/glossary/term204.htm Source : ISI ]

[https://www.statisticshowto.com/autoregressive-model/ Source : Statistics How To ]

[http://gdt.oqlf.gouv.qc.ca/ficheOqlf.aspx?Id_Fiche=10426575 Source : Le grand dictionnaire terminologique ]

{{Modèle:Statistiques}}

[[Catégorie:Statistiques]]

PPO

2026-06-27T19:54:36Z

Claude COULOMBE : Destination de redirection modifiée de Optimisation de la politique proximale en Optimisation de politique proximale

#REDIRECTION[[Optimisation de politique proximale]]

[[Catégorie:ENGLISH]]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Puits d'attention

2026-06-09T19:50:40Z

Claude COULOMBE :

== Définition ==
Phénomène d'effondrement ou perte [[mécanisme d'attention|d'attention]] présent dans tous les '''[[Grand modèle de langues (GML)| grands modèles de langues]]''', dans lesquels les premiers [[jeton textuel|jetons textuels]] représentent une part extrêmement importante du score d'attention, même s'ils ne sont pas importants sur le plan sémantique.

== Compléments ==
Ce terme peut désigner le phénomène ou le type de '''[[jeton textuel]]''' concerné par le phénomène.

Le phénomène apparaît à la suite d'une optimisation efficace sur une grande quantité de '''[[données d'entraînement]]'''.

La raison pour laquelle les [[jeton textuel|jetons textuels]] initiaux sont considérés comme des « jetons puits » est intuitive : ils sont visibles par presque tous les [[jeton textuel|jetons]] suivants en raison de la nature autorégressive du modèle, ce qui les rend plus aptes à servir de « puits d'attention ».

== Français ==
''' puits d'attention'''

== Anglais ==
''' attention sink'''

''This term can refer to the phenomenon or to the type of token concerned by the phenomenon. This phenomenon is present in all autoregressive large language models, in which the first few tokens make up for a shockingly large amount of the attention score, even if the tokens are not semantically important. It emerges after effective optimization on sufficient training data. ''

''The reason behind initial tokens as “sink tokens” is intuitive: initial tokens are visible to almost all subsequent tokens because of the autoregressive language modeling nature, making them more readily trained to serve as “attention sinks”.''

''This phenomenon has been widely adopted in applications such as streaming/long context generation, KV cache optimization, inference acceleration, model quantization, and others.''

== Sources ==
[https://arxiv.org/abs/2309.17453 Source : arxiv]

[https://arxiv.org/abs/2410.10781 Source : arxiv]

[https://huggingface.co/blog/tomaarsen/attention-sinks Source : Hugging Face Blog]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:Publication]]

Puits d'attention

2026-06-09T19:49:55Z

Claude COULOMBE :

== Définition ==
Phénomène d'effondrement ou perte [[mécanisme d'attention|d'attention]] présent dans tous les '''[[Grand modèle de langues (GML)| grands modèles de langues]]''', dans lesquels les premiers [[jeton textuel|jetons textuels]] représentent une part extrêmement importante du score d'attention, même s'ils ne sont pas importants sur le plan sémantique.

== Compléments ==
Ce terme peut désigner le phénomène ou le type de '''[[jeton textuel]]''' concerné par le phénomène.

Le phénomène apparaît à la suite d'une optimisation efficace sur une quantité suffisante de '''[[données d'entraînement]]'''.

La raison pour laquelle les [[jeton textuel|jetons textuels]] initiaux sont considérés comme des « jetons puits » est intuitive : ils sont visibles par presque tous les [[jeton textuel|jetons]] suivants en raison de la nature autorégressive du modèle, ce qui les rend plus aptes à servir de « puits d'attention ».

== Français ==
''' puits d'attention'''

== Anglais ==
''' attention sink'''

''This term can refer to the phenomenon or to the type of token concerned by the phenomenon. This phenomenon is present in all autoregressive large language models, in which the first few tokens make up for a shockingly large amount of the attention score, even if the tokens are not semantically important. It emerges after effective optimization on sufficient training data. ''

''The reason behind initial tokens as “sink tokens” is intuitive: initial tokens are visible to almost all subsequent tokens because of the autoregressive language modeling nature, making them more readily trained to serve as “attention sinks”.''

''This phenomenon has been widely adopted in applications such as streaming/long context generation, KV cache optimization, inference acceleration, model quantization, and others.''

== Sources ==
[https://arxiv.org/abs/2309.17453 Source : arxiv]

[https://arxiv.org/abs/2410.10781 Source : arxiv]

[https://huggingface.co/blog/tomaarsen/attention-sinks Source : Hugging Face Blog]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:Publication]]

Puits d'attention

2026-06-09T19:49:08Z

Claude COULOMBE :

== Définition ==
Phénomène d'effondrement / perte du [[mécanisme d'attention]] présent dans tous les '''[[Grand modèle de langues (GML)| grands modèles de langues]]''', dans lesquels les premiers [[jeton textuel|jetons textuels]] représentent une part extrêmement importante du score d'attention, même s'ils ne sont pas importants sur le plan sémantique.

== Compléments ==
Ce terme peut désigner le phénomène ou le type de '''[[jeton textuel]]''' concerné par le phénomène.

Le phénomène apparaît à la suite d'une optimisation efficace sur une quantité suffisante de '''[[données d'entraînement]]'''.

La raison pour laquelle les [[jeton textuel|jetons textuels]] initiaux sont considérés comme des « jetons puits » est intuitive : ils sont visibles par presque tous les [[jeton textuel|jetons]] suivants en raison de la nature autorégressive du modèle, ce qui les rend plus aptes à servir de « puits d'attention ».

== Français ==
''' puits d'attention'''

== Anglais ==
''' attention sink'''

''This term can refer to the phenomenon or to the type of token concerned by the phenomenon. This phenomenon is present in all autoregressive large language models, in which the first few tokens make up for a shockingly large amount of the attention score, even if the tokens are not semantically important. It emerges after effective optimization on sufficient training data. ''

''The reason behind initial tokens as “sink tokens” is intuitive: initial tokens are visible to almost all subsequent tokens because of the autoregressive language modeling nature, making them more readily trained to serve as “attention sinks”.''

''This phenomenon has been widely adopted in applications such as streaming/long context generation, KV cache optimization, inference acceleration, model quantization, and others.''

== Sources ==
[https://arxiv.org/abs/2309.17453 Source : arxiv]

[https://arxiv.org/abs/2410.10781 Source : arxiv]

[https://huggingface.co/blog/tomaarsen/attention-sinks Source : Hugging Face Blog]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:Publication]]

Puits d'attention

2026-06-09T19:48:25Z

Claude COULOMBE :

== Définition ==
Phénomène d'effondrement / perte du [[mécanisme d'attention]] présent dans tous les '''[[Grand modèle de langues (GML)| grands modèles de langues]]''' ', dans lesquels les premiers [[jeton textuel|jetons textuels]] représentent une part extrêmement importante du score d'attention, même s'ils ne sont pas importants sur le plan sémantique.

== Compléments ==
Ce terme peut désigner le phénomène ou le type de '''[[jeton textuel]]''' concerné par le phénomène.

Le phénomène apparaît à la suite d'une optimisation efficace sur une quantité suffisante de '''[[données d'entraînement]]'''.

La raison pour laquelle les [[jeton textuel|jetons textuels]] initiaux sont considérés comme des « jetons puits » est intuitive : ils sont visibles par presque tous les [[jeton textuel|jetons]] suivants en raison de la nature autorégressive du modèle, ce qui les rend plus aptes à servir de « puits d'attention ».

== Français ==
''' puits d'attention'''

== Anglais ==
''' attention sink'''

''This term can refer to the phenomenon or to the type of token concerned by the phenomenon. This phenomenon is present in all autoregressive large language models, in which the first few tokens make up for a shockingly large amount of the attention score, even if the tokens are not semantically important. It emerges after effective optimization on sufficient training data. ''

''The reason behind initial tokens as “sink tokens” is intuitive: initial tokens are visible to almost all subsequent tokens because of the autoregressive language modeling nature, making them more readily trained to serve as “attention sinks”.''

''This phenomenon has been widely adopted in applications such as streaming/long context generation, KV cache optimization, inference acceleration, model quantization, and others.''

== Sources ==
[https://arxiv.org/abs/2309.17453 Source : arxiv]

[https://arxiv.org/abs/2410.10781 Source : arxiv]

[https://huggingface.co/blog/tomaarsen/attention-sinks Source : Hugging Face Blog]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:Publication]]

Jeton textuel

2026-06-09T19:17:10Z

Claude COULOMBE :

==Définition==
En '''[[traitement automatique de la langue naturelle]]''', le jeton est l'unité de base pour l'analyse de textes produite par un '''[[segmenteur]]''' (en anglais ''tokenizer'').

En [[IA générative]], le jeton textuel (token) est l'unité de base pour mesure le travail d'un [[robot conversationnel génératif]].

==Compléments==
Un jeton textuel peut correspondre à un mot, à une partie de mot, une suite de caractères ou même parfois à une seule lettre ou symbole.

Traditionnellement, en '''[[Traitement automatique de la langue naturelle|TALN]]''', les algorithmes travaillaient au niveau du mot ou des unités lexicales, mais depuis l'arrivée des techniques d'apprentissage profond, la segmentation s'effectue plutôt au niveau sous-lexical. Un atout important du traitement sous-lexical est d'éviter les mots ''hors-vocabulaire'', puisqu'on peut plus facilement créer de nouvelles unités lexicales à partir d'éléments sous-lexicaux.

<hr/>
Attention, on appelle les unités résultant de la segmentation des '''jetons''', mais le terme '''jeton''' est aussi utilisé en cybersécurité et dans les réseaux de communication.

<hr/>
Pour la suite du traitement, le jeton résultant est souvent converti en un nombre entier. On dit alors que le jeton est encodé. Le processus inverse, le décodage part de la représentation par un nombre entier vers un jeton.

==Français==
'''jeton textuel'''

'''jeton'''

'''segment textuel'''

'''segment de texte'''

'''symbole'''

'''unité sous-lexicale'''

'''unité lexicale'''

'''partie de mot'''

==Anglais==
'''token'''

==Sources==

[https://www.btb.termiumplus.gc.ca/tpv2alpha/alpha-fra.html?lang=fra&i=1&srchtxt=tokenizer&index=alt&codom2nd_wet=1#resultrecs ''Termium - Tokenizer'']

[https://www.culture.gouv.fr/content/download/365680/pdf_file/50_termes_cl%C3%A9s_de_l%27IA-2025.pdf?inLanguage=fre-FR&version=2 ''50 termes clés de l'intelligence artificielle'', Ministère de la culture, Commission d'enrichissement de la langue française (2025). - Jeton textuel]

[https://fr.wikipedia.org/wiki/Analyse_lexicale Wikipedia - ''Analyse lexicale'']

[https://www.sciencedirect.com/science/article/pii/S0167865518303271 ''A unified multilingual handwriting recognition system using multigrams sub-lexical units'', Swaileh et al. 2019]

[https://link.springer.com/chapter/10.1007/978-3-319-77113-7_1, ''Overview of Character-Based Models for Natural Language Processing'', Adel et al. 2018]

[https://en.wikipedia.org/wiki/Lexical_analysis Wikipedia - Lexical Analysis]

[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

COMET

2026-06-09T19:10:01Z

Claude COULOMBE :

== Définition ==
Métrique d'évaluation neuronale de '''[[traduction automatique]]''' qui calcule la similarité entre une traduction automatique et une traduction de référence à l'aide de '''[[jeton textuel|jetons textuels]]''' et un entraînement sur des données humaines comme '''[[BLEURT]]'''. Elle intègre aussi le texte source dans son analyse ce qui lui permet d'évaluer la fidélité du sens original.

== Compléments ==
Contrairement à '''[[BERTScore]]''', COMET est entraîné à prédire différents types de jugements humains sous forme d'effort de post-édition, d'évaluation directe ou d'analyse des erreurs de traduction.

== Français ==
'''COMET'''

== Anglais ==
'''COMET'''

'''Crosslingual Optimized Metric for Evaluation of Translation'''

''A metric for automatic evaluation of machine translation that calculates the similarity between a machine translation output and a reference translation using token or sentence embeddings. It also uses the original text, enabling a semantic fidelity analysis of the translation.''

''Unlike BERTScore, COMET is trained on predicting different types of human judgements in the form of post-editing effort, direct assessment or translation error analysis.''

== Sources ==
[https://aclanthology.org/2020.emnlp-main.213/ Source : ACL Anthology]

[https://unbabel.github.io/COMET/html/models.html Source : COMET]

[https://machinetranslate.org/comet Source : Machine Translate]
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]

Échantillonnage à troncature de masse p

2026-06-09T19:08:53Z

Claude COULOMBE :

== Définition ==
Stratégie d'échantillonnage où un modèle génère une distribution de probabilité pour tous les éléments possibles d'un ensemble. On ne conserve que les éléments les plus probables dont la somme des probabilités atteint un seuil ''p'' défini (la ''masse de probabilité'') également appelée ''noyau''.

Les probabilités de ces éléments sont alors normalisées pour que leur somme soit égale à 1 avant le tirage aléatoire.

Voir aussi '''[[échantillonnage à troncature k fixe]]'''

== Compléments ==
Cette stratégie d'échantillonnage est utilisée par les [[grand modèle de langues|grands modèles de langues]] pour choisir aléatoirement un [[jeton textuel]] parmi un ensemble de [[jeton textuel|jetons textuels]].

Alors que l'[[échantillonnage à troncature k fixe]] limite l'échantillon à un nombre ''k'' fixe de mots, l'échantillonnage à troncature de masse p spécifie une probabilité cumulée ''p'' entre 0 et 1 et on échantillonne parmi un nombre variable de [[jeton textuel|jetons textuels]] dont la somme des probabilités atteint ou dépasse p.

En pratique, l'échantillonnage à troncature de masse p est préféré à l'[[échantillonnage à troncature k fixe]] car il est plus adaptatif.

Notez qu'il est généralement recommandé de spécifier soit la '''[[température]]''', soit le paramètre ''p'', mais pas les deux.

== Français ==
'''Échantillonnage des p-meilleurs'''

'''Échantillonnage à troncature de masse p'''

'''Échantillonnage du noyau'''

'''Échantillonnage par troncature dynamique'''

'''Échantillonnage par seuil de probabilité cumulée'''

'''Échantillonnage top-p'''

== Anglais ==
'''Top-p sampling'''

'''Nucleus sampling'''

''Stochastic decoding strategy for generating sequences form autoregressive probabilistic models that introduces randomness while maintaining quality. The choice of p can significantly influence the generated text. Its core idea is to sample from a smaller, more credible set of tokens at each step (called the nucleus). It is useful when you want more adaptative and context-sensitive text generation. ''

''In practice, top-p sampling is often preferred over top-k because it’s adaptive. It is generally recommended to specify either the temperature or the top_p parameter, but not both.''

== Sources ==
[https://medium.com/thinking-sand/the-top-k-and-top-p-parameters-explained-bfaecc8cd342 Medium - Top-k sampling, Top-p sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling#Top-k_sampling Wikipedia - Top-k sampling]

[https://en.wikipedia.org/wiki/Top-p_sampling Wikipedia - Top-p sampling]

[[Catégorie:Intelligence artificielle]]

{{DEFAULTSORT: echantillonnage des p}}

Multi-Token Projection

2026-06-09T19:05:36Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Multi-Token Projection vers Projection multijetons

#REDIRECTION [[Projection multijetons]]

Projection multijetons

2026-06-09T19:05:35Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Multi-Token Projection vers Projection multijetons

== en construction ==

== Définition ==
Technique qui permet au modèle de prédire plusieurs '''[[Jeton textuel|jetons textuels]]''' en un seul passage. Elle permet aussi de planifier et de générer stratégiquement des représentations qui facilitent une prédiction plus précise et potentiellement plus rapide des futurs jetons textuels. Elle est utilisée dans les modèles '''[[DeepSeek]]''' et fonctionne en ajoutant des modules spécialisés qui prédisent non seulement le jeton textuel de base, mais aussi plusieurs jetons textuels à venir dans la séquence.

== Compléments ==
Cette technique est utilisée entre autres par '''[[ChatGPT]]'''-4, '''[[Claude]]''' 3, '''[[LLaMA]]''' 3, '''[[BERT]]'''.
<hr/>
Les applications de la projection de jetons textuels multiple sont nombreuses. On la retrouve dans les '''[[Robot conversationnel|robots conversationnels]]''', les '''[[Assistant virtuel|assistants virtuels]]''' ainsi qu'en '''[[traduction automatique neuronale]]'''.
<hr/>
Cette technique se repose aussi sur de nombreuses avancées clés, telles que les '''[[Réseau autoattentif|réseaux autoattentifs]]''', les '''[[Modèle autorégressif|modèles autorégressifs]]''', les '''modèles bidirectionnels''', le '''[[peaufinage]]''' et l''''[[apprentissage par renforcement avec rétroaction humaine]]'''.

== Français ==
'''projection multijetons'''

'''projection multi-jetons'''

== Anglais ==
''' Multi-Token Projection'''

''' Multiple-Token Projection'''

''' MTP'''


== Sources ==
[https://arxiv.org/html/2505.07608v1 Source : arxiv]

[https://datascientest.com/multi-token-prediction-tout-savoir Source : DataScientest]

[https://deepwiki.com/deepseek-ai/DeepSeek-V3/3.4-multi-token-prediction-(mtp) Source : DeepWiki]

[https://medium.com/data-science-collective/deepseek-explained-4-multi-token-prediction-33f11fe2b868 Source : Medium]

[[Catégorie:vocabulary]]

Projection multijetons

2026-06-09T19:05:10Z

Claude COULOMBE :

MiMo

2026-06-09T18:53:44Z

Claude COULOMBE :

== Définition ==
'''[[Grand modèle de langues]]''' pour les tâches de raisonnement qui peut être optimisé à la fois lors des étapes de '''[[préentraînement]]''' et de post-entraînement. Mimo-7B-Base est pré-entraîné sur 25 trillions de '''[[jeton textuel|jetons textuels (segments)]]''' et intègre la prédiction de jetons multiples en tant qu'objectif d'entraînement supplémentaire, ce qui améliore les performances du modèle et accélère l''''[[inférence]]'''.

Voir aussi '''[[OpenAI]]'''

== Français ==
''' MiMo-7B'''

== Anglais ==
'''MiMo-7B'''


== Sources ==
[https://arxiv.org/html/2505.07608v1 Source : arxiv]

[[Catégorie:Intelligence artificielle‏‎]]
[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Insertion de jeton textuel

2026-06-09T18:48:54Z

Claude COULOMBE :

== Définition ==
Technique utilisée dans le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' qui est similaire au '''[[masquage de segment textuel]]''' où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul '''[[jeton textuel|jeton]]''' ou segment textuel.

== Français ==
''' insertion de segment textuel'''

== Anglais ==
''' text infilling'''

== Sources ==
[https://arxiv.org/abs/2405.12630 Source : arxiv]

[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub]

[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Text Infilling

2026-06-09T18:47:25Z

Claude COULOMBE : Destination de redirection modifiée de Insertion de segment textuel en Insertion de jeton textuel

#REDIRECTION [[Insertion de jeton textuel]]

Insertion de segment textuel

2026-06-09T18:46:38Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Insertion de segment textuel vers Insertion de jeton textuel

#REDIRECTION [[Insertion de jeton textuel]]

Insertion de jeton textuel

2026-06-09T18:46:37Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Insertion de segment textuel vers Insertion de jeton textuel

== Définition ==
Technique utilisée dans le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' qui est similaire au '''[[masquage de segment textuel]]''' où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul '''[[Segment textuel|segment]]'''.

== Français ==
''' insertion de segment textuel'''

== Anglais ==
''' text infilling'''

== Sources ==
[https://arxiv.org/abs/2405.12630 Source : arxiv]

[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub]

[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Masquage de jeton textuel

2026-06-09T18:45:45Z

Claude COULOMBE :

== Définition ==
Technique d''''[[apprentissage auto-supervisé]]''' pour le '''[[préentraînement]]''' d’un '''[[grand modèle de langues]]''' où les '''[[jeton textuel|jetons textuels]]''' ou segments textuels sont masqués de manière aléatoire par un symbole ou [masque], afin de prédire le jeton textuel masqué en fonction de son contexte.

Voir aussi '''[[segmentation]]''' et '''[[insertion de jeton textuel]]'''

== Compléments ==
Le masquage de jetons textuels est une stratégie appartenant à un groupe plus large de techniques de modification de textes (en anglais, ''text corruption'') pour l''''[[apprentissage auto-supervisé]]''' qui comprend la '''[[permutation de phrases]]''' (en anglais, ''sentence permutation''), la '''[[rotation de phrases]]''' (en anglais, ''document rotation''), l''''[[insertion de jeton textuel]]''' (en anglais, ''text infilling'') et la '''[[suppression de jeton textuel]]''' (en anglais, ''token deletion'').
<hr/>
En 2018, '''[[BERT]]''' de Google fut le premier '''[[modèle d'apprentissage]]''' à utiliser le masquage de jeton textuel et l''''[[entraînement autosupervisé]]''' pour préentraîner un '''[[modèle de langue]]'''.

== Français ==

'''masquage de jeton(s) textuel(s)'''

'''masquage de jeton(s)'''

'''masquage de segment(s) textuel(s)'''

'''masquage de segment(s)'''

== Anglais ==
'''token masking'''

'''text corruption'''

== Sources ==
[https://arxiv.org/html/2309.08628v3 Source: Arxiv]

[https://towardsai.net/p/l/token-masking-strategies-for-llms Source: TowardsAI]

[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Token Masking

2026-06-09T18:41:31Z

Claude COULOMBE : Destination de redirection modifiée de Masquage de segment textuel en Masquage de jeton textuel

#REDIRECTION [[Masquage de jeton textuel]]

Masquage de segment textuel

2026-06-09T18:40:13Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Masquage de segment textuel vers Masquage de jeton textuel

#REDIRECTION [[Masquage de jeton textuel]]

Masquage de jeton textuel

2026-06-09T18:40:12Z

Claude COULOMBE : Claude COULOMBE a déplacé la page Masquage de segment textuel vers Masquage de jeton textuel

== Définition ==
Technique d''''[[apprentissage auto-supervisé]]''' pour le '''[[préentraînement]]''' d’un '''[[grand modèle de langues]]''' où les '''[[segment textuel|segments textuels]]''' sont masqués de manière aléatoire par un symbole ou [masque], afin de prédire le segment textuel masqué en fonction de son contexte.

Voir aussi '''[[segmentation]]''' et '''[[insertion de segment textuel]]'''

== Compléments ==
Le masquage de segments textuels est une stratégie appartenant à un groupe plus large de techniques de modification de textes (en anglais, ''text corruption'') pour l''''[[apprentissage auto-supervisé]]''' qui comprend la '''[[permutation de phrases]]''' (en anglais, ''sentence permutation''), la '''[[rotation de phrases]]''' (en anglais, ''document rotation''), l''''[[insertion de segment textuel]]''' (en anglais, ''text infilling'') et la '''[[suppression de segment textuel]]''' (en anglais, ''token deletion'').
<hr/>
En 2018, '''[[BERT]]''' de Google fut le premier '''[[modèle d'apprentissage]]''' à utiliser le masquage de segment textuel et l''''[[entraînement autosupervisé]]''' pour préentraîner un '''[[modèle de langue]]'''.

== Français ==
'''masquage de segment(s) textuel(s)'''

'''masquage de segment(s)'''

== Anglais ==
'''token masking'''

'''text corruption'''

== Sources ==
[https://arxiv.org/html/2309.08628v3 Source: Arxiv]

[https://towardsai.net/p/l/token-masking-strategies-for-llms Source: TowardsAI]

[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Segmentation

2026-06-09T18:37:40Z

Claude COULOMBE :

==Définition==
En '''[[traitement automatique de la langue naturelle]]''', la segmentation est le découpage d’un texte en une liste de mots, une liste de parties de mots ou de symboles, une liste de [[jeton textuel|jetons textuels]] ou encore une liste de caractères. Typiquement, il s'agit de la première étape de l’'''[[analyse lexicale]]'''.

Pour la segmentation d'image, voir l'entrée '''[[segmentation d'image]]'''.

==Compléments==
On appelle parfois les unités résultant de la segmentation des '''jetons''' (en anglais, ''tokens''), mais le terme '''jeton''' est plutôt réservé à la cybersécurité. On emploiera les vocables '''mot''', '''partie de mots''', '''morceau de mot''', ou '''symbole''' pour la segmentation de texte.
<hr/>
Attention! On utilise également le terme segmentation pour la division d'un texte en phrases, mais on le précisera avec l'expression « segmentation en phrases ».
<hr/>
La pratique récente, avec la généralisation de l'emploi de réseaux de neurones profonds, favorise la segmentation en '''parties de mots''', '''morceaux de mots''', ou symboles (en anglais, '''subwords''').
==Français==

'''segmentation'''

'''découpage'''

'''tokénisation''' calque de l'anglais

==Anglais==
'''tokenization'''

In automatic natural language processing, the tokenizer segments a text into a list of words, a list of segments or parts of words or symbols, or a sequence of characters. Typically, this is the first step in lexical analysis. See also: token

==Español==
[[Catégorie:es]]

''''' tokenización '''''

''En el procesamiento automático del lenguaje natural, el segmentador lleva a cabo la segmentación de un texto en una lista de palabras, una lista de segmentos o partes de palabras o símbolos, o bien en una secuencia de caracteres. Típicamente, esta constituye la primera etapa del análisis léxico. ''

''Para la segmentación de imágenes, consulte la entrada segmentación de imágenes. ''

==Sources==

[https://fr.wikipedia.org/wiki/Glossaire_de_l%27exploration_de_donn%C3%A9es Source: Wikipédia - ''Glossaire de l'exploration des données'']

[https://fr.wikipedia.org/wiki/Analyse_lexicale Source: Wikipédia, ''Analyse lexicale''].

[https://towardsdatascience.com/the-art-of-tokenization-breaking-down-text-for-ai-43c7bccaed25 Source : towardsdatascience ]

{{Modèle:101}}
[[Catégorie:GRAND LEXIQUE FRANÇAIS]]
[[Catégorie:101]]