« Insertion de jeton » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
 
(7 versions intermédiaires par 4 utilisateurs non affichées)
Ligne 1 : Ligne 1 :
== Définition ==
== Définition ==
Technique utilisée dans le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' qui est similaire au '''[[Token Masking|masquage de segment]]''' où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul '''[[Segment textuel|segment]]''' [masque]. Ceci permet de déterminer le nombre de segments correspondant à une certaine longueur.
Technique utilisée dans le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' qui est similaire au '''[[masquage de segment textuel]]''' où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul '''[[jeton textuel / jeton génératif|jeton textuel]]''' ou jeton génératif.


== Français ==
== Français ==
''' insertion de segment textuel'''
''' insertion de jeton textuel'''
 
''' insertion de jeton génératif'''


== Anglais ==
== Anglais ==
Ligne 13 : Ligne 15 :
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html  Source : GitHub]
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html  Source : GitHub]


[[Catégorie:vocabulary]]
[[Catégorie:GRAND_LEXIQUE_FRANÇAIS]]

Dernière version du 3 septembre 2026 à 17:00

Définition

Technique utilisée dans le préentraînement d’un modèle qui est similaire au masquage de segment textuel où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul jeton textuel ou jeton génératif.

Français

insertion de jeton textuel

insertion de jeton génératif

Anglais

text infilling

Sources

Source : arxiv

Source : GitHub