« Insertion de segment textuel » : différence entre les versions


(Page créée avec « == en construction == == Définition == xxxxxx Voir aussi '''Token Masking''' == Français == '''XXXXXXX''' == Anglais == ''' Text Infilling''' == Source == [https://arxiv.org/abs/2405.12630 Source : arxiv] [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] Catégorie:vocabulary »)
 
Aucun résumé des modifications
Ligne 2 : Ligne 2 :


== Définition ==
== Définition ==
xxxxxx
Technique utilisée dans le '''[[préentraînement]]''' d’un modèle qui est similare au '''[[Token Masking]]''' où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul '''[[Segment textuel|segment]]''' [MASK]. Ceci permet de déterminer le nombre de segments correspondant à une certaine longueur.
 
Voir aussi '''[[Token Masking]]'''


== Français ==
== Français ==
'''XXXXXXX'''
''' Remplissage du texte'''


== Anglais ==
== Anglais ==

Version du 22 mai 2025 à 14:35

en construction

Définition

Technique utilisée dans le préentraînement d’un modèle qui est similare au Token Masking où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul segment [MASK]. Ceci permet de déterminer le nombre de segments correspondant à une certaine longueur.

Français

Remplissage du texte

Anglais

Text Infilling

Source

Source : arxiv

Source : GitHub

Contributeurs: Arianne , Patrick Drouin