Insertion de segment textuel
en construction
Définition
Technique utilisée dans le préentraînement d’un modèle qui est similare au Token Masking où un certain nombre de passages de texte de différentes longueurs (y compris la longueur 0) sont échantillonnés et remplacés par un seul segment [MASK]. Ceci permet de déterminer le nombre de segments correspondant à une certaine longueur.
Français
Remplissage du texte
Anglais
Text Infilling
Source
Contributeurs: Arianne , Patrick Drouin
