Token Masking
en construction
Définition
Technique utilisée pour le préentraînement d’un modèle où les segments textuels (ou segments) sont masqués de manière aléatoire par un symbole [MASK], comme dans BERT, afin de prédire le segment en fonction de son contexte.
Voir aussi grand modèle de langues, segmentation et Text Infilling
Français
Masquage de segment
Masquage des segments
Anglais
Token Masking
Sources
Contributeurs: Arianne
