« Suppression de segment textuel » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| Ligne 12 : | Ligne 12 : | ||
''Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.'' | ''Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.'' | ||
== | == Sources == | ||
[https://arxiv.org/abs/2405.12630 Source : arxiv] | [https://arxiv.org/abs/2405.12630 Source : arxiv] | ||
Version du 23 mai 2025 à 14:53
en construction
Définition
Technique utilisée pour le préentraînement d’un modèle où les segments textuels (ou segments) sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
Français
Suppression de segment
Anglais
Token Deletion
Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.
Sources
Contributeurs: Arianne
