« Suppression de segment textuel » : différence entre les versions
(Page créée avec « == en construction == == Définition == xxxxxx Voir aussi '''segment texutel''' == Français == ''' XXXXXXX''' == Anglais == ''' Token Deletion''' == Source == [https://arxiv.org/abs/2405.12630 Source : arxiv] [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] Catégorie:vocabulary ») |
Aucun résumé des modifications |
||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
Technique utilisée pour le '''[[préentraînement]]''' d’un modèle où les '''[[Segment textuel|segments textuels]]''' (ou segments) sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées. | |||
== Français == | == Français == | ||
''' | ''' Suppression de segment''' | ||
== Anglais == | == Anglais == | ||
''' Token Deletion''' | ''' Token Deletion''' | ||
''Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.'' | |||
== Source == | == Source == | ||
Version du 22 mai 2025 à 14:13
en construction
Définition
Technique utilisée pour le préentraînement d’un modèle où les segments textuels (ou segments) sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
Français
Suppression de segment
Anglais
Token Deletion
Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.
Source
Contributeurs: Arianne
