« Suppression de segment textuel » : différence entre les versions
(Page créée avec « == en construction == == Définition == xxxxxx Voir aussi '''segment texutel''' == Français == ''' XXXXXXX''' == Anglais == ''' Token Deletion''' == Source == [https://arxiv.org/abs/2405.12630 Source : arxiv] [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] Catégorie:vocabulary ») |
m (Arianne a déplacé la page Token Deletion vers Suppression de segment textuel) |
||
| (4 versions intermédiaires par le même utilisateur non affichées) | |||
| Ligne 2 : | Ligne 2 : | ||
== Définition == | == Définition == | ||
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[Segment textuel|segments textuels]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées. | |||
== Français == | |||
''' suppression de segment textuel''' | |||
''' destruction de segment textuel''' | |||
''' | |||
== Anglais == | == Anglais == | ||
''' | ''' token deletion''' | ||
== | <!--''Token deletion takes the original sentence and randomly deletes a token from the sequence. Tokens are randomly removed from the documents. The model is pre-trained to determine tokens at which positions are removed.''--> | ||
== Sources == | |||
[https://arxiv.org/abs/2405.12630 Source : arxiv] | [https://arxiv.org/abs/2405.12630 Source : arxiv] | ||
Dernière version du 10 juin 2025 à 15:25
en construction
Définition
Technique utilisée pour le préentraînement d’un modèle où les segments textuels sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les segments à partir desquels les positions sont supprimées.
Français
suppression de segment textuel
destruction de segment textuel
Anglais
token deletion
Sources
Contributeurs: Arianne
