« Suppression de jeton » : différence entre les versions
m (Arianne a déplacé la page Token Deletion vers Suppression de segment textuel) |
Aucun résumé des modifications |
||
| (6 versions intermédiaires par 3 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[ | Technique utilisée pour le '''[[préentraînement]]''' d’un '''[[modèle de langue|modèle]]''' où les '''[[jeton textuel / jeton génératif|jetons textuels ou jetons génératifs]]''' sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées. | ||
== Français == | == Français == | ||
''' suppression de | ''' suppression de jeton textuel / génératif''' | ||
''' destruction de | ''' destruction de jeton textuel / génératif''' | ||
== Anglais == | == Anglais == | ||
| Ligne 18 : | Ligne 16 : | ||
[https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] | [https://yangyutu.github.io/llm_book.github.io/docs/chapter_foundation/t5.html Source : GitHub] | ||
[[Catégorie: | [[Catégorie:GRAND_LEXIQUE_FRANÇAIS]] | ||
Dernière version du 3 septembre 2026 à 16:56
Définition
Technique utilisée pour le préentraînement d’un modèle où les jetons textuels ou jetons génératifs sont retirés de manière aléatoire des documents afin de permettre au modèle de déterminer les jetons à partir desquels les positions sont supprimées.
Français
suppression de jeton textuel / génératif
destruction de jeton textuel / génératif
Anglais
token deletion
Sources
Contributeurs: Arianne Arel, Claude Coulombe, Patrick Drouin, wiki
