Rotation de phrases


Révision datée du 10 juin 2025 à 15:22 par Arianne (discussion | contributions) (Arianne a déplacé la page Rotation du document vers Rotation de phrases sans laisser de redirection)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

Définition

Technique utilisée dans le préentraînement d’un modèle où l’entrée est décalée vers la droite de manière à ce que le modèle commence par un segment textuel choisi au hasard. Cette technique permet au modèle trouver la position de départ d’un document.

Français

rotation de phrases

Anglais

document rotation

Sources

Source : arxiv

Source : GitHub

Contributeurs: Arianne , wiki