Rotation de phrases

Définition

Technique utilisée dans le préentraînement d’un modèle où l’entrée est décalée vers la droite de manière à ce que le modèle commence par un segment choisi au hasard. Cette technique permet au modèle trouver la position de départ d’un document.

Français

Rotation de document

Rotation du document

Anglais

Document Rotation

Sources

Source : arxiv

Source : GitHub