Rotation de phrases


Définition

Technique utilisée dans le préentraînement d’un modèle où l’entrée est décalée vers la droite de manière à ce que le modèle commence par un segment textuel choisi au hasard. Cette technique permet au modèle trouver la position de départ d’un document.

Français

rotation de phrases

Anglais

document rotation

Sources

Source : arxiv

Source : GitHub

Contributeurs: Arianne , wiki