« Rotation de phrases » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
Ligne 12 : Ligne 12 :
''' Document Rotation'''
''' Document Rotation'''


== Source ==
== Sources ==
[https://arxiv.org/abs/2405.12630  Source : arxiv]
[https://arxiv.org/abs/2405.12630  Source : arxiv]



Version du 23 mai 2025 à 14:08

en construction

Définition

Technique utilisée dans le préentraînement d’un modèle où l’entrée est décalée vers la droite de manière à ce que le modèle commence par un segment choisi au hasard. Cette technique permet au modèle trouver la position de départ d’un document.

Français

Rotation de document

Rotation du documet

Anglais

Document Rotation

Sources

Source : arxiv

Source : GitHub

Contributeurs: Arianne , wiki