Attention sink


Révision datée du 26 janvier 2026 à 14:51 par Arianne (discussion | contributions) (Page créée avec « == en construction == == Définition == xxxxx == Compléments == On peut aussi utiliser le terme pour désigner spécifiquement ce genre de '''segment textuel''', on peut alors l'écrire au pluriel en fonction du contexte. == Français == ''' XXXXXXX''' == Anglais == ''' attention sink''' <!--This term can refer to the phenomenon or to the type of token concerned by the phenomenon. This phenomenon is present in all autoregressive large language models, i... »)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

en construction

Définition

xxxxx

Compléments

On peut aussi utiliser le terme pour désigner spécifiquement ce genre de segment textuel, on peut alors l'écrire au pluriel en fonction du contexte.

Français

XXXXXXX

Anglais

attention sink


Sources

Source : arxiv

Source : arxiv

Source : Hugging Face Blog

Récupérée de « https://datafranca.org/wiki/index.php?title=Attention_sink&oldid=118396 »

Contributeurs: Arianne Arel