« Corruption silencieuse du modèle » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | == Définition == | ||
Résultat d'un problème / '''[[bogue]]''' lors de l''''[[entraînement]]''' d'un '''[[grand modèle de langues]]''' qui passe inaperçu. Ce genre de problème est relié à des problèmes matériels ou des erreurs de calcul résultant de la distribution du calcul sur plusieurs (nœuds de calcul) '''[[processeurs graphiques]]'''. | Résultat d'un problème/'''[[bogue]]''' lors de l''''[[entraînement]]''' d'un '''[[grand modèle de langues]]''' qui passe inaperçu. Ce genre de problème est relié à des problèmes matériels ou des erreurs de calcul résultant de la distribution du calcul sur plusieurs (nœuds de calcul) '''[[processeurs graphiques]]'''. | ||
Voir aussi '''[[Noeud (matériel informatique)|nœud de calcul]]''' | Voir aussi '''[[Noeud (matériel informatique)|nœud de calcul]]''' | ||
== Compléments == | == Compléments == | ||
Attention! | Attention! Malgré ce que peut laisser croire le terme anglais (''silent data corruption''), ce ne sont pas les '''[[données]]''' qui sont corrompues, mais plutôt le '''[[modèle]]'''. | ||
== Français == | == Français == | ||
''' | ''' corruption silencieuse du modèle''' | ||
''' | ''' corruption silencieuse du modèle à l'entraînement''' | ||
== Anglais == | == Anglais == | ||
''' | ''' silent data corruption''' | ||
''' SDC''' | ''' SDC''' | ||
''' | ''' silent data error''' | ||
''' SDE''' | ''' SDE''' | ||
Dernière version du 20 août 2025 à 16:21
Définition
Résultat d'un problème/bogue lors de l'entraînement d'un grand modèle de langues qui passe inaperçu. Ce genre de problème est relié à des problèmes matériels ou des erreurs de calcul résultant de la distribution du calcul sur plusieurs (nœuds de calcul) processeurs graphiques.
Voir aussi nœud de calcul
Compléments
Attention! Malgré ce que peut laisser croire le terme anglais (silent data corruption), ce ne sont pas les données qui sont corrompues, mais plutôt le modèle.
Français
corruption silencieuse du modèle
corruption silencieuse du modèle à l'entraînement
Anglais
silent data corruption
SDC
silent data error
SDE
Sources
Contributeurs: Arianne Arel, wiki
