« Seuillage de gradient » : différence entre les versions


Aucun résumé des modifications
Aucun résumé des modifications
Ligne 15 : Ligne 15 :
[https://www.dunod.com/sciences-techniques/deep-learning-avec-keras-et-tensorflow-mise-en-oeuvre-et-cas-concrets-0 Livre - Aurélien Géron, trad. Anne Bohy - ''Deep Learning avec Keras et TensorFlow: Mise en oeuvre et cas concrets''  - ''écrêtage de gradient'']
[https://www.dunod.com/sciences-techniques/deep-learning-avec-keras-et-tensorflow-mise-en-oeuvre-et-cas-concrets-0 Livre - Aurélien Géron, trad. Anne Bohy - ''Deep Learning avec Keras et TensorFlow: Mise en oeuvre et cas concrets''  - ''écrêtage de gradient'']


[https://www.leslibraires.ca/livres/l-apprentissage-profond-ian-goodfellow-9791097160432.html   Source:L'apprentissage profond p.295 - ''écrêtage de gradient'']
[https://www.leslibraires.ca/livres/l-apprentissage-profond-ian-goodfellow-9791097160432.html Livre - Ian Goodfellow, Yoshua Bengio, Aaron Courville - ''L'apprentissage profond'' p.295 - ''écrêtage de gradient'']


[[Utilisateur:Patrickdrouin  | Source: Termino  ]]
[[Utilisateur:Patrickdrouin  | Termino  ]]


[[Category:Intelligence artificielle]]
[[Category:Intelligence artificielle]]

Version du 28 avril 2025 à 06:02

Définition

Mécanisme couramment utilisé afin d'atténuer le problème d'explosion du gradient en limitant artificiellement la valeur maximale des gradients lors de l'utilisation de la descente de gradient pendant l'entraînement d'un modèle.

Français

écrêtage de gradient

bornement de gradient

seuillage de gradient

Anglais

Gradient Clipping

Sources

Livre - Aurélien Géron, trad. Anne Bohy - Deep Learning avec Keras et TensorFlow: Mise en oeuvre et cas concrets - écrêtage de gradient

Livre - Ian Goodfellow, Yoshua Bengio, Aaron Courville - L'apprentissage profond p.295 - écrêtage de gradient

Termino