« Mécanisme d'attention » : différence entre les versions

Dernière version du 22 juillet 2025 à 11:20

Définition

Inspiré par l'attention visuelle humaine, un mécanisme d'attention est la capacité d'apprendre à se concentrer sur des parties spécifiques d'une donnée complexe, par exemple une partie d'une image ou certains mots dans une phrase. Des mécanismes d'attention peuvent être incorporés dans les architectures de traitement de la langue naturelle et de reconnaissance d'images pour aider un réseau de neurones artificiels à apprendre sur quoi « se concentrer » lorsqu'il fait des prédictions.

Compléments

Soulignons les travaux pionniers du laboratoire MILA dirigé par Yoshua Bengio à l'Université de Montréal qui ont défini un mécanisme d'attention utilisé en traduction automatique neuronale. Perfectionné par des chercheurs de Google, le mécanisme d'attention et d'auto-attention (self-attention) est aujourd'hui à la base de nouvelles architectures de réseau de neurones très performantes comme l'architecture de réseau autoattentif, en anglais Transformer.

Français

mécanisme d'attention

attention

modèle d'attention visuelle

Anglais

attention mechanism

attention

visual attention model

Español

modelo de atención visual

Inspirado en la atención visual humana, un mecanismo de atención es la capacidad de aprender a centrarse en partes específicas de datos complejos, por ejemplo parte de una imagen o determinadas palabras de una frase. Los mecanismos de atención pueden incorporarse al procesamiento del lenguaje natural y a las arquitecturas de reconocimiento de imágenes para ayudar a una red neuronal artificial a aprender en qué «centrarse» al hacer predicciones.

Sources

Source: Simonnet, Edwin (2019). Réseaux de neurones profonds appliqués à la compréhension de la parole, Université du Maine, 182 pages.

Muddamsetty, Satya M. Modèles d'attention visuelle pour l'analyse de scènes dynamiques. Université de Bourgogne, 7 juillet 2014, p. iv. Consulté : 2019-01-17.

Source : TERMIUM Plus

source : Claude Coulombe, Datafranca.org

Source: Termino

101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »

@@ Ligne 1 : / Ligne 1 : @@
-[[Category:Vocabulaire]]
+==Définition==
-[[Category:Intelligence artificielle]]
+Inspiré par l'attention visuelle humaine, un mécanisme d'attention est la capacité d'apprendre à se concentrer sur des parties spécifiques d'une donnée complexe, par exemple une partie d'une image ou certains mots dans une phrase. Des mécanismes d'attention peuvent être incorporés dans les architectures de [[traitement automatique de la langue naturelle|traitement de la langue naturelle]] et de [[reconnaissance d'images]] pour aider un [[réseau de neurones artificiels]] à apprendre sur quoi « se concentrer » lorsqu'il fait des prédictions.
-[[Category:Termino 2019]]
-[[Category:Scotty]]
+== Compléments ==
-[[Category:9]]
+Soulignons les travaux pionniers du laboratoire MILA dirigé par Yoshua Bengio à l'Université de Montréal qui ont défini un mécanisme d'attention utilisé en traduction automatique neuronale. Perfectionné par des chercheurs de Google, le mécanisme d'attention et d'auto-attention (self-attention) est aujourd'hui à la base de nouvelles architectures de réseau de neurones très performantes comme l'architecture de [[réseau autoattentif]], en anglais ''Transformer''.
+==Français==
+'''mécanisme d'attention'''
-== Définition ==
+'''attention'''
-Capacité d'un réseau de neurones d'apprendre à cibler des parties spécifiques d'une donnée complexe (image, phrase, etc.) dans son mécanisme de prédiction.
-Note: plus précisément, le réseau de neurones apprend une distribution statistique indiquant sur quoi se concentrer parmi les différentes parties d'une donnée complexe (mot d'une phrase, partie d'une image).
+'''modèle d'attention visuelle '''
-== Français ==
-'''mécanisme d'attention'''  n.m.
-== Anglais ==
+==Anglais==
 '''attention mechanism'''
+'''attention'''
+'''visual attention model '''
+==Español==
+''''' modelo de atención visual '''''
+''Inspirado en la atención visual humana, un mecanismo de atención es la capacidad de aprender a centrarse en partes específicas de datos complejos, por ejemplo parte de una imagen o determinadas palabras de una frase. Los mecanismos de atención pueden incorporarse al procesamiento del lenguaje natural y a las arquitecturas de reconocimiento de imágenes para ayudar a una red neuronal artificial a aprender en qué «centrarse» al hacer predicciones. ''
-<small>
+==Sources==
 Source: Simonnet, Edwin (2019). ''Réseaux de neurones profonds appliqués à la compréhension de la parole'', Université du Maine, 182 pages.
-[[Utilisateur:Patrickdrouin  | Source : Termino  ]]
+[https://nuxeo.u-bourgogne.fr/nuxeo/site/esupversions/2496a7f0-c7f7-4400-9eed-f5fffb96b123 Muddamsetty, Satya M. Modèles d'attention visuelle pour l'analyse de scènes dynamiques. Université de Bourgogne, 7 juillet 2014, p. iv. Consulté : 2019-01-17.]
+[https://www.btb.termiumplus.gc.ca/tpv2alpha/alpha-fra.html?lang=fra&i=1&srchtxt=MODELE+ATTENTION+VISUELLE&index=frt&codom2nd_wet=1#resultrecs    Source : TERMIUM Plus  ]
+[[Utilisateur:Claude COULOMBE | source : Claude Coulombe, Datafranca.org]]
+[[Utilisateur:Patrickdrouin  | Source: Termino]]
+{{Modèle:101}}
+[[Category:Intelligence artificielle]]
+[[Category:GRAND LEXIQUE FRANÇAIS]]
+[[Catégorie:101]]

« Mécanisme d'attention » : différence entre les versions