« Boîte noire » : différence entre les versions
Aucun résumé des modifications |
Aucun résumé des modifications |
||
| (16 versions intermédiaires par 5 utilisateurs non affichées) | |||
| Ligne 1 : | Ligne 1 : | ||
== Définition == | ==Définition== | ||
Un comportement de boîte noire | Un comportement de boîte noire caractérise un [[algorithme]] dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur. | ||
Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine la justice ou la finance. | Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance. | ||
==Compléments== | ==Compléments== | ||
Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’ [ | Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’[[interprétabilité]] et l'[[explicabilité]] des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche. | ||
<hr/> | <hr /> | ||
Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial. | Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial. | ||
<hr /> | |||
Le terme « boîte opaque » est plus précis car une boîte peut être de couleur noire et transparente. Cet usage est attesté, mais a peu de chance de se répandre dans l'usage. | |||
==Français== | |||
'''boîte noire''' | |||
'''boîte opaque''' | |||
==Anglais== | |||
'''black box''' | |||
Black box behavior characterizes an algorithm whose internal decision-making mechanism is unknown. We can judge the data entering (or inputs) the box (the algorithm) and the results coming out of it (the outputs), but we don't really know what's going on inside. | |||
It's difficult to trust a “black box” algorithm in delicate fields like medicine, justice or finance. | |||
==Español== | |||
[[Catégorie:es]] | |||
''''' caja negra ''''' | |||
''El comportamiento de caja negra caracteriza a un algoritmo cuyo mecanismo interno de toma de decisiones se desconoce. Podemos juzgar los datos que entran (o inputs) en la caja (el algoritmo) y los resultados que salen (los outputs), pero no sabemos realmente qué pasa dentro.'' | |||
''Es difícil confiar en un algoritmo de «caja negra» en ámbitos sensibles como la medicina, la justicia o las finanzas.'' | |||
==Sources== | |||
[https://www.lesechos.fr/tech-medias/intelligence-artificielle/les-boites-noires-du-deep-learning-137363 Les Echos] | |||
[https://www.obvia.ca/sites/obvia.ca/files/ressources/202501-OBV-Out-Glossaire_Obvia.pdf Glossaire de l'Obvia - boîte noire] | |||
[https://fr.wikipedia.org/wiki/Bo%C3%AEte_noire_(syst%C3%A8me). Wikipedia - boîte opaque] | |||
[https://thenextweb.com/artificial-intelligence/2017/09/10/glossary-basic-artificial-intelligence-terms-concepts/ The next web] | |||
{{Modèle:101}} | |||
[[Catégorie:GRAND LEXIQUE FRANÇAIS]] | [[Catégorie:GRAND LEXIQUE FRANÇAIS]] | ||
[[Catégorie:101]] | [[Catégorie:101]] | ||
Dernière version du 18 avril 2026 à 11:40
Définition
Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur.
Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance.
Compléments
Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’interprétabilité et l'explicabilité des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche.
Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial.
Le terme « boîte opaque » est plus précis car une boîte peut être de couleur noire et transparente. Cet usage est attesté, mais a peu de chance de se répandre dans l'usage.
Français
boîte noire
boîte opaque
Anglais
black box
Black box behavior characterizes an algorithm whose internal decision-making mechanism is unknown. We can judge the data entering (or inputs) the box (the algorithm) and the results coming out of it (the outputs), but we don't really know what's going on inside.
It's difficult to trust a “black box” algorithm in delicate fields like medicine, justice or finance.
Español
caja negra
El comportamiento de caja negra caracteriza a un algoritmo cuyo mecanismo interno de toma de decisiones se desconoce. Podemos juzgar los datos que entran (o inputs) en la caja (el algoritmo) y los resultados que salen (los outputs), pero no sabemos realmente qué pasa dentro.
Es difícil confiar en un algoritmo de «caja negra» en ámbitos sensibles como la medicina, la justicia o las finanzas.
Sources
Glossaire de l'Obvia - boîte noire
101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »
Contributeurs: Arianne Arel, Claude Coulombe, Imane Meziani, Espanol: JSZ, Patrick Drouin, wiki
