Boîte noire

Définition

Un comportement de boîte noire caractérise un algorithme dont on ignore le mécanisme interne de décision. On peut juger des données qui entrent (ou intrants) dans la boîte (l’algorithme) et des résultats qui en sortent (les extrants), mais sans vraiment savoir ce qui se passe à l’intérieur.

Il est difficile de faire confiance à un algorithme « boîte noire » dans des domaines délicats comme la médecine, la justice ou la finance.

Compléments

Par exemple, les réseaux de neurones profonds obtiennent souvent des résultats impressionnants, mais ils ont cependant un point faible : leur fonctionnement est opaque. L’interprétabilité et l'explicabilité des résultats d’un modèle profond par un humain demeurent de beaux défis pour la recherche.

---

Parfois, le comportement de « boîte noire » est adopté par une entreprise pour protéger le secret commercial.

Français

boîte noire

Anglais

black box

Español

caja negra

El comportamiento de caja negra caracteriza a un algoritmo cuyo mecanismo interno de toma de decisiones se desconoce. Podemos juzgar los datos que entran (o inputs) en la caja (el algoritmo) y los resultados que salen (los outputs), pero no sabemos realmente qué pasa dentro.

Es difícil confiar en un algoritmo de «caja negra» en ámbitos sensibles como la medicina, la justicia o las finanzas.

Sources

Source : Les Echos

Source : The next web

 101 MOTS DE L' IA   

Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »