Explicabilité

Définition

D'un point de vue d'ingénierie, caractère de ce qui est explicable. Un algorithme est explicable s’il est possible de rendre compte de ses résultats explicitement à partir des données et des attributs d'une situation. Autrement dit, s’il est possible de mettre en relation les données d’une situation et leurs conséquences sur les résultats de l'algorithme (causalité).

D'un point de vue d'IA responsable, l'explicabilité est associée à la notion d'explication en tant qu'interface entre les humains et un décideur qui est, en même temps, une représentation exacte du décideur et compréhensible pour des êtres humains.

Compléments

Les gens qui conçoivent et utilisent les systèmes d’IA doivent pouvoir expliquer de manière compréhensible les fonctionnalités du système, le contexte d’utilisation (où, quand, comment et pourquoi) ainsi que les résultats obtenus, limitant ainsi l’effet de la « boîte noire ». Ceci est particulièrement important lorsque les résultats du système d’IA contribuent à des prises de décision de nature sensible, comme dans les domaines de la santé, de l’éducation, des finances, etc.

Il existe des systèmes d’IA utilisés pour approuver ou refuser des prêts bancaires. Si un système refuse un prêt à un individu, il est essentiel de pouvoir expliquer pourquoi cette décision a été prise. Sans explicabilité, cette personne ne saurait pas quelles informations ont été utilisées ni comment elles ont été interprétées, ce qui pourrait mener à des sentiments d’injustice ou de discrimination.

---

En cherchant à expliquer selon une approche causale, c'est à dire des causes vers les effets, l'explicabilité va plus loin que l'interprétabilité.

---

Les notions d'interprétabilité et d'explicabilité sont particulièrement importantes dans les cas où les algorithmes prennent des décisions qui impliquent des êtres humains dans des domaines comme la médecine, le droit et la finance.

Français

explicabilité

Anglais

explicability

Español

explicabilidad

Desde el punto de vista de la ingeniería, explicabilidad. Un algoritmo es explicable si es posible dar cuenta de sus resultados explícitamente a partir de los datos y atributos de una situación. En otras palabras, si es posible relacionar los datos de una situación con sus consecuencias sobre los resultados del algoritmo (causalidad).

Desde el punto de vista de la IA responsable, la explicabilidad está asociada a la noción de explicación como interfaz entre los seres humanos y un responsable de la toma de decisiones que es, al mismo tiempo, una representación exacta del responsable de la toma de decisiones y comprensible para los seres humanos.

Sources

Source: Villani, Cédric (2018). Donner un sens à l'intelligence artificielle pour une stratégie nationale et européenne, Paris, Collège de France, 235 pages.

Glossaire de l'Obvia - Explicabilité

Le Devoir, Thales : L'importance d'instaurer la confiance en l'IA.

TERMIUM Plus

Université de Toulouse

arviX

Source: Termino

101 MOTS DE L' IA
Ce terme est sélectionné pour le livre « Les 101 mots de l'intelligence artificielle »