Sûreté de l'intelligence artificielle
Définition
Un domaine interdisciplinaire qui s'intéresse aux impacts à long terme de l'IA et à la façon dont elle pourrait évoluer soudainement vers une superintelligence qui pourrait être hostile aux humains.
Il a pour but d'empêcher les accidents, abus ou autres conséquences néfastes pouvant résulter des systèmes d'intelligence artificielle. Cela englobe notamment l'éthique des machines et l'alignement des intelligences artificielles (qui visent à rendre les systèmes d'IA moraux et bénéfiques), la conception de haute fiabilité et la surveillance des systèmes d'IA, mais aussi le développement de normes et de politiques favorisant la sécurité.
Français
sûreté de l'intelligence artificielle
sûreté de l'IA
sécurité de l'intelligence artificielle
sécurité de l'IA
Anglais
artificial intelligence security
AI security
Sources
Contributeurs: Claude Coulombe, Imane Meziani, wiki
