Le MIT avertit : les risques liés à l’IA restent élevés, même après atténuation
L’initiative MIT AI Risk a publié une vaste étude Delphi dans laquelle 272 experts ont évalué 24 catégories de risques liés à l’IA en fonction de leur probabilité, de leur impact et de leurs conséquences sociétales.
La conclusion principale : la hiérarchisation des risques devient cruciale, car tous les risques liés à l’IA ne peuvent être traités efficacement en même temps. Il est frappant de constater que les 24 catégories de risques, même après des mesures d’atténuation, conservent une probabilité d’au moins 5 % d’issue catastrophique d’ici 2030.
Pour 18 des 24 risques, cette probabilité dépasse même les 10 %, notamment le chômage, les inégalités, la perte de vie privée et l’érosion des valeurs démocratiques.
L’étude souligne que les organisations ne doivent pas seulement se concentrer sur la conformité, mais surtout sur les risques résiduels (residual risk) : même un faible pourcentage de risque de dommages catastrophiques peut être socialement inacceptable.