14e Séminaire en IA et ses applications : Les enjeux de discrimination et d’inclusion en IA. Gaëlle Cachat-Rosset

14e Séminaire en IA et ses applications : Les enjeux de discrimination et d’inclusion en IA. Gaëlle Cachat-Rosset, 4 novembre 2022.

Résumé: L’intelligence artificielle (IA) soutient de plus en plus la prise de décisions au sein des organisations. Étant donné que les systèmes d’IA fonctionnent selon un apprentissage basé sur des informations, ils sont le reflet même des systèmes et des gens qui leur fournissent ces dernières. Ainsi, ils tendent à reproduire, voire à amplifier le contexte culturel et social dans lequel ils sont créés, y compris ses biais et stéréotypes. L’utilisation de l’IA a d’ailleurs déjà conduit à des conséquences discriminatoires envers les femmes et les minorités visibles. Après avoir examiné comment en arrive-t-on à des IA potentiellement discriminatoires, nous évoquerons le développement des appels pour une IA responsable à travers le monde. Pour finir, des leviers individuels et organisationnels seront discutés pour s’assurer de développer et d’utiliser des systèmes d’IA responsables et ainsi éviter les dérapages. Pour qu’une IA ne réponde plus jamais, « Je rougirais si je pouvais » !