Résumé

Résumé en français

Parution du bulletin 116 de l’Association française pour l’Intelligence Artificielle sur le thème de l’explicabilité (avril 2022).

Résumé en anglais

Publication of the newsletter 116 of the French Association for Artificial Intelligence on the theme of explainability (April 2022).

Présentation générale

Extraits

“Il existe de nombreuses situations dans lesquelles il apparaît crucial de doter un système d’IA de capacité explicative. Et si cette question est loin d’être nouvelle en intelligence artificielle, elle est redevenue centrale avec le développement récents de nombreux systèmes dits « boîtes noires » (il est utile de noter ici que l’usage de ce terme tend à confondre deux contextes très différents : celui d’un accès impossible au modèle – cas d’un système propriétaire –, et celui d’une complexité réputée trop grande du modèle, rendant difficile d’en comprendre la logique sous-jacente. Les conséquences en terme d’explications envisageables diffèrent).” (…)

“Les terrains applicatifs couvrent aussi bien le domaine éducatif, la planification de tournées, les maisons intelligentes, la modélisation financière, la sécurité (détection d’intrusion), la création de matériaux, que – sans surprise tant les conséquences peuvent y être critiques – une large palette d’applications médicales (pharmacologie, imagerie, etc.).”

L’explicabilité en éducation

“Dans le domaine éducatif, deux catégories d’utilisateurs doivent s’approprier l’environnement numérique : les apprenants et les enseignants. La question de l’appropriation des EIAH par les enseignants est essentielle pour que ces outils soient davantage utilisés dans l’enseignement. Il faut donc concevoir des systèmes que les enseignants pourront adapter afin qu’ils répondent à leurs besoins. Pour cela, l’enseignant doit pouvoir comprendre les décisions ou recommandations du système d’IA concernant ses élèves, pour avoir confiance
dans le système et, d’une certaine façon, « faire corps » avec lui pour être capable d’expliquer le comportement conjugué du dispositif tel qu’il a été mis en place. Cela nécessite une représentation explicite des connaissances et des processus de décision. La question de l’explicabilité doit être prise en compte dès la conception.”

Référence

Association française pour l’Intelligence Artificielle. (2022). IA & Explicabilité. Bulletin de l’AFIA, 116, 62. https://afia.asso.fr/wp-content/uploads/2022/05/116_avr22.pdf

A consulter aussi

Association Française pour l’Intelligence Artificielle (AFIA). (2022, janvier 6). Journée Enseignement et Formation en IA : « IA pour l’enseignement ». AfIA. https://afia.asso.fr/efia-2022/

DNE-TN2. (2021, janvier 27). Intelligence artificielle et éducation ouverte : Premier point d’étape du GTnum #IA_EO [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2610

DNE-TN2. (2021, mars 27). Intelligence artificielle : Où en sommes-nous ? [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2818

DNE-TN2. (2021, mai 6). Point d’étape du #GTnum LS2N #IA_EO (05/05/21) : Prédire la performance académique, découverte des travaux de Luis Galárraga [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/2982

DNE-TN2. (2021, juin 14). Webinaire du GTnum LS2N #IA_EO (25/03/21) : Le projet ApLLy, test d’Auto-positionnement en Ligne des Lycées [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3101

DNE-TN2. (2021, juillet 6). Webinaire du GTnum LS2N #IA_EO (15/04/21) : Etude sur les explications du résultat d’un classifieur [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3233

DNE-TN2. (2021, juillet 16). Journée d’étude du GTnum LS2N #IA_EO (17/06/21) : IA et prédiction du risque de décrochage scolaire [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3265

DNE-TN2. (2022, janvier 14). IA pour l’enseignement : Supports de la journée de l’Association Française pour l’Intelligence Artificielle (AFIA) [Billet]. Éducation, numérique et recherche. https://edunumrech.hypotheses.org/3862

EFIA 2022 : « IA pour l’enseignement ». (2022, janvier 6). AfIA. https://afia.asso.fr/efia-2022/

---

---