Vers une approche éthique pour la prédiction automatique du risque d’échec scolaire – GTnum #IA_EO

Résumé en français

Publication et communication d’un article lors de la journée EIAH&IA « Vers une approche éthique pour la prédiction automatique du risque d’échec Scolaire », par le GTnum IA_EO, sur le thème de la « recommandation, personnalisation et prédiction par l’IA pour l’éducation ». Cette communication est un bref état de l’art sur la prédiction d’apprenants à risque d’échec scolaire, et pose la question d’éthique dans la prédiction. L’équité algorithmique, un sujet actuellement en plein essor en apprentissage automatique, montre des pistes de recherche prometteuses pour atténuer les biais algorithmiques et offrir des solutions éthiques d’aide à la décision. 

Résumé en anglais

Publication and communication of a paper in the EIAH&IA day “Towards an ethical approach for automatic prediction of school dropout “, by GTnum IA_EO, on the theme “recommendation, personalization and prediction by AI for education”. This communication is a brief state of the art on the prediction of at-risk students, and raises the question of ethics in prediction. Algorithmic fairness, a current growing topic in machine learning, shows promising avenues of research to mitigate algorithmic biases and offer ethical solutions for decision support.

Auteur

Fahima DJELIL, IMT Atlantique

Présentation de la journée EIAH et IA

Cette journée thématique sur l’éducation et l’intelligence artificielle, fait suite aux précédentes éditions des journées « EIAH & IA » (2013, 2015, 2017). Organisée par l’AFIA (Association Française pour l’Intelligence Artificielle) et l’ATIEF (Association des Technologies de l’Information pour l’Education et la Formation), cette quatrième journée bilatérale s’est tenue le 29 juin 2022 dans le cadre de la Plate-forme de l’Intelligence Artificielle (PFIA) qui s’est déroulée du 27 juin au 1 juillet 2022 à Saint-Étienne. L’objectif de cette journée thématique est de rassembler les chercheurs issus des communautés de l’Intelligence Artificielle et des Environnements Informatiques pour l’Apprentissage Humain pour échanger autour de problématiques, concepts et techniques communs. La présentation des différentes contributions vise ainsi à offrir un enrichissement mutuel entre ces deux communautés de recherche et à faciliter l’émergence des nouveaux enjeux pour la recherche en EIAH et en IA.

Extrait : Éthique et Équité

“ L’éthique en analytique prédictive cherche à définir ce qui est vulnérable et dommageable, afin de prévenir les préjudices potentiels envers les apprenants, mais aussi envers toutes les parties prenantes (Slade & Prinsloo, 2013). Cette définition implique :

– la question de discrimination implicite ou explicite, par laquelle un apprenant reçoit ou ne reçoit pas un soutien, sur la base de ce qui pourrait être vu de l’extérieur comme une caractéristique personnelle quelconque,

– l’étiquetage, où les apprenants peuvent être étiquetés en fonction d’une combinaison de caractéristiques et traités, potentiellement pour la durée de leurs études, comme étant différents des autres,

– et la validité du traitement spécifique de groupes d’apprenants sur la base d’hypothèses concernant leurs caractéristiques communes.

L’inclusion de données protégées dans les modèles de prédiction, peuvent engendrer des discriminations de groupes d’étudiants minoritaires et accentuer les inégalités déjà existantes (Barocas, Hardt, & Narayanan, 2019). Ce sont des données à caractère personnel comprenant des traits ou des caractéristiques sur la base desquels la discrimination est illégale. On parle alors d’attributs protégés (Yu, Lee, & Kizilcec, 2021), ou d’informations sensibles. (…)

Plus récemment, l’équité algorithmique a émergé comme champ de recherche pour lequel il existe un intérêt croissant, en particulier dans le domaine d’apprentissage automatique en éducation (Kizilcec & Lee, 2020). La notion d‘équité est fondée sur l’existence de groupes et visent à garantir que certains groupes ne sont pas défavorisés et reçoivent un traitement égal (Joseph, Kearns, Morgenstern, Neel, & Roth, 2016). En ce sens, (Hardt, Price, & Srebro, 2016) a introduit le concept d’égalité des chances, qui exige que le résultat prédit par un classifieur doit être indépendant d’un attribut protégé. Cela implique de collecter des caractéristiques qui capturent plus directement l’objectif cible, indépendamment de sa corrélation avec l’attribut protégé. ”

Référence

Djelil, F., & Gilliot, J.-M. (2022). Vers une approche ethique pour la pr´ediction automatique du risque d’echec scolaire. Mines Saint-Etienne – Une école de l’IMT. https://ci.mines-stetienne.fr/pfia2022/journees/eiah-ia/EIAH-IA-22-Djelil-ethique-et-risque-echec.pdf

Références

Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning. fairmlbook. org. Récupéré sur URL: http://www. fairmlbook. org.

Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. Advances in neural information processing systems, 29.

Joseph, M., Kearns, M., Morgenstern, J., Neel, S., & Roth, A. (2016). Fair algorithms for infinite and contextual bandits. arXiv preprint arXiv:1610.09559.

Kizilcec, R. F., & Lee, H. (2020). Algorithmic fairness in education.

Slade, S., & Prinsloo, P. (2013). Learning analytics: Ethical issues and dilemmas. American Behavioral Scientist, 57(10), 1510-1529.

Yu, R., Lee, H., & Kizilcec, R. F. (2021). Should College Dropout Prediction Models Include Protected Attributes? Proceedings of the Eighth ACM Conference on Learning@ Scale, (pp. 91-100).

---

---