EDUCAUSE publie un guide sur l’éthique de l’IA pour l’enseignement supérieur

L’organisation EDUCAUSE vient de publier un cadre de lignes directrices éthiques visant à guider les établissements d’enseignement supérieur dans l’intégration responsable de l’intelligence artificielle (IA). Inspirée du rapport Belmont (1979), une étude de référence sur l’éthique de la recherche, cette approche a pour objectif de maximiser les avantages des systèmes d’IA tout en protégeant les valeurs académiques fondamentales. Elle vise également à atténuer les risques de biais, d’injustice et de violation de la vie privée.

Le cadre se compose de huit principes directeurs interconnectés :

1. Bienfaisance : s’assurer que l’IA est utilisée pour le bien-être de toutes les personnes faisant partie de la communauté universitaire.
2. Justice : promouvoir l’équité, inclure les voix moins représentées et garantir un accès équitable aux outils.
3. Respect de l’autonomie : préserver le droit des personnes de prendre des décisions éclairées concernant leur interaction avec l’IA.
4. Transparence et explicabilité : fournir des informations claires sur le fonctionnement des systèmes d’IA, les données d’entrainement initiales et la logique qui sous-tend les décisions prises par ces systèmes.
5. Responsabilité : tenir les organisations et les développeurs responsables des systèmes déployés, en maintenant une imputabilité humaine.
6. Protection de la vie privée et des données : assurer la sécurité des informations personnelles et être transparent sur leur utilisation.
7. Non-discrimination et équité : prévenir activement les biais dans les algorithmes pouvant conduire à des discriminations.
8. Évaluation des risques et des bénéfices : évaluer systématiquement les impacts pour s’assurer que les bénéfices l’emportent sur les risques.

Ce rapport présente un plan d’action pour chacun des principes proposés et souligne l’importance d’impliquer toutes les parties prenantes (personnes étudiantes, enseignantes, chercheuses, administration, etc.). Pour illustrer les défis pratiques liés à la démarche, les auteurs ont recours à des scénarios. Par exemple, en ce qui a trait au principe de bienfaisance, le rapport explore une situation où un établissement met en place un système de rétroaction automatisé, qui allège la charge de travail des personnes correctrices, mais qui risque de nuire au développement des compétences authentiques des personnes étudiantes. Cette situation permet de soulever plusieurs questions concernant les principes de bienfaisance et de transparence énoncés ; relation pédagogique, biais et risques d’homogénéisation, confidentialité, etc.

« Scenario: AI Feedback and Assessment in a Large-Scale Writing Course

In a foundational undergraduate writing course with over 250 students per semester, a faculty member oversees instruction with the support of 10 teaching assistants (TAs).In the past, students have raised concerns about inconsistent grading practices across multiple sections led by different TAs, while TAs have reported that the time it takes to grade the numerous essays in the course is prohibitive. The institution just licensed a tool that purportedly provides real-time feedback to students as they write their essays, potentially resulting in final submissions that are stronger. Although most students enjoy the feedback they receive and find it generally useful to help them improve their writing, some students feel their unique voice and writing styles are unduly penalized. The TAs regain significant time, and they feel that the tool provides more consistent practices across all sections of the course. The instructor (1) is concerned that this tool is causing overreliance on AI by both students and TAs and (2) questions if students are truly mastering writing skills, as opposed to simply learning how to get favorable feedback/prompts from the tool. »  (AI Ethical Guidelines | EDUCAUSE)

L’adoption de ce cadre est présentée non seulement comme une question de conformité, mais aussi comme une démarche stratégique pour renforcer la confiance, garantir l’équité et préparer les personnes étudiantes à un marché de l’emploi en mutation.

Source : EDUCAUSE. (2025). AI ethical guidelines. EDUCAUSE Library. https://library.educause.edu/resources/2025/6/ai-ethical-guidelines