IA génératives et enseignement supérieur

Présentation sommaire

Dans les paragraphes suivants, nous avons compilé une liste non exhaustive de questions accompagnées de tentatives de réponses, de pistes de réflexion et de suggestions. Ces questions sont le fruit de l’analyse de différents documents (résultat d'un sondage, questions et réflexions partagées dans différents ateliers, etc.) et des échanges entre collègues concernant l'utilisation des IA génératives dans un environnement de formation supérieure. Étant donné la nature émergente et en constante évolution de technologies comme ChatGPT, nous envisageons ce document comme un travail en cours et nous avons l'ambition de le mettre à jour et de l'adapter en fonction des développements technologiques et sociaux.

Objectifs

• Accompagner la réflexion et stimuler le dialogue concernant les enjeux, le potentiel et les limites des AI dans la formation supérieure.
• Promouvoir des usages au service de l’apprentissage et de la communauté (personnes enseignantes, apprenantes, etc.) et en accord avec l’énonce de principe de l’UdeS.
• Proposer des informations actualisées sur l’utilisation des IA dans un contexte d’enseignement et d’apprentissage.

Questions et réponses

1. Qu'est-ce qu'une IA générative?

L’intelligence artificielle générative (IAG) est une branche de l’intelligence artificielle (IA) qui utilise des contenus existants au service de leur apprentissage et dans le but de générer de nouveaux contenus. Il peut s’agir de la génération de textes, de sons, d’images, etc. Un exemple bien connu d’IA générative est le modèle GPT (Generative Pre-trained Transformer) développé par OpenAI, qui est à la base de l’agent conversationnel ChatGPT.

2. Comment fonctionnent les IA génératives?

De manière très succincte, nous pouvons dire que le fonctionnement commence par l’entraînement du modèle à l’aide d’un ensemble de données, pouvant comprendre des textes, des images, des sons, ou tout autres types d’informations. Pendant la phase d’entraînement, le modèle identifie les structures et les récurrences présentes dans les données fournies. Pour apprendre, il utilise des techniques avancées d’apprentissage automatique, telles que les réseaux de neurones. Une fois le modèle entraîné, il est capable de générer automatiquement des réponses en se basant sur les connaissances acquises lors de l’entraînement.

3. Quels sont les facteurs qui expliquent la popularité de plateformes comme ChatGPT?

La facilité d’accès et d’utilisation est sans doute l'un des principaux facteurs qui expliquent la popularité de ChatGPT et d’autres plateformes semblables. Ces dernières ont simplifié l’interaction avec une IA générative en offrant une interface conviviale et une approche conversationnelle. Ainsi, les personnes utilisatrices, sans connaissances spécialisées en programmation ou en IA, peuvent soumettre des requêtes de manière naturelle, comme si l’on s’adressait à une personne réelle, et obtenir une réponse presque immédiatement.

4. Quels sont les domaines d’application des IA génératives?

Les domaines d’application des IA génératives sont très divers. Les IA peuvent servir à générer des contenus textuels, des créations visuelles, de la musique, etc. Pour cette raison, on les retrouve dans différentes applications, par exemple, pour la traduction automatique, la création d’environnements numériques de réalité virtuelle et augmentée, dans l’industrie des jeux vidéo pour générer des personnages non-joueurs (PNJ), pour générer des quêtes, des niveaux de jeu, pour de l’assistance client (agents conversationnels), pour simuler différents scénarios de progression d’une maladie, pour la conception de produits, pour la prédiction des tendances du marché financier, etc.

5. Quels sont les avantages des IA génératives pour les personnes enseignantes en formation supérieure?

Dans un contexte d’enseignement universitaire ou collégial, ces technologies pourraient être exploitées comme outils d’assistance pour plusieurs tâches en lien avec l’enseignement. Par exemple, on pourrait se servir pour générer des scénarios d’apprentissage, pour synthétiser des contenus, pour générer des idées pour des supports pédagogiques (tutoriels, présentations, etc.), comme appui à la planification de cours, pour la confection de grilles d’évaluation critériées, pour générer des rétroactions personnalisées, etc.

6. Quelles sont les limites des IA génératives accessibles au grand public?

Ces technologies présentent certaines limites qu’il est indispensable de connaître pour les utiliser de manière avertie et responsable. Par exemple, elles peuvent proposer du contenu qui semble véridique, mais qui est inexact ou faux. Les réponses que les modèles d’IAG proposent dépendent de la quantité et de la qualité des données employées lors de l’entraînement. Ces données ne sont pas non plus exemptes de biais, donc, il est très important de les utiliser avec discernement et promouvoir des usages judicieux et critiques.

7. Comment puis-je évaluer la fiabilité des résultats produits par une IA générative?

Dans le but d’évaluer la fiabilité des résultats générés par des technologies d'IA génératives, il est essentiel de comparer les réponses obtenues avec des sources fiables, par exemple, des articles scientifiques, nos connaissances préalables, l’avis d’experts dans le domaine concerné, etc. Un regard vigilant est nécessaire pour identifier d’éventuelles erreurs ou biais et pour contrer certains phénomènes comme l’illusion d’exactitude ou les « hallucinations » de l’IA.

En bref, il est important de ne pas prendre les résultats comme étant toujours exacts ou véridiques. Il faut plutôt les considérer comme des propositions ou des suggestions qui nécessitent l’évaluation critique d’une personne ayant une certaine connaissance sur le sujet.

8. Quels sont les défis liés aux IA génératives dans un contexte universitaire ou collégial?

L’utilisation des technologies d’IA génératives dans un contexte universitaire ou collégial soulève des défis et des préoccupations importantes. Nous pouvons souligner, par exemple, l’intégrité intellectuelle, la triche, la reconnaissance des sources (contribution humaine derrière les données), les biais présents dans les données d’entraînement, les risques associés au développement d’une dépendance envers ces technologies pouvant nuire à l’apprentissage, la perte de motivation scolaire reliée à la grande accessibilité de l’information, etc.

9. Quelles sont les implications éthiques liées à l’utilisation des IA génératives accessibles au grand public dans un contexte universitaire ou collégial?

Comme nous l’avons mentionné précédemment, l’utilisation des IA génératives soulève des préoccupations éthiques importantes, notamment en ce qui concerne la triche, la confidentialité des données, la transparence en lien avec l’origine du contenu généré, etc. Pour cette raison, il est essentiel de connaître la portée et les limites des technologies utilisées et de se familiariser avec les principes éthiques et les politiques institutionnelles relatives à l’utilisation de ces dernières.

10. Comment intégrer les IA génératives de manière responsable dans l’enseignement universitaire ou collégial?

Lorsque l’on souhaite intégrer les IA génératives dans un contexte de formation supérieure, il est nécessaire de faire preuve de discernement en ce qui concerne la pertinence des usages proposés et les retombées en matière d’apprentissages et de développement de compétences. Une bonne intégration implique que ces outils s’insèrent de manière cohérente dans le parcours d’apprentissage proposé et s’alignent avec les cibles, les objectifs, les modalités d’enseignement et d’évaluation, etc. Pour promouvoir des usages responsables, il est essentiel de bien encadrer l’intégration, de proposer des balises claires et de sensibiliser les personnes étudiantes au potentiel et aux limites de ces technologies.

11. Comment puis-je assurer la protection des données et la confidentialité lors de l’utilisation des IA génératives?

Si vous désirez utiliser des IA génératives de type ChatGPT dans un contexte d’enseignement, il est essentiel de prendre toutes les mesures nécessaires pour vous assurer d’une utilisation responsable. Cela requiert de faire attention aux informations partagées dans l’interface, d’éviter en tout temps d’utiliser des données sensibles dans vos requêtes, de respecter les politiques de confidentialité de l’établissement d’enseignement, etc. Nous vous recommandons aussi de bien prendre connaissance des politiques d’utilisation des plateformes offrant ce type de technologie (ChatGPT, Perplexity, Tome, Midjourney, etc.). Cela peut offrir un aperçu concernant les usages éventuels auxquels les données utilisées peuvent être soumises.

12. Comment puis-je encourager l’engagement actif des personnes étudiantes lors de l’utilisation des IA génératives dans mes cours?

L’utilisation des IA génératives dans un contexte d’apprentissage peut entraîner une certaine passivité de la part de la personne apprenante. Notamment, lorsqu’elle se contente de soumettre une requête et d’obtenir une réponse sans aucun effort supplémentaire. Dans le but de promouvoir l’engagement des personnes étudiantes dans une activité intégrant l’usage d’une IA générative, nous pouvons proposer des activités pratiques où les étudiantes et étudiants sont invités à expérimenter, à analyser les résultats obtenus, à les comparer avec d’autres sources, à proposer des améliorations, etc. Ce type d’activité peut comprendre des projets d’analyse critique en équipe, des discussions concernant la fiabilité ou la validité d’une réponse obtenue, la rédaction de versions améliorées basées sur les résultats des requêtes avec des arguments à l’appui ou toute autre activité amenant à adopter une approche réflexive, une posture critique et à mobiliser différentes connaissances et compétences.

13. Comment puis-je encourager la créativité des personnes étudiantes lorsque ces dernières sont susceptibles d’utiliser des IA génératives?

En effet, les IA génératives comme ChatGPT peuvent être utilisées pour concevoir des activités visant à stimuler la créativité des personnes étudiantes. Par exemple, nous pouvons envisager des activités qui demanderont d’explorer le potentiel d’une technologie en particulier ou de la combinaison de plusieurs (par exemple, texte + image, image + musique, etc.) pour générer des idées, des projets artistiques, etc. Il semble indispensable de proposer des activités favorisant l’exploration, la réflexion et la combinaison de la créativité et de la sensibilité humaine avec la capacité de calcul de la machine, ce qui pourrait éventuellement amener à concevoir ou à découvrir diverses approches créatives.

14. Comment puis-je évaluer l’impact de l’utilisation des IA génératives dans mes cours?

Effectuer ce type d’évaluation dans le contexte d’un cours nécessite une réflexion approfondie sur nos pratiques pédagogiques, ainsi qu’une exploration des outils disponibles. Cette évaluation nous permettra de déterminer le potentiel et les limites de ces technologies par rapport à une discipline spécifique. Pour ce faire, nous pouvons adopter différentes approches qui pourront varier en fonction de nos objectifs. Par exemple, nous pouvons explorer un outil d’IA afin d’identifier les limites par rapport au traitement d’un sujet en particulier et utiliser cette information pour minimiser ou contrer l’usage de l’outil en question ou plutôt, nous désirons connaître le potentiel d’une IA générative pour l’intégrer dans les activités d’apprentissage ou d’évaluation de notre cours.

Sources consultées pour rédiger ce document

Éducation supérieure et IA

Caneva, C. (2018). L’intelligence artificielle au service des apprenants : trois avenues en progression. École branchée, 21(1).

Datafranca, Intelligence augmentée, septembre 2021, https://datafranca.org/wiki/Intelligence_augmentée

Dyens, O. (2019). La terreur et le sublime : humaniser l’intelligence artificielle pour construire un nouveau monde (1re éd.). Éditions XYZ.

Educause. (2020). Next Generation Digital Learning Environment (NGDLE), https://er.educause.edu/articles/2017/7/what-is-the-next-generation

Francesc, P., Subosa, M., Rivas, A. et Paula, V. (2019). Artificial Intelligence in Education: Challenges and Opportunities for Sustainable Development. UNESCO Education Sector, Working Papers on Education Policy.

Ministère de l’Éducation et de l’Enseignement supérieur. (2019). Cadre de référence de la compétence numérique. Bibliothèque et Archives nationales du Québec. http://www.education.gouv.qc.ca/fileadmin/site_web/documents/ministere/Cadre-reference-competence-num.pdf

Ministère de l’Éducation et de l’Enseignement supérieur. (2018). L’essor de l’intelligence artificielle et ses effets en éducation [document inédit], Direction de la veille stratégique et organisationnelle.

Pouly, J. (2017, 15 novembre). Captologie et économie de l’attention. The Conversation. https://theconversation.com/captologie-et-economie-de-lattention-87140

Sanchez, E. et Lama, M. (2009). Artificial Intelligence and Education. Dans J. Ramon Rabuñal Dopico, J. Dorado et A. Pazos (dir.), Encyclopedia of Artificial Intelligence (p. 138-143). IGI Global Publisher of Timely Knowledge.

Taddei, F. (2018). Apprendre au XXIe siècle (1re éd.). Calmann-Lévy.

UNESCO. (2019, 16-18 mai). Consensus de Beijing sur l’intelligence artificielle et l’éducation [communication]. Conférence internationale sur l’intelligence artificielle et l’éducation, Planifier l’éducation à l’ère de l’IA : un bond en avant. République populaire de Chine. https://unesdoc.unesco.org/ark:/48223/pf0000368303https://pf0000368303

Éthique et IA

Bruneault, F., Laflamme, A. S. et Mondoux, A. (2022, 5 mars). Former à l’éthique de l’IA en enseignement supérieur : référentiel de compétence. SocArXiv Paper. Doi : https://doi.org/10.31235/osf.io/38tfv

Bruneault, F. et Sabourin Laflamme, A. (2021). Éthique de l’intelligence artificielle et ubiquité sociale des technologies de l’information et de la communication : comment penser les enjeux éthiques de l’IA dans nos sociétés de l’information ? TIC & société, 15(1), 159-189. Doi : https://doi.org/10.4000/ticetsociete.5999

Burton, E., Goldsmith, J., Koenig, S., Huipers, B., Mattei, N. et Walsh, T. (2017). Ethical Considerations in Artificial Intelligence Courses. AI Magazine, 38(2), 22-34. Doi: https://doi.org/10.1609/aimag.v38i2.2731

Université de Montréal. (2018). Déclaration de Montréal pour un développement responsable de l’intelligence artificielle. Déclaration de Montréal IA responsable. Repéré le 14 juin 2023 à https://www.declarationmontreal-iaresponsable.com/la-declaration

Fjeld, J., Achten, N., Hilligoss, H., Nagy, A. et Srikumar, M. (2020). Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI. SSRN Electronic Journal, 1. Doi : https://doi.org/10.2139/ssrn.3518482

Floridi, L. et Cowls, J. (2019, 1 juillet). A unified framework of five principles for AI in society. Harvard Data Science Review. Doi : https://doi.org/10.1162/99608f92.8cd550d1

Furey, H. et Martin, F. (2019). AI education matters: A modular approach to AI ethics education. AI Matters, 4(4), 13-15. Doi : https://doi.org/10.1145/3299758.3299764

Garrett, N., Beard, N. et Fiesler, C. (2020). More than “If time allows”: The role of ethics in AI education.

Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 272-278. Doi: https://doi.org/10.1145/3375627.3375868

Point, C. (2018). Faire de la démocratie une éthique et une pédagogie. Éthique en éducation et en formation, 4, 76-91. Doi : https://doi.org/10.7202/1045190ar