Comprendre ChatGPT:  que se passe-t-il à l’intérieur de l’agent conversationnel d’OpenAI?

Nous n’avons pas encore terminé de parler de ChatGPT qu’OpenAI annonçait en mars la sortie de GPT-4, son grand modèle de langage le plus récent. Mais avant de nous demander quelles sont les différences entre GPT-3 et son successeur, plusieurs questions méritent notre attention : quelle est la différence entre GPT-3 et ChatGPT? Comment ChatGPT a-t-il été entrainé? Comment expliquer les réponses de ChatGPT? Sommes-nous à la veille d’une singularité en IA?

Le 12 avril dernier, François Grondin, professeur au Département de génie électrique et génie informatique à l’Université de Sherbrooke, répondait à ces questions lors d'une conférence tenue à l’Institut interdisciplinaire d’innovation technologique (3IT).

Lors de cette conférence intitulée Comprendre ChatGPT : que se passe-t-il à l’intérieur de ChatGPT? [disponible en rediffusion], le Pr Grondin a vulgarisé plusieurs des concepts fondamentaux au fonctionnement de cet outil d’IA. Du traitement naturel du langage à la génération de texte, des réseaux de neurones utilisés en apprentissage profond aux réseaux autoattentifs, des données d’entrainement du modèle de langage à l’apprentissage par renforcement, le chercheur a fourni les bases essentielles pour comprendre ChatGPT de manière éclairée.

François Grondin nous fait rentrer dans l’arrière-boutique de GPT et de ChatGPT. Ça nous permet de comprendre à la fois ses absurdités et sa performance. C’est magique pour ça!

Dany Baillargeon, professeur au Département de communication à la Faculté des lettres et sciences humaines

Cet évènement s’inscrit dans le cadre de la série de trois conférences ChatGPT: l’IA face au génie humain, organisée par le 3IT.Micro.IA et soutenue par le 3IT, Prompt, LN2 et le CASS. Cette série de conférences permet à une audience étudiante, professorale et professionnelle de se situer en tant qu’actrices et acteurs responsables de cette technologie d’IA.

Conférences à venir : 17 mai et 14 juin

Le 17 mai prochain, Jean-Sébastien Dubé, conseiller à la valorisation de l’innovation pédagogique à l’UdeS et Alexandra Lez, conseillère pédagogique au Service de soutien à la formation à l’UdeS, présenteront une conférence intitulée L'IA pour soutenir l'apprentissage et l'enseignement à l'UdeS. François Thibeault, agent à la recherche au 3IT.Micro.IA et Céline Verchère, responsable de recherche et professeure associée au 3IT.Micro.IA et au LN2, aborderont les impacts sociétaux et les défis éthiques associés à ChatGPT.

Le 14 juin, Dany Baillargeon, professeur au Département de communication de la Faculté des lettres et sciences humaines explorera la créativité et l’innovation par et avec l’IA.