Mercredi marque une journée de grèves des enseignants dans une grande partie du Royaume-Uni, mettant les parents dans le rôle familier inspiré de la pandémie d’enseignants à la maison en chef pour leurs enfants. Sauf que cette fois, il y a un assistant automatisé magique à portée de main pour vous aider.
Les éducateurs ont prudemment loué ChatGPT, le chatbot ultra-sophistiqué d’OpenAI, disant qu’il pourrait révolutionner l’éducation. Un directeur d’école en Grande-Bretagne dit qu’il a déclenché une refonte des devoirs, tandis qu’un autre en Oregon l’a utilisé pour créer des plans de cours et des guides d’étude.
Les réponses personnalisées de l’outil sont ce qui le rend si attrayant en tant que tout-sachant tuteur numérique. Je l’ai récemment utilisé pour approfondir le sujet des enzymes, lorsque mon fils de 12 ans avait des questions auxquelles je n’avais aucun espoir de répondre. Lorsque ChatGPT a proposé une explication dense et technique, je lui ai demandé des termes plus simples et une analogie.
“Bien sûr !”il a répondu.”Pensez à une serrure sur une porte. La serrure est comme une enzyme et la clé est comme la molécule de substrat… » Cela a poussé l’analogie plus loin pour décrire le site actif d’une enzyme comme le trou de la serrure.
Ce sont des réponses remarquables. Nous aurions pu approfondir toutes les facettes de la biochimie si nous l’avions voulu. Contrairement à un tuteur humain, ChatGPT peut être interrogé aussi longtemps que vous le souhaitez.
Cela recèle un énorme potentiel d’apprentissage personnalisé et indépendant… sauf que ChatGPT se trompe souvent, et il fait du très bon travail de cacher ça. Lorsque j’ai testé l’une des questions de devoirs d’anglais de ma fille sur l’outil, il a offert une liste éloquente d’exemples, qui, en y regardant de plus près, en comprenaient un qui était extrêmement inexact. Le personnage principal avait une relation turbulente avec ses parents, a déclaré le bot, même si les parents du personnage étaient morts tout au long du livre.
À une autre occasion, j’ai utilisé l’outil pour générer des équations linéaires pour ma fille entraine toi. Elle était perplexe lorsque j’ai demandé à l’outil de générer les réponses, qui étaient différentes de celles qu’elle avait calculées. J’ai demandé une explication à ChatGPT et il a encore une fois décomposé sa méthode en termes simples, semblant aussi autoritaire que n’importe quel vrai tuteur en mathématiques. Mais lorsque j’ai revérifié les réponses sur Google, il s’est avéré que les réponses de ChatGPT étaient fausses et que celles de mon interpolation étaient correctes. Ainsi s’est terminé son mini-cauchemar d’échec en mathématiques et une grande partie de mon enthousiasme initial pour ChatGPT.
Le système scolaire public de New York, le plus grand des États-Unis, a déjà interdit à ses élèves d’utiliser ChatGPT, en partie en raison de préoccupations concernant «l’exactitude du contenu». C’est pourquoi les récentes comparaisons entre ChatGPT et une”calculatrice pour l’écriture”sont une analogie trompeuse, puisque les calculatrices ont toujours raison et que ChatGPT ne l’est pas.
Dans quelle mesure est-il inexact ? Une porte-parole d’OpenAI a déclaré que la société avait mis à jour ChatGPT au cours des deux derniers mois pour améliorer sa précision factuelle, mais qu’elle n’avait aucune statistique à partager. L’outil avertit également les utilisateurs, lorsqu’ils l’ouvrent pour la première fois, qu’il fait parfois des erreurs.
Deviendra-t-il plus précis ? Oui, mais il est difficile de dire à quel point. Le grand modèle de langage qui sous-tend ChatGPT est composé de 175 milliards de paramètres, qui sont des paramètres utilisés pour faire les prédictions du modèle, contre 1,5 milliard que son prédécesseur GPT-2 avait. Il est devenu une sagesse acceptée en IA que plus on ajoute de paramètres à un modèle, plus il devient véridique, et la corrélation est réelle pour GPT. Il est devenu beaucoup plus précis lorsque tous ces paramètres ont été ajoutés. Selon la rumeur, la prochaine itération dont la sortie est prévue cette année, appelée GPT-4, aura des billions.
Le problème est que nous ne savons pas si un énorme saut dans les paramètres signifie également un énorme saut dans la fiabilité. C’est pourquoi les étudiants doivent utiliser ChatGPT avec prudence, voire pas du tout, dans un avenir prévisible.
Quand j’ai demandé à Julien Cornebise, professeur honoraire d’informatique à l’University College de Londres, s’il lui ferait jamais confiance en tant que un outil pour les devoirs, il a répondu: « Absolument pas, pas encore. Il a souligné que même lorsque le système s’améliorera, nous n’aurons toujours pas la garantie qu’il est véridique.
Les étudiants doivent s’habituer à corroborer tous les faits que le système partage avec d’autres informations en ligne ou avec un expert. Albert Meige, directeur associé spécialisé dans la technologie au cabinet de conseil Arthur D. Little, dit que sa propre fille adolescente l’a utilisé pour l’aider dans ses devoirs de physique-mais il a pu valider les réponses grâce à son doctorat en physique computationnelle. Il recommande d’utiliser le chatbot pour aider à mieux comprendre les questions posées dans les devoirs.”Elle a découvert qu’elle ne devait pas poser une seule question”, dit-il.”C’était un processus interactif.”
Utilisez-le pour obtenir des commentaires, confirme Cornebise.”C’est ce que l’étudiant vedette fera.”
Étant une entreprise relativement petite, OpenAI peut s’en tirer en crachant l’étrange fait alternatif. Google et Meta Platforms Inc. d’Alphabet Inc. ne pourraient pas faire de même. Google a son propre modèle de langage hautement sophistiqué appelé LaMDA, mais est extrêmement prudent quant à l’intégration d’un chatbot similaire dans son propre outil de recherche, probablement en partie à cause du problème de précision. Trois jours après avoir publié un outil d’IA capable de générer des articles scientifiques, appelé Galactica, Meta l’a retiré après que des universitaires l’aient critiqué pour avoir généré des informations non fiables.
OpenAI sera tenu à des normes aussi élevées que les bras d’IA générative la course s’intensifie et la technologie chatbot est intégrée dans les moteurs de recherche aux États-Unis et en Chine.
D’ici là, utilisez-la avec discrétion et une bonne dose de scepticisme, en particulier dans l’éducation.
© 2023 Bloomberg LP
Les liens d’affiliation peuvent être générés automatiquement-consultez notre déclaration d’éthique pour plus de détails.