OpenAI, le créateur du populaire chatbot ChatGPT, a publié un outil logiciel pour identifier le texte généré par l’intelligence artificielle, a déclaré la société dans un article de blog mercredi.
ChatGPT est un programme gratuit qui génère texte en réponse à une invite, y compris des articles, des essais, des blagues et même de la poésie, qui a gagné en popularité depuis ses débuts en novembre, tout en soulevant des inquiétudes concernant le droit d’auteur et le plagiat.
Le classificateur d’IA, un langage modèle formé sur l’ensemble de données de paires de texte écrit par l’homme et écrit par l’IA sur le même sujet, vise à distinguer le texte écrit par l’IA. Il utilise une variété de fournisseurs pour résoudre des problèmes tels que les campagnes de désinformation automatisées et la malhonnêteté académique, a déclaré la société.
Dans son mode bêta public, OpenAI reconnaît que l’outil de détection est très peu fiable sur les textes de moins de 1 000 caractères, et Le texte écrit par l’IA peut être modifié pour tromper le classificateur.
“Nous rendons ce classificateur accessible au public pour obtenir des commentaires sur l’utilité d’outils imparfaits comme celui-ci”, a déclaré OpenAI.
“Nous reconnaissons que l’identification du texte écrit par l’IA a été un point de discussion important parmi les éducateurs, et il est tout aussi important de reconnaître les limites et les impacts des classificateurs de texte générés par l’IA dans la salle de classe.”
Depuis ChatGPT a fait ses débuts en novembre et a gagné en popularité parmi des millions d’utilisateurs, certains des plus grands districts scolaires américains, dont New York, ont interdit le chatbot d’IA, craignant que les étudiants n’utilisent le générateur de texte pour tricher ou plagier.
D’autres ont créé des outils de détection tiers inc Luding GPTZeroX pour aider les enseignants à détecter le texte généré par l’IA.
OpenAI a déclaré qu’il s’engageait avec les enseignants pour discuter des capacités et des limites de ChatGPT et continuerait à travailler sur la détection du texte généré par l’IA.
© Thomson Reuters 2023
Les liens d’affiliation peuvent être générés automatiquement-consultez notre déclaration d’éthique pour plus de détails.