OpenAI, der Schöpfer des beliebten Chatbots ChatGPT, hat ein Softwaretool veröffentlicht, um von künstlicher Intelligenz generierten Text zu identifizieren, teilte das Unternehmen am Mittwoch in einem Blogbeitrag mit.
ChatGPT ist ein kostenloses Programm, das generiert Text als Antwort auf eine Eingabeaufforderung, darunter Artikel, Essays, Witze und sogar Gedichte, die seit ihrem Debüt im November große Popularität erlangt haben und Bedenken hinsichtlich Urheberrecht und Plagiat aufkommen lassen.
Der KI-Klassifikator, eine Sprache Modell, das auf dem Datensatz von Paaren aus von Menschen geschriebenem und KI-geschriebenem Text zum selben Thema trainiert wurde, zielt darauf ab, Text zu unterscheiden, der von KI geschrieben wurde. Es nutzt eine Vielzahl von Anbietern, um Probleme wie automatisierte Fehlinformationskampagnen und akademische Unehrlichkeit anzugehen, sagte das Unternehmen.
In seinem öffentlichen Beta-Modus erkennt OpenAI an, dass das Erkennungstool bei Texten unter 1.000 Zeichen sehr unzuverlässig ist und KI-geschriebener Text kann bearbeitet werden, um den Klassifikator auszutricksen.
“Wir machen diesen Klassifikator öffentlich zugänglich, um Feedback darüber zu erhalten, ob unvollkommene Tools wie dieses nützlich sind”, sagte OpenAI.
“Wir erkennen an, dass die Identifizierung von KI-geschriebenem Text ein wichtiger Diskussionspunkt unter Pädagogen war, und ebenso wichtig ist es, die Grenzen und Auswirkungen von KI-generierten Textklassifikatoren im Klassenzimmer zu erkennen.”
Seit ChatGPT Im November debütierte und bei Millionen von Nutzern große Popularität erlangte, haben einige der größten US-amerikanischen Schulbezirke, einschließlich New York City, den KI-Chatbot wegen Bedenken verboten, dass Schüler den Textgenerator zum Betrügen oder Plagiieren verwenden werden.
Andere haben Erkennungstools von Drittanbietern erstellt, inkl Luding GPTZeroX, um Pädagogen bei der Erkennung von KI-generiertem Text zu helfen.
OpenAI sagte, dass es mit Pädagogen zusammenarbeitet, um die Fähigkeiten und Einschränkungen von ChatGPT zu diskutieren, und weiterhin an der Erkennung von KI-generiertem Text arbeiten wird.
© Thomson Reuters 2023
Affiliate-Links können automatisch generiert werden – Einzelheiten finden Sie in unserer Ethikerklärung.