การศึกษาใหม่แสดงให้เห็นว่าผู้คนสามารถเรียนรู้ที่จะสังเกตข้อความที่เครื่องสร้างขึ้น

การศึกษานี้ได้นำ โดย Chris Callison-Burch รองศาสตราจารย์ภาควิชาวิทยาการคอมพิวเตอร์และสารสนเทศ (CIS) พร้อมด้วยปริญญาเอก นักเรียน Liam Dugan และ Daphne Ippolito แสดงให้เห็นว่าระบบตรวจจับข้อความที่สร้างโดย AI ได้

“เราได้แสดงให้เห็นว่าผู้คนสามารถฝึกฝนตนเองให้จำข้อความที่เครื่องสร้างขึ้นได้”Callison-Burch กล่าว “ผู้คนเริ่มต้นด้วยชุดของสมมติฐานเกี่ยวกับประเภทของข้อผิดพลาดที่เครื่องจักรจะทำ แต่สมมติฐานเหล่านี้ไม่จำเป็นต้องถูกต้องเสมอไป เมื่อเวลาผ่านไป ด้วยตัวอย่างที่เพียงพอและคำแนะนำที่ชัดเจน เราสามารถเรียนรู้ที่จะเลือกประเภทของข้อผิดพลาดที่เครื่องจักรกำลังทำอยู่”

การศึกษาใช้ข้อมูลที่รวบรวมโดยใช้ “ข้อความจริงหรือข้อความปลอม” และ เกมฝึกอบรมบนเว็บที่เป็นต้นฉบับ เกมการฝึกอบรมนี้เปลี่ยนวิธีการทดลองมาตรฐานสำหรับการศึกษาการตรวจจับเป็นการจำลองวิธีที่ผู้คนใช้ AI เพื่อสร้างข้อความที่ถูกต้องมากขึ้น

ในวิธีการมาตรฐาน ผู้เข้าร่วมจะถูกขอให้ระบุในแบบใช่หรือไม่ใช่ว่า เครื่องได้สร้างข้อความที่กำหนด แบบจำลองของ Penn ปรับแต่งการศึกษาการตรวจจับมาตรฐานให้เป็นงานฝึกอบรมที่มีประสิทธิภาพโดยการแสดงตัวอย่างที่ทั้งหมดเริ่มต้นด้วยการเขียนโดยมนุษย์ จากนั้นแต่ละตัวอย่างจะเปลี่ยนเป็นข้อความที่สร้างขึ้นโดยขอให้ผู้เข้าร่วมทำเครื่องหมายที่ที่พวกเขาเชื่อว่าการเปลี่ยนแปลงนี้เริ่มต้นขึ้น ผู้เข้ารับการอบรมระบุและอธิบายคุณลักษณะของข้อความที่ระบุข้อผิดพลาดและรับคะแนน

ผลการศึกษา

ผลการศึกษาแสดงว่าผู้เข้าร่วมได้คะแนนอย่างมีนัยสำคัญ ดีกว่าการสุ่มโดยให้หลักฐานว่าข้อความที่สร้างขึ้นโดย AI นั้นตรวจจับได้ในระดับหนึ่ง การศึกษานี้ไม่เพียงแต่สรุปความสัมพันธ์ของเรากับ AI ในอนาคตที่มั่นใจและน่าตื่นเต้นเท่านั้น แต่ยังแสดงหลักฐานว่าผู้คนสามารถฝึกฝนตนเองให้ตรวจจับข้อความที่เครื่องสร้างขึ้น

“ผู้คนกังวลเกี่ยวกับ AI ด้วยเหตุผลที่ถูกต้อง Callison-Burch กล่าว “การศึกษาของเราชี้ให้เห็นถึงหลักฐานในการบรรเทาความวิตกกังวลเหล่านี้ เมื่อเราควบคุมการมองโลกในแง่ดีเกี่ยวกับตัวสร้างข้อความ AI ได้ เราจะสามารถทุ่มเทความสนใจไปที่ความสามารถของเครื่องมือเหล่านี้เพื่อช่วยให้เราเขียนข้อความที่มีจินตนาการและน่าสนใจยิ่งขึ้น”

Dugan กล่าวเสริมว่า “มีเรื่องเชิงบวกที่น่าตื่นเต้น แนวทางที่คุณสามารถผลักดันเทคโนโลยีนี้เข้ามาได้ ผู้คนต่างจับจ้องไปที่ตัวอย่างที่น่าเป็นห่วง เช่น การลอกเลียนแบบและข่าวปลอม แต่ตอนนี้เรารู้แล้วว่าเราสามารถฝึกฝนตนเองให้เป็นนักอ่านและนักเขียนที่ดีขึ้นได้”

การศึกษา ให้ขั้นตอนแรกที่สำคัญในการลดความเสี่ยงที่เกี่ยวข้องกับข้อความที่เครื่องสร้างขึ้น ในขณะที่ AI พัฒนาอย่างต่อเนื่อง ความสามารถของเราในการตรวจจับและนำทางผลกระทบก็ต้องมากตามไปด้วย การฝึกตนเองให้รู้จักความแตกต่างระหว่างข้อความที่เขียนโดยมนุษย์และข้อความที่เครื่องสร้างขึ้น เราสามารถควบคุมพลังของ AI เพื่อสนับสนุนกระบวนการสร้างสรรค์ของเราในขณะที่ลดความเสี่ยง