GPTZero: เครื่องมือช่วยตรวจจับร่องรอยของ Generative AI

 นักวิจัยพบว่าข้อความที่เขียนโดยมนุษย์มีแนวโน้มที่จะซับซ้อนและไม่สม่ำเสมอเมื่อเทียบกับเนื้อหาที่สร้างโดยบอท

Human-authored text tends to be more complex and uneven, compared to the content generated by bots, a researcher has found.

GPTZero: แอพตรวจจับงานที่สร้างจาก Generative  AI

เปิดตัวเครื่องมือใหม่ที่สามารถตรวจจับได้ว่าข้อความเขียนโดยคนหรือเครื่องจักร  พัฒนาโดย Edward Tian นักศึกษาระดับปริญญาตรี ที่กำลังศึกษาวิทยาการคอมพิวเตอร์และวารสารศาสตร์ ที่ Princeton University GPTZero เป็นเครื่องมือที่เผยแพร่สู่สาธารณะที่สามารถช่วยให้อาจารย์ ผู้ดูแลระบบการรับเข้าเรียนของวิทยาลัย หรือผู้ที่อ่านบทความออนไลน์ รู้ได้ว่าเนื้อหานั้นเขียนขึ้นโดยมนุษย์หรือไม่ หรือสร้างขึ้นโดยโมเดลภาษา AI  language model เครื่องมือวิเคราะห์ข้อความสำหรับตัวบ่งชี้บางอย่าง เช่น “perplexity” และ “burstiness” ซึ่งอ้างอิงถึงความซับซ้อนหรือสุ่มของข้อความ และดูว่ามีรูปแบบความหลากหลายในโครงสร้างประโยคหรือไม่  

การพัฒนาเครื่องมือตรวจจับ AI อย่าง GPTZero เกิดขึ้นในเวลาที่ Generative AI สร้างกระแสความขัดแย้งในเกือบทุกด้าน โดยโมเดล AI ขนาดใหญ่อย่าง ChatGPT ทำให้เกิดความกังวลเกี่ยวกับผลกระทบต่อ การประพฤติมิชอบทางวิชาการและการโกง  แม้ว่าการพัฒนา GPTZero ของ Tian เกิดจากความสนใจในการใช้ AI อย่างมีความรับผิดชอบ แต่เขาหวังว่าผลกระทบทางสังคมของการนำ AI มาใช้จะได้รับอิทธิพลในลักษณะที่ส่งเสริมความเท่าเทียมและความโปร่งใส โดยเฉพาะอย่างยิ่งเมื่อ AI มีแนวโน้มที่จะแพร่หลายมากขึ้นในอนาคต

Edward Tian นักศึกษาวิทยากาคอมพิวเตอร์ที่ Princeton University ได้สร้าง GPTZero ซึ่งเป็นซอฟต์แวร์ที่ตรวจจับการเขียนที่เกิดจาก AI  Tian ได้รับแรงบันดาลใจจาก ChatGPT ซึ่งเป็นซอฟต์แวร์ AI Chat bots ที่สร้างงานเขียนที่ยาวขึ้น ตามคำสั่ง prompt ด้วยภาษาธรรมชาติ เช่น อังกฤษ

GPTZero ใช้เมตริกความฉงนสนเท่ห์และความแตกแยกเพื่อประเมินความน่าจะเป็นที่ข้อความที่เขียนโดย AI  Tian ได้เลือกที่จะไม่ขายซอฟต์แวร์และมุ่งเน้นไปที่การปรับปรุงแทน รวมถึงการระบุอคติโดยนัยในข้อความที่สร้างขึ้นโดย AI  GPTZero เผยแพร่ท่ามกลางความกังวลของสาธารณชนเกี่ยวกับวิธีที่นักเรียนอาจใช้ ChatGPT เพื่อโกงเรียงความ

view original *