Frontiers in Cell and Developmental Biology ซึ่งเป็นวารสารที่ผ่านการตรวจสอบโดยผู้ทรงคุณวุฒิ ได้ตีพิมพ์บทความเรื่อง “Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway” เมื่อวันที่ 13 กุมภาพันธ์ ภายในหนึ่งวันของการตีพิมพ์ ผู้อ่านชี้ให้เห็นว่าตัวเลขดังกล่าว ถูกสร้างขึ้นอย่างชัดเจนด้วยปัญญาประดิษฐ์ เต็มไปด้วยการสะกดผิด แผนภาพไร้สาระ ภายในสามวัน Frontiers ถอนบทความกลับ
Frontiers in Cell and Developmental Biology, a peer-reviewed journal, published an article titled “Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway” on Feb. 13. Within a day of publication, readers pointed out that the figures were clearly generated with artificial intelligence — full of spelling errors, nonsensical diagrams and an anatomically incorrect, well-endowed rat. Within three days, Frontiers retracted the article.
อนาคตของ Generative Artificial Intelligence ในการวิจัยทางวิทยาศาสตร์
Frontiers in Cell and Developmental Biology ซึ่งเป็นวารสารที่ผ่านการตรวจสอบโดยผู้ทรงคุณวุฒิ ได้ตีพิมพ์บทความเรื่อง “Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway” เมื่อวันที่ 13 กุมภาพันธ์ ภายในหนึ่งวันของการตีพิมพ์ ผู้อ่านชี้ให้เห็นว่าตัวเลขดังกล่าว ถูกสร้างขึ้นอย่างชัดเจนด้วยปัญญาประดิษฐ์ เต็มไปด้วยการสะกดผิด แผนภาพไร้สาระ ภายในสามวัน Frontiers ถอนบทความกลับ
บทความที่ถูกเพิกถอนเป็นเพียงตัวอย่างหนึ่งที่ทำให้เกิดความกังวลมากขึ้นเกี่ยวกับการประยุกต์ใช้ AI ในด้านวิทยาศาสตร์ AI สามารถเป็นเครื่องมืออันทรงพลังที่เป็นหัวหอกในการสร้างสรรค์นวัตกรรมและการพัฒนา อย่างไรก็ตาม AI ยังสามารถนำเสนอความท้าทายด้านจริยธรรม กฎหมาย และวิทยาศาสตร์ ที่ได้รับการถกเถียงกันอย่างเข้มข้น
Generative AI ได้รับการพัฒนาอย่างรวดเร็วภายในทศวรรษที่ผ่านมา ส่วนหนึ่งต่อจาก Generative Adversarial Network ที่เสนอโดย Ian Goodfellow และเพื่อนร่วมงานของเขาในปี 2014 GAN ช่วยให้โมเดล AI สามารถสร้างเนื้อหาใหม่ รวมถึงข้อความ ตัวเลข และวิดีโอ ซึ่งทำให้ GenAI แตกต่างจากการจัดประเภทและ เครื่องมือ AI ในการตัดสินใจ
รายงานล่าสุดของ Cornell University ให้รายละเอียดเกี่ยวกับประโยชน์ที่เป็นไปได้ของ GenAI ในทุกขั้นตอนของการวิจัยเชิงวิชาการ เช่น การวางแผนการศึกษา การจัดการวิจัย การรวบรวมข้อมูล การเผยแพร่ผลการวิจัย และการได้รับเงินทุน ซึ่งรวมถึงการใช้เครื่องมือ GenAI เพื่อสรุปข้อมูลจำนวนมาก ปรับปรุงความชัดเจนในการเขียน และสังเคราะห์ข้อมูลจากแหล่งต่างๆ
แม้ว่า GenAI จะสามารถเพิ่มประสิทธิภาพและความแม่นยำในการวิจัยได้ แต่ก็มีความท้าทายที่สำคัญหลายประการในการใช้ GenAI ในการวิจัยเชิงวิชาการ ตามที่อาจารย์ของ Cornell กล่าว
“Generative AI สามารถแสดงข้อความหรือรูปภาพ ที่ทำให้เกิดข้อผิดพลาด (รวมถึง misinformation และ hallucinations) หรือก่อให้เกิดทัศนคติแบบเหมารวม ที่ไม่ได้เป็นตัวแทนของโลก” ศาสตราจารย์ Allison Koenecke วิทยาการสารสนเทศเขียนในอีเมลถึง The Sun
หากการใช้และผลลัพธ์ของ GenAI ไม่ได้รับการตรวจสอบอย่างมีวิจารณญาณ อาจส่งผลให้คุณภาพและความแม่นยำของการวิจัยลดลง ตามที่ Prof. James Grimmelmann, Cornell Tech และกฎหมาย กล่าว
“[บทความใน Frontiers เป็นตัวอย่างของ] ผู้คนที่ใช้ generative AI เพื่อสร้างสิ่งต่าง ๆ เพื่อทำให้กระบวนการเขียนส่วนต่าง ๆ ของบทความการวิจัย หรือบรรยายเนื้อหาโดยอัตโนมัติ และนั่นเป็นการนำเสนอขยะที่ผลิตโดย AI ราวกับว่าเป็นการวิจัยทางวิทยาศาสตร์” Grimmelmann สรุป
การใช้ GenAI เพื่อสร้างตัวเลขในบทความการวิจัยของ Frontiers เป็นที่ประจักษ์แก่ผู้อ่าน ส่งผลให้เกิดกระแสโซเชียลมีเดีย ไม่นานหลังจากการตีพิมพ์ แน่นอนวมี่ามีความเสี่ยงในการใช้ GenAI ในการวิจัยทางวิทยาศาสตร์
ตามข้อมูลของ Grimmelmann การใช้ GenAI สำหรับเขียนงานวิจัยทางวิทยาศาสตร์ เช่น backgrounds, literature reviews และ abstracts มีโอกาสที่ GenAI จะผิดพลาดได้สูง แตก ต่างจากการสร้างรูปภาพโดย AI ที่อาจดูสมจริงได้
“หาก [GenAI] เป็นเพียงทางลัด ก็อาจเป็นทางลัดที่นำไปสู่คุณภาพที่ต่ำลง” Grimmelmann กล่าว
นอกจากนี้ data fabrication ถือเป็นข้อกังวลในการวิจัยทางวิทยาศาสตร์มาโดยตลอด แต่ GenAI ให้ผู้คนสร้าง หรือเปลี่ยนแปลงชุดข้อมูล โดยพยายามรักษาความน่าเชื่อถือไว้ เครื่องมือกำลังได้รับการพัฒนาเพื่อตรวจจับการฉ้อโกง แต่ยังไม่สามารถตรวจจับได้อย่างแม่นยำพอเพียง
ตามที่ศาสตราจารย์ David Mimno ผู้เชี่ยวชาญด้านสารสนเทศ มีข้อกังวลอีกประการหนึ่งก็คือ นักวิจัยจำนวนมาก ที่ใช้เครื่องมือ GenAI อาจเชื่ออย่างไม่ถูกต้องว่า พวกเขากำลังสร้างผลลัพธ์ตามที่ตั้งใจไว้ หรือผลลัพธ์ที่แม่นยำ แต่ GenAI สามารถแก้ไขโค้ด หรือแก้ไขข้อมูล อย่างไม่ถูกต้อง เพื่อทำให้ผลลัพธ์ดูเป็นไปได้มากขึ้น โดยที่ผู้วิจัยไม่ได้ตั้งใจ
ในขณะที่เครื่องมือ AI ยังคงพัฒนาต่อไป จึงมีการดำเนินการและการเจรจาเพิ่มขึ้นทั่วทั้งรัฐบาล ระบบกฎหมาย สถาบันวิจัย และนักพัฒนา เพื่อเพิ่มประโยชน์ของ GenAI สูงสุด ในขณะที่ลดความเสี่ยงให้เหลือน้อยที่สุด
ตัวอย่างเช่น ในเดือนตุลาคม ปี 2023 ประธานาธิบดีโจ ไบเดนออกคำสั่งผู้บริหารว่าด้วยการพัฒนาและการใช้ปัญญาประดิษฐ์ที่ปลอดภัย มั่นคง และเชื่อถือได้ EO กำหนดมาตรฐานความปลอดภัยและความมั่นคงสำหรับเทคโนโลยี AI ปกป้องสิทธิ์ความเป็นส่วนตัว ลดอคติของอัลกอริทึม และพยายามส่งเสริมนวัตกรรม
จุดตัดระหว่าง AI และวิทยาศาสตร์ ไม่ได้หยุดอยู่ที่การตีพิมพ์ผลงานวิจัย ในสหรัฐอเมริกา มีคดีทางกฎหมายที่ดำเนินอยู่มากกว่า 20 คดี เกี่ยวกับการใช้เครื่องมือ GenAI ละเมิดสิทธิ์ในทรัพย์สินทางปัญญา และความเป็นส่วนตัวของข้อมูล
ตามข้อมูลของ Grimmelmann ปัจจุบัน ผลงานที่ได้จาก GenAI ไม่ถือว่ามีสิทธิ์ได้รับการคุ้มครองลิขสิทธิ์ หรือสิทธิบัตรในสหรัฐอเมริกา เนื่องจากเนื้อหาที่สร้างโดย AI ไม่ถือว่าผลิตโดยมนุษย์ แม้จะแยกมนุษย์และ AI ออกจากกัน มีการใช้พรอมต์เพื่อสร้างเอาต์พุต แต่ข้อมูลที่ใช้ในการฝึกอัลกอริทึมและการเขียนโปรแกรมของเครื่องมือ AI อาจถือว่าจัดทำโดยบุคคลเพียงคนเดียว
“เราจะมีคำถามยากๆ มากมายเกี่ยวกับการมีส่วนร่วมของมนุษย์มากพอที่จะให้ผู้เขียนที่เป็นมนุษย์ได้รับเครดิตสำหรับสิ่งที่ออกมาจาก generative AI หรือไม่” Grimmelmann กล่าว
ในแวดวงวิชาการ วารสารวิทยาศาสตร์และคณะบรรณาธิการต้องต่อสู้กับกฎการเปิดเผยข้อมูลสำหรับการวิจัยทางวิทยาศาสตร์ รายงานของ Cornell เสนอชุดหน้าที่สำหรับนักวิจัยที่ใช้ GenAI ในการศึกษาของพวกเขา ได้แก่ ดุลยพินิจในการใช้ข้อมูลและเครื่องมือ GenAI การตรวจสอบผลลัพธ์ การเปิดเผยการใช้ GenAI และความรับผิดชอบสำหรับนักวิจัยทุกคนในการปฏิบัติตามมาตรฐานการใช้ GenAI
สำหรับ Mimno ความไว้วางใจเป็นองค์ประกอบหลักของการสนทนานี้
“นักวิชาการและงานวิจัยจำนวนมากเกี่ยวกับแรงงานอาสาสมัคร ซึ่งเราสนับสนุนซึ่งกันและกันในฐานะชุมชนเพื่อทำให้งานดีขึ้น และเพื่อค้นหาวิทยาศาสตร์และความจริง” Mimno กล่าว “ท้ายที่สุดแล้ว เราจะต้องเชื่อใจซึ่งกันและกันว่าเราไม่ได้กำลังสร้างอะไรขึ้นมา เราไม่ได้สร้างภาพที่ไม่ได้มีความหมายอะไรเลย”