ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ชื่อดัง เป็นผู้เชี่ยวชาญคนล่าสุดที่แจ้งข้อกังวลเกี่ยวกับการเปิดตัวโมเดลภาษาขนาดใหญ่อย่างรวดเร็ว
Computer science professor becomes latest expert to voice concerns over rapid rollout of large language models
Yoshua Bengio ผู้บุกเบิกด้าน AI : รัฐบาลต้องดำเนินการอย่างรวดเร็วเพื่อ ‘ปกป้องสาธารณชน’
ระบบปัญญาประดิษฐ์ขั้นสูง เช่น GPT ของ OpenAI อาจทำให้ระบอบประชาธิปไตยสั่นคลอนได้ เว้นแต่รัฐบาลจะดำเนินการอย่างรวดเร็วและ “ปกป้องประชาชน” ผู้บุกเบิกด้าน AI ได้เตือน
Yoshua Bengio ผู้ได้รับรางวัล Turing Award ร่วมกับ Geoffrey Hinton และ Yann LeCun ในปี 2018 กล่าวว่า การที่ Big Tech เร่งรีบในการเปิดตัวผลิตภัณฑ์ AI เมื่อเร็ว ๆ นี้กลายเป็นเรื่อง “ไม่ดี” และเสริมว่าเขาเห็น “อันตรายต่อระบบการเมือง ต่อประชาธิปไตย ธรรมชาติของความจริง”.
Bengio เป็นกลุ่มล่าสุดในกลุ่มผู้เชี่ยวชาญด้าน AI ที่กำลังเติบโตซึ่งส่งสัญญาณเตือนเกี่ยวกับการเปิดตัวโมเดลภาษาขนาดใหญ่ที่ทรงพลังอย่างรวดเร็ว Hinton เพื่อนร่วมงานและเพื่อนของเขาลาออกจาก Google ในเดือนนี้เพื่อพูดอย่างอิสระมากขึ้นเกี่ยวกับความเสี่ยงที่ AI ก่อให้เกิดต่อมนุษยชาติ
Bengio ชี้ว่าการเข้าถึงโมเดลภาษาขนาดใหญ่อย่างไม่เลือกปฏิบัติของสังคมเป็นสิ่งที่น่ากังวลอย่างยิ่ง โดยสังเกตจากการขาดการตรวจสอบข้อเท็จจริงที่กำลังนำไปใช้กับเทคโนโลยีในปัจจุบัน
“บริษัทต่างๆ สามารถเช่าการเข้าถึง ChatGPT ได้ . . ตัวอย่างเช่น” เขากล่าว “สิ่งสำคัญคือต้องมีการตรวจสอบการเข้าถึงนี้อย่างใกล้ชิด เพื่อให้เรารู้ว่าใครกำลังใช้ระบบเหล่านั้น เพื่อให้เราสามารถติดตามการใช้งานที่อาจผิดกฎหมายหรือเป็นอันตรายได้”
คำเตือนดังกล่าวเกิดขึ้นในขณะที่กลุ่มเทคโนโลยีต่างเร่งเปิดตัวผลิตภัณฑ์ AI ที่ล้ำสมัย ซึ่งเป็นซอฟต์แวร์คอมพิวเตอร์ที่สามารถเขียนข้อความและสร้างภาพได้ในช่วงหกเดือนที่ผ่านมา เมื่อสัปดาห์ที่แล้ว Google ได้เปิดตัวเสิร์ชเอ็นจิ้นที่ได้รับการปรับปรุงใหม่ซึ่งขับเคลื่อนโดยระบบ AI ใหม่ PaLM 2
GPT-4 ซอฟต์แวร์ขั้นสูงที่สุดของ OpenAI ที่สนับสนุนโดยไมโครซอฟต์ ซึ่งเปิดตัวในเดือนมีนาคม กำลังถูกนำไปใช้อย่างรวดเร็วโดยธนาคาร บริษัทที่ปรึกษา บริษัทสตาร์ทอัพ สถาบันการศึกษา และรัฐบาล เพื่อพยายามเพิ่มผลผลิตให้มากขึ้น
“ไดนามิกของการแข่งขัน . . เป็นวงจรอุบาทว์” Bengio ซึ่งเป็นศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่มหาวิทยาลัยมอนทรีออลและผู้ก่อตั้ง Mila สถาบันปัญญาประดิษฐ์แห่งควิเบกกล่าว
หน่วยงานกำกับดูแลและรัฐบาลทั่วโลกกำลังเพิ่มการตรวจสอบเทคโนโลยีของตน ท่ามกลางความกังวลเกี่ยวกับการละเมิดที่อาจเกิดขึ้น เมื่อวันอังคารที่ผ่านมา Sam Altman ผู้บริหารระดับสูงของ OpenAI เรียกร้องให้ฝ่ายนิติบัญญัติของสหรัฐควบคุมสนาม โดยสรุปความกลัวของเขาเกี่ยวกับศักยภาพที่จะให้ “ข้อมูลที่บิดเบือนเชิงโต้ตอบ” ก่อนการเลือกตั้งสหรัฐในปีหน้า
เป็นที่รู้จักกันเป็นอย่างดีจากผลงานของเขาเกี่ยวกับ deep learning ซึ่งเป็นสาขาหนึ่งของ AI ที่ขับเคลื่อนความก้าวหน้าครั้งใหญ่ในภาคส่วนนี้ Bengio เป็นหนึ่งในนักวิจัยอาวุโสด้าน AI เพียงไม่กี่คนที่ยังคงอยู่ในแวดวงวิชาการหลังจากสมองไหลอย่างมีนัยสำคัญจากบริษัทเทคโนโลยีทั่วโลก ทศวรรษที่ผ่านมา
LeCun เพื่อนร่วมงานที่เป็นนักวิชาการของเขาเข้าร่วมกับ Meta เจ้าของ Facebook ในปี 2013 ในขณะที่ Samy น้องชายของ Bengio เป็นนักวิทยาศาสตร์วิจัยอาวุโสในแผนก AI ของ Google เป็นเวลาเกือบ 15 ปีก่อนที่เขาจะลาออกจาก Apple ในปี 2021
Bengio เป็นหนึ่งในผู้เชี่ยวชาญด้าน AI และผู้บริหารด้านเทคโนโลยีกว่า 1,000 คนลงนามในจดหมายเปิดผนึกเมื่อเดือนที่แล้วเพื่อเรียกร้องให้หยุดการพัฒนาระบบ AI ขั้นสูงเป็นเวลาหกเดือน
แม้ว่าเขาไม่เชื่อว่าจดหมายจะได้ผล แต่เขากล่าวว่าเขาสนับสนุนแนวคิดของการเลื่อนการชำระหนี้ “จากสิ่งที่ฉันได้ยิน มีความคิดเห็นที่แตกต่างกันใน OpenAI, Microsoft และแม้แต่ Google” Bengio กล่าว “ชุมชนทั้งหมดแตกแยกในคำถามนี้”
เขาตั้งข้อสังเกตว่าความไม่ลงรอยกันในหมู่ผู้เชี่ยวชาญด้าน AI เป็นสัญญาณสำคัญต่อสาธารณชนว่าวิทยาศาสตร์ยังไม่มีคำตอบในตอนนี้ “ถ้าเราไม่เห็นด้วยแสดงว่าเราไม่รู้… . . ถ้ามันอาจเป็นอันตรายได้ และถ้าเราไม่รู้ ก็หมายความว่าเราต้องดำเนินการเพื่อป้องกันตนเอง” Bengio กล่าว
“หากคุณต้องการให้มนุษยชาติและสังคมรอดพ้นจากความท้าทายเหล่านี้ เราไม่สามารถมีการแข่งขันระหว่างผู้คน บริษัท และประเทศได้ — และการประสานงานระหว่างประเทศที่อ่อนแอมาก” เขากล่าวเสริม
อันตรายในระยะใกล้ของเทคโนโลยี ได้แก่ ข้อมูลที่ผิด ความลำเอียงที่ร้ายกาจ และการเลือกปฏิบัติต่อกลุ่มคนชายขอบและชนกลุ่มน้อย อันตรายต่อสังคมเหล่านี้เป็นจุดสนใจขององค์กรวิจัยที่ไม่แสวงหาผลกำไร เช่น Distributed AI Research Institute ซึ่งก่อตั้งโดย Timnit Gebru อดีตนักวิจัยด้าน AI ของ Google
แต่ภัยคุกคามระยะยาวที่สร้างความกังวลให้กับ Bengio และ Hinton ไม่ได้หมายถึงแชทบอทในปัจจุบัน — ซึ่งให้คำตอบเหมือนมนุษย์ พวกเขากลัวว่าการวิจัยจะก้าวหน้าอย่างรวดเร็วเพื่อทำให้ระบบ AI เป็นอิสระมากขึ้นภายในทศวรรษนี้
Bengio กล่าวว่าสิ่งเร่งด่วนที่สุดที่หน่วยงานกำกับดูแลต้องทำคือการทำให้ระบบ AI โปร่งใสมากขึ้น รวมถึงการตรวจสอบข้อมูลที่ใช้ในการฝึกอบรมและผลลัพธ์ของพวกเขา
นอกจากนี้ เขายังได้เสนอพันธมิตรระหว่างประเทศเพื่อให้ทุนสนับสนุนการวิจัยด้าน AI ในสาขาที่มีความสำคัญต่อสาธารณะ เช่น สภาพภูมิอากาศและการดูแลสุขภาพ
“เช่นเดียวกับการลงทุนใน CERN ในยุโรปหรือโครงการอวกาศ นั่นคือขนาดที่การลงทุนสาธารณะด้าน AI ควรเป็นในวันนี้ เพื่อนำประโยชน์ของ AI มาสู่ทุกคนอย่างแท้จริง ไม่ใช่แค่ทำเงินจำนวนมาก” เขากล่าว
Bengio เสริมว่าขณะนี้เขากำลังหารือเกี่ยวกับแนวคิดกับ Hinton สำหรับความร่วมมือในอนาคตเพื่อรับมือกับความท้าทายเหล่านี้
“ตอนนี้มีความสนใจมากมาย มีความเห็นมากมายภายในชุมชน AI ที่ขยายกว้างขึ้น แต่เราต้องการศึกษาข้อมูลเพิ่มเติม และการพิจารณามากขึ้นว่าเราจะปรับตัวอย่างไรกับสิ่งที่กำลังจะมาถึง” Bengio กล่าว “นั่นคือวิธีการทางวิทยาศาสตร์”