OpenAI ได้ยุบทีม Superalignment ที่เน้นความเสี่ยงระยะยาวของปัญญาประดิษฐ์ ไม่กี่วันหลังจากผู้นำของทีม Ilya Sutskever ผู้ร่วมก่อตั้ง OpenAI และ Jan Leike ได้ประกาศออกจาก Open AI
OpenAI has disbanded its team focused on the long-term risks of artificial intelligence, a person familiar with the situation confirmed to CNBC. The news comes days after both team leaders, OpenAI co-founder Ilya Sutskever and Jan Leike, announced their departures from the Microsoft-backed startup.
OpenAI ยุบทีม Superalignment ที่เน้นไปที่ความเสี่ยง AI ในระยะยาว หลังถูกจัดตั้งขึ้นไม่ถึงหนึ่งปี
OpenAI ได้ยุบทีม Superalignment ที่เน้นความเสี่ยงระยะยาวของปัญญาประดิษฐ์เพียงหนึ่งปีหลังจากที่บริษัทประกาศจัดตั้งทีม Superalignment สมาชิกในทีมจะได้รับการมอบหมายงานใหม่ กระจายบุคลากรไปให้กับทีมอื่นๆ อีกหลายทีมภายในบริษัท
ข่าวนี้เกิดขึ้นไม่กี่วันหลังจากผู้นำของทีม Ilya Sutskever ผู้ร่วมก่อตั้ง OpenAI และ Jan Leike ได้ประกาศออกจาก Open AI
ทีม Superalignment ของ OpenAI ซึ่งประกาศจัดตั้งขึ้น เมื่อปีที่แล้ว ได้มุ่งเน้นไปที่ การควบคุมความก้าวหน้าทางวิทยาศาสตร์ และควบคุม AI ที่ชาญฉลาดกว่ามนุษย์มาก เพื่อลดความเสี่ยงในระยะยาว ในเวลานั้น OpenAI แถลงว่า จะทุ่มทรัพยากร พลังการประมวลผล 20% ให้กับโครงการริเริ่มนี้ในช่วงสี่ปี
Sam Altman ผู้ร่วมก่อตั้งและ CEO เขียนใน X ว่าเขารู้สึกเสียใจที่เห็น Leike ลาออก และบริษัทยังมีงานที่ต้องทำอีกมาก
ข่าวการยุบทีมได้รับการรายงานครั้งแรกโดย Wired
เมื่อวันอังคาร Sutskever และ Leike ได้ประกาศลาออกบนแพลตฟอร์มโซเชียลมีเดีย X ซึ่งห่างกันหลายชั่วโมง แต่เมื่อวันศุกร์ Leike ได้แชร์รายละเอียดเพิ่มเติมว่าทำไมเขาถึงออกจากบริษัท
ฉันเข้าร่วมงานกับบริษัท เพราะฉันคิดว่า OpenAI จะเป็นสถานที่ที่ดีที่สุดในโลกในการทำวิจัยนี้ Leike เขียนไว้ใน X “อย่างไรก็ตาม ฉันไม่เห็นด้วยกับความเป็นผู้นำของ OpenAI เกี่ยวกับลำดับความสำคัญหลักของบริษัทมาระยะหนึ่งแล้ว จนกระทั่งในที่สุดเราก็ถึงจุดแตกหัก”
Leike เขียนว่า เขาเชื่อว่าแบนด์วิธของบริษัทควรมุ่งเน้นไปที่การรักษาความปลอดภัย การตรวจสอบ การเตรียมพร้อม ความปลอดภัย และผลกระทบต่อสังคม
“ปัญหาเหล่านี้ค่อนข้างยากที่จะแก้ไข และฉันกังวลว่าเราไม่ได้อยู่ในเส้นทางที่จะไปถึงจุดนั้น” เขาเขียน “ในช่วงไม่กี่เดือนที่ผ่านมา ทีมของฉันต้องเผชิญกับปัญหา บางครั้งเรากำลังดิ้นรนเพื่อ [ทรัพยากรคอมพิวเตอร์] และการวิจัยที่สำคัญนี้ก็ยิ่งยากขึ้นเรื่อยๆ”
Leike เสริมว่า OpenAI จะต้องกลายเป็น “บริษัท AGI ที่ปลอดภัยเป็นอันดับแรก”
“การสร้างเครื่องจักรที่ฉลาดกว่ามนุษย์นั้นเป็นความพยายามที่อันตรายอย่างยิ่ง” เขาเขียน “OpenAI แบกรับความรับผิดชอบอันยิ่งใหญ่ในนามของมวลมนุษยชาติ แต่ในช่วงหลายปีที่ผ่านมา วัฒนธรรมและกระบวนการด้านความปลอดภัยได้ให้ความสำคัญกับผลิตภัณฑ์ที่ส่องประกาย”
การลาออกนี้ เกิดขึ้นหลายเดือนหลังจากที่ OpenAI ประสบวิกฤติความเป็นผู้นำของ Sam Altman
ในเดือนพฤศจิกายน คณะกรรมการของ OpenAI ขับไล่ Altman โดยกล่าวในแถลงการณ์ว่า Altman ไม่ได้สื่อสารกับคณะกรรมการอย่างตรงไปตรงมาอย่างสม่ำเสมอ
ดูเหมือนว่าปัญหาจะมีเพิ่มมากขึ้น Sutskever ให้ความสนใจ การศึกษาให้แน่ใจว่าปัญญาประดิษฐ์จะไม่เป็นอันตรายต่อมนุษย์ ในขณะที่คนอื่นๆ รวมถึง Altman กลับกระตือรือร้นที่จะผลักดันการพัฒนา AI ไปข้างหน้ามากกว่า ด้วยเทคโนโลยีใหม่ๆ
การขับไล่ของ Altman ทำให้เกิดการขู่ว่าจะลาออกของพนักงาน OpenAI และเขียนจดหมายเปิดผนึกที่ลงนามโดยพนักงานของ OpenAI เกือบทั้งหมด และเสียงคัดค้านจากนักลงทุน รวมถึง Microsoft
– ภายในหนึ่งสัปดาห์ Altman ก็กลับมาที่บริษัท และสมาชิกคณะกรรมการ Helen Toner, Tasha McCauley และ Ilya Sutskever ผู้ซึ่งลงคะแนนให้ขับไล่ Altman ก็ออกจากตำแหน่ง Sutskever ดำรงตำแหน่งพนักงานในขณะนั้น แต่ไม่ได้อยู่ในตำแหน่งสมาชิกคณะกรรมการอีกต่อไป Adam D’Angelo ผู้ลงคะแนนให้ขับไล่ Altman เช่นกัน ยังคงอยู่ในคณะกรรมการ
เมื่อ Altman ถูกถามเกี่ยวกับสถานะของ Sutskever ในเดือนมีนาคม เขากล่าวว่าไม่มีข่าวอัปเดตที่จะแชร์ “ฉันรักอิลยา … ฉันหวังว่าเราจะทำงานร่วมกันไปตลอดชีวิตอาชีพการงานของฉัน ไม่ว่าอะไรก็ตาม” Altman กล่าว
เมื่อวันอังคาร Altman พูดเกี่ยวกับการจากไปของ Sutskever
“นี่เป็นเรื่องน่าเศร้าสำหรับฉันมาก อิลยาเป็นหนึ่งในผู้มีความคิดที่ยิ่งใหญ่ที่สุดในยุคของเรา เป็นแสงสว่างนำทางในสาขาของเรา และเป็นเพื่อนรัก” Altman เขียนไว้ใน X “ความฉลาดหลักแหลมและวิสัยทัศน์ของเขาเป็นที่รู้จักกันดี ความอบอุ่นและความเมตตาของเขาไม่ค่อยมีใครรู้จักแต่ก็สำคัญไม่น้อย” Altman กล่าวว่า Jakub Pachocki ผู้อำนวยการฝ่ายวิจัยซึ่งเคยร่วมงานกับ OpenAI มาตั้งแต่ปี 2560 จะเข้ามาแทนที่ Sutskever ในตำแหน่งหัวหน้าทีมนักวิทยาศาสตร์
ข่าวการจากไปของ Sutskever และ Leike และการยุบทีม superalignment เกิดขึ้นไม่กี่วันหลังจาก OpenAI เปิดตัวโมเดล AI ใหม่และ ChatGPT เวอร์ชันเดสก์ท็อป พร้อมด้วยอินเทอร์เฟซผู้ใช้ที่ได้รับการอัปเดต ซึ่งเป็นความพยายามล่าสุดของบริษัทในการขยายการใช้แชทบอทยอดนิยม
การอัปเดตนำโมเดล GPT-4 มาสู่ทุกคน รวมถึงผู้ใช้ฟรีของ OpenAI สาธิตโดยหัวหน้าฝ่ายเทคโนโลยี Mira Murati กล่าวเมื่อวันจันทร์ในงานถ่ายทอดสด เธอเสริมว่า GPT-4o รุ่นใหม่ “เร็วกว่ามาก” พร้อมความสามารถที่ได้รับการปรับปรุงในด้านข้อความ วิดีโอ และเสียง
OpenAI กล่าวว่าในที่สุดก็มีแผนจะอนุญาตให้ผู้ใช้วิดีโอแชทด้วย ChatGPT “นี่เป็นครั้งแรกที่เรากำลังก้าวไปข้างหน้าอย่างมากในเรื่องของความสะดวกในการใช้งาน” Murati กล่าว