พันเอกกองทัพอากาศสหรัฐฯ “ให้ข่าวผิด” เมื่ออธิบายการทดลองที่โดรนที่ใช้ระบบ AI เลือกที่จะโจมตีผู้ควบคุมการปฏิบัติงานเพื่อให้ภารกิจสำเร็จ หน่วยบริการระบุ
A US Air Force colonel “mis-spoke” when describing an experiment in which an AI-enabled drone opted to attack its operator in order to complete its mission, the service has said.
กองทัพอากาศสหรัฐปฏิเสธข่าว โดรน AI โจมตีผู้ควบคุมในการทดสอบ
พันเอกทัคเกอร์ แฮมิลตัน หัวหน้าหน่วยทดสอบ AI และปฏิบัติการในกองทัพอากาศสหรัฐฯ พูดในการประชุมที่จัดโดย Royal Aeronautical Society
รายงานนี้กลายเป็นไวรัลอย่างรวดเร็ว
กองทัพอากาศแถลงว่า ไม่มีการทดลองดังกล่าวเกิดขึ้น ในการบรรยายของเขา เขาได้บรรยายถึงสถานการณ์จำลองที่โดรนที่ใช้ระบบ AI ถูกหยุดซ้ำแล้วซ้ำเล่าไม่ให้เสร็จสิ้นภารกิจในการทำลายฐานขีปนาวุธพื้นผิวสู่อากาศโดยเจ้าหน้าที่ควบคุมที่เป็นมนุษย์
เขากล่าวว่าในท้ายที่สุด แม้จะได้รับการฝึกไม่ให้ฆ่าผู้ควบคุม แต่โดรนก็ทำลายหอคอยสื่อสาร ทำให้ผู้ควบคุมไม่สามารถสื่อสารกับมันได้อีกต่อไป
“เราไม่เคยทำการทดลองนั้นขึ้นจริง และเราก็ไม่จำเป็นต้องทำ เพื่อที่จะตระหนักว่านี่เป็นผลลัพธ์ที่น่าเชื่อถือ” พ.อ. แฮมิลตัน ชี้แจงในภายหลังในแถลงการณ์ต่อ Royal Aeronautical Society เขาเสริมว่ามันเป็น “การทดลองทางความคิด” ไม่ได้เกิดขึ้นจริง
คำเตือนของ AI
เมื่อเร็วๆ นี้ มีคำเตือนจำนวนหนึ่งเกี่ยวกับภัยคุกคามต่อมนุษยชาติที่เกิดจาก AI โดยผู้เชี่ยวชาญด้านนี้ ในขณะที่ ผู้เชี่ยวชาญบางคนไม่เห็นด้วย มองว่าความเสี่ยงนั้น ไม่ได้ร้ายแรงขนาดนั้น
Prof. Yoshua Bengio กล่าวกับ BBC เมื่อต้นสัปดาห์นี้ นักวิทยาศาสตร์คอมพิวเตอร์ 1 ใน 3 คนได้รับการขนานนามว่าเป็น “AI Godfathers ” หลังจากได้รับรางวัล Turing Award อันทรงเกียรติจากผลงานของพวกเขา กล่าวว่า เขาคิดว่ากองทัพไม่ควรได้รับอนุญาตให้มีอำนาจใช้งานเทคโนโลยี AI เลย
เขาอธิบายว่า สงครามเป็นเหตุผลเลวร้ายที่สุด ที่จะนำ AI อัจฉริยะมาใช้งาน
สถานการณ์ที่วางแผนไว้ล่วงหน้า?
ผู้เชี่ยวชาญด้านการป้องกันประเทศคนหนึ่งบอกว่า เรื่องราวของ พ.อ. แฮมิลตัน ดูเหมือนจะขาด “บริบทที่สำคัญ” ว่า ไม่มีอะไรเกิดขึ้นจริง
สตีฟ ไรท์ ศาสตราจารย์ด้านวิศวกรรมการบินและอวกาศแห่งมหาวิทยาลัยเวสต์ออฟอิงแลนด์ และผู้เชี่ยวชาญด้านอากาศยานไร้คนขับบอกฉันแบบติดตลกว่า “ผมเป็นแฟนตัวยงของภาพยนตร์เรื่อง Terminator มาโดยตลอด”
“ในคอมพิวเตอร์ควบคุมเครื่องบิน มีสองสิ่งที่ต้องกังวล: ‘ทำในสิ่งที่ถูกต้อง’ และ ‘อย่าทำในสิ่งที่ผิด’ ดังนั้นนี่จึงเป็นตัวอย่างคลาสสิกของสิ่งที่สอง” เขากล่าว
“ในความเป็นจริง เราแก้ไขปัญหานี้ด้วยการรวมคอมพิวเตอร์เครื่องที่สอง ซึ่งตั้งโปรแกรมโดยใช้เทคนิคแบบเก่าไว้เสมอ และสิ่งนี้ข่วยให้เราสามารถดึงปลั๊กออกทันทีที่เครื่องแรกทำอะไรแปลกๆ”