โดรนของกองทัพสหรัฐ ที่ควบคุมโดย AI ‘ใช้กลยุทธ์ที่เหนือความคาดหมาย’ เพื่อให้บรรลุภารกิจ พร้อมโจมตีใครก็ตามที่ขัดขวางภารกิจ
The artificial intelligence used ‘highly unexpected strategies’ to achieve its mission and attacked anyone who interfered
โดรนของกองทัพสหรัฐฯ ที่ควบคุมโดย AI ได้สังหารผู้ปฏิบัติงานในระหว่างการทดสอบจำลอง
ในการทดสอบจำลองโดยกองทัพสหรัฐฯ โดรนของกองทัพอากาศที่ควบคุมโดย AI ได้สังหารผู้ปฏิบัติงาน เพื่อไม่ให้ขัดขวางความพยายามในการบรรลุภารกิจ เจ้าหน้าที่กล่าวเมื่อเดือนที่แล้ว
AI ใช้ “กลยุทธ์ที่คาดไม่ถึงอย่างมากเพื่อให้บรรลุเป้าหมาย” ในการทดสอบจำลอง Col Tucker ‘Cinco’ Hamilton หัวหน้าฝ่ายทดสอบ AI และปฏิบัติการร่วมกับกองทัพอากาศสหรัฐฯ กล่าวในระหว่างการประชุมสุดยอดความสามารถในการต่อสู้ทางอากาศและอวกาศในอนาคต ในลอนดอนในเดือนพฤษภาคม .
Col. Hamilton อธิบายการทดสอบจำลองซึ่งโดรนที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ได้รับคำแนะนำให้ทำลายระบบป้องกันภัยทางอากาศของศัตรู และโจมตีใครก็ตามที่ขัดขวางคำสั่งนั้น
“ระบบเริ่มตระหนักว่า ในขณะที่พวกเขาระบุภัยคุกคามนั้น ในบางครั้งผู้ควบคุมที่เป็นมนุษย์จะบอกว่าอย่าฆ่าภัยคุกคามนั้น แต่ระบบได้คะแนนด้วยการฆ่าภัยคุกคามนั้น แล้วมันทำอะไร? มันฆ่าผู้ดำเนินการ มันฆ่าผู้ปฏิบัติงานเพราะบุคคลนั้นขัดขวางไม่ให้บรรลุวัตถุประสงค์” เขาโพสต์บล็อก
“เราฝึกระบบ – ‘เฮ้ อย่าฆ่าผู้ปฏิบัติงาน – นั่นไม่ดี คุณจะเสียคะแนนถ้าคุณทำอย่างนั้น’ แล้วมันเริ่มทำอะไร? มันเริ่มทำลายหอคอยสื่อสารที่ผู้ควบคุมใช้ในการสื่อสารกับโดรนเพื่อหยุดมันจากการสังหารเป้าหมาย”
ไม่มีบุคคลจริงได้รับอันตรายนอกการจำลอง
Col Hamilton ซึ่งเป็นนักบินทดสอบเครื่องบินขับไล่ทดลอง ได้เตือนไม่ให้พึ่งพา AI มากเกินไป และกล่าวว่าการทดสอบแสดงให้เห็นว่า “คุณไม่สามารถหารือเกี่ยวกับ artificial intelligence, intelligence, machine learning, autonomy เพื่อนำมาใช้วาน ถ้าคุณไม่พูดถึงจริยธรรม กับ AI”
กองทัพสหรัฐฯ ยอมรับเทคโนโลยี AI และเพิ่งเริ่มใช้ปัญญาประดิษฐ์เพื่อควบคุมเครื่องบินรบ F-16
ในการให้สัมภาษณ์กับ Defense IQ เมื่อปีที่แล้ว Col Hamilton กล่าวว่า “AI ไม่ใช่เรื่องดีที่จะมี AI ไม่ใช่เรื่องแฟชั่น AI กำลังเปลี่ยนแปลงสังคมและกองทัพของเราไปตลอดกาล”
“เราต้องเผชิญหน้ากับโลกที่ AI อยู่ที่นี่แล้ว และเปลี่ยนแปลงสังคมของเรา” เขากล่าว “ AI ยังเปราะบางมาก กล่าวคือ ง่ายต่อการหลอก และ/หรือควบคุม เราจำเป็นต้องพัฒนาวิธีการทำให้ AI มีประสิทธิภาพมากขึ้น และมีความตระหนักมากขึ้นว่าเหตุใดโค้ดซอฟต์แวร์จึงทำการตัดสินใจบางอย่าง ซึ่งเราเรียกว่า AI-explainability”
Royal Aeronautical Society ซึ่งเป็นเจ้าภาพจัดการประชุมและกองทัพอากาศสหรัฐ ไม่ตอบสนองต่อคำร้องขอสัมภาษณ์ความคิดเห็นจาก Guardian