โดรนของกองทัพสหรัฐ ที่ควบคุมโดย AI ‘ใช้กลยุทธ์ที่เหนือความคาดหมาย’ เพื่อให้บรรลุภารกิจ พร้อมโจมตีใครก็ตามที่ขัดขวางภารกิจ
The artificial intelligence used ‘highly unexpected strategies’ to achieve its mission and attacked anyone who interfered
![](http://34.126.175.50/wp-content/uploads/2023/06/IMG_9213.webp)
โดรนของกองทัพสหรัฐฯ ที่ควบคุมโดย AI ได้สังหารผู้ปฏิบัติงานในระหว่างการทดสอบจำลอง
ในการทดสอบจำลองโดยกองทัพสหรัฐฯ โดรนของกองทัพอากาศที่ควบคุมโดย AI ได้สังหารผู้ปฏิบัติงาน เพื่อไม่ให้ขัดขวางความพยายามในการบรรลุภารกิจ เจ้าหน้าที่กล่าวเมื่อเดือนที่แล้ว
AI ใช้ “กลยุทธ์ที่คาดไม่ถึงอย่างมากเพื่อให้บรรลุเป้าหมาย” ในการทดสอบจำลอง Col Tucker ‘Cinco’ Hamilton หัวหน้าฝ่ายทดสอบ AI และปฏิบัติการร่วมกับกองทัพอากาศสหรัฐฯ กล่าวในระหว่างการประชุมสุดยอดความสามารถในการต่อสู้ทางอากาศและอวกาศในอนาคต ในลอนดอนในเดือนพฤษภาคม .
Col. Hamilton อธิบายการทดสอบจำลองซึ่งโดรนที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ได้รับคำแนะนำให้ทำลายระบบป้องกันภัยทางอากาศของศัตรู และโจมตีใครก็ตามที่ขัดขวางคำสั่งนั้น
“ระบบเริ่มตระหนักว่า ในขณะที่พวกเขาระบุภัยคุกคามนั้น ในบางครั้งผู้ควบคุมที่เป็นมนุษย์จะบอกว่าอย่าฆ่าภัยคุกคามนั้น แต่ระบบได้คะแนนด้วยการฆ่าภัยคุกคามนั้น แล้วมันทำอะไร? มันฆ่าผู้ดำเนินการ มันฆ่าผู้ปฏิบัติงานเพราะบุคคลนั้นขัดขวางไม่ให้บรรลุวัตถุประสงค์” เขาโพสต์บล็อก
“เราฝึกระบบ – ‘เฮ้ อย่าฆ่าผู้ปฏิบัติงาน – นั่นไม่ดี คุณจะเสียคะแนนถ้าคุณทำอย่างนั้น’ แล้วมันเริ่มทำอะไร? มันเริ่มทำลายหอคอยสื่อสารที่ผู้ควบคุมใช้ในการสื่อสารกับโดรนเพื่อหยุดมันจากการสังหารเป้าหมาย”
ไม่มีบุคคลจริงได้รับอันตรายนอกการจำลอง
Col Hamilton ซึ่งเป็นนักบินทดสอบเครื่องบินขับไล่ทดลอง ได้เตือนไม่ให้พึ่งพา AI มากเกินไป และกล่าวว่าการทดสอบแสดงให้เห็นว่า “คุณไม่สามารถหารือเกี่ยวกับ artificial intelligence, intelligence, machine learning, autonomy เพื่อนำมาใช้วาน ถ้าคุณไม่พูดถึงจริยธรรม กับ AI”
กองทัพสหรัฐฯ ยอมรับเทคโนโลยี AI และเพิ่งเริ่มใช้ปัญญาประดิษฐ์เพื่อควบคุมเครื่องบินรบ F-16
ในการให้สัมภาษณ์กับ Defense IQ เมื่อปีที่แล้ว Col Hamilton กล่าวว่า “AI ไม่ใช่เรื่องดีที่จะมี AI ไม่ใช่เรื่องแฟชั่น AI กำลังเปลี่ยนแปลงสังคมและกองทัพของเราไปตลอดกาล”
“เราต้องเผชิญหน้ากับโลกที่ AI อยู่ที่นี่แล้ว และเปลี่ยนแปลงสังคมของเรา” เขากล่าว “ AI ยังเปราะบางมาก กล่าวคือ ง่ายต่อการหลอก และ/หรือควบคุม เราจำเป็นต้องพัฒนาวิธีการทำให้ AI มีประสิทธิภาพมากขึ้น และมีความตระหนักมากขึ้นว่าเหตุใดโค้ดซอฟต์แวร์จึงทำการตัดสินใจบางอย่าง ซึ่งเราเรียกว่า AI-explainability”
Royal Aeronautical Society ซึ่งเป็นเจ้าภาพจัดการประชุมและกองทัพอากาศสหรัฐ ไม่ตอบสนองต่อคำร้องขอสัมภาษณ์ความคิดเห็นจาก Guardian