Musk แชร์วิดีโอที่ถูกดัดแปลงโดย generative AI เลียนแบบเสียงของแฮร์ริส พูดในสิ่งที่เธอไม่ได้พูด
The manipulated video mimics Harris’s voice saying things she did not say.
วิดีโอที่ Musk แชร์ใช้ generative AI สร้างเสียงของรองประธานาธิบดีกมลา แฮร์ริส ทำให้เกิดความกังวลว่า AI จะถูกใช้เป็นเครื่องมือทางการเมือง
นิวยอร์ก — วิดีโอดัดแปลงที่เลียนแบบเสียงของรองประธานาธิบดีกมลา แฮร์ริส พูดสิ่งที่เธอไม่ได้พูด กำลังทำให้เกิดความกังวลเกี่ยวกับพลังของปัญญาประดิษฐ์ ที่อาจถูกใช้เป็นเครื่องมือทางการเมือง บิดเบือน สร้างความเข้าใจผิดในการเลือกตั้งของสหรัฐอเมริกา ในช่วงสามเดือนข้างหน้า
วิดีโอดังกล่าวได้รับความสนใจหลังจากที่มหาเศรษฐีด้านเทคโนโลยีอย่าง Elon Musk แชร์วิดีโอนี้บนแพลตฟอร์มโซเชียลมีเดีย X ของเขาเมื่อเย็นวันศุกร์ โดยไม่ได้ระบุอย่างชัดเจนว่า เป็นวิดีโอล้อเลียนที่ถูกสร้างจาก AI
วิดีโอดังกล่าวใช้ภาพแบบเดียวกับโฆษณาจริงที่แฮร์ริส ซึ่งมีแนวโน้มว่าจะได้รับการเสนอชื่อชิงตำแหน่งประธานาธิบดีจากพรรคเดโมแครต เปิดตัวเมื่อสัปดาห์ที่แล้วเพื่อเปิดตัวแคมเปญของเธอ แต่วิดีโอดังกล่าวสลับเสียงบรรยายด้วยเสียงอื่นที่เลียนแบบแฮร์ริสอย่างน่าเชื่อ
“ฉัน กมลา แฮร์ริส เป็นผู้สมัครชิงตำแหน่งประธานาธิบดีจากพรรคเดโมแครต เพราะในที่สุด โจ ไบเดน ได้แสดงความชราภาพของเขาในการดีเบต” เสียงดังกล่าว ที่อยู่ในวิดีโอ วิดีโออ้างว่าแฮร์ริสเป็น “diversity hire“ ส่งเสริมและสนับสนุนความหลากหลาย และทำให้ความหลากหลายนั้นเกิดความเท่าเทียมกัน เพราะเธอเป็นผู้หญิงและเป็นคนผิวสี และวิดีโอบอกว่า เธอไม่รู้วิธีการบริหารประเทศ ในวิดีโอนี้ ล้อเลียนแคมเปญ “Harris for President” และยังเพิ่มคลิปในอดีตของแฮร์ริสอีกด้วย
มีอา เอห์เรนเบิร์ก โฆษกรณรงค์หาเสียงของแฮร์ริส กล่าวในอีเมลถึง The Associated Press ว่า “เราเชื่อว่าคนอเมริกันต้องการเสรีภาพ โอกาส และความปลอดภัย ที่แท้จริงที่รองประธานาธิบดีแฮร์ริสเสนอ ไม่ใช่คำโกหกปลอมๆ ของอีลอน มัสก์ และโดนัลด์ ทรัมป์ “
วิดีโอที่แชร์กันอย่างแพร่หลายเป็นตัวอย่างของการที่ภาพ วิดีโอ หรือคลิปเสียงที่สร้างโดย AI ให้เหมือนจริง แล้วถูกนำมาใช้เพื่อล้อเลียน และทำให้เข้าใจผิดในทางการเมือง ในขณะที่สหรัฐฯ เข้าใกล้การเลือกตั้งประธานาธิบดีมากขึ้น เครื่องมือ AI เข้าถึงได้ง่ายขึ้นมาก จนถึงตอนนี้ยังคงขาดการดำเนินการของรัฐบาลกลางที่สำคัญในการควบคุมการใช้งาน โดยปล่อยให้กฎที่ชี้นำ AI ทางการเมืองส่วนใหญ่ขึ้นอยู่กับรัฐและแพลตฟอร์มโซเชียลมีเดีย
วิดีโอนี้ยังทำให้เกิดคำถามเกี่ยวกับวิธีจัดการกับเนื้อหาที่ถูกต้อง ขอบเขตของการใช้ AI อย่างเหมาะสม โดยเฉพาะอย่างยิ่งหากเนื้อหานั้น มีเจตนาเพื่อเสียดสี บิดเบือนข้อเท็จจริง
ผู้โพสต์วิดีโอต้นฉบับ คือ YouTuber ที่รู้จักกันในชื่อ Mr Reagan ได้เปิดเผยทั้งบน YouTube และบน X ว่าวิดีโอที่ถูกดัดแปลงเป็นการล้อเลียน แต่โพสต์ของ Musk ซึ่งมีการดูมากกว่า 123 ล้านครั้ง ตามข้อมูลของแพลตฟอร์ม ไม่ระบุว่า เป็นวิดีโอล้อเลียนที่สร้างโดย AI ใส่เฉพาะคำบรรยาย “สุดยอดเลย” พร้อมอิโมจิหัวเราะเยาะ
ผู้ใช้ X ที่คุ้นเคยกับแพลตฟอร์ม อาจรู้ว่า ต้องคลิกผ่านโพสต์ของ Musk ไปยังโพสต์ของผู้ใช้ที่เป็นต้นฉบับ และโพสต์ของ Musk ไม่ได้ชี้แนะให้พวกเขาทำเช่นนั้น
ในขณะที่ผู้เข้าร่วมบางคนในฟีเจอร์ “community note” ของ X เพื่อเพิ่มบริบทให้กับโพสต์ได้แนะนำให้ติดป้ายกำกับโพสต์ของ Musk แต่ไม่มีการเพิ่มป้ายกำกับดังกล่าว
ในบ่ายวันอาทิตย์ ผู้ใช้ออนไลน์บางคนตั้งคำถามว่าโพสต์ของเขาอาจละเมิดนโยบายของ X หรือไม่ ซึ่งระบุว่าผู้ใช้ ” จะต้องไม่แบ่งปันสื่อสังเคราะห์ ที่มีการบิดเบือน หรือนอกบริบทที่อาจหลอกลวงหรือสร้างความสับสนให้กับผู้คนและนำไปสู่อันตราย”
นโยบายนี้มีข้อยกเว้นสำหรับมีมและการล้อเลียน ตราบใดที่ไม่ทำให้เกิด “ความสับสนอย่างมากเกี่ยวกับความถูกต้องของสื่อ”
มัสก์สนับสนุนอดีตประธานาธิบดีโดนัลด์ ทรัมป์ ผู้ได้รับการเสนอชื่อจากพรรครีพับลิกันเมื่อต้นเดือนนี้ ทั้งนายเรแกนและมัสก์ไม่แสดงความเห็นในเรื่องนี้
ผู้เชี่ยวชาญสองคนที่เชี่ยวชาญด้านสื่อที่สร้างโดย AI ได้ตรวจสอบเสียงของโฆษณาปลอมและยืนยันว่าส่วนใหญ่ถูกสร้างขึ้นโดยใช้เทคโนโลยี AI
ฮานี ฟาริด ผู้เชี่ยวชาญด้านนิติเวชดิจิทัล มหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ กล่าวว่าวิดีโอดังกล่าวแสดงให้เห็นถึงพลังของ generative AI และ deepfakes
“เสียงที่สร้างโดย AI นั้นดีมาก” เขากล่าวในอีเมล “แม้ว่าคนส่วนใหญ่จะไม่เชื่อว่าเป็นเสียงของรองประธานแฮร์ริส แต่วิดีโอจะมีพลังมากกว่ามาก เมื่อมีเสียงพูดที่เหมือนเสียงของเธอ”
เขากล่าวว่าบริษัท AI ที่สร้างเครื่องมือโคลนเสียงและเครื่องมือ AI อื่น ๆ แก่สาธารณะควรดำเนินการให้รอบคอบมากขึ้น เพื่อให้แน่ใจว่าบริการของพวกเขาจะไม่ถูกนำไปใช้ในลักษณะที่อาจเป็นอันตรายต่อผู้คน หรือประชาธิปไตย
Rob Weissman ประธานร่วมของกลุ่มผู้สนับสนุน Public Citizen ไม่เห็นด้วยกับ Farid โดยกล่าวว่าเขาคิดว่า วิดีโอนี้หลอกคนจำนวนมากได้
“ฉันไม่คิดว่านั่นเป็นเรื่องตลก อย่างเห็นได้ชัด” ไวส์แมนกล่าวในการให้สัมภาษณ์ “ฉันแน่ใจว่าคนส่วนใหญ่ที่มองว่ามันเป็นเรื่องตลก คุณภาพไม่ได้ดีนัก แต่ก็ดีพอ และ เพราะมันสอดแทรกเข้าไปในข่าวสารที่มีอยู่แล้ว ซึ่งอยู่รอบตัวเธอ ผู้คนส่วนใหญ่จะเชื่อว่ามันเป็นเรื่องจริง”
Weissman ซึ่งเป็นองค์กรที่สนับสนุนให้สภาคองเกรส หน่วยงานรัฐบาลกลาง และรัฐต่างๆ ควบคุม generative AI กล่าวว่าวิดีโอดังกล่าวเป็น “สิ่งที่เราได้รับการเตือน”
generative AI อื่นๆ ทั้งในสหรัฐฯ และที่อื่นๆ จะพยายามโน้มน้าวผู้มีสิทธิเลือกตั้งด้วยข้อมูลที่บิดเบือนไม่ถูกต้อง ที่อ้างว่าเป็นแค่อารมณ์ขัน หรือทั้งสองอย่าง ในสโลวาเกียในปี 2023 คลิปเสียงปลอมได้แอบอ้างเป็นผู้สมัครที่กำลังหารือเกี่ยวกับแผนการโกงการเลือกตั้ง และเพิ่มราคาเบียร์ก่อนวันลงคะแนนเสียง ในรัฐลุยเซียนาในปี 2022 โฆษณาเสียดสีของคณะกรรมการดำเนินการทางการเมือง AI ใช้ใบหน้าของผู้สมัครชิงตำแหน่งนายกเทศมนตรีของรัฐลุยเซียนา แทนที่ใบหน้านักแสดง ที่แสดงล้อเลียนว่า เขาเป็นนักเรียนมัธยมปลายที่ด้อยโอกาส
สภาคองเกรสยังไม่ได้ผ่านกฎหมายเกี่ยวกับ AI ในการเมือง และหน่วยงานของรัฐบาลกลางได้ดำเนินการตามขั้นตอนที่จำกัด โดยปล่อยให้กฎระเบียบส่วนใหญ่ของสหรัฐฯ ที่มีอยู่เป็นของรัฐ มากกว่าหนึ่งในสามของรัฐได้สร้างกฎหมายของตนเองที่ควบคุมการใช้ AI ในการรณรงค์และการเลือกตั้ง ตามการประชุมสภานิติบัญญัติแห่งชาติ
นอกเหนือจาก X แล้ว บริษัทโซเชียลมีเดียอื่นๆ ยังได้สร้างนโยบายเกี่ยวกับสื่อสังเคราะห์และสื่อที่ถูกดัดแปลงซึ่งแชร์บนแพลตฟอร์มของตน ตัวอย่างเช่น ผู้ใช้บนแพลตฟอร์มวิดีโอ YouTube จะต้องเปิดเผยว่าพวกเขาได้ใช้ generative AI เพื่อสร้างวิดีโอ หรือดัดแปลงวิดีโอ เช่น เปลี่ยนใบหน้า