นิวยอร์ก (AP) — ภาพลามกอนาจารปลอมของ Taylor Swift กำลังแพร่สะพัดทางออนไลน์ ทำให้นักร้องสาวคนนี้ตกเป็นเหยื่อที่โด่งดังที่สุดของมลพิษทางเทคโนโลยี กลุ่มต่อต้านการละเมิดต่างผลักดันให้ได้รับการแก้ไข
NEW YORK (AP) — Pornographic deepfake images of Taylor Swift are circulating online, making the singer the most famous victim of a scourge that tech platforms and anti-abuse groups have struggled to fix.
ภาพลามกอนาจารปลอมของ Taylor Swift ที่สร้างโดย Deepfake ถูกเผยแพร่บนโซเชียลมีเดีย “Swifties” โต้กลับ
นิวยอร์ก (AP) — ภาพลามกอนาจารปลอมของ Taylor Swift กำลังแพร่สะพัดทางออนไลน์ ทำให้นักร้องสาวคนนี้ตกเป็นเหยื่อที่โด่งดังที่สุดของมลพิษทางเทคโนโลยี กลุ่มต่อต้านการละเมิดต่างผลักดันให้ได้รับการแก้ไข
ภาพปลอมที่มีเนื้อหาทางเพศที่โจ่งแจ้งและไม่เหมาะสมของ Swift เริ่มเผยแพร่อย่างกว้างขวางในสัปดาห์นี้บนแพลตฟอร์มโซเชียลมีเดีย X
“Swifties” กลุ่มแฟนคลับพันธุ์แท้ของ Taylor Swift ระดมพลอย่างรวดเร็ว โต้ตอบแพลตฟอร์ม X ที่ก่อนหน้านี้รู้จักกันในชื่อ Twitter ดันแฮชแท็ก #ProtectTaylorSwift เพื่อให้มีภาพลักษณ์เชิงบวกของป๊อปสตาร์มากขึ้น บางคนกล่าวว่าพวกเขากำลังรายงานบัญชีที่แชร์ Deepfakes
Reality Defender กลุ่มตรวจจับ Deepfake กล่าวว่าได้ติดตามสื่อลามกที่ไม่ได้รับการยินยอม ซึ่งปล่อยภาพ Taylor Swift จำนวนมาก โดยเฉพาะอย่างยิ่งบน X รูปภาพบางภาพยังถูกปล่อยผ่าน Facebook ของ Meta และแพลตฟอร์มโซเชียลมีเดียอื่น ๆ
น่าผิดหวัง ที่ภาพปลอมถูกแพร่กระจายไปยังผู้ใช้หลายล้านคน ทั้งๆ ที่แพลตฟอร์มควรมีขั้นตอนตรวจสอบเนื้อหาที่ดีกว่านี้ Mason Allen, Reality Defender’s head of growth กล่าว
นักวิจัยพบรูปภาพปลอมที่สร้างโดย AI อย่างน้อยสองสามโหล แล้วที่แชร์กันอย่างกว้างขวางที่สุดคือ Swift ที่สัมพันธ์เกี่ยวข้องกับนักอเมริกันฟุตบอล โดยแสดงให้เห็นภาพ Swift ที่เปื้อนเลือด และสร้างความเสียหายอย่างรุนแรง ด้วยภาพปลอมๆ
นักวิจัยกล่าวว่าจำนวนการปลอมแปลงอย่างโจ่งแจ้งได้เพิ่มขึ้นในช่วงไม่กี่ปีที่ผ่านมา เนื่องจากเทคโนโลยีที่ใช้สร้างภาพดังกล่าวเข้าถึงได้ง่ายขึ้นและใช้งานง่ายขึ้น ในปี 2019 รายงานที่เผยแพร่โดยบริษัท AI DeepTrace Labs แสดงให้เห็นว่าภาพเหล่านี้มีการใช้อาวุธ เพื่อต่อต้านผู้หญิงอย่างท่วมท้น เหยื่อส่วนใหญ่เป็นนักแสดงฮอลลีวูดและนักร้องเคป๊อปชาวเกาหลีใต้
Brittany Spanos นักเขียนอาวุโสของ Rolling Stone ซึ่งมีคอร์สสอนเกี่ยวกับ Swift ที่มหาวิทยาลัยนิวยอร์ก กล่าวว่าแฟนๆ ของ Swift ได้รวมตัวกันอย่างรวดเร็ว เพื่อสนับสนุนศิลปินของพวกเขา โดยเฉพาะอย่างยิ่งผู้ที่จริงจังกับแฟนด้อมของพวกเขาอย่างจริงจัง และในสถานการณ์ที่เกิดการละเมิดอย่างร้ายแรง
“นี่อาจเป็นเรื่องใหญ่หากเธอดำเนินคดีต่อศาลจริงๆ” เธอกล่าว
Spanos กล่าวว่าปัญหาสื่อลามกปลอมที่ลึกซึ้งนั้นสอดคล้องกับปัญหาอื่น ๆ ที่ Swift เคยทำในอดีต โดยชี้ไปที่การฟ้องร้องของเธอในปี 2560 ต่อดีเจสถานีวิทยุที่ถูกกล่าวหาว่าคลำหาเธอ คณะลูกขุนตัดสินให้ Swift ได้รับค่าชดเชยความเสียหาย 1 ดอลลาร์ ซึ่งเป็นจำนวนเงินรวมที่ทนายความของเธอ Douglas Baldridge เรียกว่า “ดอลลาร์สัญลักษณ์เพียงดอลลาร์เดียว ซึ่งมีมูลค่านับไม่ถ้วนสำหรับผู้หญิงทุกคนในสถานการณ์นี้” ท่ามกลางขบวนการ MeToo (การฟ้องร้อง 1 ดอลลาร์กลายเป็นกระแสหลังจากนั้น เช่นเดียวกับในการฟ้องร้องนักสกีของ กวินเน็ธ พัลโทรว์ ในปี 2023)
เมื่อได้รับรายงานเกี่ยวกับภาพปลอมของ Swift แพลตฟอร์ม X โพสต์ชี้แจงระบุว่า บริษัทห้ามมิให้แบ่งปันภาพเปลือยที่ไม่ได้รับความยินยอมบนแพลตฟอร์มโดยเด็ดขาด แต่บริษัทได้ลดทีมงานตรวจสอบเนื้อหาลงอย่างมากนับตั้งแต่ Elon Musk เข้ามารับตำแหน่งแพลตฟอร์มในปี 2022
“ทีมงานของเรากำลังลบภาพที่ระบุทั้งหมดออก และดำเนินการที่เหมาะสมกับบัญชีที่รับผิดชอบในการโพสต์ภาพเหล่านั้น” บริษัทเขียนในโพสต์ X เมื่อเช้าวันศุกร์ “เรากำลังติดตามสถานการณ์อย่างใกล้ชิดเพื่อให้แน่ใจว่าการละเมิดเพิ่มเติมจะได้รับการแก้ไขทันที และเนื้อหาจะถูกลบออก”
ในขณะเดียวกัน Meta กล่าวในแถลงการณ์ว่าได้ประณาม “เนื้อหาที่ปรากฏในบริการอินเทอร์เน็ตต่างๆ” อย่างรุนแรง และได้ดำเนินการเพื่อลบเนื้อหาดังกล่าวออก
“เรายังคงตรวจสอบแพลตฟอร์มของเราสำหรับเนื้อหาที่ละเมิดนี้ และจะดำเนินการตามความเหมาะสมตามความจำเป็น” บริษัท กล่าว
อัลเลนกล่าวว่านักวิจัยมีความมั่นใจ 90% ว่าภาพถูกสร้างขึ้นโดยโมเดลการแพร่กระจาย ซึ่งเป็นโมเดล generative AI ที่สามารถสร้างภาพใหม่และเหมือนจริงจากการเขียนแจ้ง ที่รู้จักกันอย่างแพร่หลายที่สุดคือ Stable Diffusion, Midjourney และ DALL-E ของ OpenAI กลุ่มของอัลเลนไม่ได้พยายามระบุที่มา
OpenAI กล่าวว่ามีมาตรการป้องกันเพื่อจำกัดการสร้างเนื้อหาที่เป็นอันตรายและ “ปฏิเสธคำขอให้สร้างภาพเลียนแบบบุคคลสาธารณะ โดยรวมถึง Taylor Swift ด้วย”
ไมโครซอฟต์ ซึ่งนำเสนอเครื่องสร้างภาพที่ใช้ DALL-E บางส่วน กล่าวเมื่อวันศุกร์ว่า บริษัทอยู่ระหว่างการตรวจสอบว่ามีการใช้เครื่องมือในทางที่ผิดหรือไม่ เช่นเดียวกับบริการ AI เชิงพาณิชย์อื่น ๆ ระบุว่าไม่อนุญาตให้มี “เนื้อหาลับสำหรับผู้ใหญ่ หรือไม่ได้รับความยินยอม และความพยายามซ้ำ ๆ ในการผลิตเนื้อหาที่ขัดต่อนโยบายของเราอาจส่งผลให้สูญเสียการเข้าถึงบริการ”
เมื่อถูกถามเกี่ยวกับ Deep Deepfakes ของ Swift ใน “NBC Nightly News” Satya Nadella ซีอีโอของ Microsoft บอกกับพิธีกร Lester Holt ในการให้สัมภาษณ์ที่ออกอากาศเมื่อวันอังคารว่า ยังมีอีกหลายอย่างที่ต้องทำในการตั้งค่าการป้องกัน AI และ “จำเป็นที่เราต้องดำเนินการอย่างรวดเร็วในเรื่องนี้”
“นี่เป็นเรื่องน่าตกใจและน่ากลัวอย่างยิ่ง ดังนั้นใช่แล้ว เราต้องลงมือ” นาเดลลากล่าว
Midjourney, OpenAI และ Stable Maker ผู้พัฒนา Stability AI ไม่แสดงความคิดเห็นในเรื่องดังกล่าว
ผู้ร่างกฎหมายของรัฐบาลกลางที่ออกกฎหมายเพื่อกำหนดข้อจำกัดเพิ่มเติมหรืออาชญากรสื่อลามกปลอม ระบุว่าเหตุการณ์ดังกล่าวแสดงให้เห็นว่าเหตุใดสหรัฐฯ จึงจำเป็นต้องใช้การป้องกันที่ดีกว่า
“เป็นเวลาหลายปีแล้วที่ผู้หญิงตกเป็นเหยื่อของการปลอมแปลงโดยไม่ได้รับความยินยอม ดังนั้นสิ่งที่เกิดขึ้นกับ Taylor Swift จึงเป็นเรื่องธรรมดามากกว่าที่คนส่วนใหญ่จะตระหนัก” Yvette D. Clarke ตัวแทนจากสหรัฐอเมริกา สมาชิกพรรคเดโมแครตจากนิวยอร์กผู้ออกกฎหมายกำหนดให้ผู้สร้างต้องทำลายน้ำดิจิทัล digitally watermark deepfake content
“Generative-AI กำลังช่วยสร้าง Deepfakes ที่ดีขึ้นด้วยต้นทุนเพียงเล็กน้อย” Clarke กล่าว
ตัวแทนสหรัฐฯ โจ โมเรล ซึ่งเป็นพรรคเดโมแครตในนิวยอร์กอีกคนที่ผลักดันร่างกฎหมายที่จะทำให้การแชร์สื่อลามกปลอมทางออนไลน์เป็นความผิดทางอาญา กล่าวว่าสิ่งที่เกิดขึ้นกับสวิฟต์กำลังน่ากังวลและแพร่หลายไปทั่วอินเทอร์เน็ตมากขึ้นเรื่อยๆ
“ภาพเหล่านั้นอาจเป็นของปลอม แต่ผลกระทบนั้นเป็นจริงมาก” โมเรลระบุในแถลงการณ์ “ Deepfakes เกิดขึ้นทุกวันกับผู้หญิงทุกที่ในโลกดิจิทัลที่เพิ่มมากขึ้นของเรา และถึงเวลาที่จะหยุดยั้งพวกเขา”