การผสมผสานระหว่าง AI, Deepfake และโซเชียลมีเดียสร้างความท้าทายที่สำคัญสำหรับผู้ใช้อินเทอร์เน็ตที่พยายามกรองข่าวจริงจากข่าวปลอม การพัฒนาเครื่องมือที่ขับเคลื่อนด้วย AI ทำให้การตรวจจับ Deepfake บนแพลตฟอร์มโซเชียลมีเดียทำได้ยากขึ้น และความสามารถที่ไม่ได้ตั้งใจของ AI ในการสร้างข่าวปลอมก็ส่งผลที่น่ากังวลตามมา Deepfakes ได้กลายเป็นพรมแดนใหม่ของการบิดเบือนข้อมูลในอินเดีย ทำให้ผู้คนแยกแยะระหว่างข้อมูลเท็จกับข้อมูลจริงได้ยาก วิดีโอสังเคราะห์และภาพหน้าจอที่ดัดแปลงแบบดิจิทัลได้เน้นย้ำถึงผลที่ตามมาโดยไม่ได้ตั้งใจของเครื่องมือ AI ที่สร้างการอ้างสิทธิ์ที่ทำให้เข้าใจผิดหรือเป็นเท็จ แม้ว่าแพลตฟอร์มโซเชียลมีเดียจะอ้างว่าลดการแพร่กระจายของข้อมูลที่ผิด แต่ AI และการเรียนรู้ของเครื่องได้มอบเครื่องมือหลายอย่างที่ช่วยสร้างเนื้อหาที่มีคุณภาพให้กับสื่อสารมวลชน อย่างไรก็ตาม การยืนยันโดยมนุษย์ยังคงจำเป็นในการตรวจสอบความสอดคล้องและความจริงของเนื้อหาที่แบ่งปันในรูปแบบต่างๆ
The combination of AI, deepfakes, and social media creates a significant challenge for internet users trying to filter real news from fake news. The development of AI-powered tools has made it harder to detect deepfakes on social media platforms, and this unintended ability of AI to create fake news has worrying consequences. Deepfakes have become a new frontier of disinformation in India, making it difficult for people to distinguish between false and truthful information. Synthetic videos and digitally altered screenshots have highlighted the unintended consequences of AI tools creating misleading or false claims. While social media platforms claim to reduce the spread of misinformation, AI and machine learning have provided journalism with several tools that help generate quality content. However, human verification is still required to check the consistency and veracity of content shared in any format.
เครื่องมือที่ขับเคลื่อนด้วย AI และ Deepfakes สร้างความท้าทายให้กับข้อมูลที่ผิดสำหรับผู้ใช้อินเทอร์เน็ตอย่างไร
ปัญญาประดิษฐ์ ของปลอม และสื่อสังคมออนไลน์… คนทั่วไปไม่ค่อยเข้าใจ การทำงานร่วมกันของสามสิ่งนี้ก่อให้เกิดอุปสรรค์อันน่าพิศวงสำหรับผู้ใช้อินเทอร์เน็ตหลายล้านคนที่ต้องเผชิญกับการต่อสู้ในแต่ละวันเพื่อพยายามกรองของจริงออกจากของปลอม การต่อสู้กับข้อมูลที่ผิดเป็นสิ่งที่ท้าทายอยู่เสมอและกลายเป็นเรื่องที่ยากขึ้นเรื่อย ๆ เนื่องจากการพัฒนาเครื่องมือที่ขับเคลื่อนด้วย AI ทำให้การตรวจจับ Deepfake บนแพลตฟอร์มโซเชียลมีเดียหลาย ๆ แพลตฟอร์มทำได้ยากขึ้น ความสามารถที่ไม่ได้ตั้งใจของ AI ในการสร้างข่าวปลอม – เร็วกว่าการหยุดยั้ง – มีผลตามมาที่น่ากังวล
Syed Nazakat ผู้ก่อตั้งและซีอีโอของ DataLEADS กลุ่มสื่อดิจิทัลที่สร้างความรู้ด้านข้อมูลและ ความคิดริเริ่มด้านการจัดการข้อมูลสารสนเทศบอกกับ PTI อินเดียกำลังต่อสู้กับข้อมูลที่ผิดจำนวนมากในภาษาอินดิกต่างๆ สิ่งนี้จะเลวร้ายลงด้วยบอท AI และเครื่องมือต่าง ๆ ที่ขับเคลื่อนการปลอมแปลงทางอินเทอร์เน็ต
“โมเดล AI รุ่นต่อไปที่เรียกว่า Generative AI เช่น Dall-e, ChatGPT, Make-A-Video ของ Meta เป็นต้น ไม่จำเป็นต้องมีแหล่งที่มาในการแปลง แต่สามารถสร้างรูปภาพ ข้อความ หรือวิดีโอแทนได้ ตามคำแนะนำ สิ่งเหล่านี้ยังอยู่ในช่วงเริ่มต้นของการพัฒนา แต่ใคร ๆ ก็สามารถเห็นโอกาสที่จะก่อให้เกิดอันตรายได้เพราะเราไม่มีเนื้อหาต้นฉบับที่จะใช้เป็นหลักฐาน” Azahar Machwe ผู้ซึ่งทำงานเป็นสถาปนิกองค์กรสำหรับ AI กล่าวเสริมที่ บริติชเทเลคอม
Deepfake คืออะไร
Deepfakes คือภาพถ่ายและวิดีโอที่แทนที่ใบหน้าของบุคคลหนึ่งด้วยอีกใบหน้าหนึ่งอย่างแนบเนียน เครื่องมือ AI จำนวนมากมีให้สำหรับผู้ใช้อินเทอร์เน็ตบนสมาร์ทโฟนโดยแทบไม่ต้องเสียค่าใช้จ่าย
ในรูปแบบที่ง่ายที่สุด AI สามารถอธิบายได้ว่าเป็นการใช้คอมพิวเตอร์เพื่อทำสิ่งต่าง ๆ ที่ต้องใช้สติปัญญาของมนุษย์ ตัวอย่างที่เด่นชัดอาจเป็นการแข่งขันที่กำลังดำเนินอยู่ระหว่าง ChatGPT ของ Microsoft และ BARD ของ Google
แม้ว่าเครื่องมือ AI ทั้งสองจะสร้างงานเขียนระดับมนุษย์โดยอัตโนมัติ แต่ความแตกต่างก็คือ BARD ใช้โมเดลภาษาของ Google สำหรับแอปพลิเคชันการสนทนา (LaMDA) และสามารถให้การตอบสนองตามเวลาจริงและงานวิจัยปัจจุบันที่ดึงมาจากอินเทอร์เน็ต ChatGPT ใช้โมเดล Generative Pre-training Transformer 3 (GPT-3) ซึ่งได้รับการฝึกอบรมเกี่ยวกับข้อมูลก่อนปลายปี 2021
ตัวอย่างล่าสุด
วิดีโอสังเคราะห์ 2 รายการและภาพหน้าจอที่ดัดแปลงแบบดิจิทัลของรายงานของหนังสือพิมพ์ภาษาฮินดีที่แชร์เมื่อสัปดาห์ที่แล้วบนแพลตฟอร์มโซเชียลมีเดีย รวมถึง Twitter และ Facebook เน้นให้เห็นถึงผลที่ตามมาโดยไม่ได้ตั้งใจของเครื่องมือ AI ในการสร้างภาพถ่ายดัดแปลงและวิดีโอที่ตัดต่อด้วยการกล่าวอ้างที่ทำให้เข้าใจผิดหรือเป็นเท็จ
วิดีโอสังเคราะห์คือวิดีโอที่สร้างด้วย AI โดยไม่มีกล้อง นักแสดง และองค์ประกอบทางกายภาพอื่นๆ
วิดีโอของบิล เกตส์ ผู้ร่วมก่อตั้งไมโครซอฟต์ถูกนักข่าวรุมสัมภาษณ์จนมุม ถูกแชร์ราวกับเป็นของจริง และพบว่าตัดต่อในภายหลัง มีการแชร์วิดีโอที่ดัดแปลงดิจิทัลของประธานาธิบดีโจ ไบเดนแห่งสหรัฐฯ เรียกร้องให้ร่างกฎหมายระดับชาติ (บังคับบุคคลเข้าเป็นทหาร) เพื่อต่อสู้กับสงครามในยูเครน ในอีกกรณีหนึ่ง มีการเผยแพร่รูปภาพที่ตัดต่อเพื่อให้ดูเหมือนรายงานของหนังสือพิมพ์ภาษาฮินดีอย่างกว้างขวางเพื่อเผยแพร่ข้อมูลที่ผิดเกี่ยวกับแรงงานข้ามชาติในรัฐทมิฬนาฑู
ตัวอย่างทั้งสาม – วิดีโอสังเคราะห์สองรายการและภาพหน้าจอที่แก้ไขแบบดิจิทัลของรายงานหนังสือพิมพ์ภาษาฮินดี – ถูกแชร์บนแพลตฟอร์มโซเชียลมีเดียโดยผู้ใช้อินเทอร์เน็ตหลายพันคนที่คิดว่าเป็นเรื่องจริง
ประเด็นดังกล่าวลุกลามเป็นเรื่องราวบนโซเชียลมีเดียและช่องทางสื่อกระแสหลัก โดยเน้นย้ำถึงผลที่ตามมาโดยไม่ได้ตั้งใจของเครื่องมือ AI ในการสร้างภาพถ่ายดัดแปลงและวิดีโอที่ผ่านการตัดต่อด้วยการกล่าวอ้างที่ทำให้เข้าใจผิดหรือเป็นเท็จ
ทีม Fact Check ของ PTI ตรวจสอบการอ้างสิทธิ์ทั้ง 3 รายการและหักล้างการอ้างสิทธิ์ทั้ง 3 รายการว่าเป็น “ของปลอม” และ “การตัดต่อแบบดิจิทัล” โดยใช้เครื่องมือที่ขับเคลื่อนด้วย AI ซึ่งพร้อมใช้งานทางอินเทอร์เน็ต
AI และข่าวปลอม
ไม่กี่ปีที่ผ่านมา การนำ AI มาใช้ในวารสารศาสตร์ทำให้เกิดความหวังถึงการเปลี่ยนแปลงครั้งยิ่งใหญ่ของอุตสาหกรรมและการสร้างและเผยแพร่ข่าว นอกจากนี้ยังถูกมองว่าเป็นวิธีที่มีประสิทธิภาพในการยับยั้งการแพร่กระจายของข่าวปลอมและข้อมูลที่ผิด
“จุดอ่อนของ Deepfake คือพวกเขาต้องการเนื้อหาต้นฉบับบางส่วนเพื่อใช้งาน ตัวอย่างเช่น วิดีโอของ Bill Gates ซ้อนทับเสียงต้นฉบับด้วยเสียงต้นฉบับ วิดีโอเหล่านี้ค่อนข้างง่ายกว่าที่จะหักล้างหากสามารถระบุต้นฉบับได้ แต่สิ่งนี้ต้องใช้เวลา เวลาและความสามารถในการค้นหาเนื้อหาต้นฉบับ” Azahar กล่าวกับ PTI
เขาเชื่อว่า Deepfakes ที่แชร์บนโซเชียลมีเดียเมื่อเร็ว ๆ นี้นั้นง่ายต่อการติดตาม แต่ก็กังวลว่าการถอดรหัสวิดีโอสังเคราะห์ดังกล่าวจะเป็นสิ่งที่ท้าทายในอีกไม่กี่วันข้างหน้า
“การเปลี่ยนรูปแบบวิดีโอต้นฉบับอาจนำไปสู่ข้อบกพร่อง (เช่น แสง/เงาที่ไม่ตรงกัน) ซึ่งโมเดล AI สามารถฝึกฝนให้ตรวจจับได้ วิดีโอผลลัพธ์เหล่านี้มักมีคุณภาพต่ำกว่าเพื่อซ่อนข้อบกพร่องเหล่านี้จากอัลกอริทึม (และมนุษย์)” เขาอธิบาย
ตามที่เขาพูด ข่าวปลอมลอยอยู่ในหลายรูปแบบและข่าวปลอมที่สร้างขึ้นโดยเครื่องมือพื้นฐานที่ขับเคลื่อนด้วย AI ในทุกวันนี้ วิดีโอเหล่านี้ค่อนข้างง่ายที่จะหักล้าง
“แต่ไม่สามารถมีความแม่นยำได้ 100 เปอร์เซ็นต์ ตัวอย่างเช่น เวอร์ชันของ Intel สัญญาว่าจะมีความแม่นยำถึง 96 เปอร์เซ็นต์ ซึ่งหมายความว่า 4 ใน 100 จะยังคงผ่านได้” เขากล่าวเสริม
หนทางข้างหน้า
แพลตฟอร์มโซเชียลมีเดียส่วนใหญ่อ้างว่าลดการแพร่กระจายของข้อมูลที่ไม่ถูกต้องจากแหล่งที่มาด้วยการสร้างอัลกอริธึมการตรวจจับข่าวปลอมตามรูปแบบภาษาและการจัดหาฝูงชน สิ่งนี้ทำให้มั่นใจได้ว่าข้อมูลที่ผิดจะไม่ถูกปล่อยให้แพร่กระจายแทนที่จะถูกตรวจพบหลังจากข้อเท็จจริงและลบออก
ในขณะที่ตัวอย่างของ Deepfakes เน้นให้เห็นถึงภัยคุกคามที่อาจเกิดขึ้นจาก AI ในการสร้างข่าวปลอม แต่ AI และการเรียนรู้ของเครื่องได้มอบเครื่องมืออำนวยความสะดวกในการทำงานหลายอย่างให้กับสื่อสารมวลชน ซึ่งช่วยสร้างเนื้อหาไปยังเครื่องมือถอดความการจดจำเสียงโดยอัตโนมัติ
“AI ยังคงช่วยให้นักข่าวมุ่งความสนใจไปที่การพัฒนาเนื้อหาที่มีคุณภาพ เนื่องจากเทคโนโลยีช่วยรับประกันการกระจายเนื้อหาได้ทันท่วงทีและรวดเร็ว Human-in-the-loop จะต้องตรวจสอบความสอดคล้องและความจริงของเนื้อหาที่แบ่งปันในรูปแบบใดๆ ไม่ว่าจะเป็นข้อความ รูปภาพ , วิดีโอ, เสียง ฯลฯ” Azahar กล่าว
Deepfakes ควรระบุอย่างชัดเจนว่า ‘สร้างขึ้นโดยสังเคราะห์’ ในอินเดียซึ่งมีผู้ใช้สมาร์ทโฟนมากกว่า 700 ล้านคน (อายุตั้งแต่ 2 ขวบขึ้นไป) ในปี 2564 รายงานล่าสุดของ Nielsen ระบุว่าพื้นที่ชนบทของอินเดียมีผู้ใช้อินเทอร์เน็ตมากกว่า 425 ล้านคน ซึ่งมากกว่า 295 คนถึง 44% ผู้คนนับล้านที่ใช้อินเทอร์เน็ตในเขตเมืองของอินเดีย
“มนุษย์มักจะเข้าร่วม ‘ห้องสะท้อนเสียง’ ของผู้ที่คิดเหมือนกัน เราต้องการการปลูกฝังความรู้เท่าทันสื่อและหลักสูตรการคิดอย่างมีวิจารณญาณในการศึกษาขั้นพื้นฐานเพื่อกระตุ้นความตระหนักและสร้างแนวทางเชิงรุกเพื่อช่วยเหลือผู้คนในการป้องกันตนเองจากข้อมูลที่ผิด
“เราต้องการแนวทางแบบหลายภาคส่วนและข้ามภาคส่วนทั่วอินเดียเพื่อเตรียมคนทุกวัยให้พร้อมสำหรับภูมิทัศน์ทางดิจิทัลที่ซับซ้อนในปัจจุบันและอนาคตเพื่อเฝ้าระวังการปลอมแปลงและการบิดเบือนข้อมูล” Nazakat กล่าว
สำหรับประเทศขนาดใหญ่ เช่น อินเดีย ภูมิทัศน์ของข้อมูลที่เปลี่ยนแปลงไปทำให้ความต้องการทักษะการรู้สารสนเทศในทุกภาษาเพิ่มมากขึ้น เขาเสริมว่าสถาบันการศึกษาทุกแห่งควรให้ความสำคัญกับการรู้สารสนเทศในทศวรรษหน้า