คอนเทนท์ที่ถูกสร้างขึ้นโดยเครื่องมือปัญญาประดิษฐ์ (AI) ซึ่งกำลังเพิ่มขึ้นอย่างรวดเร็วและเริ่มทำให้เราสับสนระหว่างสิ่งที่เป็นจริงกับสิ่งที่ถูกสร้างขึ้น หรือ ‘AI slop’ กำลังเริ่มบิดเบือนการรับรู้ของเราต่อสิ่งที่เป็นจริงหรือที่อาจเป็นจริง
The rapid growth of ‘AI slop’ – content created by artificial tools – is starting to warp our perception of what is, or could be, real
ภาพถ่ายอุทกภัยในสเปนที่เกิดขึ้นจริง แต่ปัญหาคือผู้คนคิดว่ามันถูกสร้างขึ้นโดย AI
คอนเทนท์ที่ถูกสร้างขึ้นโดยเครื่องมือปัญญาประดิษฐ์ (AI) ซึ่งกำลังเพิ่มขึ้นอย่างรวดเร็วและเริ่มทำให้เราสับสนระหว่างสิ่งที่เป็นจริงกับสิ่งที่ถูกสร้างขึ้น หรือ ‘AI slop’ กำลังเริ่มบิดเบือนการรับรู้ของเราต่อสิ่งที่เป็นจริงหรือที่อาจเป็นจริง
ภาพถ่ายที่เผยแพร่ใน Substack newsletter Social Warming ของ Charles Arthur ล่าสุด บนแพลตฟอร์ม Substack ซึ่งแสดงให้เห็นภาพถนนแคบ ๆ ที่ได้รับผลกระทบจาก “ระเบิดฝน” ที่สร้างความเสียหายแก่พื้นที่แคว้นวาเลนเซียในสเปน ฝนตกในปริมาณเท่ากับปริมาณฝนของทั้งปีภายในวันเดียว และในบางเมืองฝนตกถึงกว่า 490 ลิตรต่อตารางเมตร ภายในแปดชั่วโมง ด้วยน้ำหนักอันมหาศาลของน้ำปริมาณมาก ดังนั้นถ้าพื้นที่นั้นมีความลาดเอียง น้ำจะไหลลงเนินด้วยแรงที่สามารถยก SUV หนัก ๆ ขึ้นแล้วเหวี่ยงไปมาเหมือนของเล่น และถ้าน้ำไหลผ่านถนนแคบ ๆ ในเมือง มันจะโยนรถที่จอดอยู่เหมือนกับถูกเหวี่ยงด้วยมือของ King Kong
ภาพถ่ายในบทความของ Arthur แสดงให้เห็นสิ่งที่เกิดขึ้นในถนนสายหนึ่ง ถ่ายด้วยเลนส์เทเลโฟโต้จากชั้นบนของอาคาร แสดงให้เห็นฉากที่สับสนอลหม่านและเกือบจะดูเหนือจริง: ยานพาหนะประมาณ 70 คันที่มีขนาดต่าง ๆ กันกระจัดกระจายอยู่ในมุมแปลก ๆ ตลอดทั้งถนน
มันเป็นภาพที่น่าตกตะลึงและทำให้ฉันหยุดดูอย่างแท้จริง ไม่แปลกที่มันจะแพร่กระจายอย่างรวดเร็วในโซเชียลมีเดีย และแล้วก็มีการตอบสนองจากผู้คนในโซเชียลว่า เป็นภาพที่สร้างโดย AI, นี่เป็นข่าวปลอม ภาพนี้ชัดเจนมากจนเกินไป ทำให้ผู้ชมคิดว่า ภาพข่าวจริงดังกล่าว ถูกสร้างขึ้นโดยใช้ Midjourney หรือ Dall-E หรือเครื่องมือ Gen AI อื่น ๆ
แต่นั่นเป็นภาพถ่ายจริง ไม่ใช่ภาพที่สร้างขึ้นโดย AI ซึ่ง Arthur ได้พิสูจน์ด้วย การยืนยันว่าบาร์ในภาพเป็นของจริงโดยใช้ Facebook, การค้นหาถนนจริงใน Apple Maps และแม้แต่เคลื่อนไปตามถนนโดยใช้ Street View ไม่เป็นที่ชัดเจนว่า ทำไมคนเหล่านี้ถึงคิดว่าภาพนี้ไม่เป็นของจริง เขาเขียน “อาจเป็นเพราะความมันวาวของรถและความกลมของรูปทรง หรืออาจเพราะไม่มีความเสียหายที่ชัดเจน” หรือเป็นไปได้ว่าการแพร่กระจายของภาพปลอมที่สร้างโดย AI ทำให้ผู้คนมีแนวโน้มที่จะไม่เชื่อสิ่งที่เป็นจริงมากขึ้น? ฉันคาดว่าเป็นอย่างหลัง เพราะโซเชียลมีเดียกำลังถูกครอบงำโดยสิ่งที่รู้จักกันในชื่อ “AI slop” – ภาพและข้อความที่สร้างโดยเครื่องมือ Gen AI ที่ทำให้เราสับสนระหว่างสิ่งที่เป็นจริงกับสิ่งที่ถูกสร้างขึ้น (ร้าน Kindle ของ Amazon ก็กำลังเผชิญปัญหาคล้ายกันกับหนังสือที่สร้างขึ้นโดย AI แต่เรื่องนั้นเป็นอีกเรื่อง)
คุณอาจคิดว่าแพลตฟอร์มโซเชียลมีเดียคงจะรู้สึกรำคาญกับคลื่นขยะที่ท่วมแพลตฟอร์มของพวกเขา คิดอีกครั้ง Jason Koebler จากเว็บไซต์ข่าวเทคโนโลยี 404 Media รายงานว่าในการประชุมผลประกอบการรายไตรมาสเมื่อเร็ว ๆ นี้ ซึ่งเน้นไปที่ประเด็นด้าน AI, Mark Zuckerberg ประธานเจ้าหน้าที่บริหารของ Meta กล่าวว่า ฟีดที่สร้างขึ้นโดย AI อาจจะมาใน Facebook และแพลตฟอร์มอื่น ๆ ของ Meta Zuckerberg กล่าวว่าเขารู้สึกตื่นเต้นกับ “โอกาสที่ AI จะช่วยให้ผู้คนสร้างเนื้อหาที่จะทำให้ประสบการณ์การดูฟีดของพวกเขาดีขึ้น”
เมื่อเข้าใจประเด็นที่เขากล่าวถึงมากขึ้น Zuck กล่าวต่อว่า: “ผมคิดว่าเรากำลังจะเพิ่มประเภทเนื้อหาใหม่ทั้งหมด นั่นคือเนื้อหาที่สร้างหรือสรุปโดย AI หรือการนำเนื้อหาที่มีอยู่มารวมกันโดยใช้ AI ซึ่งผมคิดว่านั่นจะน่าตื่นเต้นมากสำหรับ Facebook, Instagram และอาจรวมถึง Threads หรือฟีดอื่น ๆ ในอนาคต” ซึ่งในแง่หนึ่งก็สมเหตุสมผล: ผลกำไรของ Meta ขึ้นอยู่กับการรักษาผู้ใช้บนแพลตฟอร์มให้ “มีส่วนร่วม” – หรือก็คือ ใช้เวลาอยู่กับแพลตฟอร์มให้นานที่สุด – และหาก AI slop ช่วยให้บรรลุเป้าหมายนี้ได้ แล้วมันจะเป็นปัญหาอะไร?
ในฝั่งของผู้ผลิต ปรากฏว่าเนื้อหาที่สร้างโดย AI ก็ทำกำไรให้กับผู้สร้างได้เช่นกัน Koebler ใช้เวลาหนึ่งปีในการสำรวจด้านที่ไม่สว่างของโซเชียลมีเดีย ในอินเดีย เขาได้พบกับ Gyan Abhishek นักวิเคราะห์ผู้ศึกษาการแพร่กระจายบนโลกออนไลน์ Abhishek แสดงภาพที่น่าตกใจให้เขาเห็น เป็นภาพชายชราโครงกระดูกงอตัวอยู่ ถูกแมลงนับร้อยรุมกัดกิน
“ผู้ชมชาวอินเดียมีอารมณ์ร่วมมาก” Abhishek อธิบาย “หลังจากเห็นภาพแบบนี้ พวกเขาจะกด ‘ไลก์’, ‘คอมเมนต์’ และแชร์ ดังนั้นคุณก็ควรสร้างเพจแบบนี้ อัปโหลดรูปภาพ แล้วทำเงินผ่านโบนัสการแสดงผล” เขายังอ้างว่าผู้สร้างภาพไวรัลสามารถทำเงินได้ถึง $100 สำหรับทุก 1,000 “ไลก์” ซึ่งฟังดูเหมือนการทำเงินง่าย ๆ อย่างน้อยก็ในมุมมองของคอลัมนิสต์นี้
ดังนั้น สิ่งที่เรามีอยู่ตรงนี้คือวงจรตอบสนองเชิงบวกที่ผู้สร้าง AI slop ทำกำไรจากการป้อนให้กับอัลกอริธึมการมีส่วนร่วมของแพลตฟอร์มโซเชียลมีเดีย ซึ่งแพลตฟอร์มเหล่านี้ก็ทำกำไรจากการมีส่วนร่วมที่เพิ่มขึ้นจากภาพไวรัล ปัญหาของวงจรตอบสนองเชิงบวกก็คือ มันนำไปสู่การเติบโตที่ไร้การควบคุม และทำให้เกิดคำถามว่าสื่อสังคมจะเป็นอย่างไรเมื่อมันเสื่อมสภาพไปจนถึงจุดที่ไม่สามารถกู้คืนได้ ซึ่งนั่นคือทิศทางที่ Meta และบริษัทอื่น ๆ กำลังมุ่งหน้าไป