Google to label AI-generated images after viral Pope Francis, Trump deepfakes

Google กำลังเพิ่มคุณสมบัติที่จะช่วยให้ผู้ใช้ระบุรูปภาพที่สร้างขึ้นจาก AI ผลมาจากภาพปลอมของ สมเด็จพระสันตะปาปาฟรานซิสในชุดเสื้อของ Balenciaga และโดนัลด์ ทรัมป์ ที่ขัดขืนการจับกุมได้แพร่ระบาดทางอินเทอร์เน็ต เมื่อต้นปีนี้

Google is adding features that will help users identify pictures that were generated through artificial intelligence — a move that came after deepfake images of Pope Francis in a Balenciaga puffer jacket and Donald Trump resisting arrest took the internet by storm earlier this year.

Google จะติดป้ายกำกับภาพที่สร้างโดย AI หลังจากไวรัลของภาพ Pope Francis, Trump deepfakes

ความเคลื่อนไหวล่าสุดของ Google เกิดขึ้น เมื่อ Elon Musk และ Dr. Geoffrey Hinton “เจ้าพ่อแห่ง AI” เตือนว่า AI อาจทำให้เผยแพร่ข้อมูลที่ผิดทางออนไลน์รุนแรงขึ้นด้วยการให้คำตอบที่ไม่ถูกต้องหรือสร้างภาพปลอมที่แทบจะแยกไม่ออกจากของจริง

Google กล่าวเมื่อวันพุธว่าจะเพิ่ม “Markup” ในข้อมูล Meta ของภาพถ่ายที่ผลิตโดยโมเดล AI ของตนเองเพื่อแสดงว่ารูปภาพนั้นสร้างขึ้นจากคอมพิวเตอร์
Google Search จะใช้ข้อมูล Meta เพื่อแสดงป้ายกำกับคำเตือน ในกรณีรูปภาพที่สร้างโดย AI ปรากฏในผลลัพธ์
คำบรรยายใต้ภาพจะระบุว่าเป็น ““self-labeled as AI generated” ตามตัวอย่าง

ภาพจากแพลตฟอร์มที่ได้รับความนิยมอื่น ๆ รวมถึง Midjourney และ Shutterstock จะแสดงป้ายเตือนที่คล้ายกันในอนาคตอันใกล้นี้

นอกจากนี้ เครื่องมือใหม่ที่เรียกว่า “about this image” มีกำหนดจะเปิดตัวในเครื่องมือค้นหาของ Google ใน “เดือนต่อๆ ไป”

Google ยกตัวอย่างภาพจำลองการลงจอดบนดวงจันทร์ที่สร้างโดย AI

แท็บนี้จะช่วยให้ผู้ใช้เข้าถึงข้อมูลเกี่ยวกับภาพถ่ายที่ปรากฏในผลการค้นหาได้อย่างง่ายดาย รวมถึงเวลาที่รูปภาพนั้นได้รับการ “indexed” โดย Google เป็นครั้งแรก และที่อื่นๆ ที่ปรากฏทางออนไลน์
Google ให้กรณีสมมุติเกี่ยวกับภาพถ่ายที่สร้างโดย AI ซึ่งแสดงภาพทีมงานภาพยนตร์ AI-generated photo ยาน Apollo 11 ลงจอดบนดวงจันทร์ในปี 1969

เมื่อคลิกแท็บ “about this image” ผู้ใช้จะเห็นบทความที่เกี่ยวข้องซึ่งหักล้างรูปภาพและรายละเอียดสำคัญอื่นๆ ที่แสดงว่าเป็นภาพปลอม
“ด้วยข้อมูลพื้นหลังบนรูปภาพนี้ คุณจะเข้าใจได้ดีขึ้นว่ารูปภาพนั้นน่าเชื่อถือหรือไม่ — หรือคุณจำเป็นต้องดูอีกครั้ง”

Google จะเริ่มเพิ่ม “Markup” ในข้อมูล Meta ของรูปภาพที่สร้างโดย AI

ในเดือนมีนาคม ภาพถ่ายสมเด็จพระสันตะปาปาฟรานซิสในเสื้อโค้ทและแว่นกันแดดที่สร้างโดย AI นั้นกลายเป็นไวรัลบน Twitter และแพลตฟอร์มโซเชียลมีเดียอื่นๆ

หนึ่งโพสต์ที่มีรูปภาพสร้างการดูเกือบ 21 ล้านครั้งบน Twitter
Pablo Xavier ศิลปิน AI ที่ถูกกล่าวหาว่าสร้างภาพ อ้างว่าเขา “ไม่ต้องการให้ [ภาพ] กลายเป็นไวรัลแบบนั้น” และยอมรับว่ามัน “น่ากลัวอย่างยิ่ง” ที่ “คนกำลังเล่นกับมันและคิดว่ามันเป็นของจริง โดยไม่ต้องถาม”

ภาพปลอมของสมเด็จพระสันตะปาปาฟรานซิสในเสื้อ Balenciaga กลายเป็นไวรัลเมื่อต้นปีนี้

ภาพที่สร้างขึ้นโดย AI ของ Donald Trump ปะทะกับ NYPD
ทวิตเตอร์ / เอเลียต ฮิกกินส์

ในอีกกรณีที่แปลกประหลาดตั้งแต่เดือนมีนาคม รูปภาพ Deepfake ที่สร้างโดย AI แสดงให้เห็นทรัมป์ขัดขืนการจับกุมและการปะทะกับเจ้าหน้าที่ NYPD แพร่กระจายอย่างรวดเร็วบนโซเชียลมีเดีย
Hinton ซึ่งเพิ่งลาออกจากงานที่ Google เพื่อให้เขาสามารถพูดคุยเกี่ยวกับความกังวลของเขาเกี่ยวกับเทคโนโลยี AI ที่เขาช่วยสร้างได้อย่างอิสระ แสดงความกลัวว่ามันจะถูกใช้เพื่อจุดประสงค์ที่เลวร้ายต่างๆ
Prof.. Hinton กล่าวว่า “เป็นเรื่องยากที่จะดูว่าคุณจะป้องกันไม่ให้ผู้ไม่ประสงค์ดีนำไปใช้ทำสิ่งที่ไม่ดีได้อย่างไร” Prof. Hinton กล่าว

Google เปิดเผยฟีเจอร์อัปเกรดล่าสุด ที่จะตรวจสอบ Generative AI image ในวันพุธ เนื่องจากต้องพัฒนาแข่งขัน เพื่อให้ทันกับคู่แข่งของ Microsoft ซึ่งเป็นนักลงทุนหลักใน OpenAI และ ChatGPT ที่ได้รับความนิยมอย่างมาก

view original *