ชิปปัญญาประดิษฐ์จาก Qualcomm Inc เอาชนะ Nvidia Corp ใน 2 ใน 3 ของการวัดประสิทธิภาพการใช้พลังงาน ในผลการทดสอบล่าสุดอัพเดตเมื่อวันพุธ ขณะที่บริษัทสตาร์ทอัพสัญชาติไต้หวันทำคะแนนได้ดีที่สุดทั้งสองรายการในหมวดเดียว
Artificial intelligence chips from Qualcomm Inc beat Nvidia Corp in two out of three measures of power efficiency in a new set of test data published on Wednesday, while a Taiwanese startup bested both in one category.
Qualcomm และ Nvidia แข่งขันกันเพื่อจุดสูงสุดในการทดสอบประสิทธิภาพของชิป AI
Nvidia ครองตลาดสำหรับการฝึกอบรมโมเดล AI ด้วยข้อมูลจำนวนมหาศาล แต่หลังจากที่โมเดล AI เหล่านั้นได้รับการเทรนนิ่งแล้ว จะถูกนำไปใช้ในวงกว้างขึ้น ในสิ่งที่เรียกว่า “inference” หรือ การอนุมาน คือ กระบวนการคาดคะเนตามหลักเหตุผล เพื่อหาคำตอบ เช่น สร้างการตอบกลับข้อความ ตามคำสั่งพร้อมท์ หรือ ตัดสินว่า ในรูปปภาพ มีแมวหรือไม่
Qualcomm explains that from an architecture perspective, the design follows the learnings gained from the company’s neural processing units that it had deployed in the mobile Snapdragon SoC, however is still a distinct architecture that’s been designed from the ground up, optimised for enterprise workloads.
นักวิเคราะห์เชื่อว่าตลาดสำหรับชิป inference ง ของดาต้าเซ็นเตอร์ จะเติบโตอย่างรวดเร็วเนื่องจากธุรกิจต่าง ๆ ใส่เทคโนโลยี AI ลงในผลิตภัณฑ์ของตน แต่บริษัทต่าง ๆ เช่น Google ของ Alphabet Inc กำลังสำรวจวิธีการควบคุมต้นทุนของ inference chips
หนึ่งในค่าใช้จ่ายหลักของ inference chips คือ ค่าไฟฟ้า และ Qualcomm ได้ใช้ความเชี่ยวชาญ และประสบการณ์ในการออกแบบชิปสำหรับอุปกรณ์ที่ใช้พลังงานจากแบตเตอรี่ เช่นสมาร์ทโฟน เพื่อสร้างชิปที่เรียกว่า Cloud AI 100 ซึ่งมีจุดมุ่งหมายเพื่อผลิต inference chips ที่กินไฟต่ำ ใช้พลังงานน้อยที่สุด
ข้อมูลการทดสอบ อัพเดตเมื่อวันพุธโดย MLCommons ซึ่งเป็นสมาคมวิศวกรรมที่กำหนดเกณฑ์มาตรฐานการทดสอบที่ใช้กันอย่างแพร่หลายในอุตสาหกรรมชิป AI นั้น AI 100 ของ Qualcomm เอาชนะชิป H100 เรือธงของ Nvidia ในการจัดประเภทรูปภาพ โดยพิจารณาจากจำนวนการสืบค้นของเซิร์ฟเวอร์ศูนย์ข้อมูลที่แต่ละชิปสามารถทำได้ต่อวัตต์
ชิปของ Qualcomm เข้าถึงเซิร์ฟเวอร์ 197.6 ข้อความค้นหาต่อวัตต์ เทียบกับ 108.4 ข้อความค้นหาต่อวัตต์สำหรับ Nvidia Neuchips สตาร์ทอัพที่ก่อตั้งโดย Youn-Long Lin นักวิชาการด้านชิปชาวไต้หวันมากประสบการณ์ ครองตำแหน่งสูงสุดด้วย 227 คำสั่งต่อวัตต์
นอกจากนี้ Qualcomm ยังเอาชนะ Nvidia ในการตรวจจับวัตถุด้วยคะแนน 3.2 ข้อความค้นหาต่อวัตต์ เทียบกับ Nvidia ที่ 2.4 ข้อความค้นหาต่อวัตต์ การตรวจจับวัตถุสามารถใช้ในแอปพลิเคชัน เช่น การวิเคราะห์ฟุตเทจจากร้านค้าปลีก เพื่อดูว่าผู้ซื้อไปที่ไหนบ่อยที่สุด
Qualcomm presents the dater in another performance/power chart in which we see a relatively fairer comparison. The most interesting performance claim here is that within the 75W PCIe form-factor, the company claims it’s able to beat even Nvidia’s latest 250W A100 accelerator based on the newest Ampere architecture. Similarly, it’s claiming double the performance of the Goya accelerator at 25% less power.
อย่างไรก็ตาม Nvidia ยังครองตำแหน่งสูงสุดทั้งในแง่ของประสิทธิภาพสัมบูรณ์และประสิทธิภาพการใช้พลังงานในการทดสอบการประมวลผลภาษาธรรมชาติ ซึ่งเป็นเทคโนโลยีAI ที่ใช้กันอย่างแพร่หลายในระบบต่างๆ เช่น แชทบอท Nvidia ทำได้ 10.8 ตัวอย่างต่อวัตต์ ในขณะที่ Neuchips อยู่ในอันดับที่สองที่ 8.9 ตัวอย่างต่อวัตต์ และ Qualcomm อยู่ในอันดับที่สามที่ 7.5 ตัวอย่างต่อวัตต์
