Amazon Web Services (AWS) ประกาศปรับปรุง Amazon Bedrock ด้วยบริการ generative AI service ที่สามารถจัดการได้อย่างเต็มรูปแบบ
Amazon Web Services (AWS) has announced improvements to bolster Bedrock, its fully managed generative AI service.
Amazon Bedrock เพิ่มโมเดล เครื่องมือ และฟีเจอร์ Gen AI ใหม่
Amazon Web Services (AWS) ประกาศปรับปรุง Amazon Bedrock ด้วยบริการ generative AI service ที่สามารถจัดการได้อย่างเต็มรูปแบบ
การอัปเดตประกอบด้วยโมเดลพื้นฐานใหม่จากผู้บุกเบิก AI หลายราย ความสามารถในการประมวลผลข้อมูลที่ได้รับการปรับปรุง และฟีเจอร์ที่มุ่งเน้นการปรับปรุงประสิทธิภาพการอนุมาน
Dr. Swami Sivasubramanian รองประธานฝ่าย AI และข้อมูลของ AWS กล่าวว่า: “Amazon Bedrock ยังคงเติบโตอย่างรวดเร็ว เนื่องจากลูกค้าหลั่งไหลเข้าใช้บริการด้วยการคัดเลือกโมเดลชั้นนำอย่างกว้างขวาง เครื่องมือที่ช่วยให้ปรับแต่งง่ายด้วยข้อมูลของตนเอง คุณสมบัติ Gen AI ที่มีความรับผิดชอบในตัว และความสามารถในการพัฒนาเอเจนต์ที่ซับซ้อน
“ด้วยชุดความสามารถใหม่นี้ เราเสริมพลังให้ลูกค้าสามารถพัฒนาแอปพลิเคชัน AI ที่ชาญฉลาดมากขึ้น เพื่อส่งมอบคุณค่าที่มากขึ้นให้กับผู้ใช้”
Amazon Bedrock ขยายความหลากหลายของโมเดล
AWS กำลังจะกลายเป็นผู้ให้บริการคลาวด์รายแรกที่นำเสนอโมเดลจากนักพัฒนา AI อย่าง Luma AI และ poolside โดยรวมถึงโมเดลล่าสุดจาก Stability AI
ผ่านตลาด Amazon Bedrock ใหม่นี้ ลูกค้าจะสามารถเข้าถึงโมเดลที่เกิดใหม่และเฉพาะทางกว่า 100 โมเดล จากอุตสาหกรรมต่าง ๆ ซึ่งจะช่วยให้พวกเขาสามารถเลือกเครื่องมือที่เหมาะสมที่สุดสำหรับความต้องการเฉพาะของตน
Ray 2 ของ Luma AI
Luma AI ซึ่งเป็นที่รู้จักในการพัฒนา Gen AI สำหรับการสร้างเนื้อหาวิดีโอ นำโมเดล Ray 2 รุ่นถัดไปมาสู่ Amazon Bedrock โมเดลนี้สร้างผลลัพธ์วิดีโอคุณภาพสูงและสมจริงจากข้อความหรืออินพุตภาพ และช่วยให้องค์กรสามารถสร้างผลลัพธ์โดยละเอียดในสาขาต่าง ๆ เช่น แฟชั่น สถาปัตยกรรม และการออกแบบกราฟิก การปรากฏตัวของ AWS เป็นผู้ให้บริการรายแรกสำหรับโมเดลนี้ช่วยให้ธุรกิจสามารถทดลองมุมกล้องใหม่ ลีลาการถ่ายทำ และตัวละครที่สม่ำเสมอด้วยขั้นตอนการทำงานที่ราบรื่น
malibu และ point ของ poolside
ออกแบบมาเพื่อแก้ปัญหาในวิศวกรรมซอฟต์แวร์สมัยใหม่ โมเดลของ poolside ได้แก่ malibu และ point เชี่ยวชาญในการ code generation, testing, documentation, และ real-time code completion ที่สำคัญ นักพัฒนาสามารถปรับแต่ง fine-tune โมเดลเหล่านี้อย่างปลอดภัยโดยใช้ private datasets พร้อมกับเครื่องมือ Assistant การรวมเข้ากับสภาพแวดล้อมการพัฒนา เครื่องมือของ poolside ช่วยให้ทีมวิศวกรเพิ่มผลผลิต ส่งโครงการได้เร็วขึ้น และเพิ่มความแม่นยำ
Stable Diffusion 3.5 Large ของ Stability AI
ลูกค้า Amazon Bedrock จะเข้าถึง Stable Diffusion 3.5 Large โมเดลข้อความเป็นภาพของ Stability AI ในเร็ว ๆ นี้ การเพิ่มนี้สนับสนุนธุรกิจในการสร้างสื่อภาพคุณภาพสูงสำหรับกรณีการใช้งานในพื้นที่ต่าง ๆ เช่น เกม การโฆษณา และการค้าปลีก
โดยผ่าน Bedrock Marketplace AWS ยังเปิดให้เข้าถึงโมเดลเฉพาะทางมากกว่า 100 แบบ ซึ่งรวมถึงโซลูชันที่ออกแบบมาสำหรับสาขาต่าง ๆ เช่น ชีววิทยา (โมเดล Gen AI ESM3 ของ EvolutionaryScale) ข้อมูลทางการเงิน (Palmyra-Fin ของ Writer) และสื่อ (text-to-audio MARS6 ของ Camb.ai)
Zendesk บริษัทซอฟต์แวร์บริการลูกค้าระดับโลก ใช้ประโยชน์จาก Bedrock Marketplace เพื่อปรับแต่งการสนับสนุนผ่านอีเมลและช่องทางโซเชียลโดยใช้เครื่องมือการแปลและวิเคราะห์อารมณ์ขับเคลื่อนด้วย AI ตัวอย่างเช่น พวกเขาใช้โมเดลอย่าง Widn.AI เพื่อปรับแต่งการตอบกลับตามอารมณ์แบบเรียลไทม์ในภาษาแม่ของลูกค้า
Scaling inference ด้วยฟีเจอร์ Amazon Bedrock ใหม่
แอปพลิเคชัน Gen AI ขนาดใหญ่ต้องสมดุลระหว่างต้นทุน แลเทนซี และความแม่นยำของกระบวนการอนุมาน AWS กำลังแก้ปัญหานี้ด้วยสองฟีเจอร์ Amazon Bedrock ใหม่:
Prompt Caching
ความสามารถในการแคชใหม่ลดการประมวลผลพรอมพ์ที่ซ้ำซ้อนโดยจัดเก็บคิวรีที่ใช้บ่อยอย่างปลอดภัย ประหยัดทั้งเวลาและต้นทุน ฟีเจอร์นี้สามารถนำไปสู่การลดต้นทุนสูงถึง 90% และลดแลเทนซีลง 85% ตัวอย่างเช่น Adobe รวมการแคชพรอมพ์เข้ากับ Acrobat AI Assistant เพื่อสรุปเอกสารและตอบคำถาม โดยบรรลุการลดเวลาตอบสนองลง 72% ในการทดสอบเบื้องต้น
Intelligent Prompt Routing
ฟีเจอร์นี้กำหนดเส้นทางพรอมพ์แบบไดนามิกไปยังโมเดลพื้นฐานที่เหมาะสมที่สุดภายในตระกูล โดยปรับผลลัพธ์ทั้งด้านต้นทุนและคุณภาพ ลูกค้าอย่าง Argo Labs ซึ่งสร้างโซลูชัน AI เสียงสนทนาสำหรับร้านอาหาร ได้รับประโยชน์แล้ว ในขณะที่คิวรีง่าย ๆ (เช่น การจองโต๊ะ) จะถูกจัดการโดยโมเดลขนาดเล็ก คำขอที่ซับซ้อนมากขึ้น (เช่น คำถามเมนูเฉพาะด้านโภชนาการ) จะถูกนำทางอย่างชาญฉลาดไปยังโมเดลขนาดใหญ่ การใช้การกำหนดเส้นทางพรอมพ์อัจฉริยะของ Argo Labs ไม่เพียงแต่ปรับปรุงคุณภาพการตอบกลับ แต่ยังลดต้นทุนลงได้ถึง 30%
Data utilisation: Knowledge bases and automation
จุดดึงดูดหลักของ Gen AI อยู่ที่ความสามารถในการดึงคุณค่าจากข้อมูล AWS กำลังปรับปรุง Amazon Bedrock Knowledge Bases เพื่อให้องค์กรสามารถใช้ชุดข้อมูลเฉพาะ unique datasets สำหรับประสบการณ์ผู้ใช้ที่ขับเคลื่อนด้วย AI ที่มีความสมบูรณ์มากขึ้น
การใช้ข้อมูลที่มีโครงสร้าง
AWS ได้แนะนำความสามารถในการดึงข้อมูลที่มีโครงสร้างภายใน Knowledge Bases การปรับปรุงนี้ช่วยให้ลูกค้าสามารถสอบถามข้อมูลที่จัดเก็บบน Amazon services เช่น SageMaker Lakehouse และ Redshift ผ่านพรอมพ์ภาษาธรรมชาติ โดยแปลผลลัพธ์กลับเป็นคิวรี SQL Octus บริษัทข้อมูลเครดิต มีแผนที่จะใช้ความสามารถนี้เพื่อให้ลูกค้าได้รับรายงานแบบไดนามิกด้วยภาษาธรรมชาติเกี่ยวกับข้อมูลทางการเงินที่มีโครงสร้าง
การรวม GraphRAG
ด้วยการรวมการสร้างโมเดลกราฟอัตโนมัติ (ขับเคลื่อนโดย Amazon Neptune) ลูกค้าสามารถสร้างและเชื่อมโยงข้อมูลเชิงสัมพันธ์สำหรับแอปพลิเคชัน AI ที่แข็งแกร่งยิ่งขึ้น BMW Group ตัวอย่างเช่น จะใช้ GraphRAG เพื่อเสริมประสิทธิภาพผู้ช่วยเสมือน MAIA ผู้ช่วยนี้จะเข้าถึงข้อมูลภายในอันมั่งคั่งของ BMW เพื่อส่งมอบการตอบกลับที่ครอบคลุมและประสบการณ์ผู้ใช้ระดับพรีเมียม
แยกออกไป AWS ได้เปิดเผย Amazon Bedrock Data Automation เครื่องมือที่แปลงเนื้อหาที่ไม่มีโครงสร้าง (เช่น เอกสาร วิดีโอ และเสียง) ให้อยู่ในรูปแบบที่มีโครงสร้างสำหรับการวิเคราะห์หรือการสร้าง RAG บริษัทอย่าง Symbeo (การประมวลผลการเรียกร้องอัตโนมัติ) และ Tenovos (การจัดการสินทรัพย์ดิจิทัล) กำลังทดลองใช้เครื่องมือนี้เพื่อปรับปรุงประสิทธิภาพการดำเนินงานและการนำข้อมูลกลับมาใช้ใหม่
การขยายระบบนิเวศของ Amazon Bedrock สะท้อนถึงความนิยมที่เติบโตขึ้น โดยบริการนี้บันทึกการเพิ่มขึ้นของฐานลูกค้า 4.7 เท่าในปีที่ผ่านมา ผู้นำอุตสาหกรรมอย่าง Adobe, BMW, Zendesk และ Tenovos ต่างก็ได้นำนวัตกรรมล่าสุดของ AWS มาใช้เพื่อปรับปรุงความสามารถด้าน Gen AI
เครื่องมือส่วนใหญ่ที่เพิ่งประกาศ – เช่น การจัดการอนุมาน Knowledge Bases พร้อมการดึงข้อมูลที่มีโครงสร้าง และ GraphRAG – ขณะนี้อยู่ในช่วงพรีวิว ในขณะที่การเผยแพร่โมเดลสำคัญจาก Luma AI, poolside และ Stability AI คาดว่าจะเกิดขึ้นเร็ว ๆ นี้