AI agents help explain other AI systems
นักวิจัยของ MIT แนะนำวิธีการที่ใช้ปัญญาประดิษฐ์ เพื่อทำให้การอธิบาย complex neural networks เป็นแบบอัตโนมัติ MIT researchers introduce a method that uses artificial intelligence to automate the explanation of complex neural networks. “FIND” AI agents ที่ช่วยอธิบายระบบ AI ที่มี neural networks ซับซ้อน การอธิบายพฤติกรรมของ complex neural networks ที่ได้รับการฝึกยังคงเป็นปริศนาที่น่าสนใจ โดยเฉพาะอย่างยิ่งเมื่อโมเดลเหล่านี้มีขนาดและความซับซ้อนเพิ่มมากขึ้น เช่นเดียวกับความท้าทายทางวิทยาศาสตร์อื่นๆ ในประวัติศาสตร์ การทำวิศวกรรมย้อนกลับว่าระบบปัญญาประดิษฐ์ทำงานอย่างไรนั้นจำเป็นต้องมีการทดลองจำนวนมาก เช่น การสร้างสมมติฐาน การแทรกแซงพฤติกรรม และแม้แต่การแยกเครือข่ายขนาดใหญ่เพื่อตรวจสอบเซลล์ประสาทแต่ละตัว จนถึงปัจจุบัน การทดลองที่ประสบความสำเร็จส่วนใหญ่เกี่ยวข้องกับการกำกับดูแลของมนุษย์จำนวนมาก การอธิบายการคำนวณทุกรายการภายในโมเดลที่มีขนาด GPT-4 และใหญ่กว่านั้นแทบจะต้องใช้ระบบอัตโนมัติมากกว่านี้อย่างแน่นอน แม้กระทั่งการใช้โมเดล AI เองก็ด้วยซ้ำ […]