VIDRAFT ฝึก LLM บน NPU สำหรับการอนุมานโดยไม่ต้องพึ่ง GPU

บริษัท VIDRAFT ได้สร้างความฮือฮาให้แก่วงการปัญญาประดิษฐ์ด้วยการฝึกอบรมโมเดลภาษาขนาดเล็กหรือ Small Language Model ที่มีชื่อว่า VKORE-46M-NPU ขนาด 46 ล้านพารามิเตอร์ โดยใช้เพียงหน่วยประมวลผล NPU ชนิดที่ออกแบบมาสำหรับการอนุมานหรือ Inference-Only เท่านั้น ซึ่งตามหลักการดั้งเดิมของวิศวกรรมการเรียนรู้ของเครื่องแล้ว ชิปประเภทนี้มักถูกมองว่าไม่เหมาะสำหรับการฝึกโมเดลที่มีภาระงานหนักหน่วง เนื่องจากขาดฟีเจอร์ฮาร์ดแวร์ที่ GPU มีมาให้ เช่น รูปแบบการเข้าถึงหน่วยความจำที่ยืดหยุ่นหรือบัฟเฟอร์ความแม่นยำสูง

ความสำเร็จครั้งนี้ถือเป็นหลักฐานเชิงประจักษ์ว่า การทำ Backpropagation บนซิลิคอนที่ออกแบบมาเพื่อการอนุมานโดยเฉพาะนั้นเป็นเรื่องที่ทำได้จริง ความพยายามดังกล่าวเป็นส่วนหนึ่งของการพัฒนา VKORE ซึ่งเป็นซอฟต์แวร์เลเยอร์ที่ทำหน้าที่เร่งความประมวลผลแบบ NPU-native โดยมีเป้าหมายเทียบเท่ากับที่ CUDA ทำหน้าที่ให้กับชิป NVIDIA GPU

ในแง่ของผลลัพธ์เชิงปริมาณ VIDRAFT ได้เปิดเผยตัวเลขสำคัญคือ ค่าสัมประสิทธิ์ความสัมพันธ์ของเส้นทางการสูญเสียระหว่างการฝึกบน NPU และ GPU สูงถึง 0.99 ซึ่งตัวเลขนี้ไม่ได้หมายความว่า NPU จะมีความเร็วในการทำงานเทียบเท่ากับ GPU แต่เป็นการยืนยันความถูกต้องว่า กระบวนการคำนวณเกรเดียนต์มีความสอดคล้องเชิงตัวเลขและไม่ได้เบี่ยงเบนไปจากเส้นทางมาตรฐาน

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

"The press release explicitly states that VIDRAFT implemented backpropagation on the NPU. It is described as standard reverse-mode gradient computation, not a gradient-free alternative."

VIDRAFT

สำหรับผู้ที่สนใจใช้งาน โมเดล VKORE-46M-NPU พร้อมให้ดาวน์โหลดแล้วบนแพลตฟอร์ม Hugging Face โดยสามารถเรียกใช้งานผ่านคำสั่งคอมมานด์ไลน์ด้วย pip install huggingface_hub huggingface-cli download vidraft/VKORE-46M-NPU ทั้งนี้ซอฟต์แวร์โค้ดการฝึกอบรมหลักยังคงถูกปิดเป็นความลับเพื่อปกป้องทรัพย์สินทางปัญญา และจะมีรายงานทางเทคนิคตีพิมพ์ออกมาในอนาคต