Liquid AI ปล่อยโมเดล LFM2.5-24B-A2B เน้นประมวลผลบนเครื่อง
Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดล Mixture-of-Experts 24 พันล้านพารามิเตอร์ ทำงานจริง 2 พันล้านพารามิเตอร์ เพื่อรันบนอุปกรณ์ส่วนตัว
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Liquid AI เปิดตัวโมเดล LFM2.5-24B-A2B แบบเปิดกว้าง
- เป็นโมเดล Mixture-of-Experts ขนาด 24B ที่ใช้พารามิเตอร์เพียง 2B
- ออกแบบมาเพื่อใช้งานกับเอเจนต์บนอุปกรณ์พกพา
- ทำความเร็วในการถอดรหัส 184 โทเค็นต่อวินาทีบน Apple M5 Max
บริษัท Liquid AI ได้ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดในชื่อ LFM2.5-24B-A2B ซึ่งเป็นโมเดลประเภท Mixture-of-Experts (MoE) ที่เน้นความสามารถในการให้เหตุผล โดยถูกออกแบบมาเพื่อขับเคลื่อนระบบเอเจนต์ที่ทำงานบนเครื่องอุปกรณ์ของผู้ใช้งานโดยตรง (On-Device Agents) โดยมีจุดเด่นด้านประสิทธิภาพและความเร็วที่ตอบโจทย์การประมวลผลในเครื่อง
สถาปัตยกรรมของโมเดลตัวนี้มีขนาดรวมอยู่ที่ 24 พันล้านพารามิเตอร์ (24B) แต่มีความพิเศษตรงที่มีพารามิเตอร์ที่ถูกใช้งานจริง (Active Parameters) เพียง 2 พันล้านพารามิเตอร์เท่านั้นในแต่ละขั้นตอนการประมวลผล ช่วยให้โมเดลสามารถทำงานได้อย่างรวดเร็วโดยใช้ทรัพยากรฮาร์ดแวร์ในระดับที่เหมาะสมสำหรับการใช้งานทั่วไป
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในการทดสอบประสิทธิภาพ โมเดล LFM2.5-24B-A2B สามารถทำคะแนนบนเกณฑ์มาตรฐาน LiveClaw ได้ที่ระดับ 48.09 นอกจากนี้เมื่อทดสอบการถอดรหัสบนชิปประมวลผล Apple M5 Max ยังทำความเร็วได้สูงถึง 184 โทเค็นต่อวินาที ซึ่งสะท้อนให้เห็นถึงความพร้อมในการนำไปใช้งานจริงบนฮาร์ดแวร์ระดับไฮเอนด์ในปัจจุบัน
การพัฒนาโมเดลแบบ Mixture-of-Experts (MoE) ที่มีสัดส่วนพารามิเตอร์ทำงานจริงน้อยกว่าพารามิเตอร์รวมมากๆ (Sparse MoE) ถือเป็นแนวทางสำคัญในปัจจุบันที่จะช่วยให้โมเดลขนาดใหญ่สามารถรันบนอุปกรณ์พกพาหรือคอมพิวเตอร์ส่วนบุคคลได้ โดยไม่ต้องพึ่งพากลุ่มเซิร์ฟเวอร์คลาวด์ขนาดใหญ่ ช่วยลดทั้งต้นทุนและความหน่วงในการตอบสนอง
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น