Recursive เปิดตัว Flint โมเดลโค딩โอเพนซอร์ส 40B MoE
Recursive ปล่อย Flint โมเดลเขียนโค้ดภายในเครื่องแบบ Open-Weight 40B พารามิเตอร์ ทำงานด้วย Active Params เพียง 2.5B ความเร็วเกิน 125 โทเค็นต่อวินาทีบน M4 Pro
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Recursive เปิดตัว Flint โมเดลภาษาสำหรับเขียนโค้ดแบบ Open-Weight ภายใต้สัญญาอนุญาต Apache 2.0
- มีขนาดพารามิเตอร์รวม 40 พันล้าน แต่ใช้งานจริง (Active Parameters) เพียง 2.5 พันล้าน
- ทำคะแนนบน SWE-bench Verified ได้สูงถึง 74.2% และความเร็วทะลุ 125 โทเค็นต่อวินาทีบนชิป M4 Pro
Recursive บริษัทเทคโนโลยีปัญญาประดิษฐ์ ได้สร้างความฮือฮาให้กับวงการนักพัฒนาซอฟต์แวร์ด้วยการเปิดตัว Flint โมเดลปัญญาประดิษฐ์สำหรับการเขียนโค้ดที่รันได้ภายในเครื่อง (Local Coding Model) โดยถูกพัฒนาขึ้นมาเพื่อตอบโจทย์งานเอเจนต์ (Agents) โดยเฉพาะ พร้อมทั้งเปิดให้ใช้งานแบบโอเพนซอร์สภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งเปิดกว้างให้นักพัฒนาสามารถนำไปต่อยอดและปรับแต่งได้อย่างอิสระ
จุดเด่นสำคัญของโมเดล Flint อยู่ที่โครงสร้างสถาปัตยกรรมแบบ Mixture of Experts (MoE) ซึ่งมีพารามิเตอร์รวมทั้งหมด 40 พันล้านตัว (40B) แต่ในแต่ละขั้นตอนของการประมวลผล จะเปิดใช้งานพารามิเตอร์จริง (Active Parameters) เพียงแค่ 2.5 พันล้านตัวเท่านั้น (2.5B) การออกแบบในลักษณะนี้ช่วยให้โมเดลสามารถประหยัดทรัพยากรฮาร์ดแวร์ได้อย่างมหาศาล โดยยังคงรักษาประสิทธิภาพการทำงานระดับสูงเอาไว้ได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในด้านประสิทธิภาพการทดสอบเบื้องต้น Flint สามารถทำคะแนนบนเกณฑ์มาตรฐาน SWE-bench Verified ได้สูงถึง 74.2% ซึ่งถือว่าเป็นตัวเลขที่น่าประทับใจสำหรับโมเดลขนาดเล็กที่สามารถรันบนฮาร์ดแวร์ทั่วไปได้ นอกจากนี้จากการทดสอบบนแล็ปท็อป MacBook Pro ที่ใช้ชิปประมวลผล Apple M4 Pro ยังพบว่าโมเดลนี้สามารถทำความเร็วในการประมวลผลได้มากกว่า 125 โทเค็นต่อวินาที (tokens per second)
การที่โมเดลปัญญาประดิษฐ์สายพันธุ์เขียนโค้ดหันมาใช้สถาปัตยกรรมแบบ Mixture of Experts (MoE) และเน้นการรันแบบโลโก้ภายในเครื่อง (Local Model) สะท้อนให้เห็นถึงเทรนด์ความต้องการใช้งาน AI ที่มีความเป็นส่วนตัวสูง รวดเร็ว และมีต้นทุนการประมวลผลต่ำ การจำกัดพารามิเตอร์ใช้งานจริงให้เหลือเพียง 2.5B บนโครงสร้าง 40B ช่วยให้ฮาร์ดแวร์ระดับผู้บริโภคอย่างชิปตระกูล M-series ของ Apple สามารถประมวลผลงานเขียนโค้ดที่ซับซ้อนของเอเจนต์ได้โดยไม่ต้องพึ่งพาเซิร์ฟเวอร์คลาวด์ขนาดใหญ่
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น