Liquid AI เปิดตัว LFM2.5-2.6B โมเดลจิ๋วออนดีไวซ์พร้อมความจุบริบท 128K

บริษัท Liquid AI ได้ฤกษ์เปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดในชื่อ LFM2.5-2.6B ซึ่งเป็นโมเดลประเภท On-Device Agentic Model ขนาดกะทัดรัดที่ออกแบบมาเพื่อให้สามารถรันบนอุปกรณ์พกพาหรืออุปกรณ์ปลายทางได้อย่างมีประสิทธิภาพ โดยมีน้ำหนักโมเดลพร้อมใช้งานเปิดให้ดาวน์โหลดสาธารณะบนแพลตฟอร์ม Hugging Face ทันที ภายใต้เงื่อนไขไลเซนส์แบบ lfm1.0 ซึ่งรองรับหลากหลายฟอร์แมตไม่ว่าจะเป็นแบบเนทีฟ GGUF, MLX และ ONNX พร้อมทั้งการสนับสนุนใช้งานตั้งแต่วันแรกผ่านเครื่องมือยอดนิยมอย่าง llama.cpp, vLLM, SGLang และ LM Studio

ในด้านรายละเอียดทางเทคนิค โมเดล LFM2.5-2.6B ประกอบด้วยจำนวนพารามิเตอร์รวมทั้งหมด 2.69 พันล้านพารามิเตอร์ กระจายตัวอยู่บนสถาปัตยกรรมจำนวน 30 เลเยอร์ โดยโครงสร้างภายในประกอบด้วยบล็อก short convolution แบบ double-gated จำนวน 22 บล็อก และบล็อก grouped-query attention อีก 8 บล็อก นอกจากนี้ยังมีการขยายขนาดคลังคำศัพท์ให้กว้างขึ้นถึง 128,000 โทเค็น พร้อมทั้งรองรับความยาวบริบทสูงสุดถึง 131,072 โทเค็น ผ่านกระบวนการฝึกอบรมล่วงหน้า (Pre-training) ที่ใช้ปริมาณข้อมูลโทเค็นราว 34 ล้านล้านโทเค็น

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

การพัฒนาในครั้งนี้ ทาง Liquid AI ได้ใช้วิธีขยายขนาดตัว tokenizer เดิมที่มีอยู่ให้รองรับ 128K แทนที่จะเริ่มต้นฝึกใหม่ตั้งแต่ต้น ควบคู่ไปกับการเพิ่มขั้นตอน mid-training โดยเฉพาะเพื่อยืดความยาวบริบทไปถึงระดับ 128K ทำให้โมเดลนี้สามารถรองรับการทำงานครอบคลุมถึง 16 ภาษา แม้ว่าในเบื้องต้นจะยังคงเน้นการประมวลผลเฉพาะข้อความ (text-only) เป็นหลักก็ตาม

จากการทดสอบเปรียบเทียบประสิทธิภาพโดยตรงกับคู่แข่งในระดับใกล้เคียงกัน เช่น gemma-4-E2B-it ขนาด 5.1B, gemma-4-E4B-it ขนาด 8B, Qwen3.5-4B ขนาด 4.7B และ Qwen3.5-9B ขนาด 9.7B ปรากฏว่า LFM2.5-2.6B สามารถทำคะแนนนำในทุกหมวดหมู่การทดสอบการปฏิบัติตามคำสั่ง (instruction-following) รวมถึงเกือบทุกการทดสอบด้านการใช้เครื่องมือ โดยเป็นรองเพียงแค่โมเดล Qwen3.5-9B ในการทดสอบ BFCLv4 เท่านั้น อย่างไรก็ตาม ด้านทักษะการเขียนโปรแกรม โมเดลขนาดใหญ่ยังคงมีความได้เปรียบอยู่ โดยในชุดทดสอบ LiveCodeBenchv6 นั้น LFM2.5-2.6B ทำคะแนนได้ 59.41 ในขณะที่ Qwen3.5-9B ทำไปได้ 69.86

ที่มา: MarkTechPost