Liquid AI เปิดตัว RIPL เอ็นจิ้นประมวลผลสำหรับ LFM
Liquid AI เปิดตัว RIPL เอ็นจิ้นรันโมเดลแบบเรียลไทม์ ทำเวลาประมวลผลใต้ 50 มิลลิวินาที พร้อมความเร็วเหนือกว่าคู่แข่งบนชิป B200
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Liquid AI เปิดตัว RIPL เอ็นจิ้นประมวลผลใหม่สำหรับ LFM
- รองรับการประมวลผลแบบเรียลไทม์ด้วยความหน่วงต่ำกว่า 50 มิลลิวินาที
- ทดสอบบนชิป B200 ให้ความเร็วเหนือกว่า Qwen3.5-0.8B บน vLLM
บริษัท Liquid AI ได้ประกาศเปิดตัวเอ็นจิ้นประมวลผลตัวใหม่ที่มีชื่อว่า RIPL ซึ่งออกแบบมาเพื่อใช้งานร่วมกับโมเดลตระกูล LFM ของทางบริษัทโดยเฉพาะ โดยเน้นจุดเด่นด้านความสามารถในการประมวลผลแบบเรียลไทม์ที่ตอบสนองได้อย่างรวดเร็วภายในระยะเวลาไม่ถึง 50 มิลลิวินาที ซึ่งตอบโจทย์การใช้งานที่ต้องการความฉับไวสูงในยุคปัญญาประดิษฐ์ปัจจุบัน
ประสิทธิภาพของ RIPL ถูกนำมาทดสอบเปรียบเทียบในสภาพแวดล้อมจริง โดยรันโมเดล LFM2.5-1.2B บนชิปประมวลผลรุ่นใหม่อย่าง B200 จำนวนหนึ่งตัว ผลลัพธ์ที่ได้แสดงให้เห็นถึงความก้าวกระโดดครั้งใหญ่ในด้านความเร็วและการจัดการทรัพยากรระบบ
จากการทดสอบดังกล่าวพบว่า โมเดลของ Liquid AI เมื่อทำงานร่วมกับเอ็นจิ้น RIPL สามารถทำความหน่วง (p95 latency) ได้ต่ำกว่าโมเดล Qwen3.5-0.8B ที่รันอยู่บนเฟรมเวิร์ก vLLM ถึง 14.4 ถึง 28.4 เท่าตัว ซึ่งสะท้อนให้เห็นถึงประสิทธิภาพอันโดดเด่นของสถาปัตยกรรมใหม่นี้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การพัฒนาเอ็นจิ้นประมวลผลเฉพาะทางอย่าง RIPL ถือเป็นก้าวสำคัญของ Liquid AI ในการแก้ปัญหาคอขวดด้านความเร็วในการรันโมเดลขนาดเล็ก (Small Language Models) บนฮาร์ดแวร์ระดับไฮเอนด์ การที่สามารถทำความหน่วงต่ำกว่า 50 มิลลิวินาทีเปิดประตูสู่การใช้งาน AI แบบโต้ตอบด้วยเสียงหรือระบบอัตโนมัติที่ต้องการความเรียลไทม์อย่างแท้จริง ซึ่งแตกต่างจาก Large Language Models ทั่วไปที่เน้นความแม่นยำเป็นหลักแต่ใช้เวลาประมวลผลนานกว่า
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น