<div class="key-takeaways"><ul><li>Liquid AI เปิดตัว Pipette ชุดเครื่องมือเบนช์มาร์กแบบโอเพนซอร์สภายใต้สัญญาอนุญาต Apache 2.0</li><li>พัฒนาร่วมกับ Artificial Analysis เพื่อตรวจสอบและยืนยันระเบียบวิธีวัดผล</li><li>ชุดข้อมูลเปิดตัวครอบคลุมตัวชี้วัด 5 ด้านจากกว่า 1,000 การกำหนดค่าบนอุปกรณ์จริง</li><li>รองรับโมเดลกว่า 30 แบบ รูปแบบควอนไทเซชันที่หลากหลาย และความยาวบริบทตั้งแต่ 256 ถึง 8,192โทเค็น</li></ul></div><p>Liquid AI ได้สร้างความฮือฮาให้กับวงการปัญญาประดิษฐ์อีกครั้งด้วยการเปิดตัว <strong>Pipette</strong> ชุดเครื่องมือโอเพนซอร์สสำหรับการประเมินและวัดผลประสิทธิภาพโมเดลปัญญาประดิษฐ์บนอุปกรณ์ (On-device models) อย่างเป็นทางการ โดยเผยแพร่ภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งประกอบด้วยส่วนประกอบสำคัญอย่าง pipette-mgmt, pipette-clients และ pipette-scores พร้อมด้วยชุดข้อมูลผลลัพธ์สาธารณะ แดชบอร์ดโฮสต์ และแอปพลิเคชันเบนช์มาร์กเนทีฟสำหรับระบบปฏิบัติการ iOS และ Android โดยไม่มีการต้องรอคิว (Waitlist) แต่อย่างใด แม้ว่าการเผยแพร่ผลลัพธ์ที่ส่งมาจากชุมชนจะยังอยู่ในช่วงเบต้าก็ตาม</p><p>การเปิดตัวครั้งนี้เกิดขึ้นจากความร่วมมือกับ Artificial Analysis ซึ่งทำหน้าที่เป็นผู้ตรวจสอบอิสระในการสอบทานและยืนยันระเบียบวิธีทำงาน แนวคิดหลักของ Pipette มีความเฉพาะเจาะจงและเป็นประโยชน์อย่างยิ่ง นั่นคือ พฤติกรรมการทำงานบนอุปกรณ์ถือเป็นคุณสมบัติของระบบที่ถูกติดตั้งใช้งานจริง ไม่ใช่ตัวโมเดลที่ทำงานอยู่เพียงลำพัง โดยชุดข้อมูลเริ่มต้นครอบคลุมตัวชี้วัดประสิทธิภาพบนอุปกรณ์ถึง 5 ด้าน จากการกำหนดค่าที่แตกต่างกันมากกว่า 1,000 รูปแบบ ซึ่งเกิดจากการผสมผสานระหว่างโมเดล ควอนไทเซชัน รันไทม์ อุปกรณ์ และความยาวบริบท</p><div class="stat-row"><div class="stat-item"><span class="stat-number">1,000+</span><span class="stat-label">การกำหนดค่าเบนช์มาร์ก</span></div><div class="stat-item"><span class="stat-number">30+</span><span class="stat-label">จำนวนโมเดลที่รองรับ</span></div></div><p>ระบบดังกล่าวรองรับโมเดลมากกว่า 30 แบบ รูปแบบการควอนไทเซชันที่หลากหลาย บิลด์ของ llama.cpp สำหรับระบบ macOS, iOS, Windows และ Android รวมถึงความยาวบริบทตั้งแต่ 256 ไปจนถึง 8,192 โทเค็น ผลลัพธ์ชุดแรกที่ได้รับการเผยแพร่นั้นมาจากอุปกรณ์ฮาร์ดแวร์ระดับไฮเอนด์ ได้แก่ MacBook Pro ที่ใช้ชิป M5 Max, iPhone 17 Pro และ Galaxy S26 Ultra ขณะที่ผลลัพธ์ของ AMD Ryzen AI Max+ 395 และ Radeon 8060S ระบุว่าจะตามมาในเร็วๆ นี้</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_pipette_ai_mt9n2rhx_inline_1_931290994c.jpg" alt="smartphone mobile device performance testing screen" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><p>ภายในสถาปัตยกรรมของ Pipette หน่วยของการวัดผลคือการกำหนดค่าการติดตั้งใช้งาน (Deployment configuration) ซึ่งประกอบด้วย โมเดล + ควอนไทเซชัน + รันไทม์ + อุปกรณ์ จากนั้นการเบนช์มาร์กจะกำหนดตัวชี้วัดและรูปทรงของโทเค็น เพื่อให้ได้ผลลัพธ์ด้านความหน่วง (Latency) ปริมาณงาน (Throughput) หรือหน่วยความจำ ส่วนในด้านของคุณภาพจะถูกติดตามแยกต่างหากผ่านชุดทดสอบ IFBench, GPQA Diamond และ MATH-500 โดยคะแนนคุณภาพเหล่านี้ในปัจจุบันมาจากการประเมินรันของ llama.cpp บนระบบอ้างอิง NVIDIA H100 80GB ก่อนที่จะนำมาจับคู่กับการรันบนอุปกรณ์ที่ใช้โมเดลและการควอนไทเซชันเดียวกัน</p><blockquote class="pull-quote"><p>"พฤติกรรมการทำงานบนอุปกรณ์คือคุณสมบัติของระบบที่ถูกติดตั้งใช้งานจริง ไม่ใช่ตัวโมเดลที่ทำงานอยู่เพียงลำพัง"</p><cite>Liquid AI</cite></blockquote><div class="ai-insight"><p>การที่ Liquid AI แยกการวัดผลด้านคุณภาพออกจากการรันบนอุปกรณ์จริง (โดยใช้การประเมินจากชิป NVIDIA H100 แล้วนำมาจับคู่กับข้อมูลบนมือถือ) ถือเป็นแนวทางทางวิศวกรรมที่ชาญฉลาด เนื่องจากชิปพกพาในสมาร์ทโฟนหรือแล็ปท็อปอาจมีข้อจำกัดด้านพลังงานและการประมวลผลที่ต่างจาก GPU เซิร์ฟเวอร์ขนาดใหญ่ การใช้ระบบอ้างอิงกลางจึงช่วยรักษามาตรฐานความถูกต้องของคะแนนคุณภาพโมเดลให้มีความแม่นยำและเที่ยงตรงสม่ำเสมอก่อนนำมาเปรียบเทียบเคียงข้างกับตัวเลขด้านความเร็วบนฮาร์ดแวร์จริง</p></div><p>กระบวนการทดสอบประสิทธิภาพทั้งหมดเป็นไปตามระเบียบวิธีที่เผยแพร่ต่อสาธารณะ ซึ่งประกอบด้วยรูปทรงโทเค็นคงที่ การถอดรหัสแบบ greedy การตัดช่วงอบอุ่นเครื่อง (Warm-up) ทิ้งไป การวัดซ้ำ 5 ครั้ง และระบบคัดกรองความพร้อม ก่อนการจับเวลาในแต่ละรอบ ระบบตรวจสอบเฉพาะแพลตฟอร์มจะทำหน้าที่ตรวจสอบสภาพความร้อนและภาระโหลด โดยการทดสอบใดที่ไม่ผ่านเกณฑ์จะไม่ได้รับการเผยแพร่ นอกจากนี้ ทุกๆ การส่งข้อมูลยังบันทึกเวอร์ชันเบนช์มาร์ก รูปทรงโทเค็น อาร์ติแฟกต์ของโมเดล การควอนไทเซชัน เวอร์ชันรันไทม์ ตลอดจนฮาร์ดแวร์และระบบปฏิบัติการไว้อย่างครบถ้วน</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/25/liquid-ai-open-sources-pipette-a-reproducible-benchmarking-suite-that-measures-on-device-models-quantization-runtime-and-hardware-together/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Liquid AI releases Pipette, an open-source benchmarking suite under the Apache 2.0 license</li><li>Developed in partnership with Artificial Analysis to review and verify methodology</li><li>Launch dataset covers five metrics across more than 1,000 on-device configurations</li><li>Supports over 30 models, various quantization formats, and context lengths up to 8,192 tokens</li></ul></div><p>Liquid AI has made waves in the artificial intelligence community by officially releasing <strong>Pipette</strong>, an open-source benchmarking suite designed to evaluate on-device AI model performance. Distributed under the Apache 2.0 license, the infrastructure includes pipette-mgmt, pipette-clients, and pipette-scores, alongside a public results dataset, a hosted dashboard, and native iOS and Android benchmark apps with no waitlist required, though community-submitted results remain in beta.</p><p>The release was developed in partnership with Artificial Analysis, an independent validator that reviewed and verified the benchmarking methodology. The core premise is both narrow and practical: on-device behavior is a property of the deployed system rather than the model in isolation. The initial launch dataset covers five on-device performance metrics across more than 1,000 configurations combining models, quantization formats, runtimes, devices, and context lengths.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">1,000+</span><span class="stat-label">Benchmark Configurations</span></div><div class="stat-item"><span class="stat-number">30+</span><span class="stat-label">Supported Models</span></div></div><p>The suite supports over 30 models, multiple quantization formats, llama.cpp builds for macOS, iOS, Windows, and Android, and context lengths ranging from 256 to 8,192 tokens. Initial published results stem from high-end hardware including an M5 Max MacBook Pro, an iPhone 17 Pro, and a Galaxy S26 Ultra, with benchmarks for the AMD Ryzen AI Max+ 395 and Radeon 8060S marked as coming soon.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_pipette_ai_mt9n2rhx_inline_1_931290994c.jpg" alt="smartphone mobile device performance testing screen" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><p>Within Pipette, the core unit of measurement is a deployment configuration comprising model, quantization, runtime, and device. Benchmarks then evaluate specific metrics and token shapes to produce latency, throughput, or memory outcomes. Model quality is tracked separately via IFBench, GPQA Diamond, and MATH-500, with quality scores derived from llama.cpp evaluation runs on NVIDIA H100 80GB reference systems before being matched to on-device runs sharing identical models and quantization.</p><blockquote class="pull-quote"><p>"On-device behavior is a property of the deployed system, not of the model in isolation."</p><cite>Liquid AI</cite></blockquote><div class="ai-insight"><p>Separating model quality evaluation from actual on-device hardware runs by utilizing NVIDIA H100 reference systems represents a rigorous engineering approach. Because mobile chips and laptops face distinct thermal and power constraints compared to server GPUs, centralizing quality scoring ensures standardized accuracy before comparing those metrics against raw hardware performance speeds on consumer devices.</p></div><p>Performance runs follow a strict published methodology featuring fixed token shapes, greedy decoding, discarded warm-up periods, five measured repetitions, and readiness gating. Platform-specific checks verify thermal and load conditions prior to each timed repetition, and failing runs are omitted from publication. Furthermore, every submission records its benchmark version, token shape, model artifact, quantization, runtime settings, and underlying hardware.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/25/liquid-ai-open-sources-pipette-a-reproducible-benchmarking-suite-that-measures-on-device-models-quantization-runtime-and-hardware-together/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

large_article-4192.jpg

medium_article-4192.jpg

small_article-4192.jpg

thumbnail_article-4192.jpg

article-4192.jpg

Liquid AI ร่วมมือกับ Artificial Analysis เปิดตัว Pipette ชุดเครื่องมือโอเพนซอร์ส Apache 2.0 สำหรับวัดประสิทธิภาพโมเดลบนอุปกรณ์

Liquid AI partners with Artificial Analysis to launch Pipette, an Apache 2.0 open-source suite for measuring on-device AI models.

Liquid AI เปิดตัว Pipette เครื่องมือวัดประสิทธิภาพ AI บนอุปกรณ์

Liquid AI Open-Sources Pipette Benchmarking Suite

<div class="key-takeaways"><ul><li>Liquid AI เปิดตัวโมเดลร่าง LFM2.5-DSpark สำหรับเทคนิค Speculative Decoding</li><li>ช่วยเร่งความเร็วการถอดรหัสสูงสุด 3.18 เท่าโดยไม่เปลี่ยนผลลัพธ์ของโมเดลหลัก</li><li>น้ำหนักโมเดลมีขนาดราว 300 ล้านพารามิเตอร์ และแชร์เวทคำศัพท์จากโมเดลเป้าหมาย</li><li>สถาปัตยกรรม DSpark ผสาน DFlash,  L-Sequential Head และ Confidence-Scheduled Verifier</li></ul></div><p>Liquid AI ได้ทำการปล่อยโมเดลร่าง LFM2.5-DSpark ออกมาเพื่อยกระดับกระบวนการ Speculative Decoding โดยมุ่งเน้นไปที่การเพิ่มความเร็วในการถอดรหัสสูงสุดถึง 3.18 เท่าโดยที่ผลลัพธ์ของโมเดลยังคงเดิม น้ำหนักของโมเดลร่างเหล่านี้จะถูกจัดส่งในรูปแบบ Safetensors และ GGUF ซึ่งผู้ใช้งานที่ต้องการรันด้วยตนเองจำเป็นต้องใช้บิลด์ของ SGLang หรือ llama.cpp ที่รองรับ DSpark สำหรับเป้าหมายตระกูล LFM2</p><p>ในด้านสถาปัตยกรรม โมเดลร่าง LFM2.5 แต่ละตัวมีขนาดประมาณ 300 ล้านพารามิเตอร์ โดยแบ่งเป็น 295.7 ล้านพารามิเตอร์สำหรับเป้าหมายขนาด 1.2B-Instruct และ 327.7 ล้านพารามิเตอร์สำหรับเป้าหมายขนาด 2.6B และ 8B-A1B โครงสร้างหลักประกอบด้วยเลเยอร์ Full-Attention จำนวน 5 เลเยอร์, มีค่า hidden_size เท่ากับ 2048, intermediate_size เท่ากับ 6144, GQA ที่ 32 หัวความสนใจเหนือ 8 KV หัว และขนาดบล็อกเท่ากับ 9 ทั้งนี้โมเดลร่างไม่ได้บรรจุเวทคำศัพท์มาด้วย แต่จะทำการผูก Embedding และ LM Head เข้ากับโมเดลเป้าหมายตั้งแต่ตอนโหลดโมเดล ส่วนขนาดของที่เก็บข้อมูลโมเดลร่าง 2.6B ในรูปแบบ BF16 จะอยู่ที่ 655 เมกะไบต์ ซึ่งเป็นต้นทุนด้านหน่วยความจำที่เพิ่มขึ้นจริง</p><p>เทคโนโลยี DSpark ของ Liquid AI ผสานการทำงานจากสามส่วนประกอบหลักเข้าด้วยกัน ดังนี้:</p><ul><li><strong>DFlash Parallel Backbone:</strong> โครงสร้างพื้นฐานแบบคู่ขนานที่ปรับสภาพด้วยฟีเจอร์บริบทของเป้าหมายเพื่อสร้างสถานะซ่อนสำหรับโทเค็นร่างทั้งหมดในการส่งผ่านข้อมูลครั้งเดียว</li><li><strong>LightQuet Sequential Head:</strong> หัวประมวลผลแบบลำดับน้ำหนักเบาที่จำลองเป็นห่วงโซ่มาร์คอฟระหว่างโทเค็นข้างเคียงที่อันดับ 256 เพื่อคืนค่าความสัมพันธ์ระหว่างโทเค็นและเพิ่มอัตราการยอมรับในตำแหน่งบล็อกถัดไป</li><li><strong>Confidence-Scheduled Verifier:</strong> ตัวตรวจสอบที่กำหนดเวลาตามความมั่นใจ ทำหน้าที่ทำนายความน่าจะเป็นในการรอดชีวิตของแต่ละโทเค็น และตัดทอนส่วนท้ายที่มีความมั่นใจต่ำออกเมื่อการตรวจสอบมีต้นทุนสูงกว่าประโยชน์ที่ได้รับ</li></ul><div class="stat-row"><div class="stat-item"><span class="stat-number">3.18x</span><span class="stat-label">ความเร็วสูงสุดที่เพิ่มขึ้น</span></div><div class="stat-item"><span class="stat-number">300M</span><span class="stat-label">พารามิเตอร์ของโมเดลร่าง</span></div><div class="stat-item"><span class="stat-number">57%</span><span class="stat-label">ลดเวลาแฝงในการเรียกใช้งานเครื่องมือ</span></div></div><p>การทดสอบประสิทธิภาพของ Liquid AI ดำเนินการบนจีพียู 1xH100 ในรูปแบบ BF16 ผ่าน SGLang และบนชิป M4 Max MacBook Pro ผ่าน llama.cpp ร่วมกับ Metal และเวท FP16 GGUF โดยทุกการทดสอบใช้ขนาดบล็อกที่ 9, ขนาดแบทช์เท่ากับ 1 และอุณหภูมิที่ 0 ครอบคลุมชุดข้อมูลประเมินผลอย่าง MATH500, HumanEval, MBPP, GSM8K และ MT-Bench อัตราความเร็วที่เพิ่มขึ้นจะแปรผันตามอัตราการยอมรับ ซึ่งขึ้นอยู่กับความสามารถในการคาดการณ์ผลลัพธ์ของโมเดล ตัวอย่างเช่น โมเดล LFM2.5-8B-A1B มีอัตราการยอมรับ 8.27 จาก 10 โคนเค็นต่อขั้นตอนบนชุดข้อมูล MATH500 แต่ลดลงเหลือ 4.02 บน GSM8K ส่งผลให้ประสิทธิภาพความเร็วตกลงจาก 3.18 เท่าเหลือ 1.29 เท่าบนฮาร์ดแวร์เดียวกัน</p><blockquote class="pull-quote"><p>"LFM2.5-8B-A1B accepts 8.27 of 10 tokens per step on MATH500 and only 4.02 on GSM8K, so the same model swings from 3.18x to 1.29x on the same GPU."</p><cite>Liquid AI</cite></blockquote><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_dspark_mt2529nu_inline_1_895e66c524.jpg" alt="server room hardware technology" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><div class="ai-insight"><p>บริบทเพิ่มเติม: เทคนิค Speculative Decoding เป็นแนวทางสำคัญในวงการปัญญาประดิษฐ์ปัจจุบันที่ช่วยแก้ปัญหาคอขวดของการประมวลผลแบบทีละโทเค็น (Autoregressive) โดยอาศัยโมเดลขนาดเล็กที่มีความเร็วกสูงมาช่วยร่างคำตอบล่วงหน้า แล้วให้โมเดลขนาดใหญ่ตรวจสอบความถูกต้องทีเดียวหลายโทเค็น การที่ Liquid AI พัฒนาสถาปัตยกรรม DSpark ขึ้นมาช่วยให้กระบวนการนี้ทำงานร่วมกับโมเดลตระกูล LFM2 ได้อย่างมีประสิทธิภาพมากขึ้น โดยเฉพาะในงานที่ต้องใช้การประมวลผลเชิงเหตุผลซ้ำๆ ก่อนเรียกใช้งานเครื่องมือภายนอก (Function Calling)</p></div><p>อย่างไรก็ตาม ข้อจำกัดที่ชัดเจนปรากฏบนชิปตระกูล Apple ซิลิคอน โดยสถาปัตยกรรม MoE ของโมเดล LFM2.5-8B-A1B ทำความเร็วเพิ่มขึ้นเฉลี่ยเพียง 1.18 เท่าบน M4 Max ซึ่งทาง Liquid AI ระบุว่าเป็นผลมาจากการใช้งาน MoE ในปัจจุบันของแบ็กเอนด์ Metal บน llama.cpp และการตรวจสอบโทเค็นจำนวน k ตัวกระตุ้นผู้เชี่ยวชาญ (Experts) มากขึ้น ส่งผลให้เกิดการรับส่งน้ำหนัก (Weight Traffic) มากกว่าการถอดรหัสในขั้นตอนเดียวทั่วไป</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_dspark_mt2529nu_inline_2_bc13fb579e.jpg" alt="computer processor chip microarchitecture" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><p>แม้จะมีข้อจำกัดดังกล่าว แต่ประโยชน์ของระบบจะเห็นได้ชัดเจนในสถานการณ์ที่ผู้ใช้งานต้องรอคอยกระบวนการใช้เหตุผลก่อนการเรียกใช้เครื่องมือแต่ละครั้ง โดย Liquid AI รายงานว่า DSpark สามารถลดเวลาแฝงลงได้เฉลี่ยถึง 57% สำหรับโมเดล LFM2.5-2.6B ในสถานการณ์การเรียกใช้งานเครื่องมือแบบหลายฟังก์ชัน ซึ่งเอเจนต์ที่ต้องวางแผน เรียกใช้ และวางแผนใหม่จะต้องแบกรับต้นทุนการถอดรหัสหลายครั้งต่อหนึ่งรอบการทำงานของผู้ใช้</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/20/liquid-ai-releases-lfm2-5-dspark-draft-models-that-deliver-up-to-3-18x-faster-decoding/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Liquid AI releases LFM2.5-DSpark draft models for speculative decoding</li><li>Delivers up to 3.18x faster decoding without changing model outputs</li><li>Draft models feature around 300M parameters with shared target vocabulary</li><li>DSpark architecture integrates DFlash, L-Sequential Head, and verifier</li></ul></div><p>Liquid AI has rolled out the LFM2.5-DSpark draft models to enhance speculative decoding workflows, aiming to deliver up to 3.18x faster decoding speeds while preserving the original model outputs. The model weights are shipped as Safetensors and GGUF files, requiring users who self-host to build SGLang or llama.cpp with DSpark support tailored for LFM2 targets.</p><p>Regarding the architecture, each LFM2.5 draft model contains roughly 300 million parameters: specifically 295.7M parameters for the 1.2B-Instruct target and 327.7M parameters for the 2.6B and 8B-A1B targets. The backbone consists of 5 full-attention layers with a hidden_size of 2048, intermediate_size of 6144, GQA at 32 heads over 8 KV heads, and a block size of 9. The draft model ships without standalone vocabulary weights, tying both embedding and language model heads directly from the target during load time. The 2.6B draft repository size stands at 655 MB in BF16 format, representing the actual memory overhead added.</p><p>Liquid AI's DSpark framework combines three core components into its pipeline:</p><ul><div><strong>DFlash Parallel Backbone:</strong> A parallel backbone conditioned on the target's context features that generates hidden states for all draft tokens in a single forward pass.</div><div><strong>Lightweight Sequential Head:</strong> Modeled as a Markov chain between neighboring tokens at rank 256, it restores inter-token dependencies and boosts acceptance rates at later block positions.</div><div><strong>Confidence-Scheduled Verifier:</strong> Predicts survival probabilities for each token and prunes low-confidence suffixes when verification costs outweigh its benefits.</div></ul><div class="stat-row"><div class="stat-item"><span class="stat-number">3.18x</span><span class="stat-label">Max decoding speedup</span></div><div class="stat-item"><span class="stat-number">300M</span><span class="stat-label">Draft model parameters</span></div><div class="stat-item"><span class="stat-number">57%</span><span class="stat-label">Latency reduction in tool use</span></div></div><p>Liquid AI benchmarked performance on a single H100 GPU using BF16 via SGLang, and on an M4 Max MacBook Pro using llama.cpp with Metal and FP16 GGUF weights. Both setups utilized a block size of 9, a batch size of 1, and a temperature of 0 across benchmark suites including MATH500, HumanEval, MBPP, GSM8K, and MT-Bench. Speedups directly track token acceptance rates, which correspond to output predictability. For instance, the LFM2.5-8B-A1B model accepts 8.27 out of 10 tokens per step on MATH500, but only 4.02 on GSM8K, causing the speedup to fluctuate from 3.18x down to 1.29x on the same GPU.</p><blockquote class="pull-quote"><p>"LFM2.5-8B-A1B accepts 8.27 of 10 tokens per step on MATH500 and only 4.02 on GSM8K, so the same model swings from 3.18x to 1.29x on the same GPU."</p><cite>Liquid AI</cite></blockquote><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_dspark_mt2529nu_inline_1_895e66c524.jpg" alt="server room hardware technology" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><div class="ai-insight"><p>Context and Analysis: Speculative decoding is a key acceleration paradigm in modern machine learning infrastructure designed to overcome the autoregressive decoding bottleneck. By leveraging smaller secondary models to propose token sequences that are then verified in parallel by a larger backbone model, inference throughput can be significantly improved. Liquid AI's introduction of DSpark optimizes this mechanism further for the LFM2 family, particularly benefiting agentic workflows requiring multi-step reasoning before tool executions.</p></div><p>An important caveat emerges on Apple silicon architecture: the Mixture of Experts (MoE) variant LFM2.5-8B-A1B achieves only a 1.18x average speedup on the M4 Max chip. Liquid AI attributes this performance limitation to the current MoE implementation within llama.cpp's Metal backend, noting that verifying multiple tokens activates more experts and increases weight traffic compared to a standard single decoding step.</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_dspark_mt2529nu_inline_2_bc13fb579e.jpg" alt="computer processor chip microarchitecture" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><p>Despite hardware-specific caveats, throughput gains concentrate heavily in workloads where users wait through prolonged reasoning phases prior to tool invocation. Across multi-tool function-calling scenarios, Liquid AI reports that DSpark cuts latency by 57% on average for the LFM2.5-2.6B model, proving valuable for autonomous agents that plan, execute, and re-plan multiple times per user turn.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/20/liquid-ai-releases-lfm2-5-dspark-draft-models/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_liquid-ai-เปิดตัวโมเดล-lfm2-5-dspark-เร่งความเร็วการถอดรหัส-mt2529nu.png

small_liquid-ai-เปิดตัวโมเดล-lfm2-5-dspark-เร่งความเร็วการถอดรหัส-mt2529nu.png

thumbnail_liquid-ai-เปิดตัวโมเดล-lfm2-5-dspark-เร่งความเร็วการถอดรหัส-mt2529nu.png

liquid-ai-เปิดตัวโมเดล-lfm2-5-dspark-เร่งความเร็วการถอดรหัส-mt2529nu.png

Liquid AI ปล่อยโมเดลร่าง LFM2.5-DSpark ดันความเร็วการถอดรหัสพุ่งสูงสุด 3.18 เท่าบนฮาร์ดแวร์อย่าง H100 และ M4 Max

Liquid AI launches LFM2.5-DSpark draft models, delivering up to 3.18x faster decoding speeds on hardware like H100 and M4 Max.

Liquid AI เปิดตัวโมเดล LFM2.5-DSpark เร่งความเร็วการถอดรหัส

Liquid AI Releases LFM2.5-DSpark Draft Models

<div class="key-takeaways"><ul><li>Liquid AI เปิดตัวโมเดล LFM2.5-VL-3B ขนาด 3 พันล้านพารามิเตอร์</li><li>ใช้แบ็คโบนภาษา LFM2.5-2.6B และตัวเข้ารหัสภาพ SigLIP2 NaFlex 400M</li><li>รองรับความยาวบริบท 32,768 โทเค็น และรองรับการใช้งานถึง 16 ภาษา</li><li>ทำคะแนนเฉลี่ย 69.4 บน 28 เบนช์มาร์กด้านวิสัยทัศน์ เทียบเท่าโมเดลขนาดใหญ่กว่า</li></ul></div><p>Liquid AI ได้ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์ตัวใหม่ล่าสุดในชื่อ LFM2.5-VL-3B ซึ่งเป็นโมเดลวิสัยทัศน์และภาษา (Vision-Language Model) ขนาด 3 พันล้านพารามิเตอร์ ออกแบบมาให้มีความสามารถในการอ่านหน้าจอ ระบุตำแหน่งวัตถุ และเรียกใช้งานเครื่องมือต่างๆ ได้โดยตรงบนอุปกรณ์ (On-Device) โดยโมเดลชุดนี้ถูกปล่อยออกมาใน 4 รูปแบบหลัก ได้แก่ native, GGUF, ONNX และ MLX พร้อมด้วยรันไทม์ในวันแรกอย่าง llama.cpp, MLX, vLLM, SGLang และ ONNX ซึ่งใช้หน่วยความจำในการทำงานประมาณ 3 GB เท่านั้น</p><p>โครงสร้างภายในของ LFM2.5-VL-3B เป็นการต่อยอดมาจากรุ่น LFM2-VL-3B โดยแบ่งออกเป็นแกนหลักทางภาษาคือ LFM2.5-2.6B และส่วนวิสัยทัศน์ที่ใช้ตัวเข้ารหัส SigLIP2 NaFlex แบบปรับแต่งรูปทรงขนาด 400 ล้านพารามิเตอร์ เทคโนโลยี NaFlex นี้ช่วยให้โมเดลสามารถจัดการกับความละเอียดภาพแบบดั้งเดิมได้โดยการแบ่งภาพขนาดใหญ่ออกเป็นแพตช์ขนาด 512x512 พิกเซลที่ไม่ซ้อนทับกัน พร้อมกับภาพขนาดย่อของภาพเต็มที่ปรับขนาดใหม่ นอกจากนี้ โมเดลยังรองรับความยาวบริบทถึง 32,768 โทเค็น และครอบคลุมการใช้งานถึง 16 ภาษาทั่วโลก</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_vl_3b_3_msrsergv_inline_1_1ad28678f4.jpg" alt="smartphone screen artificial intelligence interface code" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><p>ในกระบวนการฝึกอบรมล่วงหน้า (Pre-training) ทางทีมพัฒนาได้ใช้โทเค็นประมาณ 34 ล้านล้านโทเค็น พร้อมทั้งขยายขนาดคลังคำศัพท์ (Vocabulary) ขึ้นเป็นสองเท่าสู่ระดับ 128,000 โทเค็น ด้วยการขยายโทแกไนเซอร์เดิมที่มีอยู่ ซึ่งช่วยยกระดับความครอบคลุมของชุดตัวอักษรที่ไม่ใช่ภาษาลาติน นอกจากนี้ ในส่วนของการฝึกวิสัยทัศน์ล่วงหน้ายังมีการเพิ่มสเกลโทเค็นขึ้นถึง 4 เท่าผ่านข้อมูลคำอธิบายภาพที่คัดสรรและสังเคราะห์ขึ้น รวมถึงข้อมูล OCR การระบุตำแหน่งวัตถุ และข้อมูลการปฏิบัติตามคำสั่ง ส่วนขั้นตอนการฝึกอบรมภายหลัง (Post-training) ใช้กระบวนการ SFT พร้อมกับการกลั่นความรู้ (Knowledge Distillation) จากโมเดลครูที่มีขนาดใหญ่กว่า และการฝึกแบบ Antidoom ตามด้วยการเรียนรู้เสริมแรงด้วยรางวัลหลายตัว (Multi-reward reinforcement learning)</p><div class="stat-row"><div class="stat-item"><span class="stat-number">69.4</span><span class="stat-label">คะแนนเฉลี่ยบน 28 เบนช์มาร์กวิสัยทัศน์</span></div><div class="stat-item"><span class="stat-number">32K</span><span class="stat-label">รองรับความยาวบริบทโทเค็น</span></div><div class="stat-item"><span class="stat-number">3GB</span><span class="stat-label">หน่วยความจำที่ใช้งานโดยประมาณ</span></div></div><p>การออกแบบของโมเดลนี้เน้นไปที่การไม่ใช้กระบวนการคิดวิเคราะห์เชิงลึก (Non-reasoning) โดยโมเดลจะให้คำตอบโดยตรง ซึ่งเป็นทางเลือกในการออกแบบที่ช่วยควบคุมโปรไฟล์ความหน่วง (Latency) ของระบบ เมื่อทำการประเมินบน 28 เบนช์มาร์กด้านวิสัยทัศน์โดยใช้ vLLM 0.26.0 ในโหมด Non-reasoning พบว่า LFM2.5-VL-3B ทำคะแนนเฉลี่ยได้ที่ 69.4 ซึ่งทำคะแนนได้เท่ากับโมเดล InternVL-3.5-4B และตามหลัง Qwen3.5-4B เพียง 0.7 คะแนนเท่านั้น แม้ว่าทั้งสองโมเดลเปรียบเทียบจะมีขนาดพารามิเตอร์สูงถึง 4.7 พันล้านพารามิเตอร์ก็ตาม</p><div class="ai-insight"><p>การเปิดตัว LFM2.5-VL-3B สะท้อนให้เห็นถึงแนวโน้มการพัฒนาปัญญาประดิษฐ์ขนาดเล็กที่ทรงพลัง ซึ่งสามารถรันได้โดยตรงบนอุปกรณ์พกพาหรือฮาร์ดแวร์ที่มีข้อจำกัดด้านทรัพยากร (Edge AI) การที่โมเดลสามารถทำงานทั้งการมองเห็นและการประมวลผลภาษาโดยใช้หน่วยความจำเพียงราว 3 GB ถือเป็นก้าวสำคัญที่จะช่วยให้นักพัฒนาสามารถนำ AI ไปฝังไว้ในแอปพลิเคชันฝั่งไคลเอนต์ได้อย่างมีประสิทธิภาพ โดยไม่ต้องพึ่งพิงการประมวลผลบนคลาวด์ตลอดเวลา ซึ่งช่วยลดต้นทุนด้านเซิร์ฟเวอร์และเพิ่มความเป็นส่วนตัวของผู้ใช้งาน</p></div><p>ในด้านผลลัพธ์รายรายการที่โดดเด่น โมเดลทำคะแนนบน RealWorldQA ได้ 73.1 (เหนือกว่า InternVL-3.5-4B ที่ทำได้ 67.7) และ TextVQA ทำได้ 84.3 (เทียบกับ Qwen3.5-4B ที่ทำได้ 81.2) รวมถึงคะแนนจาก MMStar ที่ 63.3, MathVista-mini ที่ 68.5, ChartQA ที่ 81.3, DocVQA ที่ 91.1 และ OCRBench v1 ที่ 84.2 อย่างไรก็ตาม คะแนนในส่วนของ CountBenchQA ลดลงเหลือ 87.3 จากเดิม 87.3 ในรุ่นก่อนหน้า ส่วนการประเมินเฉพาะข้อความ (Text-only) บน IFEval ทำคะแนนได้ 82.3 เพิ่มขึ้นจากเดิมที่เคยทำได้ 72.9 โดยมี Gemma-4-E4B ครองตำแหน่งผู้นำในด้านนี้ที่ 87.9 คะแนน</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/13/liquid-ai-lfm2-5-vl-3b-on-device-vision-language-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Liquid AI has launched the LFM2.5-VL-3B model featuring 3 billion parameters</li><li>Built on the LFM2.5-2.6B language backbone and SigLIP2 NaFlex 400M vision encoder</li><li>Supports a 32,768 token context length across 16 different languages</li><li>Achieves an average score of 69.4 across 28 vision benchmarks</li></ul></div><p>Liquid AI has officially rolled out its latest artificial intelligence model, LFM2.5-VL-3B, a 3-billion parameter vision-language model engineered to read screens, ground objects, and execute tool calls directly on devices. The checkpoint ships in four distinct formats including native, GGUF, ONNX, and MLX. Day-one runtimes feature llama.cpp, MLX, vLLM, SGLang, and ONNX, while requiring approximately 3 GB of memory to operate smoothly.</p><p>The architecture of LFM2.5-VL-3B expands upon the foundational design of LFM2-VL-3B along four specific axes. Its language backbone utilizes the LFM2.5-2.6B model, paired with a shape-optimized SigLIP2 NaFlex 400M vision encoder. The NaFlex framework expertly handles native resolutions by segmenting large images into non-overlapping 512x512 patches alongside a resized whole-image thumbnail. Furthermore, the model accommodates a context length of 32,768 tokens and offers robust support for 16 languages.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_vl_3b_3_msrsergv_inline_1_1ad28678f4.jpg" alt="smartphone screen artificial intelligence interface code" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><p>During the pre-training phase, the system ingested roughly 34 trillion tokens. Its vocabulary was doubled to 128,000 by extending the existing tokenizer in place, an enhancement that significantly improves non-Latin script coverage. Vision pre-training was scaled up by a factor of 4 in tokens using a curated and synthetic mix of captions, OCR, grounding, and instruction-following datasets. Subsequent post-training involved Supervised Fine-Tuning (SFT) leveraging knowledge distillation from a larger teacher model, Antidoom training, and multi-reward reinforcement learning.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">69.4</span><span class="stat-label">Average score across 28 vision benchmarks</span></div><div class="stat-item"><span class="stat-number">32K</span><span class="stat-label">Supported token context length</span></div><div class="stat-item"><span class="stat-number">3GB</span><span class="stat-label">Approximate memory footprint</span></div></div><p>The model follows a non-reasoning design philosophy, generating direct answers to maintain an optimal latency profile. When evaluated across 28 vision benchmarks utilizing vLLM 0.26.0 in non-reasoning mode, LFM2.5-VL-3B achieved an average score of 69.4. This performance matches the InternVL-3.5-4B model and lands a mere 0.7 points behind Qwen3.5-4B, both of which feature significantly larger 4.7-billion parameter architectures.</p><div class="ai-insight"><p>The introduction of LFM2.5-VL-3B highlights the ongoing industry shift toward highly efficient, small-scale AI models capable of running locally on edge devices. By packing multimodal vision and language capabilities into a roughly 3 GB footprint, Liquid AI enables developers to embed advanced intelligence directly into client applications without continuous cloud dependence, thereby lowering server costs and enhancing user data privacy.</p></div><p>Notable individual benchmark achievements include 73.1 on RealWorldQA compared to InternVL-3.5-4B at 67.7, and 84.3 on TextVQA against Qwen3.5-4B at 81.2. Additional scores feature 63.3 on MMStar, 68.5 on MathVista-mini, 81.3 on ChartQA, 91.1 on DocVQA, and 84.2 on OCRBench v1. However, CountBenchQA saw a slight regression to 87.3 from 92.2 in the previous iteration. On text-only evaluations, IFEval reached 82.3, improving from 72.9, while Gemma-4-E4B maintains the lead in that category with 87.9.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/13/liquid-ai-lfm2-5-vl-3b-on-device-vision-language-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_article-2728.jpg

small_article-2728.jpg

thumbnail_article-2728.jpg

article-2728.jpg

โมเดลปัญญาประดิษฐ์ขนาด 3B ตัวใหม่จาก Liquid AI รองรับการอ่านหน้าจอและเรียกใช้งานเครื่องมือบนอุปกรณ์พกพา พร้อมความสามารถประมวลผลหลากหลายภาษา

Liquid AI introduces the new 3-billion parameter vision-language model capable of screen reading, object grounding, and tool calling directly on devices.

Liquid AI เปิดตัว LFM2.5-VL-3B โมเดลวิสัยทัศน์และภาษาขนาด 3 พันล้านพารามิเตอร์ ทำงานบนอุปกรณ์ได้

Liquid AI Releases LFM2.5-VL-3B: A 3B Vision-Language Model Built for On-Device Use

<div class="key-takeaways"><ul><li>Liquid AI เปิดตัว LFM2.5-2.6B โมเดลขนาด 2.69 พันล้านพารามิเตอร์</li><li>รองรับความยาวบริบทสูงถึง 131,072 โทเค็น และคลังคำศัพท์ 128,000 คำ</li><li>สถาปัตยกรรมผสมผสานระหว่างคอนโวลิวชันและกลุ่มคิวรี่แอตเทนชัน</li><li>เปิดให้ใช้งานแบบโอเพ่นเวทบน Hugging Face ภายใต้ไลเซนส์ lfm1.0</li></ul></div><p>บริษัท Liquid AI ได้ฤกษ์เปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดในชื่อ LFM2.5-2.6B ซึ่งเป็นโมเดลประเภท On-Device Agentic Model ขนาดกะทัดรัดที่ออกแบบมาเพื่อให้สามารถรันบนอุปกรณ์พกพาหรืออุปกรณ์ปลายทางได้อย่างมีประสิทธิภาพ โดยมีน้ำหนักโมเดลพร้อมใช้งานเปิดให้ดาวน์โหลดสาธารณะบนแพลตฟอร์ม Hugging Face ทันที ภายใต้เงื่อนไขไลเซนส์แบบ lfm1.0 ซึ่งรองรับหลากหลายฟอร์แมตไม่ว่าจะเป็นแบบเนทีฟ GGUF, MLX และ ONNX พร้อมทั้งการสนับสนุนใช้งานตั้งแต่วันแรกผ่านเครื่องมือยอดนิยมอย่าง llama.cpp, vLLM, SGLang และ LM Studio</p><p>ในด้านรายละเอียดทางเทคนิค โมเดล LFM2.5-2.6B ประกอบด้วยจำนวนพารามิเตอร์รวมทั้งหมด 2.69 พันล้านพารามิเตอร์ กระจายตัวอยู่บนสถาปัตยกรรมจำนวน 30 เลเยอร์ โดยโครงสร้างภายในประกอบด้วยบล็อก short convolution แบบ double-gated จำนวน 22 บล็อก และบล็อก grouped-query attention อีก 8 บล็อก นอกจากนี้ยังมีการขยายขนาดคลังคำศัพท์ให้กว้างขึ้นถึง 128,000 โทเค็น พร้อมทั้งรองรับความยาวบริบทสูงสุดถึง 131,072 โทเค็น ผ่านกระบวนการฝึกอบรมล่วงหน้า (Pre-training) ที่ใช้ปริมาณข้อมูลโทเค็นราว 34 ล้านล้านโทเค็น</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_2_6b_128k_msifini5_inline_1_6e499b97de.jpg" alt="software code data visualization screen" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">2.69B</span><span class="stat-label">พารามิเตอร์รวม</span></div><div class="stat-item"><span class="stat-number">128K</span><span class="stat-label">ความยาวบริบทสูงสุด</span></div><div class="stat-item"><span class="stat-number">16</span><span class="stat-label">ภาษาที่รองรับ</span></div></div><p>การพัฒนาในครั้งนี้ ทาง Liquid AI ได้ใช้วิธีขยายขนาดตัว tokenizer เดิมที่มีอยู่ให้รองรับ 128K แทนที่จะเริ่มต้นฝึกใหม่ตั้งแต่ต้น ควบคู่ไปกับการเพิ่มขั้นตอน mid-training โดยเฉพาะเพื่อยืดความยาวบริบทไปถึงระดับ 128K ทำให้โมเดลนี้สามารถรองรับการทำงานครอบคลุมถึง 16 ภาษา แม้ว่าในเบื้องต้นจะยังคงเน้นการประมวลผลเฉพาะข้อความ (text-only) เป็นหลักก็ตาม</p><div class="ai-insight"><p>การเปิดตัวโมเดลขนาดเล็กที่มีความสามารถในการเรียกใช้เครื่องมือ (tool calling) และรองรับบริบทขนาดยาวถึง 128K บนอุปกรณ์พกพา สะท้อนให้เห็นถึงความพยายามของอุตสาหกรรม AI ในการลดการพึ่งพาเซิร์ฟเวอร์คลาวด์ขนาดใหญ่ สำหรับการใช้งานที่ต้องการความเป็นส่วนตัวและความรวดเร็วแบบเรียลไทม์ การเลือกใช้สถาปัตยกรรมแบบผสมผสานระหว่างคอนโวลิวชันและแอตเทนชันช่วยให้โมเดลประมวลผลข้อมูลยาวๆ ได้ดีขึ้นโดยใช้ทรัพยากรฮาร์ดแวร์น้อยลง</p></div><p>จากการทดสอบเปรียบเทียบประสิทธิภาพโดยตรงกับคู่แข่งในระดับใกล้เคียงกัน เช่น gemma-4-E2B-it ขนาด 5.1B, gemma-4-E4B-it ขนาด 8B, Qwen3.5-4B ขนาด 4.7B และ Qwen3.5-9B ขนาด 9.7B ปรากฏว่า LFM2.5-2.6B สามารถทำคะแนนนำในทุกหมวดหมู่การทดสอบการปฏิบัติตามคำสั่ง (instruction-following) รวมถึงเกือบทุกการทดสอบด้านการใช้เครื่องมือ โดยเป็นรองเพียงแค่โมเดล Qwen3.5-9B ในการทดสอบ BFCLv4 เท่านั้น อย่างไรก็ตาม ด้านทักษะการเขียนโปรแกรม โมเดลขนาดใหญ่ยังคงมีความได้เปรียบอยู่ โดยในชุดทดสอบ LiveCodeBenchv6 นั้น LFM2.5-2.6B ทำคะแนนได้ 59.41 ในขณะที่ Qwen3.5-9B ทำไปได้ 69.86</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/06/liquid-ai-lfm2-5-2-6b-on-device-agentic-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Liquid AI releases LFM2.5-2.6B with 2.69 billion parameters</li><li>Supports up to 131,072 tokens of context length and 128K vocabulary</li><li>Built on a hybrid architecture combining convolution and attention blocks</li><li>Open weights are publicly available on Hugging Face under the lfm1.0 license</li></ul></div><p>Liquid AI has officially rolled out its newest artificial intelligence model, LFM2.5-2.6B, designed as a compact on-device agentic model optimized for local execution on edge devices. Both model checkpoints are publicly accessible on Hugging Face under the lfm1.0 license, shipping in native, GGUF, MLX, and ONNX formats. Day-one integration support is also provided across popular frameworks including llama.cpp, vLLM, SGLang, and LM Studio.</p><p>Technically speaking, LFM2.5-2.6B features a total of 2.69 billion parameters distributed across 30 architectural layers. Its core stack consists of 22 double-gated short convolution blocks paired with 8 grouped-query attention blocks. The model incorporates a vocabulary size of 128,000 and supports an expansive context length of up to 131,072 tokens, backed by a pre-training phase utilizing approximately 34 trillion tokens of data.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_2_6b_128k_msifini5_inline_1_6e499b97de.jpg" alt="software code data visualization screen" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">2.69B</span><span class="stat-label">Total Parameters</span></div><div class="stat-item"><span class="stat-number">128K</span><span class="stat-label">Max Context Length</span></div><div class="stat-item"><span class="stat-number">16</span><span class="stat-label">Languages Supported</span></div></div><p>To achieve the expanded 128K vocabulary, Liquid AI in-place extended their existing tokenizer rather than retraining from the ground up. This was followed by a dedicated mid-training phase specifically engineered to stretch the context window to 128K tokens. The text-only model currently provides broad language coverage across 16 different languages.</p><div class="ai-insight"><p>The introduction of highly capable small-scale models with advanced tool-calling and long-context capabilities on edge devices highlights a major industry shift toward localized AI processing. By combining efficient convolutional layers with attention mechanisms, developers can handle extensive document analysis locally on hardware with restricted computational capacity without sacrificing core reasoning capabilities.</p></div><p>In benchmark evaluations against larger alternatives such as gemma-4-E2B-it (5.1B), gemma-4-E4B-it (8B), Qwen3.5-4B (4.7B), and Qwen3.5-9B (9.7B), LFM2.5-2.6B demonstrates leading performance across instruction-following benchmarks and nearly sweeps tool-use evaluations, trailing only behind Qwen3.5-9B on BFCLv4. Nonetheless, larger models maintain a traditional edge in software coding tasks, where LFM2.5-2.6B records a score of 59.41 on LiveCodeBenchv6 compared to 69.86 achieved by Qwen3.5-9B.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/06/liquid-ai-lfm2-5-2-6b-on-device-agentic-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_liquid-ai-lfm2-5-2-6b-128k-msifini5.jpg

small_liquid-ai-lfm2-5-2-6b-128k-msifini5.jpg

thumbnail_liquid-ai-lfm2-5-2-6b-128k-msifini5.jpg

liquid-ai-lfm2-5-2-6b-128k-msifini5.jpg

ก้าวใหม่ของโมเดลขนาดเล็ก 2.69 พันล้านพารามิเตอร์ รองรับการเรียกใช้เครื่องมือและความยาวบริบทสูงถึง 131,072 โทเค็น พร้อมเปิดให้ดาวน์โหลดบน Hugging Face

The new 2.69B parameter compact model features tool-calling capabilities, a 131,072-token context window, and open weights available on Hugging Face.

Liquid AI เปิดตัว LFM2.5-2.6B โมเดลจิ๋วออนดีไวซ์พร้อมความจุบริบท 128K

Liquid AI Launches LFM2.5-2.6B: An On-Device Agentic Model With 128K Context

<div class="key-takeaways"><ul><li>Liquid AI เปิดตัวโมเดล LFM2.5-Encoder สองขนาด ได้แก่ 230M และ 350M</li><li>ออกแบบมาเพื่อรองรับงานประมวลผลยาว 8,000 โทเค็น หรือราว 13-15 หน้า บน CPU ได้อย่างรวดเร็ว</li><li>รุ่น 350M ทำคะแนนเฉลี่ย 17 งานได้ 81.02 คว้าอันดับ 4 ในตารางการประเมิน</li><li>ใช้สถาปัตยกรรมสลับช่วงบล็อกคอนโวลูชันสั้นแบบเกตและ grouped-query attention รองรับ 15 ภาษา</li></ul></div><p>บทบาทของเอนโคเดอร์ (Encoders) ทำหน้าที่เบื้องหลังระบบตัวจำแนกประเภท ตัวกำหนดเส้นทางเจตนา ตัวกรองความปลอดภัย และระบบตรวจจับข้อมูลส่วนบุคคล (PII) งานเหล่านี้มักต้องรันอย่างต่อเนื่องและยาวนานขึ้นเรื่อยๆ โดยปราศจากการใช้งาน GPU ตั้งแต่อดีตที่ BERT เคยสร้างมาตรฐานไว้ จนกระทั่ง ModernBERT พัฒนาความแม่นยำและความเร็วให้ดีขึ้น ล่าสุด Liquid AI ได้นำเสนอสถาปัตยกรรม LFM2 ซึ่งต้นทุนการประมวลผลจะเติบโตช้าลงเมื่ออินพุตมีความยาวมากขึ้น</p><p>ตัวโมเดลเอนโคเดอร์เหล่านี้ไม่ได้ถูกฝึกฝนขึ้นใหม่ตั้งแต่เริ่มต้น แต่เริ่มจากการนำแบ็คโบนตัวถอดรหัสจาก LFM2.5-230M และ LFM2.5-350M มาแปลงผ่านการปรับเปลี่ยน 3 จุดสำคัญ ทางด้านสถาปัตยกรรมจะสลับช่วงบล็อกคอนโวลูชันสั้นเข้ากับ grouped-query attention ขนาดซ่อนเท่ากับ 1024 มีคลังคำศัพท์ 65,536 โทเค็น รองรับ 15 ภาษา และอยู่ภายใต้สัญญาอนุญาต LFM Open License v1.0</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_encoder_230m_350m_8k_cpu_ms5zodpq_inline_1_e2952c44fd.png" alt="neural network architecture data flow" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">81.02</span><span class="stat-label">คะแนนเฉลี่ย 17 งานของรุ่น 350M</span></div><div class="stat-item"><span class="stat-number">79.29</span><span class="stat-label">คะแนนเฉลี่ย 17 งานของรุ่น 230M</span></div><div class="stat-item"><span class="stat-number">8,192</span><span class="stat-label">ขีดจำกัดโทเค็นบริบท</span></div></div><p>Liquid AI ได้ทำการประเมินโมเดลจำนวน 14 โมเดล ผ่าน 17 งานจากชุดข้อมูล GLUE, SuperGLUE และการจำแนกประเภทหลายภาษา ผลปรากฏว่า LFM2.5-Encoder-350M ทำคะแนนเฉลี่ย 17 งานอยู่ที่ 81.02 (±1.00) อยู่อันดับที่ 4 โดยโมเดลสามอันดับแรกที่มีคะแนนเหนือกว่าล้วนแต่มีขนาดใหญ่กว่าทั้งหมด ได้แก่ XLM-R XL ขนาด 3.5B (83.06), ModernBERT-large ขนาด 395M (81.68) และ XLM-R large ขนาด 560M (81.34) ซึ่งโมเดลอันดับหนึ่งมีขนาดใหญ่กว่าเกือบ 10 เท่า</p><p>ในขณะที่ LFM2.5-Encoder-230M ทำคะแนนได้ 79.29 (±1.02) อยู่อันดับที่ 6 ซึ่งสามารถเอาชนะ ModernBERT-base ที่ทำได้ 78.19 รวมถึงโมเดล EuroBERT ทุกรุ่นในตาราง เช่น EuroBERT-610M (75.87) และ EuroBERT-2.1B (72.19) นอกจากนี้ โมเดลเอนโคเดอร์ใหม่ทั้งสองตัวยังมีคะแนนสูงกว่าโมเดลการดึงข้อมูลพี่น้องอย่าง LFM2.5-ColBERT-350M (76.18) และ LFM2.5-Embedding-350M (75.68) อีกด้วย</p><div class="ai-insight"><p>การที่ Liquid AI พัฒนาเอนโคเดอร์อเนกประสงค์ตัวนี้ขึ้นมาแทนที่จะใช้โมเดลประเภท retrieval ซ้ำ สะท้อนให้เห็นถึงความพยายามในการสร้างรากฐานที่ทรงพลังสำหรับการประมวลผลข้อความยาวๆ บนฮาร์ดแวร์ทั่วไปอย่าง CPU ซึ่งมีความสำคัญอย่างยิ่งต่อภาคธุรกิจที่มีข้อจำกัดด้านความปลอดภัยของข้อมูลและไม่ต้องการส่งข้อมูลออกนอกคลาวด์</p></div><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/07/29/liquid-ai-releases-lfm2-5-encoder-230m-and-lfm2-5-encoder-350m-bidirectional-encoders-that-stay-fast-at-8k-context-on-cpu/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Liquid AI launched two encoder models sized at 230M and 350M parameters.</li><li>Engineered to process long 8,000-token inputs efficiently on CPU-only hardware.</li><li>The 350M variant achieved a 17-task mean score of 81.02, ranking fourth overall.</li><li>Features grouped-query attention and gated short-convolution blocks supporting 15 languages.</li></ul></div><p>Encoders operate underneath classifiers, intent routers, safety filters, and PII detectors, running continuously and handling increasingly lengthy inputs usually without a GPU. While BERT established this category and ModernBERT later advanced its speed and accuracy, Liquid AI argues that its LFM2 architecture scales its computational cost much more slowly as input lengths increase.</p><p>These encoders are not built from scratch; instead, they initialize from LFM2.5-230M and LFM2.5-350M decoder backbones, modified through three structural changes. The architecture interleaves gated short-convolution blocks with grouped-query attention, matching the design in the LFM2 technical report. Both checkpoints utilize a hidden size of 1024, a 65,536-token vocabulary, support 15 languages, and are released under the LFM Open License v1.0.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/liquid_ai_lfm2_5_encoder_230m_350m_8k_cpu_ms5zodpq_inline_1_e2952c44fd.png" alt="neural network architecture data flow" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">81.02</span><span class="stat-label">350M 17-Task Mean Score</span></div><div class="stat-item"><span class="stat-number">79.29</span><span class="stat-label">230M 17-Task Mean Score</span></div><div class="stat-item"><span class="stat-number">8,192</span><span class="stat-label">Context Window Token Limit</span></div></div><p>Liquid AI evaluated 14 models across 17 tasks sourced from GLUE, SuperGLUE, and multilingual classification benchmarks. LFM2.5-Encoder-350M secured a 17-task mean score of 81.02 (±1.00), placing fourth in the rankings. The three models ahead of it are larger: XLM-R XL at 3.5B (83.06), ModernBERT-large at 395M (81.68), and XLM-R large at 560M (81.34), with the top model being nearly 10 times its size.</p><p>Meanwhile, LFM2.5-Encoder-230M posted a score of 79.29 (±1.02) to rank sixth, outperforming ModernBERT-base at 78.19 as well as every EuroBERT model in the evaluation table, including EuroBERT-610M (75.87) and EuroBERT-2.1B (72.19). Both new encoders also surpassed Liquid AI's retrieval models, LFM2.5-ColBERT-350M (76.18) and LFM2.5-Embedding-350M (75.68).</p><div class="ai-insight"><p>Building a dedicated general-purpose encoder rather than relying solely on existing retrieval siblings highlights Liquid AI's strategy to optimize performance for extensive text inputs on standard hardware, which is critical for edge deployments and regulated environments where cloud round-trips are impractical.</p></div><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/07/29/liquid-ai-releases-lfm2-5-encoder-230m-and-lfm2-5-encoder-350m-bidirectional-encoders-that-stay-fast-at-8k-context-on-cpu/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

large_article-760.jpg

medium_article-760.jpg

small_article-760.jpg

thumbnail_article-760.jpg

article-760.jpg

Liquid AI รุกตลาดเอนโคเดอร์สองทิศทางรุ่นใหม่ พัฒนาต่อยอดจากสถาปัตยกรรม LFM2.5 โดดเด่นด้านความเร็วในการรองรับบริบท 8,000 โทเค็นบน CPU โดยไม่ต้องพึ่งพา GPU

Liquid AI introduces new bidirectional encoders built on the LFM2.5 architecture, maintaining high speeds across an 8K context window entirely on CPUs.

Liquid AI เปิดตัว LFM2.5-Encoder ขนาด 230M และ 350M เอ็นโคเดอร์ประมวลผลเร็วที่ 8K บน CPU

Liquid AI Releases LFM2.5-Encoder-230M and LFM2.5-Encoder-350M for Fast 8K CPU Context

Inewgen

Inewgen

#Liquid AI

Liquid AI เปิดตัว Pipette เครื่องมือวัดประสิทธิภาพ AI บนอุปกรณ์

Inewgen

Liquid AI เปิดตัวโมเดล LFM2.5-DSpark เร่งความเร็วการถอดรหัส

Inewgen

Liquid AI เปิดตัว LFM2.5-VL-3B โมเดลวิสัยทัศน์และภาษาขนาด 3 พันล้านพารามิเตอร์ ทำงานบนอุปกรณ์ได้

Inewgen

Liquid AI เปิดตัว LFM2.5-2.6B โมเดลจิ๋วออนดีไวซ์พร้อมความจุบริบท 128K

Inewgen

Liquid AI เปิดตัว LFM2.5-Encoder ขนาด 230M และ 350M เอ็นโคเดอร์ประมวลผลเร็วที่ 8K บน CPU

Inewgen