BottleCap ปล่อย ThinkingCap-Qwen3.8-27B ประหยัดโทเค็นคิด
BottleCap AI เปิดตัว ThinkingCap-Qwen3.8-27B โมเดลใหม่ลดโทเค็นการคิดลงเฉลี่ย 37.2% แลกกับความแม่นยำที่ลดลงเพียง 0.86pp บน vLLM และ SGLang
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- ลดโทเค็นการคิดเฉลี่ย 37.2% จากการทดสอบ 12 เบนช์มาร์ก
- ความแม่นยำลดลงเพียงเล็กน้อยที่ 0.86pp เท่านั้น
- รองรับการใช้งานบน vLLM และ SGLang พร้อมรุ่นควอนตาร์ 5 แบบ
- ใช้งานภายใต้ไลเซนส์ PolyForm Small Business 1.0.0
BottleCap AI ได้ฤกษ์เปิดตัว ThinkingCap-Qwen3.8-27B โมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดที่ต่อยอดความสำเร็จจากรุ่น Qwen3.6-27B โดยทีมวิจัยมุ่งเน้นไปที่การลดปริมาณการใช้โทเค็นสำหรับการคิด (thinking tokens) ที่มักจะถูกใช้งานเกินความจำเป็นในโมเดลการให้เหตุผลทั่วไป โดยยังคงรักษาความสามารถหลักด้านการคิดคำนวณ การปฏิบัติตามคำสั่ง และพฤติกรรมความปลอดภัยเอาไว้ได้อย่างครบถ้วน
การพัฒนาในครั้งนี้มุ่งเน้นไปที่เบนช์มาร์กด้านคณิตศาสตร์ การให้เหตุผล บริบทขนาดยาว และงานเอเจนต์เป็นหลัก โดยใช้ค่าเริ่มต้นของการตั้งค่าการใช้เหตุผลที่ระดับ xhigh ในการวัดผลทุกการทดสอบ ซึ่งผลลัพธ์ที่ได้ระบุว่าจำนวนโทเค็นการคิดลดลงในทุกการทดสอบ โดยมีอัตราการลดลงตั้งแต่ 10.7% ไปจนถึง 65.5% ส่งผลให้ค่าเฉลี่ยของโทเค็นการคิดรวมลดลงจาก 15,735 โทเค็น เหลือเพียง 12,144 โทเค็น
ในด้านรายละเอียดของการทดสอบ งานด้านความรู้และภาษาต่างประเทศคือส่วนที่มีการลดลงของโทเค็นมากที่สุด เช่น MMMLU ลดลงถึง 65.5% จาก 1,656 เหลือ 571 โทเค็น ขณะที่ MMLU-Pro ลดลง 57.3% และ GPQA-Diamond ลดลง 43.1% เหลือ 7,267 โทเค็น ในขณะที่ IFBench มีการคิดน้อยลง 46.4% แต่ความแม่นยำแทบไม่เปลี่ยนแปลงโดยขยับจาก 79.75% เป็น 79.71% เท่านั้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการทดสอบด้านการดึงข้อมูลบริบทขนาดยาวอย่าง AA-LCR พบว่าความแม่นยำเพิ่มขึ้น 2.25pp จาก 81.75% เป็น 84.00% พร้อมกับใช้โทเค็นการคิดน้อยลง 38.6% ส่วนผลลัพธ์ด้านงานเอเจนต์อย่าง τ²-bench สูญเสียความแม่นยำไป 1.01pp แลกกับการลดโทเค็นลง 30.9% และ Terminal-Bench 2.1 สูญเสียความแม่นยำเพียง 0.56pp สำหรับการลดโทเค็นลง 10.7% อย่างไรก็ตาม การแลกเปลี่ยนที่ใช้ต้นทุนมากที่สุดคือ AIME 2026 ซึ่งความแม่นยำตกลง 3.85pp จาก 98.13% เหลือ 94.27% สำหรับการคิดที่ลดลง 30.2%
"BottleCap team recommends xhigh for the best accuracy-to-token balance. It says individual thinking modes will get attention in a future release."
BottleCap Research Team
โมเดลตระกูล Reasoning ในปัจจุบันมักประสบปัญหาการสร้างโทเค็นคิด (Thinking Tokens) ออกมาจำนวนมากเกินความจำเป็นในโจทย์ที่ไม่ได้ซับซ้อน ซึ่งการที่ BottleCap สามารถตัดทอนโทเค็นเหล่านี้ลงได้โดยที่คะแนนความแม่นยำตกลงเพียงเล็กน้อย ถือเป็นก้าวสำคัญในการลดต้นทุนการประมวลผล (Inference Cost) และเพิ่มความเร็วในการตอบสนองสำหรับงานภาคธุรกิจจริงที่มีการใช้งานโมเดลขนาดใหญ่ในปริมาณมาก
ในส่วนของการปรับใช้ โมเดลตัวนี้สามารถติดตั้งแทนที่ Qwen3.8-27B บน vLLM หรือ SGLang ได้ทันที โดยมีบิลด์รองรับทั้ง FP8, NVFP4, GGUF และ MLX รวมทั้งหมด 5 รูปแบบ พร้อมทั้งมีการควบคุมสิทธิ์การใช้งานภายใต้ไลเซนส์ PolyForm Small Business 1.0.0 สำหรับการใช้งานเชิงพาณิชย์ทั่วไป และต้องทำข้อตกลงเพิ่มเติมกับ BottleCap หากต้องการใช้งานในสเกลที่ใหญ่กว่านั้น
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น