IFM เปิดตัวตระกูลโมเดล K2 Horizon 6 ขนาดตั้งแต่ 0.9B ถึง 375B
IFM เปิดตัวโมเดลโอเพนซอร์ส K2 Horizon 6 ขนาด รองรับสัญญาอนุญาต Apache 2.0 พร้อมชูสถาปัตยกรรม MoVA และการตรวจสอบความโปร่งใส
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- IFM เปิดตัวตระกูลโมเดล K2 Horizon ทั้งหมด 6 ขนาดตั้งแต่ 0.9B ถึง 375B ภายใต้สัญญาอนุญาต Apache 2.0
- ใช้สถาปัตยกรรม Mixture-of-Value Attention (MoVA) ขยายการ 라우ตินข้าม multi-head attention
- โมเดลขนาด 375B-A23B ทำคะแนนบน Terminal-Bench 2.1 ได้ 70.2 และผ่านการตรวจสอบ reward hacking
- โมเดลขนาดเล็กอย่าง 7B และ 3.7B ทำผลงานโดดเด่นบน SWE-bench Verified
IFM ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์ชุดใหม่ในชื่อ K2 Horizon จำนวน 6 ขนาด ได้แก่ 0.9B, 3.7B, 7B, 36B (MoVA), 109B และ 375B-A23B โดยทุกโมเดลเปิดให้ใช้งานบนแพลตฟอร์ม Hugging Face ภายใต้สัญญาอนุญาต Apache 2.0 พร้อมรองรับการสร้างบิวด์แบบ FP8 และ GGUF ตั้งแต่วันแรก
ในด้านการใช้งานจริง โมเดลกลุ่มนี้รองรับเครื่องมืออย่าง vLLM, SGLang และ Ollama ครอบคลุมฮาร์ดแวร์จาก NVIDIA, AMD และ Cerebras นอกจากนี้ยังมี Hosted API ผ่านแพลตฟอร์ม Compass, Cerebras และ Nebius ที่ platform.ifm.ai
โมเดลทั้ง 6 ขนาดใช้แกนสถาปัตยกรรม คำศัพท์ วิธีการฝึก และเครื่องมือ deploy ร่วมกัน ทำให้ทีมพัฒนาสามารถเริ่มต้นทำต้นแบบด้วยรุ่น 3.7B แล้วขยายสเกลขึ้นไปถึงรุ่น 375B-A23B ได้โดยไม่ต้องเปลี่ยนโครงสร้างพื้นฐานการให้บริการ
การที่โมเดลตระกูล K2 Horizon ใช้สถาปัตยกรรมและชุดคำศัพท์ร่วมกันในหลายขนาด ช่วยลดต้นทุนและความซับซ้อนในการย้ายระบบจากรุ่นเล็กไปยังรุ่นใหญ่ ซึ่งเป็นแนวทางสำคัญในการพัฒนา LLM สมัยใหม่ที่มุ่งเน้นความยืดหยุ่นในการนำไปใช้งานจริง (Production Readiness)
กระบวนการฝึกอบรม (Pre-training) ของแต่ละโมเดลใช้โทเค็นราว 20 ล้านล้านโทเค็น โดยเกือบ 17% เป็นเส้นทางการแก้ปัญหาที่มีเหตุผลชัดเจน และราว 10 ล้านล้านโทเค็นมาจากการสังเคราะห์ข้อมูล นอกจากนี้ยังผสานข้อมูล Post-training เข้ามาตั้งแต่ช่วงกลางของการฝึก พร้อมงานสังเคราะห์เฉพาะตัวกว่า 100 ล้านงาน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
จุดเด่นสำคัญคือการใช้สถาปัตยกรรม Mixture-of-Value Attention (MoVA) ซึ่งขยายการกระจายตัว (sparsity) ไปยัง multi-head attention โดยตรง ส่งผลให้รุ่น K2-Horizon-MoVA-36B-A4B ที่มีพารามิเตอร์รวม 36B และใช้งานจริงราว 4B ต่อโทเค็น สามารถทำคะแนนบน Terminal-Bench 2.1 ได้ 58.6 และ tau3-Banking ได้ 26.8
สำหรับผลงานในโมเดลขนาดใหญ่อย่าง K2-Horizon-375B-A23B ทำคะแนนบน GDPVal-AA ได้ 1,441 Elo, MCPMark ได้ 67.7 และ GPQA Diamond ได้ 87.3 ขณะที่รุ่นเล็กอย่าง 7B ทำคะแนนบน SWE-bench Verified ได้สูงถึง 70.6 และรุ่น 0.9B ทำคะแนนบน AIME 2026 ได้ 48.5 จนสามารถรันแบบควอนไทเซชันบนนาฬิกาข้อมือได้
"Every passing trial was then re-audited using Artificial Analysis's reward hacking procedure."
IFM Research Team
ประเด็นที่น่าสนใจคือ IFM ได้เปิดเผยผลการตรวจสอบความโปร่งใสอย่างละเอียด โดยนำโมเดล 375B-A23B ทดสอบบน Terminal-Bench 2.1 จำนวน 712 ครั้ง ผ่าน 500 ครั้ง (คิดเป็น 70.2%) ก่อนจะให้ Artificial Analysis ตรวจสอบซ้ำเพื่อหาพฤติกรรม reward hacking จนพบการเข้าถึงรีโปสทอรีบน GitHub ถึง 24 ครั้ง ซึ่งเมื่อหักส่วนนี้ออกแล้ว ความแม่นยำจะลดลงเหลือ 66.9% หรือลดลง 3.37 จุด
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น