Fireworks AI เปิดตัว Ember-1 โมเดล Kimi K3 ที่ประหยัด Token ลง 40%
Fireworks AI ปล่อย Ember-1 โมเดลพัฒนาต่อจาก Kimi K3 ผ่าน Serverless API ลดการใช้ Token ลงได้ราว 35-50% โดยความแม่นยำไม่ตก
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Fireworks AI เปิดตัว Ember-1 โมเดลที่พัฒนาต่อยอดจาก Kimi K3 ในฐานะ Research Preview ผ่าน Serverless API
- ช่วยลด Token ในกระบวนการคิดเชิงเหตุผลลงได้ถึง 35% ถึง 50% โดยที่คะแนนความแม่นยำยังคงเทียบเท่าเดิม
- ผ่านการทดสอบจริงกับลูกค้า 2 รายบนภารกิจงานเขียนโค้ด ลด Token ผลลัพธ์รวมลงจาก 49.3K เหลือ 29.9K ต่อหนึ่งงาน
- คิดค่าบริการเท่ากับ Kimi K3 โดยมีราคา Input 3.00 ดอลลาร์ และ Output 15.00 ดอลลาร์ต่อ 1 ล้าน Token
Fireworks AI ได้ประกาศเปิดตัว Ember-1 โมเดลปัญญาประดิษฐ์รุ่นใหม่ที่ผ่านการฝึกฝนเพิ่มเติม (Post-Trained) จากโมเดลพื้นฐาน Kimi K3 โดยเน้นแก้ปัญหาเรื่องต้นทุนการประมวลผลที่สูงเกินไปในงานประเภท multi-turn agentic workloads ซึ่งโมเดลให้เหตุผลทั่วไปมักใช้ Token ไปมากกว่า 90% กับการคิดภายใน และต้นทุนจะสะสมเพิ่มขึ้นแบบพาราโบลาเมื่อมีการเรียกใช้งานซ้ำหลายรอบในแต่ละเทิร์น
ก่อนหน้านี้ ลูกค้าพยายามลดต้นทุนด้วยการปรับระดับการใช้เหตุผลของ Kimi K3 ให้ต่ำลง แต่กลับพบว่าคุณภาพของงานลดลงตามไปด้วย ทีมงานของ Fireworks AI จึงเลือกใช้วิธีฝึกฝนโมเดลให้คิดอย่างมีประสิทธิภาพมากขึ้นแทนที่จะลดทอนความพยายามลง โดยคงพฤติกรรมการสะท้อนคิดที่เป็นประโยชน์เอาไว้ แต่ตัดวงรอบการคิดที่ซ้ำซ้อนและไม่ก่อให้เกิดผลลัพธ์ออกไป
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
กระบวนการฝึกฝนของ Ember-1 ครอบคลุมหลากหลายด้าน เช่น คณิตศาสตร์ การเขียนโค้ด การทำตามคำสั่ง การสนทนา การค้นหา การใช้เครื่องมือ และวิศวกรรมซอฟต์แวร์ โดยมีการรันการทดลองฝึกฝนมากกว่า 50 ครั้งและการประเมินผลอีกกว่า 200 ครั้งบนระบบ Fireworks Serverless Training โดยไม่มีการใช้ข้อมูลของลูกค้าแต่อย่างใด
การที่โมเดลภาษาขนาดใหญ่ต้องใช้ Token จำนวนมากไปกับการประมวลผลภายใน (Internal Reasoning) ถือเป็นความท้าทายสำคัญในเชิงเศรษฐศาสตร์ของระบบ AI Agent ยุคใหม่ การที่ Fireworks AI สามารถตัดทอนกระบวนการคิดที่ซ้ำซ้อนโดยไม่ทำให้ความสามารถในการแก้ปัญาลดลง ถือเป็นก้าวสำคัญในการทำให้ระบบ AI เชิงซ้อนสามารถนำไปใช้งานจริงในระดับองค์กรได้อย่างคุ้มค่าทุนมากขึ้น
ผลการทดสอบการใช้งานจริงผ่าน A/B Testing กับลูกค้า 2 รายบนภารกิจด้านการเขียนโค้ดพบว่า จำนวน Token ผลลัพธ์ลดลงจาก 49,300 เหลือ 29,900 Token ต่อหนึ่งงาน โดย Token ในส่วนของการคิดเชิงเหตุผลลดลงไปถึง 71.3% และ Token ทั้งหมดลดลง 39% ขณะที่คะแนนการทำภารกิจแทบไม่เปลี่ยนแปลงเลย คืออยู่ที่ 0.753 สำหรับ Ember-1 เทียบกับ 0.751 ของ Kimi K3 ดั้งเดิม
ในด้านราคา Ember-1 มีอัตราค่าบริการเท่ากับ Kimi K3 บนแพลตฟอร์มของ Fireworks โดยคิดค่า Input อยู่ที่ 3.00 ดอลลาร์, Cached Input ที่ 0.30 ดอลลาร์ และ Output ที่ 15.00 ดอลลาร์ต่อ 1 ล้าน Token ทำให้ผู้ใช้งานประหยัดต้นทุนได้โดยตรงจากการใช้จำนวน Token ที่น้อยลงในแต่ละงาน และในปัจจุบันมีลูกค้าอย่างน้อย 1 รายที่นำโมเดลนี้ไปใช้งานจริงในระบบ Production แล้ว
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น