Fireworks AI เปิดตัว Fireworks Nexus ชั้นควบคุมต้นทุนและจัดเส้นทางอัจฉริยะสำหรับงานโค้ด
นวัตกรรมใหม่ช่วยลดค่าใช้จ่ายด้าน AI ในงานเขียนโค้ดประจำวันด้วยการกระจายงานไปยังโมเดลโอเพนเวทต์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Fireworks Nexus เป็นชั้นควบคุมการจัดเส้นทางและต้นทุนสำหรับงานเขียนโค้ด
- ช่วยย้ายงานโค้ดประจำวันไปยังโมเดลโอเพนเวทต์เพื่อลดค่าใช้จ่าย
- รองรับการติดตั้งผ่าน FireConnect ด้วยชุดคำสั่งเดียวและเข้ากันได้กับ Anthropic/OpenAI
- ผลทดสอบเบื้องต้นชี้ช่วยลดต้นทุนต่อการผสานพูลรีเควสต์ลงหนึ่งในสาม
ปัญหาการใช้งบประมาณด้านปัญญาประดิษฐ์ที่บานปลายกลายเป็นประเด็นร้อน โดยรายงานจาก Forbes ระบุว่า Uber ได้ใช้จ่ายงบประมาณ AI สำหรับปี 2026 จนหมดเกลี้ยงภายในระยะเวลาเพียงสี่เดือนเท่านั้น ในขณะเดียวกันเครื่องมืออย่าง Claude Code ก็มีวิศวกรใช้งานแตะระดับ 5,000 คนหลังจากการเปิดตัวในเดือนธันวาคม ทาง Fireworks ได้อ้างอิงรายงานฉบับเดียวกันนี้พร้อมทั้งระบุว่า การใช้งานระบบเอเจนต์ได้พุ่งสูงขึ้นจากประมาณหนึ่งในสามของวิศวกร ไปเป็นมากกว่าสี่ในห้าภายในเวลาแค่สองเดือน
ทาง Fireworks มองว่าปัญหาที่แท้จริงคือความไม่สอดคล้องของการใช้งาน ไม่ใช่การใช้เงินเกินตัว เนื่องจากองค์กรส่วนใหญ่รันงานประจำวันด้วยราคาของโมเดลระดับแนวหน้า (Frontier models) แต่ความซับซ้อนในการดำเนินงานทำให้ทีมแพลตฟอร์มลังเลที่จะเปลี่ยนไปใช้โมเดลแบบโอเพนเวทต์ ทางออกที่เสนอจึงแบ่งออกเป็นส่วนสำคัญดังนี้:
- การควบคุมระดับองค์กรและการมองเห็นต้นทุน: ทีมงานสามารถตั้งงบประมาณ ติดตามผลตอบแทนการลงทุน และบังคับใช้นโยบายได้จากจุดเดียว บนแพลตฟอร์มการอนุมานของ Fireworks ที่โฮสต์ในสหรัฐอเมริกา
- ความต่อเนื่องของเวิร์กโฟลว์: FireConnect ติดตั้งได้ง่ายด้วยคำสั่งเดียวภายใต้สัญญาอนุญาต Apache 2.0 รองรับเครื่องมือเดิมอย่าง Claude Code และ Codex ทำงานร่วมกันได้ทันที
- การจัดการทราฟฟิกอัจฉริยะ: โมเดลที่ฝึกฝนขึ้นมาเฉพาะจะคัดกรองความยากของแต่ละคำขอ โดยงานง่ายจะถูกส่งไปยังโมเดลโอเพนเวทต์ที่คุ้มค่า ส่วนงานยากจะส่งต่อไปยังผู้ให้บริการเดิมของผู้ใช้งาน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการทดลองใช้งานจริง ทีมวิจัยของ Fireworks ได้ทดสอบ Nexus กับทีมพัฒนาของบริษัทต่างๆ เช่น Notion และ Doximity โดยผลลัพธ์เบื้องต้นแสดงให้เห็นว่าต้นทุนต่อพูลรีเควสต์ที่ผสานแล้วลดลงหนึ่งในสาม และมีอัตราค่าบริการโทเค็นแบบผสมอยู่ที่ประมาณหนึ่งในสี่ของห้องปฏิบัติการโมเดลแบบปิด อย่างไรก็ตามตัวเลขเหล่านี้มาจากโครงการตัวอย่างและควรพิจารณาตามบริบทดังกล่าว
การใช้โมเดลระดับแนวหน้าสำหรับงานเขียนโค้ดประจำวัน เช่น การเขียนฟังก์ชันพื้นฐานหรือการจัดรูปแบบโค้ด มักสร้างค่าใช้จ่ายที่ไม่จำเป็นแก่บริษัท การที่ Fireworks Nexus เข้ามาทำหน้าที่คัดแยกคำขออัจฉริยะจึงเป็นแนวทางที่ช่วยสมดุลระหว่างประสิทธิภาพสูงสุดจากโมเดลใหญ่และความประหยัดจากโมเดลเปิดได้อย่างลงตัว
นอกจากนี้ยังมีผลการประเมินอิสระจาก Faros AI และ Arize ซึ่งได้ตรวจสอบประสิทธิภาพการทำงานจริงบนชุดงานนับร้อยรายการ โดยการทดสอบพบว่าการจัดเส้นทางแบบบันไดไต่ระดับ (Escalation ladder) สามารถทำคะแนนและความคุ้มค่าได้ดีกว่ากลยุทธ์การใช้โมเดลเดี่ยวๆ อย่างเห็นได้ชัด ช่วยประหยัดค่าใช้จ่ายและแก้ปัญหาได้อย่างมีประสิทธิภาพ
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น