Baseten เปิดตัว joey-1 โมเดลตัดสินใจขนาด 2B
Baseten ปล่อย joey-1 โมเดลตัดสินใจขนาด 2B แบบ open-weight ให้ความน่าจะเป็นที่ผ่านการสอบเทียบ ด้วยความเร็ว P50 ที่ 20 มิลลิวินาที และราคาเพียง 0.01 ดอลลาร์ต่อ 1 ล้านโทเค็น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Baseten เปิดตัว joey-1 โมเดลตัดสินใจขนาด 2B แบบ open-weight
- ส่งออกค่าความน่าจะเป็นที่ผ่านการสอบเทียบแทนการสร้างข้อความ
- มีความเร็ว P50 latency อยู่ที่ 20 มิลลิวินาที
- มีค่าบริการถูกเพียง 0.01 ดอลลาร์ต่อ 1 ล้านอินพุตโทเค็น
วงการปัญญาประดิษฐ์ต้อนรับนวัตกรรมใหม่ล่าสุดจาก Baseten ที่ได้ทำการพัฒนาและปล่อย joey-1 โมเดลตัดสินใจขนาด 2B แบบ open-weight ออกมาสู่สาธารณะ ซึ่งถูกออกแบบมาเพื่อทำหน้าที่ประเมินและให้ผลลัพธ์ในรูปแบบของค่าความน่าจะเป็นที่ผ่านการสอบเทียบแล้วอย่างแม่นยำ แทนที่จะเป็นการสร้างข้อความหรือตัวอักษรแบบโมเดลภาษาทั่วไป
ในด้านประสิทธิภาพการทำงาน joey-1 สามารถตอบสนองได้อย่างรวดเร็วด้วยความเร็ว P50 latency เพียง 20 มิลลิวินาที ซึ่งตอบโจทย์งานที่ต้องการความรวดเร็วในการตัดสินใจแบบเรียลไทม์ นอกจากนี้ยังมีจุดเด่นด้านต้นทุนที่ประหยัดเป็นอย่างมาก โดยมีอัตราค่าบริการอยู่ที่ 0.01 ดอลลาร์ต่อ 1 ล้านอินพุตโทเค็นเท่านั้น
การที่ joey-1 เลือกคืนค่าความน่าจะเป็นแทนการสร้างข้อความ (Text generation) ช่วยให้ระบบเบื้องหลังสามารถนำตัวเลขความน่าจะเป็นไปประมวลผลต่อในตรรกะทางธุรกิจหรือระบบอัตโนมัติได้ทันทีโดยไม่ต้องเสียเวลาแปลงข้อความกลับเป็นข้อมูลเชิงตัวเลข ลดภาระการคำนวณและเพิ่มความแม่นยำในการตัดสินใจของระบบไอทีขนาดใหญ่
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การเปิดตัวโมเดลตัดสินใจที่มีน้ำหนักเบาแต่ทรงประสิทธิภาพนี้ ถือเป็นอีกหนึ่งทางเลือกสำคัญสำหรับนักพัฒนาซอฟต์แวร์และองค์กรที่ต้องการระบบประเมินผลความเสี่ยงหรือการตัดสินใจที่มีความเร็วสูงและต้นทุนต่ำ เพื่อนำไปบูรณาการเข้ากับสถาปัตยกรรม AI ปัจจุบัน
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น