TypeSafe AI เปิดตัว Jev ระบบ AI ให้ผลลัพธ์แบบมีโครงสร้าง
TypeSafe AI เปิดตัว Jev ระบบ AI รูปแบบ System One ในสถานะ early access ซึ่งให้การตัดสินใจที่ผ่านการสอบเทียบและพิมพ์ข้อมูลแม่นยำ พร้อมราคา 42 ดอลลาร์ต่อพันล้านอินพุตโทเค็น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- TypeSafe AI เปิดตัว Jev ระบบโมเดลแบบ System One ผ่าน API ในรูปแบบ early access
- Jev ใช้เทคโนโลยีสแต็กใหม่รวมถึง RLCD เพื่อให้คำตอบที่ผ่านการสอบเทียบความมั่นใจ
- ระบบชูจุดเด่นด้านความเร็วสูงกว่าเดิม 193.6 เท่าและต้นทุนถูกกว่าเดิม 444.6 เท่าจากการทดสอบภายใน
TypeSafe AI ประกาศเปิดตัวระบบโมเดลปัญญาประดิษฐ์ตัวใหม่ในชื่อ Jev ซึ่งถูกออกแบบมาให้ทำหน้าที่เป็นระบบ System One โดยเปิดให้บริการในรูปแบบ hosted API ผ่านสถานะ early access และจำกัดการเข้าใช้งานผ่านระบบ waitlist ในขณะนี้ ทางบริษัทยังไม่มีการเผยแพร่น้ำหนักโมเดล จำนวนพารามิเตอร์ หรือทางเลือกในการโฮสต์ด้วยตนเอง
ชื่อของ Jev ได้รับแรงบันดาลใจมาจากแนวคิดของแดเนียล คาห์เนแมน (Daniel Kahneman) ที่แบ่งกระบวนการคิดออกเป็นสัญชาตญาณที่รวดเร็วและการใช้เหตุผลที่เชื่องช้า ทีมงานของ TypeSafe ระบุว่าโมเดลที่ผ่านการฝึกด้วย RLHF มักถูกปรับแต่งเพื่อความพึงพอใจของมนุษย์ ซึ่งส่งผลให้เกิดการแชท ความมั่นใจที่สูงเกินจริง และอาการตกรุ่น (mode dropping) ปัญหาเหล่านี้ทำให้ยังคงต้องมีมนุษย์คอยตรวจสอบอยู่ในลูปการทำงาน
สำหรับการทำงานภายใน Jev ใช้สแต็กแบบใหม่ซึ่งประกอบด้วยสถาปัตยกรรมใหม่ ตัวสุ่มแบบคู่ขนาน (parallel sampler) และการเรียนรู้เสริมแรงเพื่อการตัดสินใจที่ผ่านการสอบเทียบ (Reinforcement Learning for Calibrated Decisions หรือ RLCD) แม้จะมีการใช้งานเทคโนโลยีเหล่านี้ แต่ทาง TypeSafe ยังไม่ได้เปิดเผยรายละเอียดเชิงลึกเกี่ยวกับสถาปัตยกรรมของตัวระบบ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในด้านการใช้งาน ระบบจะติดต่อผ่านเอนด์พอยต์เดียวคือ POST https://api.typesafe.ai/v1/systemone โดยตัวบอดี้จะพกพาสถานะ (state) โมเดล (model) และชุดคำถาม (questions) เอกสารประกอบระบุว่าระบบรองรับคำถาม 3 ประเภท ซึ่งคำถามทั้งหมดจะรันแบบคู่ขนานและแยกออกจากกันบนสถานะเดียวกัน โดยทาง TypeSafe ระบุว่าการเพิ่มคำถามแทบจะไม่ส่งผลกระทบต่อเวลาในการตอบสนอง และประเภทคำถามแบบ Choice ยังรองรับตัวเลือกได้สูงสุดถึง 255 ตัวเลือก
คำตอบทุกรายการประเภท Choice และ Score จะมาพร้อมกับค่าความมั่นใจ (confidence value) ตั้งแต่ 0 ถึง 1 ซึ่ง TypeSafe คำนวณค่านี้มาจากรูปทรงของการแจกแจงความน่าจะเป็น ในตัวอย่างจากเอกสาร หมวด billing ชนะไปด้วยความมั่นใจ 0.84 ขณะที่ความมั่นใจรวมอยู่ที่ 0.596 เนื่องจากยังมีหมวด technical ถือสัดส่วนอยู่ 0.159 เอกสารแนะนำแนวทางการใช้งาน 3 แนวทาง ได้แก่ การดำเนินการทันทีเมื่อมีความมั่นใจสูง การส่งตรวจทานในระดับปานกลาง และการส่งต่อให้มนุษย์จัดการเมื่อมีความมั่นใจต่ำ โดยกำหนดเกณฑ์ควรปรับตามต้นทุนของความผิดพลาด
"Zero hallucinations means schema matching is guaranteed. The 0% figure is not empirical. Answers can still be wrong."
TypeSafe AI
การที่ Jev มุ่งเน้นไปที่ผลลัพธ์แบบมีโครงสร้าง (Typed Decisions) แทนที่จะเป็นข้อความสนทนายาวๆ ถือเป็นการแก้ปัญหาคลาสสิกของ Large Language Models ที่มักให้ข้อมูลเยิ่นเย้อและคาดเดาไม่ได้ การปรับแต่งให้ผลลัพธ์ออกมาเป็นค่าสถิติและระดับความมั่นใจที่ชัดเจน ช่วยให้ระบบอัตโนมัติภายนอกสามารถนำไปเขียนเงื่อนไขต่อยอดได้ทันทีโดยไม่ต้องผ่านกระบวนการแปลงข้อความธรรมชาติ (Natural Language Parsing) ซ้ำซ้อน ซึ่งเป็นประโยชน์อย่างยิ่งในงานภาคอุตสาหกรรมที่ความแม่นยำของรูปแบบข้อมูลมีความสำคัญสูงสุด
ในแง่ของราคา Jev มีค่าบริการอยู่ที่ 42 ดอลลาร์ต่อพันล้านอินพุตโทเค็น เปรียบเทียบกับ LLM ทั่วไปที่มีราคาตั้งแต่ 0.20 ถึง 10 ดอลลาร์ต่อ 1 ล้านอินพุตโทเค็น จากการบันทึกการสาธิต Jev ใช้เวลาทำงานเพียง 0.114 วินาที ด้วยต้นทุน 0.000081 ดอลลาร์ ในขณะที่ GPT-5.6 Terra ใช้เวลา 8.566 วินาที และมีต้นทุน 0.013880 ดอลลาร์ ตัวเลขเหล่านี้มาจากผลการประเมินเวิร์กโฟลว์ของ TypeSafe เอง พร้อมระบุว่าคำว่าความหลอนเป็นศูนย์ (zero hallucinations) หมายถึงการรับประกันการตรงกันของสคีมา (schema matching) แต่ตัวเลข 0% นี้ไม่ใช่เชิงประจักษ์ เนื่องจากคำตอบยังคงมีความผิดพลาดเกิดขึ้นได้
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น