TypeSafe เปิดตัว Jev โมเดล AI แยกขาดจากข้อความ
Diogo Almeida อดีตผู้ร่วมสร้าง ChatGPT พัฒนาโมเดล Jev นาน 2 ปี มุ่งประมวลผลตรรกะโปรแกรมด้วยความเร็วสูง เร็วกว่าเดิมถึง 193.6 เท่า
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- TypeSafe เปิดตัว Jev โมเดลตัวแรกที่ออกแบบมาสำหรับตรรกะโปรแกรมโดยเฉพาะ
- พัฒนาโดย Diogo Almeida อดีตผู้ร่วมพัฒนา ChatGPT ใช้เวลาพัฒนาในความลับนาน 2 ปี
- ตัดการสร้างข้อความแบบ autoregressive ออกทั้งหมด เพื่อความปลอดภัยด้านโครงสร้าง
- ประมวลผลเร็วกว่าโมเดลสนทนาทั่วไปถึง 193.6 เท่า และมีค่าใช้จ่ายเริ่มต้นเพียง 0.042 ดอลลาร์ต่อล้านโทเค็น
TypeSafe สตาร์ทอัพด้านปัญญาประดิษฐ์ที่ก่อตั้งโดยอดีตผู้ร่วมพัฒนา ChatGPT ได้ประกาศเปิดตัวโมเดล Jev อย่างเป็นทางการหลังใช้เวลาพัฒนาในขั้นตอนลับมานาน 2 ปี การเปิดตัวครั้งนี้มุ่งเน้นไปที่การช่วยให้ระบบซอฟต์แวร์สามารถหลีกเลี่ยงการใช้โมเดลภาษาสำหรับสนทนาในการทำงานด้านตรรกะแบบอัตโนมัติ โดยหันมาใช้ System One Model ที่ถูกออกแบบมาเพื่อประมวลผลการตัดสินใจเชิงความน่าจะเป็นที่มีโครงสร้างชัดเจนภายในโค้ดโปรดักชันโดยตรง
โมเดลดังกล่าวพัฒนาโดย Diogo Almeida ซึ่งเป็นอดีตวิศวกรจาก OpenAI โดยจุดเด่นสำคัญคือการละทิ้งกระบวนการสร้างข้อความและสตริงแบบเดิมๆ ทั้งหมด แทนที่จะสร้างโทเค็นข้อความทีละตัวตามลำดับ ระบบจะรับข้อมูลสถานะที่ไม่มีโครงสร้างเข้ามาเป็นอินพุตและส่งออกค่าที่มีโครงสร้างปลอดภัยต่อประเภทข้อมูล (type-safe) ภายในคำสั่งแบบขนานครั้งเดียว สถาปัตยกรรมนี้ถูกออกแบบมาเพื่อการผสานรวมเข้ากับโค้ดเชิงกำหนด ช่วยป้องกันความผิดพลาดด้านไวยากรณ์และปัญหาการสร้างคำตอบมั่วซั่วของ AI (hallucinations) ตั้งแต่ต้นทาง
"Think of Jev as a frontier-intelligence function call: unstructured state in, typed probabilistic decisions out."
Diogo Almeida, Founder at TypeSafe
เบื้องหลังการทำงาน ทีมวิศวกรได้สร้างแพลตฟอร์มนี้ขึ้นมาโดยอาศัยระเบียบวิธีฝึกอบรมทางเลือกที่เรียกว่า Reinforcement Learning for Calibrated Decisions (RLCD) ซึ่งแตกต่างจากโมเดลระดับแนวหน้าทั่วไปที่มักฝึกฝนผ่าน RLHF หรือ RLVR เพื่อตอบสนองความต้องการด้านการสนทนาของมนุษย์ โดย Jev ถูกฝึกให้สร้างความน่าจะเป็นที่ได้รับการปรับเทียบความแม่นยำบนตรรกะการทำงาน เพื่อให้มั่นใจว่าคะแนนความมั่นใจที่ส่งกลับมาจะสอดคล้องกับความถูกต้องของผลลัพธ์โดยตรง
นอกจากนี้ Jev ยังพึ่งพาตัวประมวลผลแบบขนานที่คำนึงถึงฮาร์ดแวร์ (hardware-aware parallel sampler) ในการประเมินและส่งมอบค่าที่มีโครงสร้างทั้งหมดพร้อมกัน ข้อจำกัดด้านโครงสร้างนี้ช่วยจำกัดผลลัพธ์ให้อยู่ในสีมาที่กำหนดไว้ล่วงหน้า ทำให้ไม่ต้องใช้ท่อส่งข้อมูลการแยกวิเคราะห์ (parsing pipelines) หรือตัวครอบป้องกันเหมือนในโมเดลภาษาขนาดใหญ่ทั่วไป โดยตัวประมวลผลภายในสามารถจัดการตัวเลือกที่มีความหนาแน่นสูงได้มากถึง 255 ตัวเลือกที่แยกจากกัน
การที่ Jev เลือกตัดความสามารถในการสร้างข้อความภาษามนุษย์ออกไปและเน้นไปที่ตรรกะโปรแกรม ถือเป็นจุดเปลี่ยนสำคัญที่ทำให้ AI ก้าวจากเครื่องมือช่วยเขียนหนังสือหรือแชท มาเป็นส่วนประกอบหลักในสถาปัตยกรรมซอฟต์แวร์ระดับองค์กร การลดความซับซ้อนของขั้นตอนการแปลผลลัพธ์และตัดการสร้างโทเค็นแบบเรียงลำดับออก ช่วยลดทั้งเวลาหน่วงและค่าใช้จ่ายลงได้อย่างมหาศาล ซึ่งเป็นอุปสรรคสำคัญที่ทำให้องค์กรไม่กล้านำ LLM ทั่วไปมาใช้รันงานเบื้องหลังระบบที่ต้องการความแม่นยำสูงแบบเรียลไทม์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ผลการประเมินภายในจากเซิร์ฟเวอร์ฝั่งชายฝั่งตะวันตกของทีมงานบันทึกเวลาหน่วงในการตอบสนองแบบต้นทางถึงปลายทางไว้ที่ 70–500 มิลลิวินาที ซึ่งเร็วกว่าการใช้งานโมเดลสนทนาทั่วไปที่กินเวลา 3–329วินาทีอย่างเห็นได้ชัด ในขณะที่การทดสอบเวิร์กโฟลว์ที่เผยแพร่ระบุว่าความเร็วในการประมวลผลพุ่งสูงขึ้นถึง 193.6 เท่าเมื่อเทียบกับเกณฑ์มาตรฐานทั่วไป ในด้านต้นทุน อินพุตถูกกำหนดราคาไว้ที่ 0.042 ดอลลาร์ต่อล้านโทเค็น ลดลงอย่างมากจากอัตรามาตรฐานของโมเดลสนทนาที่อยู่ระหว่าง 0.20 ถึง 10 ดอลลาร์ต่อล้านโทเค็น
ในส่วนของการใช้งานจริง การสาธิตในโปรดักชันแสดงให้เห็นว่า Jev สามารถแก้ไขกฎการแบ่งกิ่งก้าน (branching rules) ในสถานะเกมความเร็วสูงและต้นไม้การท่องเว็บได้เป็นอย่างดี ในการทดสอบความเครียดแบบไดนามิก วิศวกรสามารถรันบอทตอบสนองแบบเรียลไทม์ข้ามโครงสร้างสถานะเกม Doom ได้ที่ 10 เคียวรีต่อวินาที โดยมีค่าใช้จ่ายในการดำเนินงานประมาณ 7 ดอลลาร์ต่อชั่วโมง นอกจากนี้ TypeSafe ยังได้เปิดให้ทีมนักพัฒนาเข้าถึงระบบล่วงหน้าตั้งแต่วันนี้ผ่านรายชื่อรอการใช้งาน (waitlist) เป็นที่เรียบร้อยแล้ว
ที่มา: AI News
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น