Supersonic Labs เปิดตัว Julia 1 โมเดลตัดสินใจ AI ขนาด 144.3 ล้านพารามิเตอร์ ทำงานบน CPU ได้
Supersonic Labs ปล่อย Julia 1 โมเดลโอเพนซอร์ก 144.3 ล้านพารามิเตอร์ ใช้งานผ่าน Python 3.11 บน CPU หรือ GPU รองรับ BF16 และ ONNX WebGPU
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Supersonic Labs เปิดตัว Julia 1 โมเดลตัดสินใจโอเพนซอร์กขนาด 144.3 ล้านพารามิเตอร์
- พัฒนาต่อยอดจาก mmBERT-small รองรับการรันบน CPU และ GPU ท้องถิ่นผ่าน Python 3.11+
- ใช้ต้นทุนคลาวด์ GPU ในการฝึกอบรมเพียงประมาณ 104.08 ดอลลาร์สหรัฐ
- รองรับการทำงานผ่าน ONNX บนเบราว์เซอร์ด้วย WebGPU และเตรียมพัฒนา Julia 2 ต่อไป
Supersonic Labs ได้เปิดตัว Julia 1 โมเดลตัดสินใจแบบเปิด (Open Decision Model) ขนาด 144.3 ล้านพารามิเตอร์ ซึ่งถูกออกแบบมาให้สามารถประมวลผลและใช้งานได้บนซีพียู (CPU) ทั่วไป โดยน้ำหนักของโมเดลถูกปล่อยไว้บนแพลตฟอร์ม Hugging Face ภายใต้สัญญาอนุญาตแบบ Apache 2.0 ซึ่งนักพัฒนาสามารถนำไปรันในเครื่องท้องถิ่นด้วย Python 3.11 ขึ้นไป หรือใช้งานผ่านจีพียูที่รองรับ BF16 รวมถึงบิวด์ในรูปแบบ ONNX ที่ทำงานบนเว็บเบราว์เซอร์ผ่าน WebGPU ได้ทันที นอกจากนี้ยังมีการประกาศแผนเปิดตัวโฮสต์ API ในอนาคต
โมเดล Julia 1 ถูกพัฒนาขึ้นโดยเริ่มต้นจาก mmBERT-small ซึ่งเป็นเอ็นโค้ดเดอร์ multilingual ModernBERT ขนาด 140 ล้านพารามิเตอร์จาก JHU CLSP ที่ผ่านการฝึกฝนด้วยภาษามากกว่า 1,800 ภาษา ทางทีมงาน Supersonic Labs ได้คงส่วนเอ็นโค้ดเดอร์และโทแกนไนเซอร์เดิมไว้ พร้อมทั้งเพิ่มส่วนหัวสำหรับการตัดสินใจ (Decision Head) เข้าไป และทำการฝึกฝนด้วยตัวอย่างในรูปแบบการตัดสินใจ โดยยืนยันว่าโมเดลนี้ไม่ใช่โมเดล Qwen ที่นำมาปรับแต่งเพิ่มเติม (Fine-tuned) แต่อย่างใด ระบบรันไทม์รองรับโทแกนไนเซอร์รวมกันถึง 8,192 โทแกน แต่ผลการทดสอบที่มีการเผยแพร่ออกมานั้นถูกจำกัดไว้ที่ 1,024 โทแกน
ในด้านต้นทุนและความต้องการของระบบ ค่าใช้จ่ายในการใช้คลาวด์ GPU สำหรับการฝึกฝนและการทดลองทั้งหมดอยู่ที่ประมาณ 540 เรอัลบราซิล หรือราว 104.08 ดอลลาร์สหรัฐ น้ำหนักในรูปแบบ FP32 มีขนาดอยู่ที่ 550.5 MiB สำหรับไปป์ไลน์การฝึกอบรมแบบส่วนตัวยังไม่มีการเปิดเผยออกมาในขณะนี้ ขณะเดียวกัน ทางห้องปฏิบัติการกำลังอยู่ในระหว่างการพัฒนา Julia 2 ซึ่งจะใช้สถาปัตยกรรมพื้นฐานที่เป็นของทางห้องปฏิบัติการเอง
"Introducing Julia-1: Our first classification model that runs on almost anything."
Supersonic Labs (@supersonicai)
ผลการประเมินประสิทธิภาพเมื่อวันที่ 24 กันยายน 2026 ดำเนินการบนฮาร์ดแวร์ H200 BF16 โดยใช้การเข้ารหัสแบบเข้มงวด การเปรียบเทียบอ้างอิงกับ Jev ของ TypeSafe ผ่านโปรโตคอลมาตรฐาน การทดลองการจำแนกประเภทใช้ข้อมูลเพียง 100 ตัวอย่างต่อชุด และการรันบน CPU เมื่อวันที่ 25 กันยายน สามารถทำคะแนนบน Typed Decisions ได้ 72.55% รวมถึงทำได้ 60 จาก 100 บน Banking77 โดยมีการละเว้น 3 ครั้ง
การที่ Supersonic Labs สามารถสร้างโมเดลขนาดเล็ก 144.3 ล้านพารามิเตอร์ที่รันบนอุปกรณ์ทั่วไปและ CPU ได้ด้วยต้นทุนคลาวด์เพียงร้อยกว่าดอลลาร์ สะท้อนให้เห็นถึงแนวโน้มการพัฒนา AI ที่มุ่งเน้นประสิทธิภาพสูงแต่ใช้ทรัพยากรต่ำ (Edge AI) ซึ่งช่วยลดข้อจำกัดด้านฮาร์ดแวร์ราคาแพง และเปิดโอกาสให้นักพัฒนาสามารถปรับใช้โมเดลปัญญาประดิษฐ์ในอุปกรณ์พกพาหรือเซิร์ฟเวอร์ขนาดเล็กได้อย่างยืดหยุ่นมากยิ่งขึ้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การวัดประสิทธิภาพรายอุปกรณ์แสดงให้เห็นผลลัพธ์ที่น่าสนใจ บน Apple M4 ใช้เวลาค่ามัธยฐาน 33.15 มิลลิวินาทีต่อการเรียกใช้งานหนึ่งครั้ง บนแท็บเล็ต Samsung SM-X510 ผ่าน ONNX Runtime มีค่ามัธยฐาน 203 มิลลิวินาที และใช้หน่วยความจำสูงสุด 393.1 MB ส่วนบนโปรเซสเซอร์ Intel Core i5-1235U การตัดสินใจของ AG News ใช้เวลาค่ามัธยฐาน 107.83 มิลลิวินาที ขณะที่ Banking77 ใช้เวลา 3,713.54 มิลลิวินาที เนื่องจากต้องทำการจำกัดป้ายกำกับ 72 รายการก่อน ทั้งนี้ โมเดล Julia 1 ไม่สามารถสร้างข้อความเองได้ และยังคงมีข้อจำกัดในการประมวลผลข้อเท็จจริงที่ขาดหายไป การคำนวณทางคณิตศาสตร์ หรือการคำนวณหลายขั้นตอน ทางผู้พัฒนาจึงแนะนำให้มีการตรวจสอบจากมนุษย์ควบคู่ไปด้วยเสมอสำหรับการตัดสินใจที่สำคัญ
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น