NVIDIA ปล่อย Nemotron 3.5 Super VL โมเดล 120B
NVIDIA เปิดตัว Nemotron 3.5 Super VL โมเดล Multimodal MoE โอเพนซอร์สขนาด 120 พันล้านพารามิเตอร์ พร้อมบริบท 1 ล้านโทเค็น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- NVIDIA เปิดตัวโมเดล Nemotron 3.5 Super VL แบบโอเพนซอร์สขนาด 120B
- ใช้สถาปัตยกรรม Multimodal MoE โดยมีพารามิเตอร์ทำงานจริง 12B
- รองรับหน้าต่างบริบทขนาดยาวถึง 1 ล้านโทเค็นด้วยน้ำหนัก NVFP4
- รันบนฮาร์ดแวร์ DGX Spark เพียงชุดเดียวพร้อมเปิดตัวรุ่น Edge อีก 2 รุ่น
บริษัท NVIDIA ได้ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์ตัวใหม่ล่าสุดในชื่อ Nemotron 3.5 Super VL ซึ่งเป็นโมเดล Multimodal MoE (Mixture-of-Experts) แบบโอเพนซอร์สที่มีขนาดพารามิเตอร์รวมทั้งหมด 120 พันล้านพารามิเตอร์ โดยถูกออกแบบมาให้มีความสามารถในการประมวลผลข้อมูลหลากหลายรูปแบบได้อย่างมีประสิทธิภาพสูง
จุดเด่นสำคัญของโมเดลรุ่นนี้คือการใช้งานพารามิเตอร์เพียง 12 พันล้านพารามิเตอร์ในการทำงานจริงต่อหนึ่งการประมวลผล ช่วยให้ระบบมีความรวดเร็วและประหยัดทรัพยากรมากยิ่งขึ้น พร้อมทั้งรองรับหน้าต่างบริบท (Context Window) ที่มีความยาวถึง 1 ล้านโทเค็น ทำให้สามารถวิเคราะห์ข้อมูลปริมาณมหาศาลได้อย่างต่อเนื่อง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในด้านประสิทธิภาพและการใช้งาน ฮาร์ดแวร์รุ่นนี้ถูกปรับแต่งให้สามารถทำงานร่วมกับน้ำหนักแบบ NVFP4 ได้อย่างราบรื่น โดยตัวโมเดลหลักสามารถรันบนระบบ DGX Spark เพียงชุดเดียวเท่านั้น นอกจากนี้ทาง NVIDIA ยังได้เปิดตัวโมเดลสำหรับอุปกรณ์เอดจ์ (Edge Models) เพิ่มเติมอีกจำนวน 2 รุ่น เพื่อขยายขอบเขตการใช้งานไปยังอุปกรณ์ที่มีข้อจำกัดด้านทรัพยากร
การเปิดตัว Nemotron 3.5 Super VL สะท้อนให้เห็นถึงความพยายามของ NVIDIA ในการผลักดันโมเดลขนาดใหญ่ให้เข้าถึงนักพัฒนาได้ง่ายขึ้นผ่านรูปแบบโอเพนซอร์ส การเลือกใช้สถาปัตยกรรม MoE ร่วมกับเทคโนโลยีบีบอัดน้ำหนัก NVFP4 ช่วยให้องค์กรต่างๆ สามารถรันโมเดลระดับ 100 พันล้านพารามิเตอร์ได้โดยไม่ต้องใช้คลัสเตอร์เซิร์ฟเวอร์ขนาดใหญ่โต ซึ่งช่วยลดต้นทุนด้านโครงสร้างพื้นฐานลงอย่างมาก
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น