Mistral AI เปิดตัว Mistral Large 4 โมเดล 1.05 ล้านล้านพารามิเตอร์

บริษัท Mistral AI ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดในชื่อ Mistral Large 4 หรือที่รู้จักกันในชื่อเล่นว่า "Le Chonk" โดยเปิดให้ใช้งานในรูปแบบพรีวิวสาธารณะแล้ววันนี้ การพัฒนาครั้งนี้นับเป็นก้าวสำคัญในวงการปัญญาประดิษฐ์ระดับโลก

โมเดลดังกล่าวถูกพัฒนาขึ้นด้วยสถาปัตยกรรมแบบ Mixture of Experts (MoE) ที่มีขนาดพารามิเตอร์รวมสูงถึง 1.05 ล้านล้านพารามิเตอร์ แต่มีความสามารถในการเปิดใช้งานพารามิเตอร์จริงเพียง 49,000 ล้านพารามิเตอร์ต่อการประมวลผลหนึ่งครั้ง ซึ่งช่วยเพิ่มประสิทธิภาพในการทำงานและความเร็วในการตอบสนองได้อย่างยอดเยี่ยม

นอกจากนี้ Mistral Large 4 ยังมาพร้อมความสามารถระดับมัลติโมเดล โดยรองรับการนำเข้ารูปภาพได้โดยตรง (native image input) และมีหน้าต่างบริบท (context window) ขนาดใหญ่ถึง 1 ล้านโทเค็น ช่วยให้สามารถประมวลผลข้อมูลที่มีความยาวหรือซับซ้อนได้อย่างราบรื่น

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ในด้านกระบวนการฝึกฝน โมเดลรุ่นนี้ได้รับการฝึกอบรมผ่านซูเปอร์คอมพิวเตอร์ที่ใช้ชิปประมวลผล NVIDIA Grace Blackwell จำนวนมากถึง 3,800 ตัว ซึ่งตั้งอยู่ในศูนย์ข้อมูลของ Mistral เองทวีปยุโรป แสดงให้เห็นถึงความพร้อมด้านโครงสร้างพื้นฐานที่แข็งแกร่งของบริษัท