Meta เปิดตัว Muse Glimmer โมเดล AI ขนาด 30,000 ล้านพารามิเตอร์ รันบน GPU ทั่วไปได้
Meta เผยแพร่โมเดลปัญญาประดิษฐ์ Muse Glimmer ขนาด 30B ภายใต้ไลเซนส์ Apache 2.0 มุ่งเน้นการประมวลผลภายในอุปกรณ์เพื่อความปลอดภัยและความเป็นส่วนตัว
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Meta ปล่อยโมเดล Muse Glimmer ขนาด 30,000 ล้านพารามิเตอร์บน Hugging Face ภายใต้ไลเซนส์ Apache 2.0
- ออกแบบมาเพื่อให้ทำงานเป็นเอเจนต์บนอุปกรณ์ของผู้ใช้งานผ่านการรันบนการ์ดจอคอนซูเมอร์
- ทำคะแนนทดสอบเทียบชั้นหรือเหนือกว่าคู่แข่งอย่าง Gemma4-31B และ Qwen3.6-27B ในหลายด้าน
- ใช้การควอนไทเซชันระดับ 4-บิต ลดขนาดหน่วยความจำเหลือไม่ถึง 20 GB เพื่อให้พอดีกับแรม 24 GB หรือ 32 GB
กลุ่มงาน Superintelligence Labs ของ Meta ได้ประกาศเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ในชื่อ Muse Glimmer โดยปล่อยน้ำหนักโมเดลขนาด 30,000 ล้านพารามิเตอร์ลงบนแพลตฟอร์ม Hugging Face ภายใต้เงื่อนไขของไลเซนส์ Apache 2.0 ซึ่งช่วยให้นักพัฒนาสามารถนำไปประยุกต์ใช้งานด้านการเขียนโค้ด การเรียกใช้ฟังก์ชัน การสร้างเอเจนต์ส่วนตัว และการประเมินผลแบบ LLM-as-a-judge ได้ทันที
การปล่อยโมเดลครั้งนี้ถูกออกแบบมาเพื่อแก้ปัญหาข้อจำกัดการปฏิบัติงานที่ทีมพัฒนา AI มักต้องเผชิญ เนื่องจากโมเดลที่โฮสต์บนคลาวด์มักจะต้องพึ่งพาการเชื่อมต่ออินเทอร์เน็ตและโครงสร้างพื้นฐานส่วนกลาง ทาง Meta จึงนำเสนอ Muse Glimmer สำหรับภาระงานที่ต้องการโมเดลรันบนตัวเครื่องโดยตรง รวมถึงเอเจนต์ส่วนบุคคลที่ต้องเข้าถึงตารางเวลา ข้อความ ไฟล์ และข้อมูลส่วนตัวอื่นๆ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในด้านผลการทดสอบประสิทธิภาพการเป็นเอเจนต์ทั่วไป Meta ระบุว่า Muse Glimmer ทำคะแนนนำหน้าคู่แข่งอย่าง Gemma4-31B และ Qwen3.6-27B ใน 5 จาก 8 การทดสอบ โดยสามารถทำคะแนนบน MCP Atlas ได้ 75.5 ขณะที่ Gemma4-31B ทำได้ 54.2 และ Qwen3.6-27B ทำได้ 62.5 นอกจากนี้ในการทดสอบ DeepSearch QA โมเดลตัวนี้ทำคะแนนไป 74.6 ส่วนในด้านการเขียนโค้ด Muse Glimmer ทำคะแนนนำในแบบทดสอบ SWE-Bench Pro ที่ 51.2 เหนือกว่าคู่แข่งรายอื่น
การที่ Meta เลือกปล่อยโมเดลขนาด 30,000 ล้านพารามิเตอร์ที่ปรับลดขนาดน้ำหนักเหลือต่ำกว่า 20 GB ถือเป็นหมุดหมายสำคัญในการผลักดันให้ AI ทำงานบนอุปกรณ์ฝั่งผู้บริโภค (On-device AI) กลายเป็นจริงได้ง่ายขึ้น เนื่องจากฮาร์ดแวร์ระดับการ์ดจอเกมมิ่งหรือพีซีทั่วไปในปัจจุบันเริ่มมีความพร้อมรองรับแรมระดับ 24 GB ถึง 32 GB อย่างไรก็ตาม การนำเอเจนต์ไปเชื่อมต่อกับระบบภายในองค์กรหรือไฟล์ส่วนตัวยังคงต้องอาศัยการตั้งค่าสิทธิ์การเข้าถึงและความปลอดภัยอย่างรัดกุม เพื่อป้องกันความเสี่ยงจากความผิดพลาดในการเรียกใช้คำสั่งอัตโนมัติ
จุดเด่นอีกประการของ Muse Glimmer คือตัวเข้ารหัสการรับรู้ข้อมูลที่รองรับข้อความและรูปภาพสลับกัน ทำให้เอเจนต์สามารถตีความภาพหน้าจอ แผนภูมิ และเอกสารต่างๆ ภายในบทสนทนาเดียวกันได้ โดยผลการทดสอบการใช้เหตุผลผ่านภาพ Charxiv Reasoning โมเดลทำคะแนนได้สูงสุดที่ 78.8 นอกจากนี้ในด้านความปลอดภัย Meta ยังได้ประเมินผลผ่านชุดทดสอบ CI Memories และ Siren AgentDojo เพื่อตรวจสอบอัตราการละเมิดและความสำเร็จในการโจมตีของระบบ
ในแง่ของสถาปัตยกรรมฮาร์ดแวร์ โมเดลขนาด 30,000 ล้านพารามิเตอร์แบบเต็มความแม่นยำจะต้องใช้หน่วยความจำมากกว่า 55 GB แต่ Muse Glimmer เลือกใช้วิธีการควอนไทเซชันน้ำหนักประมาณ 4-บิต ซึ่งช่วยลดขนาดโมเดลภาษาลงเหลือต่ำกว่า 20 GB พื้นที่หน่วยความจำที่เหลือนี้ถูกจัดสรรไว้สำหรับหน่วยความจำแคช KV ตัวเข้ารหัสการรับรู้ และตัวช่วยคาดการณ์การถอดรหัส โดยตั้งเป้าหมายรองรับซองหน่วยความจำขนาด 24 GB หรือ 32 GB
ที่มา: AI News
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น