Saluki 27B: โมเดล AI บีบอัด 2-bit ที่เก่งเรื่องเรียกใช้งานเครื่องมือ
ทำความรู้จัก Saluki 27B โมเดล 2-bit ขนาด 7.89 GB ที่พัฒนามาจาก Qwen3.8-27B ภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งมีความสามารถเหนือกว่าต้นฉบับในด้าน tool calling
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Saluki 27B เป็นโมเดลควอนไทเซชันแบบ 2-bit ที่พัฒนาจาก Qwen3.8-27B
- มีขนาดไฟล์เพียง 7.89 GB ภายใต้สัญญาอนุญาต Apache 2.0
- เหนือกว่ารุ่นต้นฉบับขนาด 54 GB ในด้านการเรียกใช้งานเครื่องมือ (tool calling)
- มีข้อแลกเปลี่ยนคือประสิทธิภาพด้านคณิตศาสตร์และการให้เหตุผลลดลง
วงการปัญญาประดิษฐ์ต้องฮือฮากับการมาถึงของ Saluki 27B โมเดลภาษาขนาดใหญ่ที่ถูกบีบอัดความแม่นยำลงมาเหลือเพียง 2-bit ในรูปแบบ GGUF โดยมีขนาดไฟล์ที่เล็กลงอย่างมหาศาลเหลือเพียง 7.89 GB เท่านั้น โมเดลตัวนี้ถูกสร้างขึ้นมาเพื่อท้าทายขีดจำกัดเดิม ๆ ของโมเดลต้นฉบับอย่าง Qwen3.8-27B ซึ่งปกติแล้วมีขนาดใหญ่ถึง 54 GB
จุดเด่นที่น่าสนใจที่สุดของ Saluki 27B คือความสามารถในการเรียกใช้งานเครื่องมือ (tool calling) ที่ทำผลงานได้เหนือกว่าโมเดลต้นฉบับขนาด 54 GB แม้ว่าจะมีขนาดเล็กกว่ามากก็ตาม สิ่งนี้แสดงให้เห็นว่าการบีบอัดโมเดลไม่ได้หมายความว่าประสิทธิภาพในทุกด้านจะต้องลดลงเสมอไป
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
อย่างไรก็ตาม ความสำเร็จครั้งนี้ก็แลกมาด้วยข้อจำกัดบางประการ เนื่องจาก Saluki 27B ต้องสูญเสียความสามารถในด้านการแก้โจทย์ปัญหาคณิตศาสตร์สำหรับการแข่งขัน (competition math) และทักษะการให้เหตุผล (reasoning) ไปบ้างเมื่อเทียบกับรุ่นดั้งเดิม
การทำโมเดลควอนไทเซชัน (Quantization) ลงมาเหลือ 2-bit ถือเป็นความท้าทายทางวิศวกรรมขั้นสูง เพราะปกติแล้วการลดบิตจะทำให้ความแม่นยำของโมเดลลดลงอย่างฮวบฮาบ การที่ Saluki 27B สามารถรักษาความสามารถเฉพาะทางอย่าง tool calling ไว้ได้ดีเยี่ยมจนเอาชนะโมเดลใหญ่ได้ ชี้ให้เห็นแนวทางใหม่ในการพัฒนา AI ขนาดเล็กที่ใช้งานทรัพยากรน้อยลง เหมาะสำหรับการรันบนฮาร์ดแวร์ที่มีข้อจำกัด
สำหรับผู้ที่สนใจใช้งาน Saluki 27B โมเดลตัวนี้เปิดให้ใช้งานภายใต้สัญญาอนุญาต Apache 2.0 ซึ่งเอื้อต่อการนำไปพัฒนาต่อยอดในเชิงพาณิชย์และงานวิจัยได้อย่างยืดหยุ่น
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น