PrismML เปิดตัวโมเดล Bonsai 2 27B ขนาดเล็กทำงานบนพีซีได้
PrismML สตาร์ทอัพโดยนักวิจัย Caltech เปิดตัว Bonsai 2 27B บีบอัดโมเดล Qwen3.8 27B ของ Alibaba เหลือเพียง 5.9 GB ทำงานบนพีซีและสมาร์ทโฟนได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- PrismML เปิดตัว Bonsai 2 27B โมเดลภาษาขนาดใหญ่ที่ถูกบีบอัดจนมีขนาดเล็กเพียง 5.9 GB
- สามารถใช้งานบนคอมพิวเตอร์ส่วนบุคคลและสมาร์ทโฟนระดับไฮเอนด์ได้โดยไม่ต้องพึ่งพาคลาวด์
- ลดการใช้หน่วยความจำลงถึง 9 ถึง 10 เท่าเมื่อเทียบกับโมเดลต้นฉบับ Qwen3.8 27B ของ Alibaba
- ก่อตั้งโดยทีมนักวิจัยจาก Caltech และมีผู้เชี่ยวชาญด้านเทคโนโลยีการบีบอัดร่วมบริหาร
ในยุคที่ปัญญาประดิษฐ์หรือ AI กำลังขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ที่ต้องอาศัยพลังประมวลผลมหาศาลจากศูนย์ข้อมูล ล่าสุดสตาร์ทอัพหน้าใหม่อย่าง PrismML ได้ออกมาแสดงมุมมองที่แตกต่างออกไปว่า โมเดลการใช้เหตุผลที่มีประสิทธิภาพสูงนั้นไม่จำเป็นต้องมีขนาดใหญ่เสมอไป และพวกเขากำลังพัฒนาโมเดลให้มีขนาดเล็กเพียงพอที่จะรันบนอุปกรณ์ส่วนตัวอย่างคอมพิวเตอร์และสมาร์ทโฟนได้โดยตรง
เมื่อวันพฤหัสบดีที่ผ่านมา PrismML ได้ปล่อยตัว Bonsai 2 27B ซึ่งเป็นโมเดลล่าสุดในตระกูล โดยเป็นการบีบอัด Qwen3.8 27B โมเดลโอเพนซอร์สยอดนิยมจาก Alibaba ให้เหลือขนาดเพียง 5.9 กิกะไบต์เท่านั้น ขนาดดังกล่าวเล็กพอที่จะติดตั้งลงบนพีซีและสมาร์ทโฟนระดับไฮเอนด์ได้ ซึ่งนับเป็นการลดการใช้หน่วยความจำลงถึง 9 ถึง 10 เท่าเมื่อเทียบกับโมเดลต้นฉบับ
บริษัทสตาร์ทอัพแห่งนี้ก่อตั้งขึ้นโดยกลุ่มนักวิจัยจากสถาบันเทคโนโลยีแคลิฟอร์เนียหรือ Caltech นำโดย Babak Hassibi ศาสตราจารย์แห่ง Caltech และผู้เชี่ยวชาญด้านเทคโนโลยีการบีบอัดข้อมูล นอกจากนี้ยังมี Ion Stoica ผู้ร่วมก่อตั้ง Databricks และผู้อำนวยการห้องปฏิบัติการ Sky Computing Lab ของเบิร์กลีย์ มาทำหน้าที่เป็นที่ปรึกษาให้กับบริษัท พร้อมทั้งได้รับการสนับสนุนด้านเงินทุนจากนักลงทุนชื่อดังอย่าง Khosla Ventures, เซอร์เบอรัส แคปิตอล และตัวสถาบัน Caltech เอง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การบีบอัดโมเดลขนาดใหญ่หรือ LLM Compression ถือเป็นเทรนด์สำคัญในวงการปัญญาประดิษฐ์ปัจจุบัน เนื่องจากต้นทุนในการรันโมเดลบนคลาวด์อยู่ในระดับสูงและมีข้อจำกัดเรื่องความเร็วในการตอบสนอง การย้ายโมเดลมาประมวลผลบนอุปกรณ์ของผู้ใช้งานโดยตรง (Edge AI) จะช่วยลดต้นทุน เพิ่มความเป็นส่วนตัวของข้อมูล และทำให้ใช้งานได้แม้ไม่มีอินเทอร์เน็ต แต่ความท้าทายหลักคือการรักษาความแม่นยำของผลลัพธ์ไม่ให้ลดลงไปจากโมเดลต้นฉบับที่มีขนาดใหญ่กว่ามาก
อย่างไรก็ตาม PrismML ไม่ใช่บริษัทเดียวที่กำลังแข่งขันกันพัฒนาเทคโนโลยีการบีบอัดโมเดล AI โดยยังมีคู่แข่งอย่าง Multiverse Computing ที่ก่อตั้งโดยศาสตราจารย์ชื่อดังจากศูนย์ฟิสิกส์นานาชาติโดโนสเตียในประเทศสเปน ซึ่งบริษัทดังกล่าวก็ระดมทุนไปได้จำนวนมากเช่นกัน สะท้อนให้เห็นว่าตลาดนี้กำลังได้รับความสนใจอย่างมหาศาลจากนักลงทุน
"การบีบอัดน่าจะมีผลกระทบต่อประสิทธิภาพการทำงานอยู่บ้างเสมอ"
Babak Hassibi ซีอีโอของ PrismML
แม้ผลลัพธ์จากการบีบอัดจะทำให้ประสิทธิภาพตามเกณฑ์มาตรฐานลดลงไปบ้าง แต่ทางซีอีโอของ PrismML มองว่าความแม่นยำระดับ 100 เปอร์เซ็นต์เต็มนั้นอาจไม่ใช่เรื่องสำคัญในทางปฏิบัติ เนื่องจากโมเดล AI ดั้งเดิมเองก็ไม่ได้มีความแม่นยำสมบูรณ์แบบร้อยเปอร์เซ็นต์ และเกณฑ์มาตรฐานทั่วไปก็ไม่ได้สะท้อนงานในโลกจริงได้อย่างสมบูรณ์แบบ การลดลงของประสิทธิภาพเพียงเล็กน้อยจึงแทบไม่ส่งผลกระทบต่อการใช้งานจริง ประกอบกับซอฟต์แวร์รอบข้างที่โมเดลทำงานอยู่ก็มีส่วนสำคัญอย่างมากต่อความถูกต้องเช่นกัน
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น