PrismML นำโมเดลภาษาขนาดจิ๋วรันบนแว่นอัจฉริยะชิป Qualcomm

บริษัทปัญญาประดิษฐ์ PrismML ซึ่งก่อตั้งโดยกลุ่มนักวิจัยจาก Caltech และมี Ion Stoica จาก UC Berkeley เป็นที่ปรึกษา ได้พัฒนาโมเดลภาษาขนาดเล็กสำหรับใช้งานบนแว่นตาอัจฉริยะที่ขับเคลื่อนด้วยชิปประมวลผลจาก Qualcomm

ในวันพุธที่ผ่านมา ภายในงานประชุม Snapdragon Summit ทางผู้ผลิตชิปได้ทำการสาธิตโมเดลที่มีชื่อว่า Bonsai LLM แบบ 1-bit ของ PrismML ซึ่งออกแบบให้สามารถประมวลผลบนตัวอุปกรณ์แว่นตาอัจฉริยะ AI โดยตรง บนแพลตฟอร์ม Snapdragon AR1 Gen 1

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

จุดเด่นสำคัญของ PrismML ตามรายงานก่อนหน้านี้คือความสามารถในการย่อขนาดโมเดลขนาดใหญ่ให้เล็กลงถึง 4 เท่า โดยยังคงรักษาประสิทธิภาพการทำงานบนมาตรฐานการทดสอบเอาไว้ได้เกือบทั้งหมด สำหรับเวอร์ชันที่พัฒนาให้แว่นตานี้ เป็นโมเดลขนาด 2 พันล้านพารามิเตอร์ที่ปรับแต่งมาเพื่อรองรับงานด้านการมองเห็นและภาษาโดยเฉพาะ ช่วยให้ผู้สวมใส่สามารถสอบถามข้อมูลเกี่ยวกับสิ่งที่กำลังมองเห็นอยู่ได้ทันทีแบบเรียลไทม์

เป้าหมายระยะยาวของ PrismML คือการผลักดันปัญญาประดิษฐ์แบบเปิดเผยน้ำหนัก (open-weight AI) ให้สามารถรันบนอุปกรณ์พกพาได้โดยใช้ประโยชน์จากพลังประมวลผลที่มีอยู่แล้วให้คุ้มค่าที่สุด ทางสตาร์ทอัพนำเสนอแนวทางนี้ว่าเป็นทางเลือกแทนการพึ่งพาคำมั่นสัญญาเรื่องความเป็นส่วนตัวจากห้องปฏิบัติการ AI แบบปิดที่มักต้องการพลังประมวลผลปริมาณมหาศาล