Perplexity Hybrid Compute: ประมวลผลลูกผสมบน Mac

Perplexity ได้ประกาศเปิดตัวระบบประมวลผลลูกผสม (Hybrid Compute) บน Apple Silicon Mac สำหรับผู้ใช้งานระดับ Pro, Max และ Enterprise ที่รันระบบปฏิบัติการ macOS 15 หรือใหม่กว่า โดยฮาร์ดแวร์จะต้องมีหน่วยความจำรวมอย่างน้อย 24GB และแนะนำให้ใช้ 32GB การติดตั้งโมเดลในเครื่องสามารถทำได้ด้วยคลิกเดียวผ่านแอปบน Mac โดยไม่ต้องพึ่งพา Ollama ไม่มีรันไทม์แยก และไม่ต้องใช้ API key รวมถึงการทำงานในเครื่องจะไม่หักเครดิตบนคลาวด์แต่อย่างใด

การตัดสินใจด้านการออกแบบอยู่ที่ทิศทางการประสานงาน โดยระบบจะเริ่มต้นทุกงานบนคลาวด์ ซึ่งโมเดลขนาดใหญ่จะจัดการการค้นหาเว็บ การวางแผน และการใช้เหตุผลระยะยาว แต่เมื่อขั้นตอนใดก็ตามแตะต้องไฟล์ส่วนตัวหรือข้อมูลที่มีความอ่อนไหว ระบบจะส่งงานขั้นตอนนี้ลงมายังโมเดลท้องถิ่นบน Mac โดยไม่ต้องรีสตาร์ทงานหรือสูญเสียบริบท จากนั้นจึงรวมทั้งสองส่วนเข้าเป็นผลลัพธ์เดียว

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

กระบวนการนี้เป็นการสลับทิศทางกับโหมดประมวลผลภายในเครื่องที่ Perplexity เคยปล่อยบน NVIDIA DGX Spark ก่อนหน้านี้ ซึ่งเริ่มต้นบนฮาร์ดแวร์ของผู้ใช้และขยายสิทธิ์ขึ้นไปยังโมเดลบนคลาวด์ โดยใช้ตัวประสานงานตัวเดียวกันแต่สลับค่าเริ่มต้นกัน

เนื่องจากระบบทำงานร่วมกับ iPhone ผู้ใช้จึงสามารถสั่งการทาสก์จากระยะไกลได้ ในขณะที่ขั้นตอนที่ละเอียดอ่อนจะถูกประมวลผลบน Mac ที่ตั้งอยู่บนโต๊ะทำงาน และ Perplexity ยังเสนอให้ใช้ Mac mini ที่เปิดทำงานตลอดเวลาเป็นโหนดอนุមានในเครื่องโดยเฉพาะสำหรับรูปแบบนี้อีกด้วย