NVIDIA PAIR 2026: เปิดตัวเราเตอร์ AI เสมือนโอเพนซอร์ส
NVIDIA เปิดตัว Personal AI Router (PAIR) เวอร์ชัน v0.1.1 จัดการกระจายคำขอ AI ในเครือข่ายท้องถิ่น รองรับทั้ง RTX, DGX Spark และ Mac
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- NVIDIA เปิดตัว PAIR เวอร์ชัน public beta (v0.1.1) เป็นโอเพนซอร์สใต้สัญญาอนุญาต Apache 2.0 บน GitHub
- ทำหน้าที่เป็นเราเตอร์การอนุมานเสมือน (virtual inference router) คอยกระจายคำขอไปยังโหนดต่างๆ ในเครือข่ายภายใน
- รองรับการใช้งานร่วมกับ Ollama และ LM Studio รวมถึงมีพร็อกซีเอนด์จุดที่รองรับ OpenAI
- ประหยัดเวลาด้วยการทดสอบสาธิตลดระยะเวลาประมวลผลงานจาก 18 นาทีเหลือ 8 นาที 48 วินาทีบนคลัสเตอร์ 3 อุปกรณ์
บริษัท NVIDIA ได้เปิดตัวเครื่องมือใหม่ในสัปดาห์นี้ที่มีชื่อว่า Personal AI Router หรือ PAIR (เวอร์ชัน v0.1.1) ซึ่งทำหน้าที่เป็นเราเตอร์การอนุมานเสมือน (virtual inference router) โดยระบบนี้ไม่ได้ทำหน้าที่เป็นเอนจิ้นการอนุมานตัวใหม่ แต่จะทำหน้าที่ค้นหาเครื่องคอมพิวเตอร์ที่ใช้งานร่วมกันได้ภายในเครือข่ายภายในบ้าน และจัดตารางเวลาคำขอการอนุมานอิสระไปยังเครื่องเหล่านั้น โดยเครื่องมืออย่าง Ollama หรือ LM Studio จะยังคงเป็นตัวรันโมเดลบนโหนดที่ PAIR เลือกใช้งาน
ในด้านการใช้งานจริง PAIR พร้อมให้ใช้งานแล้วในรูปแบบ public beta พร้อมตัวติดตั้งที่ลงนามแล้วสำหรับ Windows, macOS และ Linux โดยมีซอร์สโค้ดเต็มรูปแบบบน GitHub ภายใต้สัญญาอนุญาต Apache 2.0 ระบบนี้ทำงานทั้งหมดบนเครือข่ายท้องถิ่น โดยจำเป็นต้องเชื่อมต่ออินเทอร์เน็ตเฉพาะตอนดาวน์โหลดโมเดลเท่านั้น
การตัดสินใจด้านการออกแบบที่สำคัญคือ PAIR ไม่ได้แนะนำ cluster API ตัวใหม่ แต่จะทำหน้าที่เป็นพร็อกซีสำหรับอินเทอร์เฟซที่รองรับ Ollama และ LM Studio ที่เอเจนต์ใช้งานอยู่แล้ว โดยจะเข้าควบคุมพอร์ตเริ่มต้นที่แต่ละเอนจิ้นใช้งานอยู่ หากฮาร์ดแวร์ฟังข้อมูลที่อื่น พอร์ตพร็อกซีจะสามารถกำหนดค่าได้ในการตั้งค่าเอนจิ้นของ PAIR รวมถึงมีพร็อกซีเอนด์จุดที่รองรับ OpenAI อีกด้วย ส่งผลให้ฮาร์ดแวร์เอเจนต์ที่มีอยู่เดิมไม่ต้องทำการเปลี่ยนแปลงใดๆ เอเจนต์จะเป็นตัวตัดสินใจว่าจะร้องส่งงานอะไร และ PAIR จะเป็นผู้เลือกว่างานนั้นจะไปรันที่ไหน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการค้นหาโหนดใกล้เคียง PAIR จะใช้โปรโตคอล mDNS โดยอัตโนมัติ และสามารถเพิ่มโหนดผ่านทาง IP Address ได้หากการค้นหาล้มเหลว การสร้างความเชื่อใจจะทำผ่านรหัส PIN 6 หลักที่แสดงบนเครื่องที่เชิญและป้อนในเครื่องที่ถูกเชิญ การสื่อสารทั้งหมดระหว่างโหนดจะถูกบล็อกจนกว่าจะจับคู่เสร็จสิ้น จากนั้นการรับส่งข้อมูลระหว่างโหนดที่จับคู่จะถูกรักษาความปลอดภัยด้วย mTLS ผ่านใบรับรองที่สร้างขึ้น
โหนดแต่ละโหนดจะรัน Ollama หรือ LM Studio โดย PAIR สามารถติดตั้งเอนจิ้นและเริ่มดาวน์โหลดโมเดลบนระบบที่จับคู่กันได้ ช่วยลดขั้นตอนการตั้งค่าข้ามเครื่องเป็นอย่างมาก โหนดจะมีสิทธิ์ได้รับคำขอเมื่อเปิดใช้งานเอนจิ้นที่จำเป็นและมีโมเดลที่ต้องการอยู่ครบถ้วน โดยโมเดลไม่จำเป็นต้องเหมือนกันทุกโหนดในคลัสเตอร์
"On one RTX Spark laptop, the workload took 18 minutes on average. On a three-device PAIR cluster consisting of an RTX Spark laptop, a DGX Spark, and an RTX 5090, it averaged 8 minutes and 48 seconds."
NVIDIA Demonstration
การเปิดตัว Personal AI Router (PAIR) ของ NVIDIA สะท้อนให้เห็นถึงความพยายามในการแก้ปัญหาคอขวดของการประมวลผลโมเดลภาษาขนาดใหญ่ (LLM) ในระดับฮาร์ดแวร์ภายในบ้านหรือสำนักงาน แทนที่จะต้องพึ่งพาฮาร์ดแวร์ราคาแพงเครื่องเดียว การเชื่อมโยงทรัพยากรที่มีอยู่แล้วอย่างการ์ดจอ GeForce RTX, DGX Spark หรือชิป Apple Silicon เข้าด้วยกันผ่านเครือข่ายภายใน ถือเป็นแนวทางแบบกระจายศูนย์ที่ช่วยเพิ่มประสิทธิภาพการทำงานของเอเจนต์ AI ได้อย่างคุ้มค่าโดยไม่ต้องเปลี่ยนแปลงสถาปัตยกรรมซอฟต์แวร์เดิม
ระบบนี้รองรับกราฟิกการ์ด GeForce RTX ซีรีส์ 20 ขึ้นไป, RTX PRO เวิร์กสเตชันจากสถาปัตยกรรม Turing, DGX Spark และชิป Apple M4 ขึ้นไป โดยโหนด Windows, Linux และ macOS สามารถจับคู่กันได้ทั้งสถาปัตยกรรม x64 และ arm64 สำหรับผู้สนใจสามารถติดตามรายละเอียดเพิ่มเติมได้ที่หน้าผลิตภัณฑ์และบล็อกเทคนิคอย่างเป็นทางการของ NVIDIA
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น