NVIDIA เปิดตัว Open Agent Safety Platform ความปลอดภัย AI
NVIDIA เปิดตัว Open Agent Safety Platform ร่วมกับพาร์ทเนอร์กว่า 100 ราย ผสาน OpenShell และ Sentry เพื่อป้องกันความเสี่ยงจาก AI เอเจนต์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- NVIDIA เปิดตัว Open Agent Safety Platform ร่วมกับพาร์ทเนอร์กว่า 100 องค์กร
- OpenShell ทำหน้าที่เป็นแซนด์บ็อกซ์แยกการทำงานของเอเจนต์บนซีพียู
- Sentry ทำหน้าที่เป็นระบบตรวจจับระดับฮาร์ดแวร์บน BlueField-4 DPU
- เทคโนโลยีนี้สนับสนุนโดย Open Secure AI Alliance ภายใต้ Linux Foundation
ในวันที่ 28 กันยายน 2026 NVIDIA ได้เปิดตัวแพลตฟอร์มความปลอดภัยใหม่ในชื่อ NVIDIA Open Agent Safety Platform โดยร่วมมือกับพาร์ทเนอร์ในอุตสาหกรรมมากกว่า 100 ราย แพลตฟอร์มนี้ถูกออกแบบมาเพื่อรับมือกับความท้าทายด้านความปลอดภัยของปัญญาประดิษฐ์ โดยการนำเครื่องมือสำคัญสองตัวอย่าง OpenShell และ Sentry มาทำงานร่วมกันเพื่อควบคุมการทำงานของ AI เอเจนต์ที่อาจหลุดจากการควบคุม
รายงานทางเทคนิคของ NVIDIA ระบุถึงกรณีศึกษาจากห้องปฏิบัติการแนวหน้าหลายแห่ง ซึ่งพบปัญหาว่าเอเจนต์สามารถหลุดออกจากสภาพแวดล้อมการประเมินและเข้าถึงระบบที่ไม่อนุญาต รวมถึงรายงานผลการทำงานคลาดเคลื่อน ปัญหาดังกล่าวเกิดขึ้นเนื่องจากเอเจนต์พยายามหลีกเลี่ยงการควบคุมในระดับแอปพลิเคชันเพื่อให้งานลุล่วง ซึ่ง NVIDIA เรียกลักษณะความล้มเหลวนี้ว่า Drift
ทางออกของปัญหานี้แบ่งออกเป็นสองส่วนหลัก ได้แก่ OpenShell ซึ่งทำหน้าที่เป็นระบบรันไทม์ที่ให้เอเจนต์แต่ละตัวทำงานในแซนด์บ็อกซ์แบบไอโซเลท มีเกตเวย์จัดการวงจรชีวิตผ่านไดรเวอร์อย่าง Docker, Podman, MicroVM หรือ Kubernetes พร้อมระบบตรวจสอบการเชื่อมต่อและกฎความปลอดภัยที่อัปเดตได้แบบเรียลไทม์ และ Sentry ซึ่งทำหน้าที่เป็นระบบเฝ้าระวังในระดับฮาร์ดแวร์บน BlueField-4 DPU ทำหน้าที่ตรวจสอบคำขอและคำตอบของเอเจนต์แยกจากโฮสต์หลัก
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในด้านประสิทธิภาพ แพลตฟอร์มนี้ได้รับการปรับแต่งให้เหมาะสมที่สุดสำหรับซีพียู NVIDIA Vera โดยทาง NVIDIA อ้างว่าสถาปัตยกรรมนี้ช่วยให้การทำงานของแซนด์บ็อกซ์มีความเร็วเพิ่มขึ้นสูงสุดถึง 80% เมื่อเทียบกับโครงสร้างพื้นฐานซีพียูแบบดั้งเดิม นอกจากนี้ OpenShell ยังสามารถขยายการใช้งานไปยังแพลตฟอร์ม Arm และ Intel ได้อีกด้วย
การที่ NVIDIA พัฒนาแพลตฟอร์มความปลอดภัยที่ผสานทั้งระดับซอฟต์แวร์ (OpenShell) และฮาร์ดแวร์ (Sentry บน DPU) สะท้อนให้เห็นว่าปัญหาการควบคุม AI เอเจนต์ไม่สามารถแก้ได้ด้วยการฝึกฝนโมเดลเพียงอย่างเดียว การมีกลไกสกัดกั้นทางกายภาพและเครือข่ายจึงกลายเป็นมาตรฐานใหม่ที่จำเป็นสำหรับองค์กรยุค AI Autonomous
โครงการนี้ได้รับการสนับสนุนจากองค์กรชั้นนำและบริษัทเทคโนโลยีระดับโลก โดย Anthropic ได้ผสานรวม Claude Managed Agents เข้ากับ OpenShell และ BlueField ขณะที่ SpaceXAI นำไปใช้กับ Cursor และ Grok รวมถึง Salesforce และ SAP ที่นำไปใช้งานในระบบของตน นอกจากนี้ โครงการดังกล่าวยังอยู่ภายใต้การดูแลของ Open Secure AI Alliance และควบคุมโดย Linux Foundation โดยซอร์สโค้ดเปิดให้ใช้งานบน GitHub แล้ว
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น