Meta เปิดตัว MetaRoCE โปรโตคอล RDMA สำหรับโครงข่าย AI

Meta ได้ประกาศเปิดตัว MetaRoCE โปรโตคอลการขนส่งข้อมูลแบบ RDMA ที่สร้างขึ้นใหม่ตั้งแต่ต้นทางเพื่อรองรับงานปัญญาประดิษฐ์หรือ AI บนโครงข่าย Ethernet ทั่วไป การออกแบบนี้ถูกพัฒนาขึ้นเพื่อแก้ปัญหาข้อจำกัดของมาตรฐาน RoCE แบบดั้งเดิมที่มักคาดหวังว่าเครือข่ายจะต้องส่งทุกเฟรมข้อมูลตามลำดับที่ถูกต้องอย่างแม่นยำ

โครงข่ายขนาดใหญ่ระดับหลายแสน GPU ที่ Meta ใช้งานอยู่ในปัจจุบัน ทำให้เครือข่ายกลายเป็นคอขวดสำคัญในการฝึกฝนโมเดล การประมวลผลแบบรวมกลุ่มอย่าง all-reduce และ all-to-all จำเป็นต้องอาศัยการซิงโครไนซ์ตัวเร่งความเร็วจำนวนมาก ซึ่งการถ่าย2โอนข้อมูลที่ช้าที่สุดจะส่งผลให้งานทั้งหมดต้องล่าช้าตามไปด้วย

จุดเด่นสำคัญของ MetaRoCE คือการปรับเปลี่ยนแนวคิดโดยให้โครงข่ายทำหน้าที่ยืดหยุ่น และย้ายความฉลาดในการจัดการลำดับ การเลือกเส้นทาง และการกู้คืนข้อมูลไปไว้ที่ฝั่ง EndPoint หรือตัว NIC แทนการพึ่งพา PFC แบบเดิม นอกจากนี้ ระบบยังแบ่งเครือข่ายออกเป็นเส้นทางย่อยที่มีการส่งข้อมูลแบบเรียลไทม์เฉพาะตัว

"MetaRoCE maintains ~86% throughput at 1% packet loss and continues delivering useful bandwidth even at 10% loss rates, converging gracefully rather than collapsing."

MarkTechPost

ในการทดสอบบนคลัสเตอร์ GPU ของ AMD จำนวน 64 โหนดที่รัน RCCL collectives พบว่า MetaRoCE สามารถส่งมอบอัตราการรับส่งข้อมูลที่สูงกว่าและมีเวลาการทำงานเสร็จสิ้นที่ต่ำกว่าเมื่อเปรียบเทียบกับ RoCEv2 อีกทั้งยังรองรับการตรวจสอบความถูกต้องในโทโพโลยีแบบ 4-plane และ 8-plane ที่มีผู้ใช้งานเชื่อมต่อพร้อมกันสูงสุดถึง 4,000 การเชื่อมต่อ