DeepSeek เปิดโอเพนซอร์ส DeepInfer เฟรมเวิร์กอนุมานใหม่

บริษัท DeepSeek ประกาศเปิดซอร์สโค้ดของ DeepInfer ซึ่งเป็นเฟรมเวิร์กสำหรับการอนุมานหรือ Inference Framework แบบโอเพนซอร์สอย่างเป็นทางการ โดยซอฟต์แวร์ดังกล่าวพัฒนาขึ้นมาภายใต้สัญญาอนุญาตแบบ Apache 2.0 และทำหน้าที่เป็นระบบเบื้องหลังที่คอยขับเคลื่อนการประมวลผลให้กับโมเดล DeepSeek-V4.1-Flash ในสภาพแวดล้อมการใช้งานจริงระดับโปรดักชัน

ในแง่ของการรองรับฮาร์ดแวร์ DeepInfer ถูกออกแบบมาเพื่อเจาะจงกลุ่มฮาร์ดแวร์สมรรถนะสูงโดยเฉพาะ โดยในระยะเริ่มต้นนี้ตัวเฟรมเวิร์กมุ่งเป้าไปที่ชิปประมวลผลรุ่นใหม่อย่าง NVIDIA SM100 GPUs รวมถึงหน่วยประมวลผล NPU จากค่ายหัวเว่ยอย่าง Huawei Ascend 950 NPUs ซึ่งช่วยให้ทีมนักพัฒนาสามารถดึงประสิทธิภาพสูงสุดจากฮาร์ดแวร์เหล่านี้ได้

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

อย่างไรก็ตาม สำหรับความสามารถในการทำงานในปัจจุบัน DeepInfer ได้รับการระบุว่าจะรองรับการทำงานในลักษณะของการอนุมานแบบออฟไลน์ หรือ offline inference เท่านั้น ซึ่งหมายความว่ารูปแบบการประมวลผลในเบื้องต้นนี้จะเหมาะสำหรับงานประมวลผลเบื้องหลังหรือชุดข้อมูลจำนวนมากที่ไม่จำเป็นต้องตอบสนองแบบเรียลไทม์ทันทีทันใด

การปล่อยเฟรมเวิร์กตัวนี้ออกมาถือเป็นอีกหนึ่งความเคลื่อนไหวสำคัญของ DeepSeek ในการแบ่งปันเครื่องมือระดับโครงสร้างพื้นฐานให้กับชุมชนนักพัฒนาทั่วโลก เพื่อให้สามารถนำไปศึกษา ต่อยอด หรือปรับใช้ในระบบขนาดใหญ่ที่มีความต้องการประมวลผลสูงได้อย่างมีประสิทธิภาพ

ที่มา: MarkTechPost