DeepSeek อัปเดต V4-Flash เวอร์ชัน 0731 ดันความสามารถ Coding และ Agentic เต็มสูบ

DeepSeek ได้ทำการอัปเดตเวอร์ชันใหม่ให้กับโมเดล DeepSeek-V4-Flash 0731 โดยเช็คพอยต์นี้มาพร้อมกับการติดตั้งโมดูล DSpark speculative decoding เพิ่มเข้ามา ทำให้โครงสร้างตรงกับ DeepSeek-V4-Flash-DSpark ทาง Hugging Face ระบุว่าที่เก็บโค้ดมีขนาดพารามิเตอร์รวม 304B ซึ่งรวมโมดูลดราฟต์ดังกล่าวที่อยู่บนพื้นฐานโมเดลหลักขนาด 284B เอาไว้เรียบร้อยแล้ว

สำหรับการใช้งานผ่าน API นั้น ตอนนี้ deepseek-v4-flash รองรับรูปแบบ Responses API และปรับแต่งให้เข้ากับ Codex เรียบร้อยแล้ว ในขณะที่ API ของ V4-Pro รวมถึงแอปพลิเคชันและโมเดลบนเว็บยังไม่ได้รับการอัปเดตในรอบนี้ โครงสร้างการเรียกใช้งานผ่าน API เปิดกว้างให้ทุกคนเข้าถึงได้ง่ายขึ้นด้วยราคาจากหน้าเว็บไซต์ DeepSeek ที่กำหนดไว้ $0.14 ต่อ 1 ล้านโทเค็นเมื่อเกิด cache miss, $0.0028 เมื่อ cache hit และ $0.28 ต่อ 1 ล้านโทเค็นสำหรับ output โดยจำกัด concurrency ไว้ที่ 2,500 ซึ่งถือว่าถูกกว่าค่าใช้จ่ายด้าน output ของ deepseek-v4-pro ที่คิดราคา $0.87 อยู่ประมาณหนึ่งในสาม ทำให้สตาร์ทอัพยุคเริ่มต้น นักพัฒนาอิสระ และทีมภายในองค์กรสามารถรัน agent loops ได้โดยไม่ต้องกังวลเรื่องงบประมาณ GPU

ในฝั่งของการนำไปโฮสต์ใช้งานเอง (Self-hosting) จะมีข้อกำหนดและอุปสรรคที่สูงกว่า แม้ว่าน้ำหนักโมเดลจะใช้งานภายใต้สัญญาอนุญาต MIT และเปิดกว้าง แต่อยู่ในเงื่อนไขที่ผู้เชี่ยวชาญทุกส่วนต้องอยู่ในหน่วยความจำตลอดเวลา แม้ว่าจะมีพารามิเตอร์เพียง 13B ที่ถูกใช้งานจริงต่อหนึ่งโทเค็นก็ตาม ตัวอย่างการใช้งาน vLLM ของ DeepSeek แนะนำให้รันบนโหนด 4×GB300 เดี่ยว ขณะที่ Unsloth ระบุว่าการทำ dynamic GGUFs สำหรับรุ่น 8-bit แบบไม่สูญเสียความแม่นยำจะมีขนาด 162 GB และรุ่น 3-bit จะมีขนาด 103 GB ซึ่งต้องใช้หน่วยความจำ RAM รวมกับ VRAM ประมาณ 110 GB แนวทางการโฮสต์เองนี้จึงเหมาะกับองค์กรขนาดกลางและขนาดใหญ่ที่มีคลัสเตอร์เซิร์ฟเวอร์ หรือเวิร์กสเตชันสเปกสูงที่ผ่านการควอนไทเซไทส์อย่างเหมาะสม

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

อ้างอิงจากรายงานทางเทคนิคของ DeepSeek-V4 ระบุว่า V4-Flash เป็นโมเดล Mixture-of-Experts (MoE) ขนาด 284B พารามิเตอร์ มีการใช้งาน 13B พารามิเตอร์ต่อโทเค็น และรองรับ context window ยาว 1 ล้านโทเค็น แต่ละชั้น MoE ประกอบด้วย 1 shared expert และ 256 routed experts โดยมีมิติภายใน (intermediate dimension) อยู่ที่ 2048 และมี routed experts ทำงาน 6 ตัวต่อหนึ่งโทเค็น ในส่วนของชั้น MoE สามชั้นแรกจะใช้ระบบ hash routing และมีความลึกในการทำนายหลายโทเค็น (multi-token prediction depth) เท่ากับ 1

สถาปัตยกรรมความสนใจหรือ Attention เป็นแบบไฮบริด ผสมผสานระหว่าง Compressed Sparse Attention (CSA) และ Heavily Compressed Attention (HCA) พร้อมใช้ Manifold-Constrained Hyper-Connections (mHC) มาแทนที่ residual connections แบบดั้งเดิม ด้วยอัตราการขยายตัว 4 และผ่านการทำ Sinkhorn-Knopp จำนวน 20 รอบ กระบวนการ pre-training ใช้โทเค็นมากกว่า 32T และใช้ตัวเพิ่มประสิทธิภาพ Muon อย่างไรก็ตาม ตัวเลขประสิทธิภาพเด่นในรายงานที่ระบุว่าประหยัด FLOPs สำหรับการอนุมานแบบ single-token ได้ 27% และประหยัด KV cache ได้ 10% เมื่อเทียบกับ DeepSeek-V3.2 ที่ context 1 ล้านโทเค็นนั้น เป็นตัวเลขของรุ่น V4-Pro ไม่ใช่รุ่น Flash โดยตัวเลขทั้งหมดอ้างอิงตามการรายงานของ DeepSeek จากการ์ดโมเดลวันที่ 0731

สำหรับการเปิดใช้งาน DSpark สามารถทำได้ผ่านแฟล็ก vLLM เพียงตัวเดียวคือ
--speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"greedy"}'
โดยรายงานของ DSpark ระบุว่าความเร็วในการสร้างข้อความต่อผู้ใช้บน V4-Flash เร็วขึ้น 60–85% เมื่อเทียบกับเบสไลน์ MTP-1 ภายใต้ปริมาณงานรวมที่เท่ากัน

ในด้านการใช้งาน ไม่มีเทมเพลตแชท Jinja มาให้ แต่ DeepSeek ได้เตรียมโฟลเดอร์ encoding/ ที่มีฟังก์ชัน encode_messages และ parse_message_from_completion_text มาแทนที่ พารามิเตอร์ reasoning_effort สามารถกำหนดค่าเป็น low, high หรือ max โดย DeepSeek แนะนำให้ตั้งค่า temperature = 1.0 และ top_p = 0.95 สำหรับการใช้งานแบบเอเจนต์ และตั้งค่าเป็น 1.0 สำหรับกรณีอื่น พร้อมรองรับ output ยาวสูงสุด 384K โทเค็นเมื่อตั้งค่าเป็น high และ max

ที่มา: MarkTechPost