Zyphra ZYFA เปิดตัว FP8 FlashAttention เร็วขึ้น 1.76 เท่าสำหรับ AMD MI355X
Zyphra เปิดตัว ZYFA เคอร์เนล FP8 และ BF16 สำหรับจีพียู AMD Instinct MI355X เร็วขึ้น 1.16-1.76 เท่าและลดความผิดพลาดลง 62-78%
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Zyphra เปิดตัว ZYFA เคอร์เนล prefill attention แบบ open-source สำหรับ AMD Instinct MI355X
- เคอร์เนล FP8 ทำงานเร็วขึ้น 1.16 ถึง 1.76 เท่าเมื่อเทียบกับระบบ AITER ของ AMD
- มีความแม่นยำสูงขึ้นโดยลดความผิดพลาดลง 62-78% ที่ขนาดหัว (head dimension) 128
Zyphra ได้สร้างความฮือฮาให้กับวงการปัญญาประดิษฐ์อีกครั้งด้วยการปล่อย ZYFA ซึ่งเป็นเคอร์เนล prefill attention รูปแบบ FP8 และ BF16 แบบ open-source ที่ได้รับการปรับแต่งมาเป็นพิเศษสำหรับฮาร์ดแวร์ตระกูล AMD Instinct MI355X โดยเฉพาะ การพัฒนาครั้งนี้มุ่งเน้นไปที่การรีดประสิทธิภาพการประมวลผลโมเดลภาษาขนาดใหญ่ให้ทำงานได้อย่างรวดเร็วและมีเสถียรภาพมากยิ่งขึ้นบนสถาปัตยกรรมชิปของ AMD
จากการทดสอบบนการทำงานจริงของโมเดล (real model activations) พบว่าเคอร์เนล FP8 ของ ZYFA สามารถทำความเร็วเหนือกว่าระบบ AITER ดั้งเดิมของทาง AMD ได้อย่างชัดเจน โดยมีความเร็วเพิ่มขึ้นในช่วง 1.16 ถึง 1.76 เท่า ซึ่งถือเป็นการยกระดับความเร็วครั้งสำคัญสำหรับการประมวลผลงานด้าน AI ที่ต้องการสมรรถนะสูง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
นอกจากเรื่องความเร็วแล้ว ZYFA ยังให้ความสำคัญกับความแม่นยำของผลลัพธ์ โดยรายงานระบุว่าเคอร์เนลดังกล่าวสามารถลดความผิดพลาดลงได้ถึง 62 ถึง 78 เปอร์เซ็นต์ ณ ขนาดหัว (head dimension) ที่ระดับ 128 ซึ่งช่วยแก้ปัญหาเรื่องความคลาดเคลื่อนที่มักเกิดขึ้นในการประมวลผลแบบความแม่นยำต่ำ (low-precision)
การเปิดตัว ZYFA ของ Zyphra สะท้อนให้เห็นถึงความพยายามในการผลักดันระบบนิเวศฮาร์ดแวร์ของ AMD ให้ทัดเทียมกับฝั่ง NVIDIA ในงานด้านปัญญาประดิษฐ์ การพัฒนาเคอร์เนลเฉพาะทางเช่น FlashAttention ในรูปแบบ FP8 ช่วยให้ผู้พัฒนาสามารถประหยัดทรัพยากรหน่วยความจำและเร่งความเร็วในการฝึกฝนหรืออนุมานโมเดล AI ได้ดีขึ้นบนชิป MI355X ซึ่งอาจกลายเป็นทางเลือกสำคัญสำหรับศูนย์ข้อมูลที่ต้องการลดต้นทุนการประมวลผล
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น