Google Research เปิดตัว R4T เร่งความเร็ว Query Fan-Out 20 เท่า
Google Research เสนอเฟรมเวิร์ก Retrieve-for-Train (R4T) ใช้การเรียนรู้แบบเสริมแรงและโมเดิร์นดิฟฟิวชัน เร่งความเร็วการค้นหาขึ้น 12 ถึง 20 เท่า
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Google Research เปิดตัว Retrieve-for-Train (R4T) เฟรมเวิร์กเพิ่มประสิทธิภาพ Query Fan-Out
- ใช้การเรียนรู้แบบเสริมแรง (RL) แบบออฟไลน์ร่วมกับโมเดิร์นดิฟฟิวชันขนาดเล็ก
- ทำความเร็วในการประมวลผลเพิ่มขึ้นถึง 12 ถึง 20 เท่าเมื่อเทียบกับการสร้างแบบเดิม
- ทดสอบประสิทธิภาพบนชุดข้อมูลแฟชั่น Polyvore และชุดข้อมูลเพลงเฉพาะทาง
Google Research ได้พัฒนาเฟรมเวิร์กใหม่ในชื่อ Retrieve-for-Train หรือ R4T เพื่อแก้ไขปัญหาคอขวดของการทำ Query Fan-Out ซึ่งเป็นกระบวนการแยกชุดคำสั่งกว้างๆ ออกเป็นคำข่อย่อยหลายชุด โดยโมเดิร์นภาษาขนาดใหญ่มักประสบปัญหาเรื่องความหน่วงเวลาและต้นทุนการอนุมานที่สูงจากการสร้างข้อความแบบ autoregressive ควบคู่กับการเรียกค้นหาข้อมูลซ้ำๆ
เฟรมเวิร์ก R4T แก้ไขปัญหานี้ด้วยการใช้การเรียนรู้แบบเสริมแรงหรือ Reinforcement Learning เพียงครั้งเดียวในแบบออฟไลน์ เพื่อเรียนรู้ทิศทางการค้นหาที่เหมาะสม จากนั้นจึงนำพฤติกรรมดังกล่าวมากลั่นกรองเข้าสู่โมเดิร์นดิฟฟิวชันขนาดเล็กที่สามารถสร้างทิศทางการดึงข้อมูลทั้งหมดได้ภายในรอบการทำงานเดียว ส่งผลให้กระบวนการทั้งหมดมีความรวดเร็วขึ้นอย่างเห็นได้ชัด
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในการประเมินผลสำหรับงานเปิดกว้างแบบ Open-Ended Abstract Retrieval ทางทีมวิจัยได้กำหนดรางวัลที่ผสมผสานองค์ประกอบ 3 ส่วนเข้าด้วยกัน ได้แก่ ความสอดคล้องกับบริบท การปรับแต่งให้ตรงเป้าหมาย และความหลากหลาย โดยผลการทดลองชี้ให้เห็นว่าการขาดองค์ประกอบใดองค์ประกอบหนึ่งอาจทำให้โมเดิร์นเกิดการสร้างคำซ้ำหรือลดประสิทธิภาพลงได้ ขณะเดียวกันกระบวนการฝึกอบรมยังใช้งาน GRPO ร่วมกับการปรับแต่ง soft PPO regularization
การทำ Query Fan-Out ถือเป็นหัวใจสำคัญในการเพิ่มความแม่นยำให้กับระบบ Retrieval-Augmented Generation (RAG) แต่ความท้าทายหลักคือต้นทุนการคำนวณที่สูงมาก แนวทางของ R4T ที่นำเอา Diffusion Model มาประยุกต์ใช้แทนการสร้างข้อความทีละโทเค็นแบบดั้งเดิม จึงเป็นก้าวสำคัญที่ช่วยลดภาระการประมวลผลและทำให้โมเดิร์น AI สามารถตอบสนองได้รวดเร็วขึ้นในระดับเรียลไทม์
ผลการทดลองบนชุดข้อมูลแฟชั่น Polyvore และชุดข้อมูลเพลงกรรมสิทธิ์แสดงให้เห็นว่าโมเดิร์น R4T-FOLM และ R4T-Diffusion สามารถทำคะแนนประเมินโดยผู้เชี่ยวชาญด้าน LLM ได้สูงกว่าวิธี Best-of-N และ zero-shot อย่างชัดเจน โดยเฉพาะในด้านความเร็วที่การทดสอบที่ batch size 1024 แสดงให้เห็นว่าโมเดิร์นดิฟฟิวชันใช้เวลาเพียง 4.21 วินาที เทียบกับเกือบ 50 วินาทีของวิธีแบบเดิม
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น