AI Context Engineering (ภาค 5): ปรับแต่ง Context ให้ AI ทำงานแม่นยำขึ้น
เจาะลึกแนวทางการจัดการ Context สำหรับ AI และ Agent เพื่อส่งข้อมูลที่จำเป็นที่สุด แทนการยัดข้อมูลทั้งหมดลงใน Context Window
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- การใส่ข้อมูลจำนวนมากลงใน Context Window ไม่ได้หมายความว่าจะได้ผลลัพธ์ที่ดีเสมอไป
- Context Engineering มุ่งเน้นการสร้างชุดข้อมูลที่เล็กที่สุดแต่มีประโยชน์สูงสุดสำหรับการตัดสินใจ
- ไปพ้นจากการยัดข้อมูลแบบเดิมด้วย 4 กลไกหลัก ได้แก่ เลือก (Select), ดึงข้อมูล (Retrieve), บีบอัด (Compress) และแคช (Cache)
- การบีบอัดข้อความยาวๆ ให้เหลือเฉพาะใจความสำคัญช่วยลด Token ได้ แต่อาจเกิดการสูญเสียข้อมูลสำคัญได้เช่นกัน
บทความซีรีส์ AI Context Engineering เดินทางมาถึงภาคที่ 5 แล้ว โดยในภาคนี้จะเจาะลึกถึงเรื่อง Context Optimization หรือการปรับแต่งบริบทให้เหมาะสม หลังจากในภาคก่อนๆ ได้แนะนำแนวคิดพื้นฐาน Token, Context Window, RAG, Tool Calling และการทำงานของ AI Agent ไปแล้ว
เมื่อ AI Agent ต้องทำงานต่อเนื่องนานถึง 30 นาที ข้อมูลที่สะสมในระบบอาจเพิ่มขึ้นมหาศาล ประกอบด้วย System instructions, Conversation history, Tool definitions, Retrieved documents, Tool results, Agent state, Memory และ Current request ส่งผลให้หลายคนคิดว่าการให้ข้อมูลทั้งหมดเท่าที่มีจะช่วยให้โมเดลทำงานได้ดีที่สุด แต่ในความเป็นจริง การมีข้อมูลทั้งหมดไม่ได้แปลว่าได้ Context ที่ถูกต้องเสมอไป
หลักการสำคัญคือ แทนที่จะยัดข้อมูลเข้าไปให้มากที่สุด ควรสร้างชุดข้อมูลที่เล็กที่สุดและจำเป็นที่สุดเพื่อให้โมเดลตัดสินใจได้อย่างถูกต้องในขั้นตอนนี้ มอง Context เป็นงบประมาณการทำงานจำกัดที่มีอยู่ เราต้องพิจารณาว่าอะไรควรอยู่ อะไรควรออก อะไรควรสรุป และอะไรไม่ควรนำเข้าสู่ระบบเลย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ตัวอย่างเช่น เมื่อระบบพบปัญหา "ทำไม Payment service ถึงคืนค่า 500?" หากดึงข้อมูลทั้งหมดเข้ามา เช่น Payment service logs, Recent deployment, Database errors, Relevant code, Configuration, 500 หน้าเอกสาร และ 20 บทสนทนาก่อนหน้า จะทำให้ข้อมูลที่มีประโยชน์กลืนหายไปกับข้อมูลขยะ ดังนั้น คุณภาพของ Context จึงมีความสำคัญมากกว่าปริมาณ
ในมุมมองทางวิศวกรรม การจัดการ Context ที่ยาวเกินไปมักสร้างปัญหาเรื่อง Noise หรือสัญญาณรบกวนที่ทำให้โมเดลสับสน การจำกัดขอบเขตข้อมูลจึงเป็นหัวใจสำคัญของการพัฒนา AI ประสิทธิภาพสูงในปัจจุบัน
Pipeline ของ Context ที่ใช้งานจริงมักประกอบด้วยกลไกหลักดังนี้:
- Select (เลือกข้อมูลที่เกี่ยวข้อง)
- Retrieve (ดึงข้อมูลเมื่อจำเป็น)
- Compress (บีบอัดข้อมูลให้กระชับ)
- Cache (จัดเก็บแคชเพื่อความรวดเร็ว)
Token ที่ประหยัดที่สุดคือ Token ที่เราไม่ต้องส่งไปเลย เช่น หาก AI Coding Assistant กำลังแก้ปัญหาใน payment-service ก็ไม่จำเป็นต้องส่งโค้ดทั้ง Repository ไปทั้งหมด แต่ให้เลือกเฉพาะไฟล์ที่เกี่ยวข้องเท่านั้น เช่น handler.go, service.go, payment.go และ payment_test.go ผ่านกระบวนการ Context Selection
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น