Microsoft เปิดตัว TokenEconomizer ปลั๊กอินลดต้นทุน AI โค้ดดิ้ง
Microsoft Research และ UC Berkeley พัฒนาปลั๊กอินโอเพนซอร์ส TokenEconomizer ช่วยลดต้นทุนโทเค็นสำหรับ coding agent ลง 18.4% ถึง 30.9% บน SWE-Bench โดยไม่ต้องปรับเปลี่ยนโครงสร้างของ AI agent
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Microsoft Research และ UC Berkeley เปิดตัว TokenEconomizer
- เป็นปลั๊กอินโอเพนซอร์สสำหรับลดต้นทุนโทเค็นของ coding agent
- ช่วยประหยัดค่าใช้จ่ายได้ 18.4% ถึง 30.9% บนชุดทดสอบ SWE-Bench
- สามารถใช้งานร่วมกับระบบเดิมได้ทันทีโดยไม่ต้องแก้ไขตัวเอเจนต์
ทีมนักวิจัยจาก Microsoft Research ร่วมมือกับสถาบันการศึกษาชั้นนำอย่าง UC Berkeley ในการพัฒนาและปล่อยตัว TokenEconomizer ซึ่งเป็นปลั๊กอินรูปแบบโอเพนซอร์ส (open-source plugin) ถูกออกแบบมาเพื่อแก้ปัญหาค่าใช้จ่ายด้านโทเค็นที่พุ่งสูงขึ้นในการใช้งานเอเจนต์เขียนโค้ดอัตโนมัติ (coding agent) โดยอาศัยการเรียนรู้จากประวัติการทำงานในเซสชันก่อนหน้าเพื่อเพิ่มประสิทธิภาพการประมวลผล
จากการทดสอบบนเกณฑ์มาตรฐาน SWE-Bench พบว่าปลั๊กอินตัวนี้สามารถช่วยลดภาระค่าใช้จ่ายในการเรียกใช้โทเค็น (token costs) ลงได้ในสัดส่วนที่น่าประทับใจตั้งแต่ 18.4% ไปจนถึง 30.9% ซึ่งถือเป็นก้าวสำคัญในการช่วยให้องค์กรและนักพัฒนาสามารถควบคุมงบประมาณในการใช้งานปัญญาประดิษฐ์ด้านการพัฒนาซอฟต์แวร์ได้อย่างมีประสิทธิภาพมากขึ้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
จุดเด่นที่สำคัญอีกประการของ TokenEconomizer คือความยืดหยุ่นในการใช้งาน โดยนักพัฒนาสามารถนำปลั๊กอินนี้ไปติดตั้งและใช้งานร่วมกับระบบ coding agent ที่มีอยู่เดิมได้ทันที โดยไม่มีความจำเป็นต้องเข้าไปปรับเปลี่ยนโครงสร้างหรือแก้ไขโค้ดภายในตัวเอเจนต์แต่อย่างใด ทำให้กระบวนการบูรณาการเทคโนโลยีนี้เข้ากับเวิร์กโฟลว์เดิมเป็นไปอย่างราบรื่นและไร้รอยต่อ
การควบคุมต้นทุนถือเป็นหนึ่งในโจทย์ที่ท้าทายที่สุดสำหรับการนำเอเจนต์ปัญญาประดิษฐ์มาใช้งานจริงในภาคอุตสาหกรรมซอฟต์แวร์ เนื่องจากโมเดลภาษาขนาดใหญ่ (LLM) มักบริโภคโทเค็นจำนวนมากในการทำความเข้าใจบริบทโปรเจกต์ขนาดใหญ่ การที่ TokenEconomizer สามารถเรียนรู้จากเซสชันในอดีตเพื่อตัดทอนข้อมูลส่วนเกินที่ไม่จำเป็นออกได้โดยไม่ลดทอนประสิทธิภาพการทำงาน จึงช่วยตอบโจทย์ด้านความคุ้มค่าทางเศรษฐศาสตร์ในการพัฒนาซอฟต์แวร์ยุคใหม่
การเปิดตัวโครงการโอเพนซอร์สนี้สะท้อนให้เห็นถึงความพยายามอย่างต่อเนื่องของ Microsoft Research ในการร่วมมือกับสถาบันวิชาการระดับโลกเพื่อผลักดันให้เครื่องมือ AI มีต้นทุนการเข้าถึงที่ต่ำลง และเปิดโอกาสให้นักพัฒนาทั่วไปสามารถนำไปต่อยอดใช้งานได้อย่างกว้างขวางยิ่งขึ้น
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น