เลิกจดค่าใช้จ่าย AI API แบบแมนนวล ด้วยเครื่องมือ auto-logging บรรทัดเดียวจบ

การเรียกใช้งาน AI API ทุกครั้งย่อมมีค่าใช้จ่ายเกิดขึ้นเสมอ แต่หากนักพัฒนาไม่ได้คอยเปิดหน้าแดชบอร์ดตรวจสอบหลังจบเซสชัน ก็แทบจะไม่รู้เลยว่าโปรเจกต์ไหนหรือโมเดลตัวใดกันแน่ที่เป็นตัวการทำให้บิลค่าใช้จ่ายพุ่งสูงขึ้น แม้ว่าเครื่องมืออย่าง AICostTracker จะเคยเปิดให้ใช้งานคำสั่งอย่าง aicost log myapp gpt-4o 1500 800 เพื่อบันทึกข้อมูลการเรียกใช้งาน แต่ในความเป็นจริงไม่มีนักพัฒนาคนไหนทำเช่นนั้นอย่างสม่ำเสมอ เนื่องจากมักจะลืมหรือกำลังเพลิดเพลินอยู่กับขั้นตอนการเขียนโค้ดและคิดว่าจะค่อยมาทำทีหลัง ส่งผลให้ข้อมูลบันทึกขาดๆ หายๆ และภาพรวมสรุปที่ได้กลายเป็นข้อมูลที่ใช้งานจริงไม่ได้

เพื่อแก้ปัญหานี้ ในเวอร์ชัน v0.1.2 จึงได้มีการเพิ่มฟังก์ชัน track() ขึ้นมา ซึ่งทำหน้าที่ห่อหุ้ม client ของทั้ง OpenAI และ Anthropic เพื่อช่วยอำนวยความสะดวกให้นักพัฒนาสามารถติดตามต้นทุนได้ทันทีโดยไม่ต้องพึ่งพาวิธีเดิมๆ

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

เมื่อเรียกใช้งานคำสั่งสรุปผล ระบบจะแสดงหน้าจอรายงานยอดค่าใช้จ่ายทั้งหมด จำนวนโทเค็นขาเข้าและขาออก พร้อมทั้งจำแนกรายละเอียดตามโปรเจกต์และโมเดลที่ใช้งานอย่างชัดเจน ตัวอย่างเช่น ยอดรวมค่าใช้จ่าย 1.2847 ดอลลาร์สหรัฐ แบ่งเป็นอินพุตโทเค็น 124,000 โทเค็น และเอาต์พุตโทเค็น 67,500 โทเค็น โดยแยกตามโปรเจกต์ myapp มูลค่า 0.9102 ดอลลาร์สหรัฐ จากการเรียกใช้งาน 31 ครั้ง และโปรเจกต์ summarizer มูลค่า 0.3745 ดอลลาร์สหรัฐ จากการเรียกใช้งาน 12 ครั้ง รวมถึงจำแนกตามโมเดล gpt-4o และ claude-3-5-sonnet

สำหรับหลักการทำงานของฟังก์ชัน track() นั้น จะทำการแพตช์ฟังก์ชัน client.chat.completions.create สำหรับ OpenAI และ client.messages.create สำหรับ Anthropic เพื่อทำการดักจับการตอบกลับ ดึงข้อมูลการใช้งานจากช่อง usage และสั่งทำงาน logUsage() ก่อนที่จะส่งผลลัพธ์กลับไป โดยกระบวนการนี้เป็นตัวห่อหุ้มแบบซิงโครนัสที่มีความบางเบาและไม่มีความหน่วงเวลาเพิ่มขึ้นแต่อย่างใด นอกจากนี้ หากเกิดข้อผิดพลาดใดๆ ขึ้นในกระบวนการบันทึก ระบบจะทำการกลืนข้อผิดพลาดนั้นไว้อย่างเงียบๆ เพื่อให้การเรียก API ของคุณได้รับคำตอบกลับมาเสมอไม่มีสะดุด

ยิ่งไปกว่านั้น อプション { project: 'myapp' } ยังเปิดโอกาสให้คุณสามารถแท็กชื่อโปรเจกต์ลงในการเรียกใช้งานแต่ละครั้งได้ หากคุณกำลังรันเอเจนต์หรือเครื่องมือหลายตัวภายในโค้ดเบสเดียวกัน คุณก็สามารถกำหนดป้ายกำกับโปรเจกต์ให้แต่ละตัวได้อย่างอิสระ สามารถดูรายละเอียดเพิ่มเติมและซอร์สโค้ดได้ที่ GitHub ของโปรเจกต์ aicost-tracker

ที่มา: Dev.to