RunAIToolkit: แพลตฟอร์มเครื่องมือ AI ทำงานบนเบราว์เซอร์

ในการสร้างเครื่องมือช่วยเหลือสำหรับเวิร์กโฟลว์ AI เช่น การประเมินจำนวนโทเค็น การทำความสะอาดรูปแบบเอาต์พุตจาก LLM หรือการตัดแบ่งภาพกริด โซลูชันออนไลน์ส่วนใหญ่มักมีข้อจำกัดที่น่าหงุดหงิดในเรื่องค่าใช้จ่ายและความหน่วง เพื่อแก้ไขปัญหาดังกล่าวสำหรับเวิร์กโฟลว์ประจำวัน ผู้พัฒนาจึงได้สร้าง RunAIToolkit ขึ้นมา ซึ่งเป็นชุดเครื่องมือ AI แบบเน้นเบราว์เซอร์เป็นหลัก (browser-first) และออกแบบมาด้วยสถาปัตยกรรมที่มีต้นทุนเซิร์ฟเวอร์เป็นศูนย์

บทความนี้จะพาไปเจาะลึกถึงเบื้องหลังการทำงานและเหตุผลว่าทำไมการประมวลผลฝั่งไคลเอนต์ (client-side execution) จึงตอบโจทย์สำหรับเครื่องมือ AI ขนาดเล็ก (micro-tools)

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

แทนที่จะส่งคำขอไปยังแบ็คเคนดเพื่อคำนวณจำนวนโทเค็น ลำดับตรรกะในการทำโทเค็นไนزชันจะทำงานโดยตรงภายใน Web Workers ฝั่งเบราว์เซอร์ ทำให้การประมวลผลรวดเร็วและไม่ต้องรอการตอบกลับจากเซิร์ฟเวอร์

เอาต์พุตดิบจากโมเดล LLM มักจะมีอาร์ทิแฟกต์ยูนิโค้ดที่ซ่อนอยู่ แท็กของระบบ และการจัดรูปแบบมาร์กดาวน์ที่ไม่สม่ำเสมอ ซึ่งเครื่องมือนี้เข้ามาช่วยจัดการส่วนดังกล่าวให้สะอาดและพร้อมใช้งาน