Fastino เปิดตัว GLiNER2.5-Decide โมเดลตัดสินใจ 340M รันบน CPU ได้
Fastino ปล่อยโมเดลตัดสินใจขนาด 340Mพารามิเตอร์ GLiNER2.5-Decide ภายใต้สัญญาอนุญาต Apache 2.0 ทำงานได้บน CPU และ GPU โดดเด่นด้านการจัดหมวดหมู่แบบแม่นยำและการทำระบบ Guardrails
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Fastino เปิดตัว GLiNER2.5-Decide โมเดลตัดสินใจขนาด 340M พารามิเตอร์ ทำงานบน CPU และ GPU ได้
- ใช้สถาปัตยกรรม DeBERTa-v3-large เป็นโมเดลจำแนกประเภทแบบไม่สร้างข้อความ (non-generative classifier)
- ทำคะแนนนำใน 9 จาก 17 ชุดทดสอบของชุดข้อมูล Fast Decisions โดยเฉพาะด้าน Intent routing
- รองรับการใช้งานผ่านสคริปต์ pip install gliner2 และใช้งานภายใต้สัญญาอนุญาต Apache 2.0
Fastino ทีมนักพัฒนาปัญญาประดิษฐ์ ได้ประกาศเปิดตัว GLiNER2.5-Decide โมเดลตัดสินใจโอเพนเวทขนาด 340 ล้านพารามิเตอร์ ซึ่งถูกออกแบบมาให้สามารถทำงานได้บนหน่วยประมวลผลกลางหรือ CPU รวมถึง GPU และสภาพแวดล้อมแบบ air-gapped โดยโมเดลนี้พร้อมให้ใช้งานภายใต้สัญญาอนุญาต Apache 2.0 และสามารถติดตั้งได้อย่างง่ายดายผ่านคำสั่ง pip install gliner2 พร้อมทั้งมีบริการ API สำหรับโฮสต์และปรับแต่งโมเดลเพิ่มเติม
ในแง่ของสถาปัตยกรรม GLiNER2.5-Decide ทำหน้าที่เป็นตัวจำแนกประเภทแบบไม่สร้างข้อความ โดยพัฒนาต่อยอดมาจาก gliner2-large-v1 และใช้เอ็น코เดอร์ DeBERTa-v3-large โมเดลนี้ไม่สร้างโทเค็นขึ้นมาใหม่และไม่ต้องใช้เทมเพลตพร้อมท์ ชุดป้ายกำกับจะถูกส่งเข้ามาในเวลาที่มีการเรียกใช้งาน โดยแต่ละคำถามในสืชมิวจะกำหนดคำตอบที่อนุญาต รวมถึงระบุว่าต้องการคำตอบเดียว หลายคำตอบ หรือค่าตามลำดับ พร้อมทั้งสามารถแนบคำสั่ง ตัวอย่าง คำอธิบายป้ายกำกับ และกฎที่เชื่อมโยงคำตอบระหว่างคำถามได้ทันที
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
กระบวนการทำงานของโมเดลแบ่งออกเป็น 2 ขั้นตอนหลัก ได้แก่ เอ็นโคเดอร์ที่อ่านข้อความและสืชมิวร่วมกันเพื่อประเมินคะแนนของคำตอบที่อนุญาตทุกตัว จากนั้นตัวถอดรหัสแบบมีเงื่อนไขจะค้นหาชุดคำตอบร่วมที่มีคะแนนสูงสุดตามกฎที่กำหนดไว้ อย่างไรก็ตาม ทาง Fastino ได้ระบุขอบเขตการทำงานไว้อย่างชัดเจนว่า โมเดลนี้ไม่ได้ถูกสร้างขึ้นมาเพื่อให้เหตุผล อธิบาย หรือตอบคำถามปลายเปิด แต่เป็นผู้เชี่ยวชาญเฉพาะด้านสำหรับการตัดสินใจเชิงปฏิบัติการ
ทีมงานได้ยกตัวอย่างการใช้งานในระบบป้องกันความปลอดภัยหรือ Guardrails ซึ่งโมเดลสามารถตรวจจับการโจมตีด้วยการแทรกพร้อมท์ได้ โดยใช้การถอดรหัสแบบร่วมเพื่อใช้กฎว่า หากตรวจพบความเสียหายใด ๆ จะต้องตัดสินว่าไม่ปลอดภัยทันที ทำให้ระบบสามารถส่งคืนค่าความปลอดภัยเป็น unsafe และระบุประเภทความเสียหายได้พร้อมกัน เพื่อให้โค้ดส่วนปลายทางนำไปใช้ในการบล็อก ส่งต่อ หรือยกระดับความปลอดภัยต่อไปได้
การที่โมเดลตัดสินใจเลือกใช้แนวทาง non-generative classifier แทนโมเดลภาษาขนาดใหญ่ (LLM) แบบดั้งเดิม ถือเป็นกลยุทธ์สำคัญในการลดต้นทุนและเวลาประมวลผลสำหรับงานประเภทปฏิบัติการ การที่โมเดลไม่ต้องสร้างข้อความยาว ๆ ออกมาช่วยตัดปัญหาเรื่องฮัลซิเนชัน (Hallucination) และทำให้การทำงานร่วมกับระบบอัตโนมัติหรือโค้ดปลายทางมีความแม่นยำสูงขึ้นอย่างมาก
ในการประเมินประสิทธิภาพ ทาง Fastino ได้ทดสอบโมเดลบนชุดข้อมูลทดสอบ Fast Decisions ที่สร้างขึ้นภายใน ซึ่งประกอบด้วยตัวอย่างทดสอบ 5,100 รายการจาก 17 ชุดข้อมูล ครอบคลุมงานด้านการดำเนินงานของลูกค้า การจัดเส้นทางโดเมน และความเข้าใจเนื้อหาทั่วไป โดยวัดผลด้วยความแม่นยำแบบตรงตัว (exact-match accuracy)
ผลปรากฏว่า GLiNER2.5-Decide สามารถทำคะแนนนำเป็นอันดับหนึ่งใน 9 จาก 17 ชุดข้อมูล โดยมีความโดดเด่นอย่างมากในด้านการจัดเส้นทางความตั้งใจของผู้ใช้งาน (Intent routing) ทำคะแนนได้ 75.3% ในหมวด support intent และ 64.3% ในหมวด banking intent ซึ่งสูงกว่าโมเดลรุ่นใกล้เคียงกันถึง 18.6 และ 8.6 จุด นอกจากนี้ ทาง Fastino ยังได้เปิดตัวโมเดลทางเลือกอื่น ๆ เช่น GLiNER2.5-Decide-1B ขนาด 1 พันล้านพารามิเตอร์ และรุ่นรองรับหลายภาษา GLiNER2.5-multi-Decide ขนาด 287 ล้านพารามิเตอร์ เพื่อตอบสนองความต้องการใช้งานที่หลากหลาย
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น