NVIDIA เปิดตัว Kumo Tabular โมเดลพื้นฐานข้อมูลตาราง
NVIDIA เปิดตัว Kumo Tabular โมเดลพื้นฐานข้อมูลตารางแบบโอเพนซอร์ส มี 3 ขนาดพารามิเตอร์ 28M-215M รองรับการใช้งานเชิงพาณิชย์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- NVIDIA เปิดตัว Kumo Tabular โมเดลพื้นฐานข้อมูลตาราง (Tabular Foundation Model)
- มีให้เลือก 3 ขนาด ได้แก่ Small, Medium และ Large พารามิเตอร์ตั้งแต่ 28 ล้านถึง 215 ล้านพารามิเตอร์
- รันผ่านไลบรารี structured-data-models (SDM) ที่รองรับการประมวลผลบน GPU โดยตรง
- น้ำหนักโมเดลใช้งานภายใต้สัญญาอนุญาต OpenMDW-1.1 อนุญาตให้นำไปใช้ในเชิงพาณิชย์ได้
NVIDIA ได้ประกาศเปิดตัว Kumo Tabular โมเดลพื้นฐานสำหรับข้อมูลตาราง (Tabular Foundation Model) ที่ออกแบบมาเพื่อการทำนายแถวใหม่ในการส่งข้อมูลผ่านครั้งเดียว (Single Forward Pass) โดยตัวโมเดลถูกพัฒนาขึ้นมาใน 3 ขนาดความจุ ได้แก่ Small, Medium และ Large ซึ่งมีจำนวนพารามิเตอร์ตั้งแต่ประมาณ 28 ล้านถึง 215 ล้านพารามิเตอร์ โมเดลทั้งหมดทำงานผ่านไลบรารี structured-data-models (SDM) ซึ่งเป็นไลบรารีโอเพนซอร์สที่ออกแบบมาสำหรับโมเดลข้อมูลที่มีโครงสร้างโดยเฉพาะ
ในด้านการนำไปใช้งานจริง Kumo Tabular ถือเป็นทางเลือกที่ยืดหยุ่นเนื่องจากน้ำหนักโมเดลเผยแพร่ภายใต้สัญญาอนุญาต OpenMDW-1.1 ซึ่งเปิดกว้างให้สามารถนำไปใช้ประโยชน์ในเชิงพาณิชย์ได้ สำหรับซอร์สโค้ดของ SDM นั้นใช้สัญญาอนุญาต Apache-2.0 โดยระบบต้องการสภาพแวดล้อมการทำงานอย่างน้อยคือ Python 3.11 และ PyTorch 2.7 พร้อมตัวอย่างการใช้งานที่กำหนดเป้าหมายบน CUDA GPU
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ไลบรารี SDM เป็นระบบแบบ GPU-native ที่รองรับทั้งโมเดลพื้นฐานข้อมูลตารางและการประมวลผลล่วงหน้า (Preprocessing) นอกจาก Kumo Tabular แล้ว ภายในไลบรารียังประกอบด้วยโมเดลอื่นๆ เช่น TabICLv2, TabFM ของ Google และ KumoRelational สำหรับข้อมูลหลายตาราง โดยทุกโมเดลใช้ส่วนติดต่อการเรียนรู้แบบ in-context ร่วมกันผ่านคอนเทนเนอร์ TableTensor อีกทั้งยังรองรับการจัดการข้อมูลล่วงหน้า การทำ ensembling และการทำนายคลาสที่มีจำนวนมากได้
สถาปัตยกรรมของ Kumo Tabular สร้างขึ้นรอบโครงสร้างของตารางโดยใช้กลไก attention ทั้งแบบคอลัมน์ แถว และแบบ in-context โดยกระบวนการทำงานแบ่งออกเป็น 3 ขั้นตอนสำคัญ ซึ่งช่วยให้การคำนวณคีย์และค่า (Keys and Values) ถูกประมวลผลเพียงครั้งเดียวและนำกลับมาใช้ซ้ำได้ ส่วนหัวของโมเดลจะให้ผลลัพธ์เป็นความน่าจะเป็นของคลาส หรือค่า quantiles จำนวน 999 ค่าสำหรับการถดถอย (Regression) ทำให้ได้ทั้งการทำนายจุดและการประเมินความไม่แน่นอน
การพัฒนาโมเดลพื้นฐานสำหรับข้อมูลตาราง (Tabular Foundation Models) ถือเป็นก้าวสำคัญในวงการแมชชีนเลิร์นนิง เนื่องจากข้อมูลในภาคธุรกิจส่วนใหญ่ยังคงอยู่ในรูปของตารางฐานข้อมูลหรือ CSV มากกว่าข้อความหรือรูปภาพ การที่ NVIDIA เปิดโมเดลเหล่านี้พร้อมสัญญาอนุญาตที่เอื้อต่อการค้า เช่น OpenMDW-1.1 จึงช่วยลดอุปสรรคให้องค์กรธุรกิจสามารถนำเทคโนโลยี Deep Learning มาประยุกต์ใช้กับข้อมูลตารางได้อย่างรวดเร็วโดยไม่ต้องฝึกโมเดลใหม่ทั้งหมดจากศูนย์
ในด้านการฝึกอบรม Kumo Tabular ได้รับการฝึกฝนล่วงหน้าจากตารางสังเคราะห์ที่สุ่มมาจาก Structural Causal Models (SCMs) โดยมีการจำลองความซับซ้อนของข้อมูลในโลกความเป็นจริง เช่น ค่าที่ขาดหายไป ข้อมูลที่มีความหลากหลายสูง และแถวที่ซ้ำกันแต่ขัดแย้งกัน การฝึกอบรมแบ่งออกเป็น 3 ระยะ โดยบริบทข้อมูลเติบโตจาก 1,024 แถว สู่ 60,000 แถว และมีคอลัมน์สูงสุดถึง 100 คอลัมน์
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น