Cohere เปิดตัว Embed 5 เผยสเปก ความเร็ว และราคา
Cohere ปล่อยโมเดล Embed 5 สองระดับ Pro และ Fast ชูจุดเด่นรองรับภาพและข้อความ ประมวลผลสูง 377.3 เอกสารต่อวินาที
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Cohere เปิดตัว Embed 5 สองรุ่นย่อยคือ Pro และ Fast เปิดให้ใช้งานทั่วไปแล้ว
- รุ่น Fast ประมวลผลเอกสารได้ 377.3 ต่อวินาที สูงกว่ารุ่น Pro ที่ทำได้ 159.7
- ทำคะแนนนำคู่แข่งบน ViDoRe V3 และชุดทดสอบการเงิน FinanceBench
- รองรับการแปลงความยาวเวกเตอร์และการลดความแม่นยำเพื่อประหยัดพื้นที่จัดเก็บ
Cohere ประกาศเปิดตัวโมเดลฝังตัวรุ่นล่าสุด Embed 5 อย่างเป็นทางการ โดยมีให้เลือกใช้งานทั้งรุ่น Pro และรุ่น Fast ซึ่งพร้อมให้บริการบนแพลตฟอร์มต่างๆ เช่น Cohere API, Model Vault, Microsoft Foundry และ Amazon SageMaker รวมถึงรองรับการรันผ่าน vLLM สำหรับระบบ Private VPC หรือ on-premise
โมเดลรุ่นใหม่นี้แบ่งรหัส API เป็น embed-v5.0-pro และ embed-v5.0-fast โดยโมเดลทั้งสองระดับสามารถรองรับมิติข้อมูลได้หลากหลาย ตั้งแต่ 2048, 1536, 1024, 768, 512 ไปจนถึง 256 มิติ โดยมีค่าเริ่มต้นอยู่ที่ 2048 มิติ พร้อมผลลัพธ์การฝังตัวในรูปแบบ float, int8 หรือ binary
ในด้านความสามารถ Embed 5 สามารถฝังภาพหน้าเอกสารได้โดยตรง และยังสามารถผสานภาพเข้ากับเมตาดาตาสู่เวกเตอร์เดียวได้ ซึ่งมีความสำคัญอย่างยิ่งสำหรับหน้าเอกสารที่สแกน สไลด์พรีเซนต์เตชัน แผนผัง และแผนภูมิ ที่การดึงข้อความแบบเดิมอาจทำให้ข้อมูลตกหล่นไป
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการใช้งาน Cohere ได้ทดสอบชุดข้อมูลและคำค้นหาถึง 40 ชุดพัฒนา โดยแนะนำรูปแบบการใช้งานที่เหมาะสมคือ ใช้รุ่น Pro สำหรับการทำดัชนี (index) ข้อมูล และใช้รุ่น Fast สำหรับการค้นหา (query) ซึ่งให้คะแนนประสิทธิภาพรวมสูงถึง 98.4 เมื่อเทียบกับการใช้ Pro ทั้งหมดที่ 100 ภายใต้เงื่อนไขที่ทั้งสองฝ่ายต้องใช้มิติข้อมูลขนาดเดียวกัน
"Fast processed 377.3 documents per second versus 159.7 for Pro."
Cohere Team
ในแง่ของผลการทดสอบบน ViDoRe V3 นั้น Embed 5 Pro ทำคะแนนเฉลี่ยได้ 85.8 ซึ่งสูงกว่ารุ่นก่อนหน้าอย่าง Embed 4 อยู่ 8.8 คะแนน ขณะที่รุ่น Fast ทำได้ 84.5 โดยทำคะแนนเหนือกว่าคู่แข่งอย่าง Voyage 4 Large ที่ 83.7, Gemini Embedding 2 ที่ 83.2 และ OpenAI text-embedding-3-large ที่ 75.5 นอกจากนี้ยังมีผลงานโดดเด่นเป็นอันดับหนึ่งในหมวดการเงินบน FinanceBench, FinQA และ ViDoRe V3 Finance อีกด้วย
การพัฒนาโมเดล Embedding ยุคใหม่มุ่งเน้นไปที่ความเร็วและการลดขนาดข้อมูลผ่านเทคนิค Matryoshka representation learning ซึ่งช่วยให้ระบบค้นหาข้อมูล (Retrieval-Augmented Generation หรือ RAG) ทำงานร่วมกับ AI Agent ได้รวดเร็วขึ้น การที่ Cohere แยกสถาปัตยกรรมออกเป็นรุ่น Pro และ Fast สะท้อนถึงความพยายามในการบาลานซ์ระหว่างความแม่นยำสูงสุดในการจัดทำดัชนีกับความเร็วระดับมิลลิวินาทีที่ Agent จำเป็นต้องใช้ในการค้นหาข้อมูลซ้ำๆ หลายครั้งต่อหนึ่งงาน
ด้านต้นทุนการใช้งาน รุ่น Pro มีราคา 0.12 ดอลลาร์สหรัฐต่อ 1 ล้านโทเค็นข้อความ ส่วนรุ่น Fast อยู่ที่ 0.08 ดอลลาร์สหรัฐ ขณะที่อินพุตที่เป็นภาพคิดราคา 0.40 ดอลลาร์สหรัฐต่อ 1 ล้านโทเค็นเท่ากันทั้งสองรุ่น พร้อมทั้งใช้เทคนิค Matryoshka และการลดความแม่นยำเพื่อช่วยลดพื้นที่จัดเก็บข้อมูลจากหลักร้อยกิกะไบต์เหลือเพียงไม่กี่กิกะไบต์สำหรับข้อมูลขนาดใหญ่
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น