Mirendil เปิดตัว Fern 0.1 โมเดลแรกพร้อมบริบท 10M token

สตาร์ทอัพด้านปัญญาประดิษฐ์ Mirendil ได้ประกาศเปิดตัวโมเดลภาษาตัวแรกของบริษัทในชื่อ Fern 0.1 ซึ่งถูกฝึกอบรมล่วงหน้าขึ้นมาใหม่ตั้งแต่เริ่มต้น (pretrained from scratch) และมาพร้อมกับจุดเด่นด้านความจุของหน้าต่างบริบท (context window) ที่สูงถึง 10 ล้าน token ซึ่งถือเป็นก้าวสำคัญในการพัฒนาโมเดลภาษาขนาดใหญ่ที่สามารถประมวลผลข้อมูลปริมาณมหาศาลได้ในการป้อนคำสั่งครั้งเดียว

โมเดล Fern 0.1 ถูกพัฒนาขึ้นมาโดยมีกลุ่มเป้าหมายหลักคือการสนับสนุนงานวิจัยและพัฒนา (R&D) ด้านเอเจนต์ AI (agentic AI) ซึ่งระบบ AI ในรูปแบบนี้มีความจำเป็นต้องอาศัยการจดจำบริบท การอ่านเอกสารชุดใหญ่ หรือการทำความเข้าใจฐานข้อมูลที่มีความซับซ้อนและยาวนานต่อเนื่องได้อย่างแม่นยำไม่มีตกหล่น

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ในด้านผลการทดสอบประสิทธิภาพ โมเดล Fern 0.1 สามารถทำคะแนนเต็ม 100% ในบททดสอบ RULER แบบ single needle ที่ขีดจำกัดความยาว 10 ล้าน token ซึ่งสะท้อนให้เห็นถึงความสามารถในการค้นหาและดึงข้อมูลเฉพาะเจาะจงที่ซ่อนอยู่ภายในเอกสารที่มีความยาวระดับสิบล้าน token ได้อย่างแม่นยำสมบูรณ์แบบ

อย่างไรก็ตาม แม้ว่า Fern 0.1 จะทำผลงานได้น่าประทับใจในด้านการจัดการบริบท แต่รายงานระบุว่าประสิทธิภาพในส่วนของการเขียนโค้ดเชิงเอเจนต์ (agentic coding) นั้นยังคงทำได้ตามหลังโมเดลแถวหน้า (frontier models) ตัวอื่นๆ ในตลาด ซึ่งแสดงให้เห็นว่าทีมพัฒนายังคงมีพื้นที่ให้ปรับปรุงและยกระดับความสามารถในมิติอื่นๆ ต่อไปในอนาคต

ที่มา: MarkTechPost