<div class="key-takeaways"><ul><li>GSK ร่วมมือกับ Relation Therapeutics มูลค่าสูงสุด 110 ล้านดอลลาร์</li><li>มุ่งสร้างชุดข้อมูลขนาดใหญ่เพื่อฝึกฝนโมเดล AI ในแพลตฟอร์ม MORGAN</li><li>ผสานการทดลองในห้องปฏิบัติการกับการวิเคราะห์เชิงคำนวณเข้าด้วยกัน</li><li>เน้นย้ำความสำคัญของคุณภาพและความหลากหลายของข้อมูลชีวภาพเชิงเดี่ยว</li></ul></div><p>บริษัทเภสัชภัณฑ์ระดับโลกอย่าง GSK ได้บรรลุข้อตกลงความร่วมมือด้านการวิจัยมูลค่าสูงสุด 110 ล้านดอลลาร์สหรัฐ กับ Relation Therapeutics บริษัทเทคโนโลยีชีวภาพจากสหราชอาณาจักร โดยข้อตกลงดังกล่าวเป็นการขยายขอบเขตการทำงานร่วมกันที่มีอยู่เดิมในด้านการใช้ปัญญาประดิษฐ์หรือ AI เพื่อช่วยค้นคว้าและพัฒนายาใหม่</p><p>ภายใต้เงื่อนไขของสัญญา Relation จะทำหน้าที่สร้างชุดข้อมูลขนาดใหญ่ที่วัดผลการตอบสนองของเซลล์มนุษย์ต่อความเปลี่ยนแปลงทางพันธุกรรมและการใช้ยา ข้อมูลชุดนี้จะถูกนำไปใช้ฝึกฝนโมเดล AI ที่ออกแบบมาเพื่อระบุเป้าหมายในการรักษาโรค รวมถึงโมเดลต่างๆ ที่อยู่ในแพลตฟอร์ม MORGAN ของทางบริษัทเอง</p><div class="stat-row"><div class="stat-item"><span class="stat-number">$110M</span><span class="stat-label">มูลค่าความร่วมมือสูงสุดระหว่าง GSK และ Relation</span></div><div class="stat-item"><span class="stat-number">100M+</span><span class="stat-label">จำนวนเซลล์มาตรฐานในคลัง CZ CELLxGENE</span></div></div><p>แนวทางวิจัยของ Relation ได้ผสานการสร้างข้อมูลชีวภาพควบคู่ไปกับการพัฒนาโมเดล AI โดยกระบวนการวิจัยจะเชื่อมโยงการวิเคราะห์เชิงคำนวณเข้ากับการทดลองจริงที่สร้างข้อมูลใหม่เกี่ยวกับเซลล์มนุษย์ ความร่วมมือครั้งนี้ต่อยอดมาจากข้อตกลงก่อนหน้านี้ระหว่างทั้งสองบริษัทที่เคยร่วมมือกันศึกษาโรคพังผืดและโรคข้อเสื่อม ซึ่งโครงการเหล่านั้นเกี่ยวข้องกับการศึกษาเชิงสังเกตการณ์เพื่อสร้างชุดข้อมูลโรคสำหรับการวิเคราะห์ผ่านแพลตฟอร์ม Lab-in-the-Loop</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/gsk_relation_therapeutics_ai_msd4rdw0_inline_1_b9e6b52777.jpg" alt="molecular biology research laboratory" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="ai-insight"><p>การที่บริษัทยายักษ์ใหญ่หันมาลงทุนมหาศาลในการสร้างชุดข้อมูลชีวภาพเฉพาะทาง สะท้อนให้เห็นว่าปัญหาคอขวดในปัจจุบันของการนำ AI มาใช้ค้นคว้าตัวยาไม่ได้อยู่ที่ตัวสถาปัตยกรรมโมเดลอีกต่อไป แต่อ1ยู่ที่ความขาดแคลนของข้อมูลดิบที่มีคุณภาพสูงและสะท้อนชีววิทยาของมนุษย์ได้อย่างแม่นยำ การผสานห้องปฏิบัติการเข้ากับกระบวนการประมวลผลจึงกลายเป็นกุญแจสำคัญในการสร้างความได้เปรียบทางการแข่งขัน</p></div><p>นอกจากข้อมูลที่สร้างขึ้นเองแล้ว คลังข้อมูลสาธารณะยังคงเป็นแหล่งวัตถุดิบสำคัญในการฝึกฝนโมเดลพื้นฐานทางชีววิทยา แม้ว่าการรวมข้อมูลจากหลากหลายการศึกษาจะมีความท้าทายทางเทคนิคก็ตาม โดยงานทบทวนวรรณกรรมในปี 2025 ในวารสาร Experimental &amp; Molecular Medicine ระบุว่า คลังข้อมูลอย่าง CZ CELLxGENE, Human Cell Atlas และ NCBI Gene Expression Omnibus ช่วยให้นักวิจัยเข้าถึงข้อมูลเซลล์เดี่ยวปริมาณมหาศาล โดยเฉพาะ CZ CELLxGENE แหล่งเดียiวมีข้อมูลเซลล์มาตรฐานมากกว่า 100 ล้านเซลล์</p><p>อย่างไรก็ตาม ความแตกต่างของวิธีการสุ่มตัวอย่าง โปรโตคอลการหาลำดับเบส และขั้นตอนการประมวลผลระหว่างการศึกษาอาจสร้างสัญญาณรบกวนทางเทคนิค ทำให้การคัดเลือกชุดข้อมูล การกรอง และการควบคุมคุณภาพเป็นสิ่งจำเป็นอย่างยิ่งในการฝึกโมเดลพื้นฐาน นอกจากนี้ งานวิจัยที่ตีพิมพ์ใน Nature Methods เมื่อเดือนมิถุนายนที่ผ่านมา ซึ่งศึกษาโมเดลเซลล์เดี่ยวจากคลังข้อมูล 22.2 ล้านเซลล์ ผ่านการฝึกโมเดล 400 โมเดลและทดลองกว่า 6,400 การทดลอง พบว่าโมเดลปัจจุบันมักจะถึงขีดจำกัดด้านประสิทธิภาพหลังจากฝึกฝนด้วยข้อมูลเพียงเสี้ยวเดียว และไม่แสดงกฎการปรับขนาดข้อมูลที่ชัดเจนเหมือนกับโมเดลภาษาขนาดใหญ่</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.artificialintelligence-news.com&sz=64" alt="AI News" class="source-logo" width="16" height="16" /> <a href="https://www.artificialintelligence-news.com/news/gsk-relation-therapeutics-ai-drug-discovery-biological-data/" target="_blank" rel="noopener noreferrer">AI News</a></p>

<div class="key-takeaways"><ul><li>GSK partners with Relation Therapeutics in a deal worth up to $110 million</li><li>Focuses on generating large-scale datasets to train AI models within the MORGAN platform</li><li>Combines laboratory experimentation with computational analysis</li><li>Highlights the critical role of high-quality, diverse biological datasets</li></ul></div><p>Global pharmaceutical company GSK has entered into a research collaboration with British biotechnology firm Relation Therapeutics worth up to $110 million, expanding the companies' existing work in AI-assisted drug discovery.</p><p>Under the agreement, Relation will generate large-scale datasets measuring how human cells respond to genetic changes and drug interventions. The data will be used to train AI models designed to identify potential drug targets, including models within Relation’s MORGAN platform.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">$110M</span><span class="stat-label">Maximum value of GSK and Relation collaboration</span></div><div class="stat-item"><span class="stat-number">100M+</span><span class="stat-label">Standardised cells available in CZ CELLxGENE</span></div></div><p>The agreement places biological data generation alongside AI model development. Relation’s research approach links computational analysis with experiments that generate new information on human cells. This collaboration builds on earlier agreements between GSK and Relation focused on fibrotic diseases and osteoarthritis, which involved observational studies designed to create functional disease datasets for analysis using Relation’s Lab-in-the-Loop platform.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/gsk_relation_therapeutics_ai_msd4rdw0_inline_1_b9e6b52777.jpg" alt="molecular biology research laboratory" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="ai-insight"><p>The massive investments pharmaceutical giants are making into proprietary biological datasets indicate that the primary bottleneck in AI-driven drug discovery has shifted from algorithm design to data quality and biological relevance. Bridging wet-lab experiments directly with computational pipelines is rapidly becoming the defining strategy for next-generation therapeutics.</p></div><p>Public repositories remain an important source of training material for biological foundation models, although combining information produced across different studies can introduce technical challenges. A 2025 review in Experimental &amp; Molecular Medicine noted that repositories including CZ CELLxGENE, the Human Cell Atlas, and NCBI Gene Expression Omnibus give researchers access to large volumes of single-cell data, with CZ CELLxGENE alone providing access to more than 100 million standardised cells.</p><p>However, sampling methods, sequencing protocols, and processing pipelines can differ between studies, introducing technical noise that requires careful quality control. Furthermore, research published in Nature Methods in June examined 22.2 million cells across 400 models and 6,400 experiments, finding that current single-cell foundation models tended to reach performance plateaus after training on only a fraction of the available corpus, differing from the clear data-scaling laws seen in large language models.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.artificialintelligence-news.com&sz=64" alt="AI News" class="source-logo" width="16" height="16" /> <a href="https://www.artificialintelligence-news.com/news/gsk-relation-therapeutics-ai-drug-discovery-biological-data/" target="_blank" rel="noopener noreferrer">AI News</a></p>

medium_gsk-relation-therapeutics-ai-msd4rdw0.jpg

small_gsk-relation-therapeutics-ai-msd4rdw0.jpg

thumbnail_gsk-relation-therapeutics-ai-msd4rdw0.jpg

gsk-relation-therapeutics-ai-msd4rdw0.jpg

บริษัทเภสัชภัณฑ์ยักษ์ใหญ่ GSK ขยายความร่วมมือกับ Relation Therapeutics มูลค่าสูงถึง 110 ล้านดอลลาร์ มุ่งเน้นการสร้างชุดข้อมูลชีวภาพเพื่อขับเคลื่อนโมเดล AI ในการค้นหาตัวยาใหม่

Global pharmaceutical giant GSK has expanded its collaboration with British biotech firm Relation Therapeutics in a deal worth up to $110 million focusing on biological data generation.

GSK ทุ่มงบจับมือ Relation Therapeutics ลุยพัฒนายาด้วย AI

GSK and Relation Therapeutics Partner in AI Drug Discovery Deal

<div class="key-takeaways"><ul><li>Onton เปิดตัวโมเดลค้นหา Ontology 1 สำหรับใช้งานจริงผ่านหน้าเว็บไซต์ Onton.com แล้ว</li><li>ทดสอบความแม่นยำด้วยชุดข้อมูล Subtext-Decor-90 เทียบกับ Amazon และ Google Shopping</li><li>โมเดลขับเคลื่อนด้วย Ograph ฐานข้อมูลกราฟเฉพาะตัวที่มีประสิทธิภาพสูง</li><li>ยังไม่มีการเปิดให้ดาวน์โหลดโมเดลหรือเปิดใช้งานผ่าน Public API ในขณะนี้</li></ul></div><p>Onton ได้ทำการเปิดตัว <strong>Ontology 1</strong> โมเดลการค้นหาที่ใช้เทคโนโลยี Neurosymbolic โดยปัจจุบันได้เปิดให้บริการแก่ผู้ใช้งานทั่วไปแล้วที่เว็บไซต์ Onton.com สำหรับทีมพัฒนาที่สนใจสร้างระบบบน agentic web สามารถติดต่อขอเข้าถึงผ่านการเป็นพาร์ทเนอร์ในลักษณะรายกรณีเท่านั้น โดยในขณะนี้ยังไม่มีการเปิดให้ดาวน์โหลดโมเดล ไม่มี Public API และไม่มีการกำหนดราคาแบบสาธารณะ การใช้งานในปัจจุบันจึงเป็นการร่วมมือกันเป็นพาร์ทเนอร์แทนที่จะเป็นการติดตั้งผ่าน pip install แบบทั่วไป</p><p>ในมุมมองของ Onton รูปแบบการใช้งานแคตตาล็อกสินค้าของอีคอมเมิร์ซแบบดั้งเดิมแทบจะไม่มีการเปลี่ยนแปลงมานานเกือบ 30 ปีแล้ว ซึ่งมักจะตั้งอยู่บนสมมติฐานว่าความต้องการของผู้ซื้อจะตรงกับหมวดหมู่และคุณ 0ลักษณะทั่วไป เช่น ขนาด ราคา วัสดุ หรือแบรนด์ โดยไม่มีตัวกรองสำหรับคำค้นหาเชิงซ้อน เช่น สินค้าที่เป็นมิตรกับสัตว์เลี้ยง หรือเฟอร์นิเจอร์ที่เข้ากับขนาดห้องพอดี</p><div class="stat-row"><div class="stat-item"><span class="stat-number">0.630</span><span class="stat-label">คะแนน P@10 ของ Onton</span></div><div class="stat-item"><span class="stat-number">0.543</span><span class="stat-label">คะแนน P@10 ของ Google Shopping</span></div><div class="stat-item"><span class="stat-number">0.469</span><span class="stat-label">คะแนน P@10 ของ Amazon</span></div></div><p>เพื่อพิสูจน์ประสิทธิภาพ Onton ได้ปล่อยชุดข้อมูลและโค้ด <em>Subtext-Decor-90</em> โดยใช้กรรมการแบบ Multimodal จำนวน 3 โมเดล ได้แก่ Claude Opus 4.8, Gemini 3.1 Pro และ GPT-5.5 ทำการให้คะแนนผลลัพธ์ 10 อันดับแรกจากผลการค้นหา 90 ข้อความของ Onton, Amazon และ Google Shopping ค่า P@10 ถูกนำมาหาค่าเฉลี่ยพร้อมช่วงความเชื่อมั่น 95% จากการสุ่มตัวอย่างซ้ำ 10,000 ครั้ง</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/onton_ontology_1_neurosymbolic_2_7_mscrq550_inline_1_6b729f4bc2.jpg" alt="e-commerce analytics data dashboard" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><p>ผลลัพธ์ปรากฏว่า Onton ทำคะแนนเฉลี่ยอยู่ที่ 0.630 ตามด้วย Google Shopping ที่ 0.543 และ Amazon ที่ 0.469 โดย Onton ชนะการเปรียบเทียบรายข้อความไปถึง 52 ข้อความ ขณะที่ Google ชนะ 19 ข้อความ และ Amazon ชนะ 16 ข้อความ ตัวเลขดังกล่าวรวมกันได้ 87 เนื่องจาก Ontology ให้ผลลัพธ์น้อยกว่า 10 ผลลัพธ์ใน 3 ข้อความค้นหา และช่องว่างเหล่านั้นถูกนับเป็นไม่เกี่ยวข้อง หากตัดช่องว่างเหล่านั้นออก คะแนนของ Onton จะอยู่ที่ 0.665, Google อยู่ที่ 0.549 และ Amazon อยู่ที่ 0.459</p><div class="ai-insight"><p>การนำเทคโนโลยี Neurosymbolic มาประยุกต์ใช้กับระบบค้นหาอีคอมเมิร์ซถือเป็นก้าวสำคัญในการแก้ปัญหาการค้นหาด้วยภาษาธรรมชาติที่ซับซ้อน ซึ่งระบบคีย์เวิร์ดแบบเดิมมักทำได้ไม่ดี การผสานพลังระหว่างการเรียนรู้ของเครื่อง (Machine Learning) และตรรกะสัญลักษณ์ (Symbolic Reasoning) ช่วยให้ระบบเข้าใจบริบทความต้องการที่แท้จริงของผู้ใช้ได้ลึกซึ้งยิ่งขึ้น เช่น การตีความความเข้ากันได้ของสินค้ากับพื้นที่อยู่อาศัย</p></div><p>สำหรับเบื้องหลังการทำงาน กราฟความรู้ของ Ontology 1 ทำงานบน <strong>Ograph</strong> ซึ่งเป็นฐานข้อมูลกราฟที่พัฒนาขึ้นเอง โดยทาง Onton รายงานว่า Ograph เพียง 1 คอร์สามารถทำงานได้เร็วกว่า SuiteSparse:GraphBLAS ที่รันบน 14 คอร์ถึงประมาณ 100 เท่าต่อคอร์ และรุ่นที่รันบน GPU มีความเร็วมากกว่ารุ่น CPU ถึง 43 เท่า ซึ่งการปรับแต่งเบื้องต้นอาจทำให้มีความเร็วเพิ่มขึ้นสูงสุดถึง 1,000 เท่า</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/onton-releases-ontology-1-a-neurosymbolic-search-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Onton has launched Ontology 1 live for end users directly on Onton.com.</li><li>Evaluated using the Subtext-Decor-90 benchmark against Amazon and Google Shopping.</li><li>Powered by Ograph, a custom high-performance graph database architecture.</li><li>Currently available exclusively through case-by-case partnerships with no public API.</li></ul></div><p>Onton has officially released <strong>Ontology 1</strong>, a neurosymbolic search model that is now live for end users at Onton.com. For development teams building on the agentic web, partner access is granted on a case-by-case basis. At present, there is no public API, pricing tier, or open checkpoint available for the model itself, meaning adoption requires a direct partnership rather than a standard pip install.</p><p>Traditional e-commerce interfaces have remained largely unchanged for nearly 30 years, relying on the assumption that user intent maps strictly to basic categories and attributes like size, price, material, and brand. These legacy systems lack filters for nuanced concepts such as pet-friendly items or furniture dimensions that precisely match a specific room layout.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">0.630</span><span class="stat-label">Onton P@10 Score</span></div><div class="stat-item"><span class="stat-number">0.543</span><span class="stat-label">Google Shopping P@10 Score</span></div><div class="stat-item"><span class="stat-number">0.469</span><span class="stat-label">Amazon P@10 Score</span></div></div><p>To demonstrate performance, Onton released the Subtext-Decor-90 benchmark along with its code and data. Three multimodal judges—Claude Opus 4.8, Gemini 3.1 Pro, and GPT-5.5—scored the top 10 visible result cards returned by Onton, Amazon, and Google Shopping across 90 text queries. P@10 results were averaged across the judges with 95% confidence intervals derived from 10,000 bootstrap resamples.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/onton_ontology_1_neurosymbolic_2_7_mscrq550_inline_1_6b729f4bc2.jpg" alt="e-commerce analytics data dashboard" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><p>The results show Onton leading with a score of 0.630, followed by Google Shopping at 0.543, and Amazon at 0.469. Onton won 52 queries outright, compared to 19 for Google and 16 for Amazon. These figures sum to 87 because Ontology returned fewer than 10 results on three queries, with empty slots scored as non-relevant. Excluding those specific slots adjusts the scores to 0.665 for Onton, 0.549 for Google, and 0.459 for Amazon.</p><div class="ai-insight"><p>The integration of neurosymbolic AI into retail search engines represents a significant paradigm shift away from rigid keyword matching. By bridging deep learning with symbolic reasoning, models like Ontology 1 can interpret complex semantic intents and relational contexts, addressing limitations that have persisted in digital commerce discovery for decades.</p></div><p>Under the hood, Ontology 1's knowledge graph runs on <strong>Ograph</strong>, a custom graph database. Onton reports that a single Ograph core outperforms SuiteSparse:GraphBLAS running on 14 cores, achieving roughly 100x the throughput per core, while its GPU implementation runs 43x faster than the CPU variant with early tuning peaks reaching up to 1000x.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/onton-releases-ontology-1-a-neurosymbolic-search-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_onton-ontology-1-neurosymbolic-2-7-mscrq550.png

small_onton-ontology-1-neurosymbolic-2-7-mscrq550.png

thumbnail_onton-ontology-1-neurosymbolic-2-7-mscrq550.png

onton-ontology-1-neurosymbolic-2-7-mscrq550.png

Onton เปิดให้บริการ Ontology 1 โมเดลค้นหาอีคอมเมิร์ซยุคใหม่ที่ขับเคลื่อนด้วย Neurosymbolic และกราฟความรู้ พร้อมเผยผลทดสอบความแม่นยำเอาชนะ Amazon และ Google Shopping ได้สำเร็จ

Onton launches Ontology 1, a neurosymbolic e-commerce search model backed by a custom graph database, outperforming Amazon and Google Shopping in recent benchmarks.

Onton เปิดตัว Ontology 1 โมเดลค้นหาแบบ Neurosymbolic ที่แม่นยำกว่าเครื่องมืออีคอมเมิร์ซชั้นนำถึง 2.7 เท่า

Onton Releases Ontology 1: A Neurosymbolic Search Model That is 2.7x More Accurate than E-commerce Giants

<div class="key-takeaways"><ul><li>Inkling-Small เป็นโมเดล MoE 276B พารามิเตอร์รวม โดยมี Active พารามิเตอร์ 12B</li><li>เวอร์ชัน NVFP4 ต้องการ VRAM เพียง 180 GB รันได้บน B300 เดี่ยวๆ หรือ H200 สองตัว</li><li>รองรับอินพุตหลายรูปแบบทั้งข้อความ ภาพ และเสียง WAV 16 kHz</li><li>เปิดให้ใช้งานผ่าน Tinker และรันไทม์ยอดนิยมอย่าง vLLM และ SGLang</li></ul></div><p>Thinking Machines Lab ได้ฤกษ์เปิดตัวโมเดลปัญญาประดิษฐ์ตัวใหม่ล่าสุดในชื่อ Inkling-Small ซึ่งเป็นโมเดล Multimodal Mixture of Experts (MoE) แบบ Open Weights ที่มีจำนวนพารามิเตอร์รวมสูงถึง 276 พันล้านพารามิเตอร์ แต่ใช้งานพารามิเตอร์จริงต่อโทเค็นเพียง 12 พันล้านพารามิเตอร์เท่านั้น โดยจุดเด่นสำคัญอยู่ที่การจัดการโมเดลผ่านเช็คพอยต์แบบควอนไทเซชัน ช่วยให้องค์กรระดับกลางและสตาร์ทอัพสามารถโฮสต์โมเดลขนาดใหญ่เช่นนี้ได้ด้วยต้นทุนฮาร์ดแวร์ที่เข้าถึงได้ง่ายขึ้นมาก เมื่อเทียบกับโมเดลระดับแนวหน้าทั่วไปในตลาดปัจจุบัน</p><p>ในแง่ของความต้องการทรัพยากรฮาร์ดแวร์ เช็คพอยต์แบบ BF16 ดั้งเดิมจำเป็นต้องใช้หน่วยความจำ VRAM รวมกันอย่างน้อย 600 GB ซึ่งเทียบเท่ากับการใช้งานการ์ดจอ NVIDIA B300 จำนวน 4 ตัว หรือ NVIDIA H200 จำนวน 8 ตัว อย่างไรก็ตาม เช็คพอยต์แบบ NVFP4 สามารถลดความต้องการลงมาเหลือเพียง 180 GB เท่านั้น ทำให้สามารถรันแบบ W4A4 บนการ์ดจอ B300 เดี่ยวที่มีสถาปัตยกรรม SM100+ ขึ้นไป หรือรันแบบ W4A16 บนการ์ดจอ H200 จำนวน 2 ตัวได้อย่างราบรื่น นอกจากนี้ตัวโมเดลยังรองรับรันไทม์หลากหลายรูปแบบ อาทิ SGLang, vLLM, TokenSpeed, Unsloth และ Hugging Face</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/thinking_machines_lab_inkling_small_moe_open_weights_276b_mscey3wz_inline_1_61ee9865a9.jpg" alt="advanced artificial intelligence microchip architecture" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">276B</span><span class="stat-label">พารามิเตอร์รวมทั้งหมด</span></div><div class="stat-item"><span class="stat-number">12B</span><span class="stat-label">พารามิเตอร์ที่ใช้งานจริงต่อโทเค็น</span></div><div class="stat-item"><span class="stat-number">180 GB</span><span class="stat-label">VRAM ขั้นต่ำด้วยเช็คพอยต์ NVFP4</span></div></div><p>สถาปัตยกรรมภายในของ Inkling-Small ประกอบด้วยเลเยอร์ Decoder-only แบบทรานส์ฟอร์เมอร์จำนวน 42 เลเยอร์ ใช้โครงสร้างแบ็คโบน MoE แบบสพาร์ส (Sparse) โดยทุกๆ โทเค็นจะถูกส่งผ่านผู้เชี่ยวชาญ (Experts) จำนวน 6 ตัวจากทั้งหมด 256 ตัว พร้อมด้วยผู้เชี่ยวชาญแบบแชร์ร่วมกันอีก 2 ตัวที่ทำงานทุกโทเค็น ส่วนกลไก Attention ผสมผสานระหว่างเลเยอร์แบบท้องถิ่นและแบบ global เข้าด้วยกัน ตัวโมเดลไม่มี Encoder แยกต่างหากแต่รองรับมัลติโมเดลโดยกำเนิด ภาพถ่ายจะถูกแบ่งเป็นแพตช์ขนาด 40x40 พิกเซลและแปลงผ่าน hMLP สี่เลเยอร์ ส่วนเสียงจะอยู่ในรูป dMel spectrogram ก่อนจะผ่านเลเยอร์ฝังตัวน้ำหนักเบาเพื่อประมวลผลร่วมกับข้อความ</p><p>กระบวนการฝึกฝนของ Inkling-Small เริ่มต้นขึ้นหลังจากรุ่นพี่ขนาดใหญ่กว่าเสร็จสิ้น ทำให้ทีมวิจัยสามารถปรับปรุงส่วนผสมของข้อมูล Pre-training และสูตรการเรียนรู้ของเครื่องได้ดียิ่งขึ้น ทีมงานได้ทำการ Post-trained เช็คพอยต์รุ่นก่อนหน้าโดยใช้การกลั่นความรู้แบบ on-policy ร่วมกับรุ่นใหญ่เป็นครูผู้สอน ก่อนจะนำไปสเกลต่อในการทำ Reinforcement Learning สำหรับการเขียนโค้ดต่ออีกสองสัปดาห์เต็ม แม้ผลคะแนนการประเมินในบางด้าน เช่น SimpleQA Verified จะลดลงเหลือ 20.6% และ Tau 3 Banking อยู่ที่ 15.5% แต่คะแนนด้านมัลติโมเดลกลับทำได้ใกล้เคียงกับรุ่นใหญ่ในต้นทุนที่ต่ำกว่ามาก เช่น MMMU Pro ได้ 74.0%, CharXiv RQ ได้ 77.4% และ VoiceBench สูงถึง 90.1%</p><div class="ai-insight"><p>การเปิดตัว Inkling-Small สะท้อนให้เห็นถึงความพยายามของห้องปฏิบัติการวิจัยในการย่อส่วนโมเดลทรงพลังให้เข้ามาใกล้กลุ่มผู้ใช้งานในระดับองค์กรขนาดกลางและสตาร์ทอัพมากขึ้น การลดขนาด VRAM ให้เหลือเพียง 180 GB ผ่านการทำ Quantization แบบ NVFP4 ถือเป็นก้าวสำคัญที่ช่วยปลดล็อกให้ภาคธุรกิจที่มีข้อจำกัดด้านงบประมาณฮาร์ดแวร์ สามารถเข้าถึงเทคโนโลยี MoE ขนาดใหญ่ระดับหลายแสนล้านพารามิเตอร์ได้บนเซิร์ฟเวอร์การ์ดจอเดี่ยวหรือการ์ดจำนวนน้อยลงอย่างมีนัยสำคัญ</p></div><p>ด้านความปลอดภัยและการพยากรณ์ข้อมูล Inkling-Small ทำคะแนน ForecastBench (ไม่ใช้การค้นหา) ได้ดัชนี Brier ที่ 61.3 ± 0.46 ซึ่งแซงหน้ารุ่นพี่ และในด้านความปลอดภัยทำคะแนน StrongREJECT ได้ 98.4% ทาง Thinking Machines Lab ระบุว่าโมเดลนี้มีความปลอดภัยในระดับมาตรฐาน แต่อย่างไรก็ตามทางห้องปฏิบัติการยังคงแนะนำให้องค์กรที่นำไปใช้งานสำหรับผู้บริโภคทั่วไปควรติดตั้งระบบกลั่นกรองเพิ่มเติม เช่น Llama Guard ไว้ที่ชั้นปลายทางเสมอ ทั้งนี้ โมเดลทั้งสองเวอร์ชันพร้อมให้ใช้งานแล้วบนแพลตฟอร์ม Tinker พร้อมส่วนลดในช่วงเวลาจำกัด</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/thinking-machines-lab-releases-inkling-small-276b-open-weights-multimodal-moe-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Inkling-Small features 276B total parameters with 12B active parameters per token.</li><li>The NVFP4 checkpoint reduces VRAM requirements to 180 GB, fitting on a single B300 or two H200s.</li><li>Supports multiple modalities including text, images, and 16 kHz WAV audio inputs.</li><li>Available now on Tinker and compatible with popular runtimes like vLLM and SGLang.</li></ul></div><p>Thinking Machines Lab has officially launched Inkling-Small, an open-weights multimodal Mixture of Experts (MoE) model packing a total of 276 billion parameters while activating 12 billion parameters per token. Designed to move large-scale AI architectures out of exclusive frontier-lab territories, this release enables startups, mid-size enterprises, and regulated sectors to self-host or serve a powerful multimodal model without requiring massive new infrastructure investments.</p><p>Addressing hardware constraints directly, the model's standard BF16 checkpoint requires at least 600 GB of aggregated VRAM, a capacity satisfied by four NVIDIA B300 GPUs or eight NVIDIA H200 GPUs. However, the NVFP4 checkpoint dramatically lowers this entry barrier to 180 GB. This allows the model to execute W4A4 workloads on a single B300 GPU with SM100+ architecture or W4A16 on two H200 units. Supported serving runtimes include SGLang, vLLM, TokenSpeed, Unsloth, and Hugging Face.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/thinking_machines_lab_inkling_small_moe_open_weights_276b_mscey3wz_inline_1_61ee9865a9.jpg" alt="advanced artificial intelligence microchip architecture" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="stat-row"><div class="stat-item"><span class="stat-number">276B</span><span class="stat-label">Total Parameters</span></div><div class="stat-item"><span class="stat-number">12B</span><span class="stat-label">Active Parameters Per Token</span></div><div class="stat-item"><span class="stat-number">180 GB</span><span class="stat-label">Minimum VRAM with NVFP4</span></div></div><p>Architecturally, Inkling-Small is built as a 42-layer decoder-only transformer utilizing a sparse MoE feed-forward backbone. Every incoming token routes dynamically through 6 out of 256 individual experts, alongside 2 shared experts that remain constantly active. Attention mechanisms combine local and global layers natively. The model operates encoder-free, handling images split into 40x40-pixel patches processed via a four-layer hMLP, and representing audio as dMel spectrograms. Both modalities feed into a lightweight embedding layer to process jointly alongside text tokens.</p><p>Inkling-Small began its training cycle following its larger predecessor, allowing researchers to refine the pre-training data mix and machine learning recipe. The team post-trained an earlier preview checkpoint using on-policy distillation with the larger Inkling model acting as the teacher, followed by two weeks of scaling agentic coding reinforcement learning. While benchmark metrics such as SimpleQA Verified drop to 20.6% and Tau 3 Banking to 15.5%, multimodal capabilities remain remarkably competitive at a fraction of the cost, scoring 74.0% on MMMU Pro and 90.1% on VoiceBench.</p><div class="ai-insight"><p>The introduction of Inkling-Small highlights a broader industry shift toward efficiency and accessibility in generative AI. By optimizing quantization down to 180 GB via NVFP4, Thinking Machines Lab bridges the gap between massive frontier models and operational deployment realities for enterprises and regulated sectors that demand data privacy and local hosting capabilities.</p></div><p>Regarding calibration and safety, Inkling-Small achieves a Brier Index of 61.3 ± 0.46 on ForecastBench without search, outperforming its larger counterpart. Safety evaluations report 98.4% on StrongREJECT and 96.9% on FORTRESS benign. Thinking Machines Lab notes that the model introduces no material uplift risks beyond the existing open-weight ecosystem, recommending standard downstream moderation like Llama Guard for consumer-facing deployments. Both models are currently accessible on Tinker with limited-time discounts.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/thinking-machines-lab-releases-inkling-small-276b-open-weights-multimodal-moe-model/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

large_article-1295.jpg

medium_article-1295.jpg

small_article-1295.jpg

thumbnail_article-1295.jpg

article-1295.jpg

โมเดลขนาดเล็กแต่มัลติโมเดลสมบูรณ์แบบ รันได้บนฮาร์ดแวร์ประหยัดพลังงาน พร้อมรองรับทั้งข้อความ รูปภาพ และเสียง

A compact yet fully multimodal model designed to run efficiently on accessible hardware configurations.

Thinking Machines Lab เปิดตัว Inkling-Small โมเดล MoE แบบ Open Weights 276B

Thinking Machines Lab Releases Inkling-Small: A 276B Open Weights Multimodal MoE Model

<div class="key-takeaways"><ul><li>สรุปการสร้างไปป์ไลน์ GeoAI สำหรับแปลงภาพถ่ายทางอากาศเป็นข้อมูลโครงสร้างอาคาร</li><li>เปรียบเทียบข้อดีและข้อจำกัดระหว่างการเทรนโมเดลเฉพาะทางและโมเดลพื้นฐาน</li><li>จัดการข้อมูลตั้งแต่การเตรียมตัวอย่าง การเทรน จนถึงการแปลงเป็นเวกเตอร์รูปทรงเรขาคณิต</li></ul></div><p>บทความนี้พาไปสำรวจขั้นตอนการพัฒนาไปป์ไลน์การเรียนรู้เชิงลึกด้านภูมิศาสตร์ หรือ GeoAI แบบครบวงจร ซึ่งมีความสามารถในการเปลี่ยนภาพถ่ายทางอากาศดิบให้กลายเป็นข้อมูลตำแหน่งและรูปทรงอาคารที่มีโครงสร้างพร้อมนำไปวิเคราะห์ต่อได้ทันที โดยครอบคลุมกระบวนการตั้งแต่การเตรียมชุดข้อมูลสำหรับฝึกฝน การสร้างและประเมินผลโมเดลการแบ่งส่วนความหมาย ไปจนถึงการประมวลผลการทำนายผลลัพธ์และการแปลงข้อมูลประเภทแรสเตอร์ให้อยู่ในรูปเวกเตอร์เรขาคณิตที่มีคุณสมบัติด้านพื้นที่ครบถ้วน</p><p>นอกเหนือจากการสร้างโมเดลเฉพาะทางแล้ว บทความยังได้สำรวจแนวทางการสกัดข้อมูลด้วยวิธีอื่น เช่น การใช้โมเดลพื้นฐานแบบ Zero-shot และโมเดลแบ่งส่วนอินสแตนซ์ที่ผ่านการฝึกฝนมาล่วงหน้า ซึ่งช่วยให้นักพัฒนาเข้าใจถึงความแตกต่างและข้อแลกเปลี่ยนระหว่างการฝึกฝนโมเดลเอง การตรวจจับด้วยการป้อนคำสั่ง และการใช้โมเดลสำเร็จรูปที่พร้อมใช้งานทันที</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/geoai_mscex7p0_inline_1_d54b2a8f64.jpg" alt="satellite building footprint extraction segmentation" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="ai-insight"><p>การประยุกต์ใช้เทคโนโลยี GeoAI ร่วมกับภาพถ่ายความละเอียดสูงจากโครงการ NAIP ถือเป็นก้าวสำคัญในการทำแผนที่อัตโนมัติ การผสานพลังระหว่างโมเดลสถาปัตยกรรมคลาสสิกอย่าง U-Net และโมเดลยุคใหม่เช่น Segment Anything Model (SAM) หรือ Grounding DINO ช่วยแก้ปัญหาความซับซ้อนของขอบเขตอาคาร ทำให้ได้ผลลัพธ์ที่มีความแม่นยำสูงและนำไปต่อยอดในงานสำรวจเมืองและการจัดการภัยพิบัติได้จริง</p></div><p>ผลลัพธ์ทั้งหมดถูกรวบรวมไว้เป็นชุดข้อมูลที่พร้อมใช้งาน ทั้งมาสก์ที่สร้างขึ้น แรสเตอร์ความน่าจะเป็น กราฟประเมินผล น้ำหนักโมเดลที่ผ่านการฝึกฝน และไฟล์เอาต์พุตในรูปแบบ GeoJSON ซึ่งนักพัฒนาสามารถนำไปปรับใช้ต่อยอดในงานด้านต่างๆ ได้แก่:</p><ul><li>การทำแผนที่การใช้ประโยชน์ที่ดิน</li><li>การตรวจจับโครงสร้างพื้นฐาน</li><li>การวิเคราะห์การเปลี่ยนแปลงเชิงพื้นที่</li><li>งานประยุกต์ด้าน GeoAI สเกลใหญ่</li></ul><p>บทความนี้เรียบเรียงโดย Sana Hassan นักศึกษาปริญญาตรีสองปริญญาจาก IIT Madras และอดีตนักศึกษาฝึกงานด้านการปรึกษาหารือที่ Marktechpost ผู้มีความสนใจในการประยุกต์ใช้ปัญญาประดิษฐ์เพื่อแก้ไขปัญหาโลกแห่งความจริง</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/a-tutorial-on-geoai-designing-footprint-extraction-from-naip-imagery-using-u-net-grounding-dino-sam-and-mask-r-cnn/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Explores an end-to-end geospatial deep learning pipeline for building extraction</li><li>Compares custom training, prompt-based detection, and ready-to-use models</li><li>Covers dataset preparation, semantic segmentation, and vector geometry conversion</li></ul></div><p>This tutorial outlines the creation of an end-to-end geospatial deep learning pipeline that successfully converts raw aerial imagery into structured, analysis-ready building footprint data. The workflow encompasses preparing training samples, training and evaluating a semantic segmentation model, generating seamless predictions, and refining raster outputs into orthogonalized vector geometries complete with spatial attributes.</p><p>In addition to custom training, the guide examines alternative extraction methods using zero-shot foundation models and pretrained instance segmentation. This evaluation sheds light on the trade-offs involved when choosing between custom model training, prompt-based detection, and utilizing off-the-shelf ready-to-use models.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/geoai_mscex7p0_inline_1_d54b2a8f64.jpg" alt="satellite building footprint extraction segmentation" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="ai-insight"><p>Integrating GeoAI methodologies with high-resolution aerial imagery, such as those from NAIP, represents a major leap forward in automated cartography. Combining traditional segmentation architectures like U-Net with modern foundation models like SAM and Grounding DINO bridges the gap between precise boundary extraction and flexible zero-shot generalizability, opening up new possibilities for large-scale geospatial analysis.</p></div><p>By packaging generated masks, probability rasters, evaluation plots, trained weights, and GeoJSON outputs, the project establishes a reusable foundation that can be readily adapted for various applications, including:</p><ul><li>Land-cover mapping</li><li>Infrastructure detection</li><li>Change analysis</li><li>Large-scale GeoAI applications</li></ul><p>This piece was written by Sana Hassan, a consulting intern at Marktechpost and dual-degree student at IIT Madras who is passionate about applying technology and AI to tackle real-world challenges.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/02/a-tutorial-on-geoai-designing-footprint-extraction-from-naip-imagery-using-u-net-grounding-dino-sam-and-mask-r-cnn/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_geoai-mscex7p0.jpg

small_geoai-mscex7p0.jpg

thumbnail_geoai-mscex7p0.jpg

geoai-mscex7p0.jpg

สรุปขั้นตอนการสร้างไปป์ไลน์ Deep Learning แบบครบวงจรเพื่อแปลงภาพถ่ายดาวเทียมเป็นข้อมูลเวกเตอร์สิ่งปลูกสร้างพร้อมนำไปใช้งาน

An end-to-end guide on transforming raw aerial imagery into structured building vector data using advanced deep learning models.

เจาะลึกบทเรียน GeoAI: การสกัดอาคารจากภาพถ่ายทางอากาศด้วยโมเดลคอมพิวเตอร์วิทัศน์

A Tutorial on GeoAI: Building Footprint Extraction Pipeline

<div class="key-takeaways"><ul><li>สร้างไปป์ไลน์พยากรณ์ TimesFM 2.5 ครบวงจรตั้งแต่เริ่มต้นจนถึงการใช้งานจริง</li><li>ใช้ควอนไทล์ความน่าจะเป็นเพื่อประเมินความไม่แน่นอนและเปรียบเทียบกับโมเดลพื้นฐาน</li><li>ทดสอบความทนทานต่อข้อมูลขาดหาย ข้อมูลประวัติสั้น และขอบเขตการพยากรณ์ระยะยาว</li><li>ส่งออกผลลัพธ์และเตรียมเทมเพลตสำหรับข้อมูลอนุกรมเวลาที่มีระยะห่างเท่ากัน</li></ul></div><p>การพัฒนาโมเดลปัญญาประดิษฐ์สำหรับการพยากรณ์ข้อมูลอนุกรมเวลาในปัจจุบันไม่ได้จำกัดอยู่แค่การสร้างผลลัพธ์พื้นฐานอีกต่อไป แต่ต้องอาศัยกระบวนการที่ครอบคลุมและตรวจสอบได้จริง บทความนี้นำเสนอแนวทางการใช้งาน TimesFM 2.5 ในรูปแบบไปป์ไลน์ที่สมบูรณ์แบบ ซึ่งช่วยให้นักพัฒนาสามารถนำไปประยุกต์ใช้กับการวางแผนทางธุรกิจและการจัดการความต้องการได้อย่างมีประสิทธิภาพ</p><p>ในกระบวนการทำงาน ทีมงานได้ใช้ควอนไทล์ความน่าจะเป็น (probabilistic quantiles) เพื่อวัดระดับความไม่แน่นอน พร้อมทั้งเปรียบเทียบประสิทธิภาพของโมเดลกับวิธีพื้นฐานอย่าง seasonal-naive และ last-value baselines นอกจากนี้ยังมีการใช้การทดสอบย้อนหลังแบบ rolling-origin backtesting เพื่อให้เห็นภาพการทำงานจริงในสถานการณ์จริงที่น่าเชื่อถือมากยิ่งขึ้น</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/timesfm_2_5_msbp5oav_inline_1_9b165e81c5.jpg" alt="machine learning pipeline code diagram" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="ai-insight"><p>การทำ rolling-origin backtesting ถือเป็นหัวใจสำคัญในการประเมินโมเดลอนุกรมเวลา เนื่องจากมันจำลองเหตุการณ์เสมือนว่าโมเดลกำลังทำนายอนาคตจริงๆ จากข้อมูลในอดีตที่ขยับเลื่อนไปเรื่อยๆ ช่วยป้องกันไม่ให้โมเดลดูเก่งเกินจริงจากข้อมูลชุดเดียว</p></div><p>นอกจากนี้ การศึกษาดังกล่าวยังเจาะลึกถึงปัจจัยต่างๆ ที่ส่งผลต่อความแม่นยำและต้นทุนในการประมวลผล ไม่ว่าจะเป็น:</p><ul><li>ความยาวของบริบท (context length) และขนาดของกลุ่มข้อมูล (batch size)</li><li>ตัวแปรเสริมภายนอก (exogenous covariates) และแฟล็กการคอมไพล์ (compilation flags)</li><li>กลยุทธ์การพยากรณ์แบบตรงหรือแบบวนซ้ำ (direct or recursive forecasting strategies)</li></ul><p>ในส่วนของการทดสอบความทนทานและการตรวจจับความผิดปกติ (anomaly detection) โมเดลได้รับการตรวจสอบพฤติกรรมภายใต้เงื่อนไขที่ท้าทาย เช่น ข้อมูลที่ขาดหาย ประวัติข้อมูลที่สั้น ข้อจำกัดค่าบวก ข้อมูลนำเข้าที่เปลี่ยนแปลงได้ และระยะเวลาพยากรณ์ที่ยาวนานขึ้น ซึ่งช่วยให้มั่นใจได้ว่าระบบมีความเสถียรพอสำหรับการใช้งานในระดับการผลิตจริง</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/end-to-end-forecasting-with-timesfm-2-5-backtesting-covariates-anomaly-detection-and-scalable-colab-deployment/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Built an end-to-end TimesFM 2.5 forecasting pipeline beyond basic predictions</li><li>Applied probabilistic quantiles to measure uncertainty and baseline comparisons</li><li>Tested robustness against missing values, short histories, and long horizons</li><li>Exported results and provided templates for evenly spaced time-series data</li></ul></div><p>Modern artificial intelligence applications for time-series forecasting require robust pipelines that extend far beyond generating basic predictions. A comprehensive approach using TimesFM 2.5 allows developers and data scientists to build production-oriented foundations for demand forecasting, operational planning, and anomaly monitoring.</p><p>Throughout the workflow, probabilistic quantiles were utilized to quantify uncertainty while comparing the model against seasonal-naive and last-value baselines. Furthermore, rolling-origin backtesting was implemented to secure a reliable perspective on real-world operational performance.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/timesfm_2_5_msbp5oav_inline_1_9b165e81c5.jpg" alt="machine learning pipeline code diagram" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="ai-insight"><p>Rolling-origin backtesting is essential for time-series evaluation because it simulates how a model makes predictions using rolling historical windows, preventing over-optimistic performance evaluations from a single static split.</p></div><p>The exploration also examined various engineering factors influencing both accuracy and computational expenses, including:</p><ul><li>Context length and batch size configurations</li><li>Exogenous covariates and compilation flags</li><li>Direct versus recursive forecasting strategies</li></ul><p>Through dedicated anomaly detection and rigorous robustness testing, the behavior of the model was evaluated under challenging conditions such as missing values, short historical inputs, positive-value constraints, mutable inputs, and extended forecast horizons, ensuring high reliability for large-scale deployments.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/end-to-end-forecasting-with-timesfm-2-5-backtesting-covariates-anomaly-detection-and-scalable-colab-deployment/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_timesfm-2-5-msbp5oav.jpg

small_timesfm-2-5-msbp5oav.jpg

thumbnail_timesfm-2-5-msbp5oav.jpg

timesfm-2-5-msbp5oav.jpg

สรุปกระบวนการสร้างไปป์ไลน์พยากรณ์อนุกรมเวลาด้วย TimesFM 2.5 ครอบคลุมการวัดความไม่แน่นอน การทดสอบย้อนหลัง และการปรับแต่งประสิทธิภาพ

A comprehensive look at building a complete time-series forecasting pipeline using TimesFM 2.5, covering uncertainty, backtesting, and robustness.

เจาะลึกการพยากรณ์ครบวงจรด้วย TimesFM 2.5 ตั้งแต่การทดสอบย้อนหลังจนถึงการตรวจจับความผิดปกติ

End-to-End Forecasting with TimesFM 2.5: Backtesting, Covariates, and Anomaly Detection

<div class="key-takeaways"><ul><li>Molt เป็นเฟรมเวิร์ก Agentic RL แบบ PyTorch-native จากทีม NeMo ของ NVIDIA</li><li>ขนาดโค้ดกะทัดรัดเพียงประมาณ 8,600 บรรทัด เพื่อให้ AI และนักวิจัยเข้าใจได้ง่าย</li><li>ใช้งานร่วมกับ Ray, vLLM และ NVIDIA AutoModel โดยไม่มีการแยกฟอร์กโค้ด</li><li>รองรับการใช้งานผ่าน Apache 2.0 พร้อมสคริปต์ Slurm และคอนเทนเนอร์</li></ul></div><p>ทีม NeMo ของ NVIDIA ได้พัฒนา Molt ขึ้นมาเพื่อแก้ปัญหาต้นทุนโดยเฉพาะ โดยเป็นเฟรมเวิร์กการเรียนรู้เสริมแรงแบบเอเจนต์ (Agentic RL) ที่สร้างขึ้นบน PyTorch พร้อมเป้าหมายการออกแบบที่แตกต่างจากเฟรมเวิร์กทั่วไป คือตัวซอร์สโค้ดต้องมีขนาดกะทัดรัดพอให้นักวิจัยจดจำได้ และช่วยให้ผู้ช่วยเขียนโค้ด AI สามารถอ่านพร้อมทำความเข้าใจได้ทั้งหมด</p><p>ขนาดโค้ดของ Molt ตามที่ระบุไว้อยู่ที่ประมาณ 8.6 พันบรรทัด ซึ่งวัดจากการแกะรอยกราฟการนำเข้าจากจุดเริ่มต้น RL ของแต่ละเฟรมเวิร์ก หากเปรียบเทียบกันด้วยวิธีเดียวกันนี้ verl มีโค้ดประมาณ 62,000 บรรทัด, slime มี 25,000 บรรทัด และ OpenRLHF มี 7,200 บรรทัด</p><div class="stat-row"><div class="stat-item"><span class="stat-number">8.6K</span><span class="stat-label">บรรทัดโค้ดของ Molt</span></div><div class="stat-item"><span class="stat-number">62K</span><span class="stat-label">บรรทัดโค้ดของ verl</span></div><div class="stat-item"><span class="stat-number">7.2K</span><span class="stat-label">บรรทัดโค้ดของ OpenRLHF</span></div></div><p>แม้ Molt จะปล่อยออกมาภายใต้สัญญาอนุญาต Apache 2.0 พร้อมโค้ดเปิดตัว สคริปต์ Slurm และคอนเทนเนอร์สำเร็จรูป แต่บทความวิจัยระบุชัดเจนว่านี่คือโครงสร้างพื้นฐานด้านการวิจัย ไม่ใช่บริการฝึกอบรมระดับโปรดักชัน โดยฮาร์ดแวร์คือปัจจัยสำคัญ สูตรสำเร็จที่จัดมาให้กำหนดให้ใช้ 2 โหนดที่มี GPU H100 จำนวน 8 ตัว แบ่งเป็น 8 ตัวสำหรับการฝึกอบรม และอีก 8 ตัวสำหรับการรันโมเดล (Rollout)</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_molt_pytorch_native_agentic_rl_msbp4vab_inline_1_84e34fd4d6.jpg" alt="artificial intelligence hardware data center" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div><div class="ai-insight"><p>การออกแบบเฟรมเวิร์กให้มีขนาดกะทัดรัดและเข้าใจง่ายถือเป็นก้าวสำคัญในยุคที่โมเดลภาษาขนาดใหญ่และเอเจนต์มีความซับซ้อนสูงขึ้นเรื่อยๆ การที่ AI coding assistant สามารถอ่านและประมวลผลโค้ดทั้งหมดของเฟรมเวิร์กได้ จะช่วยให้นักวิจัยสามารถปรับแต่ง ทดลอง และตรวจหาข้อผิดพลาด (debugging) ได้อย่างรวดเร็วโดยไม่ต้องเสียเวลาทำความเข้าใจโค้ดเบสขนาดมหึมาเหมือนในอดีต</p></div><p>กลุ่มเป้าหมายของ Molt ได้แก่ ห้องปฏิบัติการระดับแนวหน้า สตาร์ทอัพด้าน AI ทุนหนา กลุ่มวิจัย AI ในภาคธุรกิจการเงิน การดูแลสุขภาพ และวิทยาการหุ่นยนต์ ตลอดจนห้องปฏิบัติการทางวิชาการที่มีสิทธิ์เข้าถึงคลัสเตอร์ H100 และ H200 หลายโหนด โดยนำไปประยุกต์ใช้ได้ทั้งเอเจนต์ใช้งานเครื่องมือหลายรอบ (multi-turn tool-use) เอเจนต์รันโค้ด สภาพแวดล้อมวิชันภาษา ลูปให้คะแนน LLM-as-judge และการกลั่นความรู้ออนไลน์</p><p>โครงสร้างภายในของ Molt เป็นการผสานการทำงานระหว่าง Ray สำหรับการจัดวางคิวแบบอะซิงโครนัส, vLLM สำหรับการรันโมเดล และ NVIDIA AutoModel ร่วมกับ FSDP2 สำหรับการฝึกอบรม โดยไม่มีการแยกซอร์สโค้ด (fork) ทำให้อัปเดตการพัฒนาจากต้นน้ำได้ผ่านการพินคอนเทนเนอร์</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/nvidia-ai-releases-molt-a-pytorch-native-agentic-reinforcement-learning-framework/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Molt is a PyTorch-native agentic RL framework from NVIDIA's NeMo team.</li><li>It features a compact footprint of roughly 8.6K lines for easy AI and researcher comprehension.</li><li>It composes Ray, vLLM, and NVIDIA AutoModel without forking any of them.</li><li>Released under Apache 2.0 with launch codes, Slurm scripts, and a prebuilt container.</li></ul></div><p>Molt, originating from NVIDIA's NeMo team, targets rising costs directly. It is a PyTorch-native agentic reinforcement learning framework with a unique design goal: the codebase should be compact enough for a researcher to hold in their head, and for an AI coding assistant to read and reason about in its entirety.</p><p>The stated footprint of Molt is approximately 8.6 thousand lines of RL code, measured by tracing the import graph from each framework's RL entry point. Using the same measurement method, verl contains about 62,000 lines, slime features 25,000 lines, and OpenRLHF spans 7,200 lines.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">8.6K</span><span class="stat-label">Molt Code Lines</span></div><div class="stat-item"><span class="stat-number">62K</span><span class="stat-label">verl Code Lines</span></div><div class="stat-item"><span class="stat-number">7.2K</span><span class="stat-label">OpenRLHF Code Lines</span></div></div><p>Molt ships under the Apache 2.0 license complete with launch codes, Slurm scripts, and a prebuilt container. However, the accompanying research paper positions it strictly as research infrastructure rather than a production training service, pointing out that hardware remains the ultimate constraint, with shipping recipes assuming 2 nodes of 8 H100 GPUs divided evenly between training and rollout.</p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_molt_pytorch_native_agentic_rl_msbp4vab_inline_1_84e34fd4d6.jpg" alt="artificial intelligence hardware data center" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div><div class="ai-insight"><p>Designing a framework with a minimal codebase represents a major shift in modern AI systems engineering. By ensuring an AI coding assistant can ingest and reason through the entire repository at once, developers can drastically accelerate iterative research, reduce debugging friction, and maintain clear visibility over complex reinforcement learning loops without getting lost in bloated legacy codebases.</p></div><p>This positions Molt within reach of frontier labs, well-funded post-training AI startups, enterprise AI research groups in finance, healthcare, and robotics, and academic labs with multi-node access to H100 or H200 accelerators. Potential applications range from multi-turn tool-use agents and code-execution agents to vision-language environments and on-policy distillation.</p><p>Under the hood, Molt composes Ray for placement and asynchronous queues, vLLM for rollout execution, and NVIDIA AutoModel with FSDP2 for training. Because none of these core components are forked, upstream improvements integrate smoothly through container pinning rather than manual rebasing.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/nvidia-ai-releases-molt-a-pytorch-native-agentic-reinforcement-learning-framework/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_nvidia-molt-pytorch-native-agentic-rl-msbp4vab.jpg

small_nvidia-molt-pytorch-native-agentic-rl-msbp4vab.jpg

thumbnail_nvidia-molt-pytorch-native-agentic-rl-msbp4vab.jpg

nvidia-molt-pytorch-native-agentic-rl-msbp4vab.jpg

NVIDIA เปิดตัว Molt เฟรมเวิร์กการเรียนรู้เสริมแรงแบบเอเจนต์ขนาดกะทัดรัดที่ออกแบบมาให้ AI อ่านและทำความเข้าใจได้ทั้งหมด

NVIDIA introduces Molt, a compact agentic reinforcement learning framework designed for complete AI comprehension.

NVIDIA เปิดตัว Molt เฟรมเวิร์ก PyTorch-Native สำหรับ Agentic RL

NVIDIA AI Releases Molt: A PyTorch-Native Agentic RL Framework

<div class="key-takeaways"><ul><li>ผสานรวม NVIDIA Transformer Engine เข้ากับเวิร์กโฟลว์การฝึก Transformer</li><li>ใช้ Fused Kernels เพื่อลดค่าใช้จ่ายในการเรียกใช้งาน kernel และปริมาณการรับส่งข้อมูลหน่วยความจำ</li><li>ประยุกต์ใช้ FP8 autocast ร่วมกับระบบสำรองอัตโนมัติเป็น BF16 หรือ FP32</li><li>ตรวจสอบปัจจัยการปรับขนาดภายในและประวัติ amax เพื่อความเสถียรในการคำนวณความแม่นยำต่ำ</li></ul></div><p>การพัฒนาประสิทธิภาพการฝึกโมเดลภาษาขนาดใหญ่ (Transformer) กลายเป็นหัวใจสำคัญสำหรับนักพัฒนาและนักวิจัยด้านปัญญาประดิษฐ์ บทความนี้ได้นำเสนอแนวทางการผสานรวม NVIDIA Transformer Engine เข้ากับกระบวนการฝึกอบรมแบบครบวงจร พร้อมทั้งคงความเข้ากันได้กับสภาพแวดล้อม GPU ต่างๆ บน Google Colab ได้อย่างราบรื่น</p><p>หนึ่งในเทคนิคสำคัญที่นำมาใช้คือการประยุกต์ใช้ Fused Transformer Modules ซึ่งช่วยลดปัญหาคอขวดด้านฮาร์ดแวร์ได้อย่างมีประสิทธิภาพ โดยมีรายละเอียดการทำงานและการทดสอบดังนี้</p><ul><li>ใช้งาน Fused Kernels เพื่อลด kernel-launch overhead และหน่วยความจำที่ต้องรับส่ง</li><li>เปิดใช้งาน FP8 autocasting พร้อมระบบ delayed scaling เมื่อฮาร์ดแวร์รองรับ</li><li>สำรองการทำงานไปที่ BF16 หรือ FP32 โดยอัตโนมัติผ่าน PyTorch หากฮาร์ดแวร์ไม่รองรับ FP8</li></ul><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/transformer_nvidia_transformer_engine_fp8_msazj5bd_inline_1_69f1b3503e.png" alt="deep learning code benchmark analytics" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><div class="ai-insight"><p>การใช้ความแม่นยำแบบ FP8 (8-bit Floating Point) ร่วมกับ Transformer Engine ถือเป็นก้าวกระโดดครั้งสำคัญในการลดการใช้หน่วยความจำและเร่งความเร็วการประมวลผลบน GPU ยุคใหม่ แต่ความท้าทายคือความเสถียรของตัวเลข (Numerical Stability) ซึ่งระบบ delayed scaling และการเก็บประวัติ amax (absolute maximum) เข้ามาช่วยป้องกันปัญหาตัวเลขล้น (overflow) หรือสูญหายได้อย่างแม่นยำ</p></div><p>ในส่วนของการทดลอง นักพัฒนาได้ดำเนินกระบวนการ greedy autoregressive generation โดยป้อนบริบทูล่าสุดกลับเข้าไปใน causal language model ที่ผ่านการฝึกแล้ว พร้อมทั้งเปรียบเทียบโทเค็นที่สร้างขึ้นต่อเนื่องกัน เพื่อตรวจสอบว่าโมเดลยังคงรักษาค่าคงที่ (constant arithmetic stride) จากข้อมูลสังเคราะห์ที่ใช้ฝึกอบรมไว้ได้หรือไม่</p><p>บทความยังได้ชี้ให้เห็นแนวทางการต่อยอดในอนาคต เช่น การขยายขนาดโมเดลให้ใหญ่ขึ้น (D_MODEL=2048, N_LAYERS=12), การทดลองใช้รูปแบบ recipe.Format.E4M3 เทียบกับ HYBRID, การปรับ amax_history_len ให้เป็น 1024 รวมถึงการใช้งาน te.LayerNormMLP และ fp8_model_init() สำหรับการเริ่มต้นน้ำหนักโมเดลในรูปแบบ FP8 ตั้งแต่เริ่มต้น</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/accelerating-transformer-training-with-nvidia-transformer-engine-fused-kernels-bf16-fp8-and-gpu-benchmarking/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Integrate NVIDIA Transformer Engine into end-to-end transformer training workflows</li><li>Utilize fused transformer modules to reduce kernel-launch overhead and memory traffic</li><li>Apply FP8 autocasting with delayed scaling and automatic PyTorch fallback to BF16 or FP32</li><li>Inspect internal scaling factors and amax history to ensure stable low-precision computation</li></ul></div><p>Optimizing the training pipeline for transformer models remains a critical pursuit for AI researchers and engineers. Recent technical explorations highlight how to seamlessly integrate the NVIDIA Transformer Engine into an end-to-end training loop while preserving compatibility across various Colab GPU environments.</p><p>A core strategy in this implementation involves leveraging specialized hardware features to streamline execution. The training methodology incorporates several structural optimizations:</p><ul><li>Deploying fused transformer modules to minimize kernel-launch overhead and memory bandwidth consumption</li><li>Enabling FP8 autocasting with delayed scaling when supported by the underlying hardware</li><li>Maintaining robust execution via automatic fallback to BF16 or FP32 through PyTorch</li></ul><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/transformer_nvidia_transformer_engine_fp8_msazj5bd_inline_1_69f1b3503e.png" alt="deep learning code benchmark analytics" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><div class="ai-insight"><p>Adopting FP8 (8-bit Floating Point) precision alongside the Transformer Engine represents a major leap in reducing memory footprints and accelerating deep learning workloads on modern GPUs. However, managing numerical stability is paramount; mechanisms like delayed scaling and tracking amax (absolute maximum) history are essential to prevent overflow and maintain training convergence during reduced-precision arithmetic.</p><p>Furthermore, evaluating hardware capabilities alongside model scaling provides developers with clearer insights into how execution formats directly influence throughput and resource consumption.</p></div><p>To validate the trained model, the workflow implements greedy autoregressive generation by repeatedly feeding the latest context into the causal language model. Consecutive generated tokens are compared to verify whether the model successfully preserves the constant arithmetic stride established during synthetic data training.</p><p>The technical demonstration concludes with practical extension paths for developers, including scaling up model dimensions to D_MODEL=2048 and N_LAYERS=12, experimenting with recipe.Format.E4M3 versus HYBRID formats, setting amax_history_len to 1024, integrating te.LayerNormMLP or te.LayerNormLinear modules, and initializing weights directly in FP8 using fp8_model_init().</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/accelerating-transformer-training-with-nvidia-transformer-engine-fused-kernels-bf16-fp8-and-gpu-benchmarking/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_transformer-nvidia-transformer-engine-fp8-msazj5bd.jpg

small_transformer-nvidia-transformer-engine-fp8-msazj5bd.jpg

thumbnail_transformer-nvidia-transformer-engine-fp8-msazj5bd.jpg

transformer-nvidia-transformer-engine-fp8-msazj5bd.jpg

เจาะลึกวิธีการผสานรวม NVIDIA Transformer Engine, Fused Kernels และการคำนวณแบบ FP8 เพื่อเพิ่มประสิทธิภาพการฝึกโมเดลภาษาในสภาพแวดล้อม GPU

A deep dive into integrating NVIDIA Transformer Engine, fused kernels, and FP8 precision to optimize transformer model training workflows.

เร่งความเร็วการฝึกโมเดล Transformer ด้วย NVIDIA Transformer Engine และ FP8

Accelerating Transformer Training with NVIDIA Transformer Engine and FP8

<div class="key-takeaways"><ul><li>Instella-MoE เป็นโมเดล Mixture-of-Experts ขนาด 16 พันล้านพารามิเตอร์ ทำงานจริง 2.8 พันล้านพารามิเตอร์</li><li>ใช้สถาปัตยกรรมพิเศษ Gated MLA และ FarSkip-Collective ช่วยเร่งความเร็วการประมวลผล</li><li>ชุดข้อมูลฝึกอบรมครอบคลุม 7.1 ล้านล้านโทเค็น และขยายความยาวบริบทได้ถึง 64,000 โทเค็น</li><li>ตัวโมเดลพื้นฐานทำคะแนนเฉลี่ย 76.7 สูงสุดในกลุ่มโมเดลแบบเปิดทั้งหมด</li></ul></div><p>บริษัท AMD ได้เปิดตัว <strong>Instella-MoE-16B-A3B</strong> ซึ่งเป็นโมเดลภาษาขนาดใหญ่ (LLM) แบบ Mixture-of-Experts (MoE) ที่เปิดให้ใช้งานแบบโอเพนซอร์สเต็มรูปแบบ โดยโมเดลนี้ผ่านการฝึกอบรมบนฮาร์ดแวร์ GPU Instinct ของ AMD ตัวโมเดลมาพร้อมพารามิเตอร์รวม 16 พันล้านพารามิเตอร์ แต่จะใช้งานจริงเพียง 2.8 พันล้านพารามิเตอร์ต่อการประมวลผลหนึ่งครั้ง</p><p>ในด้านลิขสิทธิ์ น้ำหนักของโมเดล (weights) จะถูกเผยแพร่ภายใต้ใบอนุญาต ResearchRAIL สำหรับการใช้งานด้านการวิจัยและวิชาการเท่านั้น จึงไม่ใช่โมเดลสำหรับนำไปใช้งานเชิงพาณิชย์ได้ทันที อย่างไรก็ตาม โค้ดเบสสำหรับการฝึกอบรม (training codebase) นั้นใช้ใบอนุญาตแบบ MIT ซึ่งเปิดกว้างให้นำกลับมาใช้ประโยชน์ได้มากกว่า</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/amd_instella_moe_16b_a3b_open_llm_moe_16_msazicpb_inline_1_b31ed675a7.png" alt="Artificial intelligence neural network diagram" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><p>โครงสร้างภายในของ Instella-MoE เป็นแบบ decoder-only ประกอบด้วย 27 เลเยอร์ ขนาด hidden size ที่ 2048, 16 ออตเทนชันเฮด (attention heads) และขนาดคำศัพท์ (vocabulary) 128,896 โทเค็น แต่ละเลเยอร์ของ MoE จะใช้ shared experts จำนวน 2 ตัว ร่วมกับ routed experts อีก 6 ตัวที่ถูกคัดเลือกมาจากทั้งหมด 64 ตัว พร้อมทั้งใช้เป้าหมายการทำนายแบบ Multi-Token Prediction ในช่วง pre-training และ mid-training</p><div class="stat-row"><div class="stat-item"><span class="stat-number">12.7%</span><span class="stat-label">ความเร็ว Pre-training ที่เพิ่มขึ้น</span></div><div class="stat-item"><span class="stat-number">39.2%</span><span class="stat-label">ลดเวลา Time to First Token</span></div></div><p>สิ่งที่น่าสนใจคือการตัดสินใจเลือกใช้โครงสร้างสำคัญ 2 ส่วน ได้แก่ Gated MLA ซึ่งเพิ่มเกตเอาต์พุตที่ผ่านการเรียนรู้เข้าไปใน Multi-head Latent Attention ช่วยให้การประมวลผลแม่นยำขึ้น และ FarSkip-Collective ที่ส่งผ่าน activation ที่ล้าสมัยหรือไม่สมบูรณ์เข้าสู่เลเยอร์ MoE และ attention เพื่อช่วยซ้อนทับการสื่อสารแบบขนานของ expert เข้ากับการคำนวณ ส่งผลให้ AMD รายงานว่ามีความเร็วในการ pre-training เพิ่มขึ้น 12.7% และลดเวลา time to first token ลงได้สูงสุด 39.2% เมื่อให้บริการด้วยระบบ expert parallelism</p><div class="ai-insight"><p>สถาปัตยกรรม Mixture-of-Experts (MoE) ถือเป็นแนวทางสำคัญในการพัฒนาโมเดลภาษาขนาดใหญ่ยุคใหม่ เพราะช่วยให้โมเดลมีขนาดพารามิเตอร์รวมสูงเพื่อเก็บความรู้ได้มาก แต่ใช้ทรัพยากรการประมวลผลจริงน้อยลงในแต่ละขั้นตอน (Active Parameters ต่ำ) การที่ AMD พัฒนาโมเดลนี้พร้อมปรับแต่งฮาร์ดแวร์ Instinct ควบคู่กัน สะท้อนถึงความพยายามเจาะตลาดโครงสร้างพื้นฐาน AI ที่ต้องการทั้งประสิทธิภาพและความคุ้มค่าในการประมวลผลระดับองค์กร</p></div><p>กระบวนการฝึกอบรมเริ่มต้นด้วย pre-training บนชุดข้อมูลขนาด 7.1 ล้านล้านโทเค็นจากคลังข้อมูลเปิด เช่น Nemotron-CC-v2, MegaMath, FineMath, RefineCode และ TxT360 ตามด้วย mid-training และการขยายหน้าต่างบริบทจาก 4,000 ไปจนถึง 64,000 โทเค็นด้วยเทคนิค YaRN</p><p>ในส่วนของการทดสอบประสิทธิภาพ โมเดลพื้นฐานทำคะแนนเฉลี่ยได้ 76.7 ซึ่งถือว่าสูงที่สุดในกลุ่มโมเดลแบบเปิดทั้งหมด เหนือกว่า Moonlight-16B-A3B (76.2) และ OLMo-3-7B (70.1) รวมถึงทำคะแนนบน WinoGrande ได้ 86.5 และ HumanEval+ ที่ 65.7</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/amd-instella-moe-16b-a3b-fully-open-mixture-of-experts-llm/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>Instella-MoE is a 16B parameter Mixture-of-Experts model with 2.8B active parameters.</li><li>It incorporates structural choices like Gated MLA and FarSkip-Collective to accelerate processing.</li><li>The training corpus spans 7.1T tokens with a context window extended up to 64K tokens.</li><li>The base checkpoint achieves an average score of 76.7, leading fully open-source models.</li></ul></div><p>AMD has officially released <strong>Instella-MoE-16B-A3B</strong>, a fully open-source Mixture-of-Experts (MoE) large language model trained on its Instinct GPUs. The model features a total of 16 billion parameters while utilizing 2.8 billion active parameters per forward pass.</p><p>Regarding licensing, the model weights are shipped under a ResearchRAIL license strictly for academic and research purposes, meaning it is not a drop-in commercial model. However, the training codebase is released under the more reusable MIT license.</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/amd_instella_moe_16b_a3b_open_llm_moe_16_msazicpb_inline_1_b31ed675a7.png" alt="Artificial intelligence neural network diagram" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><p>Architecturally, Instella-MoE is a decoder-only MoE featuring 27 layers, a hidden size of 2048, 16 attention heads, and a 128,896-token vocabulary. Each MoE layer utilizes 2 shared experts alongside 6 routed experts selected from a pool of 64, applying a Multi-Token Prediction objective during pre-training and mid-training.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">12.7%</span><span class="stat-label">Pre-training Speedup</span></div><div class="stat-item"><span class="stat-number">39.2%</span><span class="stat-label">Reduction in Time to First Token</span></div></div><p>Two critical structural choices drive the model's efficiency. Gated MLA introduces a lightweight learned output gate to Multi-head Latent Attention, while FarSkip-Collective passes outdated and partial activations into the MoE and attention layers to overlap expert-parallel communication with computation. AMD reports a 12.7% pre-training speedup and up to a 39.2% reduction in time to first token when serving with expert parallelism.</p><div class="ai-insight"><p>Mixture-of-Experts (MoE) architecture represents a pivotal shift in modern LLM design, allowing models to scale their total parameter count for vast knowledge retention while keeping active compute costs remarkably low per token. AMD's release of Instella-MoE paired with its hardware optimizations highlights a strategic push to empower developers and researchers with high-performance, cost-effective open AI infrastructure.</p></div><p>Pre-training covers 7.1 trillion tokens drawn from open corpora including Nemotron-CC-v2, MegaMath, FineMath, RefineCode, and TxT360. This is followed by mid-training phases and a long-context stage extending the sequence window from 4K to 64K using YaRN, increased RoPE theta, and document masking.</p><p>In benchmark evaluations, the base checkpoint achieves an average score of 76.7, ranking as the strongest among fully open models—outperforming Moonlight-16B-A3B (76.2) and OLMo-3-7B (70.1). It also records 86.5 on WinoGrande and 65.7 on HumanEval+.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/08/01/amd-instella-moe-16b-a3b-fully-open-mixture-of-experts-llm/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_article-1205.jpg

small_article-1205.jpg

thumbnail_article-1205.jpg

article-1205.jpg

AMD เปิดตัวโมเดลภาษาขนาดใหญ่รุ่นใหม่ Instella-MoE-16B-A3B แบบโอเพนซอร์ส ชูจุดเด่น 2.8 พันล้านพารามิเตอร์ทำงานจริง พร้อมเทคนิคเร่งความเร็วด้วย GPU Instinct

AMD introduces Instella-MoE-16B-A3B, a fully open-source Mixture-of-Experts LLM featuring 2.8B active parameters and optimized for Instinct GPUs.

AMD เปิดตัว Instella-MoE-16B-A3B โมเดล Open LLM สถาปัตยกรรม MoE 16 พันล้านพารามิเตอร์

Inewgen

Inewgen

AI

GSK and Relation Therapeutics Partner in AI Drug Discovery Deal

Inewgen

Onton Releases Ontology 1: A Neurosymbolic Search Model That is 2.7x More Accurate than E-commerce Giants

Inewgen

Thinking Machines Lab Releases Inkling-Small: A 276B Open Weights Multimodal MoE Model

Inewgen

A Tutorial on GeoAI: Building Footprint Extraction Pipeline

Inewgen

End-to-End Forecasting with TimesFM 2.5: Backtesting, Covariates, and Anomaly Detection

Inewgen

NVIDIA AI Releases Molt: A PyTorch-Native Agentic RL Framework

Inewgen

Accelerating Transformer Training with NVIDIA Transformer Engine and FP8

Inewgen

AMD Releases Instella-MoE-16B-A3B: A Fully Open Mixture-of-Experts LLM

Inewgen

Popular Category