<div class="key-takeaways"><ul><li>NVIDIA เปิดตัว BioNeMo Inference Runtime (BioIR) ในรูปแบบ Open GitHub repository พร้อมใช้งานแล้ว</li><li>เพิ่มความเร็ว Boltz-2 folding throughput สูงขึ้น 2.90 เท่า และทำความเร็ว 58.5K residues ต่อ GPU-hour บน 8xH100</li><li>รองรับการใช้งาน 2 รูปแบบหลัก ได้แก่ End-to-end processor และ Direct PyTorch integration</li><li>ปรับแต่งการทำงานใน 3 ชั้นเลเยอร์ และให้ประสิทธิภาพเร็วกว่า OSS torch.compile บน H100</li></ul></div><p>NVIDIA ประกาศเปิดตัว BioNeMo Inference Runtime หรือ BioIR อย่างเป็นทางการ โดยเป็นรันไทม์ที่ออกแบบมาเพื่อเร่งความเร็วโมเดลโครงสร้างชีววิทยาเชิงคำนวณและการพับโปรตีนโดยเฉพาะ พร้อมเปิดให้ใช้งานแล้วผ่านทาง GitHub repository พร้อม wheel ที่บรรจุ precompiled CUBINs ไว้เรียบร้อยแล้ว ความต้องการของระบบในการใช้งานรันไทม์นี้จำเป็นต้องใช้ Python 3.12 ขึ้นไป, การ์ดจอ NVIDIA และไดรเวอร์ที่รองรับ, โมเดลเช็คพอยต์ที่จัดเตรียมไว้ รวมถึง A3M MSAs ต่อเชน โดยไม่ต้องพึ่งพา nvcc, CUDA source, CMake หรือ CUDA toolkit แต่อย่างใด</p><p>BioIR มุ่งเน้นการจัดการกับการปฏิบัติการที่สแต็กอินเฟอเรนซ์แบบทั่วไปยังไม่สามารถปรับแต่งให้เหมาะสมได้อย่างเต็มที่ ซึ่งรวมถึงสเกลของ Pairformer และ Evoformer, การดำเนินการแบบสามเหลี่ยม (triangle operations), pairwise attention, diffusion transformers และโมดูลระดับอะตอม โดยตัวโมเดลจะยังคงสถานะเป็นวัตถุ torch.nn.Module ปกติ ทำให้ไม่มีขั้นตอนการสร้างเอนจิน, ขั้นตอนการส่งออก (export step) หรืออาร์ติแฟกต์แยกต่างหากระหว่างเช็คพอยต์กับการส่งผ่านข้อมูลไปข้างหน้า (forward pass)</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_bionemo_inference_runtime_mtw5bbmu_inline_1_7d8a6a55a5.jpg" alt="artificial intelligence molecular biology lab research" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><p>สำหรับการใช้งาน นักพัฒนาสามารถเลือกใช้งานได้ 2 วิธีหลัก ได้แก่ เอนด์ทูเอนด์โปรเซสเซอร์ (End-to-end processor) ซึ่งจะเคลื่อนย้าย InputRequest ผ่านขั้นตอนการแยกวิเคราะห์ การทำโทเค็นไนเซชัน การสร้างฟีเจอร์ การอนุมานด้วย GPU และการเขียนไฟล์ PDB หรือ mmCIF ส่วนวิธีที่สองคือการบูรณาการ PyTorch โดยตรง (Direct PyTorch integration) ซึ่งให้นักพัฒนาสามารถสร้างโมเดลที่รองรับหรือนำโมดูลที่ปรับแต่งแล้วกลับมาใช้ใหม่ภายในโค้ดของตนเองได้ ตัวบทเรียนสอนใช้งาน (tutorial) ได้แสดงเส้นทางโปรเซสเซอร์ด้วย Boltz-2 โดยแต่ละเชนโปรตีนจะต้องการ A3M MSA และสามารถรองรับ MSA ทั้งแบบจับคู่หรือไม่จับคู่สำหรับอินพุตที่มีเชนโปรตีนไม่เหมือนกันหลายเชน</p><div class="stat-row"><div class="stat-item"><span class="stat-number">2.90x</span><span class="stat-label">Boltz-2 Throughput ที่สูงขึ้น</span></div><div class="stat-item"><span class="stat-number">58.5K</span><span class="stat-label">Residues ต่อ GPU-Hour บน 8xH100</span></div></div><p>ในแง่ของการประเมินประสิทธิภาพระดับโมเดลฟอร์เวิร์ด รายงานการเบนช์มาร์กช่วงแรกของ NVIDIA แสดงให้เห็นความเร็วเฉลี่ยเชิงเรขาคณิตเมื่อเทียบกับฐานข้อมูล OSS torch.compile โดยบนชิป H100 ทำความเร็วได้ 1.55x สำหรับ OpenFold3, 1.78x สำหรับ Boltz2 และ 2.56x สำหรับ OpenFold2 monomer ขณะที่ตัวเลขบนชิป H200 อยู่ที่ระดับใกล้เคียงกันคือ 1.54x, 1.75x และ 2.61x ซึ่งวัดจากอินพุต 17 รายการที่มีความยาวตั้งแต่ 29 ถึง 1,734 เรสิดิว</p><div class="ai-insight"><p>การที่ NVIDIA พัฒนา BioNeMo Inference Runtime (BioIR) ขึ้นมาสะท้อนให้เห็นถึงความพยายามในการแก้ปัญหาคอขวดด้านประสิทธิภาพของโมเดลปัญญาประดิษฐ์ในสายงานวิทยาศาสตร์ชีวภาพ (Life Sciences) ซึ่งมักมีโครงสร้างสถาปัตยกรรมที่ซับซ้อนและแตกต่างจากโมเดล LLM ทั่วไป การที่รันไทม์นี้สามารถทำงานร่วมกับ PyTorch ดั้งเดิมได้ทันทีโดยไม่ต้องแปลงไฟล์โมเดลเป็นฟอร์แมตพิเศษ ช่วยลดขั้นตอนการทำงานของนักวิจัยลงได้อย่างมาก และเปิดทางให้การจำลองโครงสร้างโปรตีนสเกลใหญ่ระดับโปรโตมทำได้จริงในเวลาที่สั้นลงอย่างมีนัยสำคัญ</p></div><p>เพื่อให้เห็นภาพการส่งมอบงานแบบเอนด์ทูเอนด์ ทีมงาน NVIDIA ได้ทำการทดสอบเปรียบเทียบกับเป้าหมายไดเมอร์ของมนุษย์จำนวน 1,000 รายการ ที่มีความยาวลำดับสังกะตังรวมกันต่ำกว่า 2,800 เรสิดิว การทดสอบนี้นำ Boltz-2 ที่เร่งความเร็วด้วย BioIR ไปเทียบกับ Boltz-2 แบบโอเพนซอร์สที่คอมไพล์ด้วย torch บนจีพียู 8xH100 80GB โดยใช้เป้าหมาย MSA ที่จัดเตรียมไว้ สูตรการอนุมาน (3 recycles, 200 sampling steps, 5 diffusion samples) และการกำหนดค่า GPU ที่เหมือนกันทุกประการ</p><blockquote class="pull-quote"><p>"These numbers are folding-stage measurements specific to this dataset and hardware. They exclude MSA generation, preprocessing CPU allocations, storage, data transfer, and retries."</p><cite>NVIDIA Research Blog</cite></blockquote><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_bionemo_inference_runtime_mtw5bbmu_inline_2_6fab43b035.jpg" alt="supercomputer server hardware equipment rack" loading="lazy" /><p class="color-gray-500 text-sm mt-10">ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง</p></div></p><p>เมื่อทำการประมาณการขยายผลการเบนช์มาร์คแบบเชิงเส้นไปยังเป้าหมายที่เทียบเคียงกันได้ถึง 1 ล้านรายการ ประเมินว่า BioIR จะใช้พลังงานราว 11 เมกะวัตต์-ชั่วโมง (MWh) เทียบกับ 35 เมกะวัตต์-ชั่วโมงของตัวเลือกแบบสาธารณะเมื่อคำนวณตามสัดส่วน TDP ของ 8-GPU และหากใช้ค่าเทียบเท่าพลังงานสูงสุดของฟูลโหนด ตัวเลขจะอยู่ที่ 21 เมกะวัตต์-ชั่วโมงเทียบกับ 64 เมกะวัตต์-ชั่วโมง ซึ่งตัวเลขเหล่านี้เป็นเพียงการประเมินกำลังไฟเฉพาะช่วงการพับโปรตีนสำหรับอุปกรณ์ไอทีเท่านั้น ไม่รวมค่าใช้จ่ายด้านโครงสร้างพื้นฐานศูนย์ข้อมูล เช่น PUE แต่การประหยัดพลังงานระดับ 23 ถึง 43 เมกะวัตต์-ชั่วโมงต่อการประมวลผล 1 ล้านเป้าหมาย ถือเป็นตัวเลขที่มีความสำคัญอย่างยิ่งสำหรับการทำแคมเปญระดับโปรโตม</p><p class="source-attribution">ที่มา: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/09/10/nvidia-details-bionemo-inference-runtime-bioir-2-90x-higher-boltz-2-folding-throughput-and-58-5k-residues-per-gpu-hour-on-8xh100/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

<div class="key-takeaways"><ul><li>NVIDIA launches BioNeMo Inference Runtime (BioIR) as an open GitHub repository with precompiled CUBINs.</li><li>Achieves 2.90x higher Boltz-2 folding throughput and 58.5K residues per GPU-hour on 8xH100 setups.</li><li>Supports two primary usage paths: end-to-end processor and direct PyTorch integration.</li><li>Optimizes distinct layers to outperform OSS torch.compile baselines across H100 hardware.</li></ul></div><p>NVIDIA has officially detailed its BioNeMo Inference Runtime (BioIR), a specialized runtime built to accelerate computational biology and protein folding models. The runtime is available now as an open GitHub repository containing a wheel with precompiled CUBINs. Running the runtime requires Python 3.12+, a compatible NVIDIA GPU and driver, a staged model checkpoint, and per-chain A3M MSAs, while notably omitting requirements for nvcc, CUDA source, CMake, or the CUDA toolkit.</p><p>BioIR targets operations that general-purpose inference stacks fail to fully optimize. These encompass Pairformer and Evoformer stacks, triangle operations, pairwise attention, diffusion transformers, and atom-level modules. Models remain standard torch.nn.Module objects, meaning there is no engine build, export step, or separate artifact required between a model checkpoint and a forward pass.</p><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_bionemo_inference_runtime_mtw5bbmu_inline_1_7d8a6a55a5.jpg" alt="artificial intelligence molecular biology lab research" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><p>Developers can utilize the runtime through two distinct pathways. The end-to-end processor routes an InputRequest through parsing, tokenization, feature generation, GPU inference, and PDB or mmCIF writing. Alternatively, direct PyTorch integration enables developers to construct supported models or reuse selective optimized modules inside custom code. The tutorial highlights the processor pipeline using Boltz-2, where each protein chain requires an A3M MSA, accepting paired or unpaired MSAs for inputs featuring multiple non-identical protein chains.</p><div class="stat-row"><div class="stat-item"><span class="stat-number">2.90x</span><span class="stat-label">Higher Boltz-2 Throughput</span></div><div class="stat-item"><span class="stat-number">58.5K</span><span class="stat-label">Residues per GPU-Hour on 8xH100</span></div></div><p>At the model-forward layer, NVIDIA's early benchmark metrics highlight geometric-mean speedups over an OSS torch.compile baseline. On H100 GPUs, it achieved 1.55x for OpenFold3, 1.78x for Boltz2, and 2.56x for OpenFold2 monomer. H200 figures remain comparable at 1.54x, 1.75x, and 2.61x, measured across 17 distinct inputs spanning lengths from 29 to 1,734 residues.</p><div class="ai-insight"><p>The introduction of BioNeMo Inference Runtime (BioIR) highlights NVIDIA's strategic push to eliminate performance bottlenecks inherent in life sciences AI workloads, which feature unique architectural complexities compared to conventional LLMs. By maintaining compatibility with native PyTorch objects and bypassing separate compilation artifacts, BioIR significantly streamlines the engineering pipeline for computational biologists aiming to scale protein simulations.</p></div><p>To quantify end-to-end delivery, the NVIDIA team executed a matched benchmark across 1,000 human dimer targets possessing combined sequence lengths under 2,800 residues. The test pitted BioIR-accelerated Boltz-2 against a torch-compiled open-source Boltz-2 implementation on 8xH100 80GB GPUs, utilizing identical targets, staged MSAs, a specific inference recipe of 3 recycles, 200 sampling steps, and 5 diffusion samples, alongside matching hardware configurations.</p><blockquote class="pull-quote"><p>"These numbers are folding-stage measurements specific to this dataset and hardware. They exclude MSA generation, preprocessing CPU allocations, storage, data transfer, and retries."</p><cite>NVIDIA Research Blog</cite></blockquote><p><div class="mb-20"><img class="img-bdrd-16" src="https://api.inewgen.co/uploads/nvidia_bionemo_inference_runtime_mtw5bbmu_inline_2_6fab43b035.jpg" alt="supercomputer server hardware equipment rack" loading="lazy" /><p class="color-gray-500 text-sm mt-10">Stock photo for illustration only, not from the actual event</p></div></p><p>Extrapolating these benchmark metrics linearly to 1 million comparable targets, BioIR is projected to consume 11 MWh compared to 35 MWh required by the public implementation using 8-GPU TDP equivalents. Utilizing full-node maximum-power equivalents yields an estimate of 21 MWh versus 64 MWh. These figures represent rated-power, folding-only IT equipment metrics and exclude auxiliary data center overhead like PUE. Nonetheless, saving between 23 and 43 MWh per million targets represents a substantial efficiency gain for proteome-scale operations.</p><p class="source-attribution">Source: <img src="https://www.google.com/s2/favicons?domain=www.marktechpost.com&sz=64" alt="MarkTechPost" class="source-logo" width="16" height="16" /> <a href="https://www.marktechpost.com/2026/09/10/nvidia-details-bionemo-inference-runtime-bioir-2-90x-higher-boltz-2-folding-throughput-and-58-5k-residues-per-gpu-hour-on-8xh100/" target="_blank" rel="noopener noreferrer">MarkTechPost</a></p>

medium_nvidia-เปิดตัว-bionemo-inference-runtime-เร่งความเร็ว-mtw5bbmu.jpg

small_nvidia-เปิดตัว-bionemo-inference-runtime-เร่งความเร็ว-mtw5bbmu.jpg

thumbnail_nvidia-เปิดตัว-bionemo-inference-runtime-เร่งความเร็ว-mtw5bbmu.jpg

nvidia-เปิดตัว-bionemo-inference-runtime-เร่งความเร็ว-mtw5bbmu.jpg

NVIDIA เปิดตัว BioNeMo Inference Runtime (BioIR) เพิ่มประสิทธิภาพการพับโปรตีน Boltz-2 สูงขึ้น 2.90 เท่า และทำความเร็ว 58.5K เรสิดิวต่อจีพียู-ชั่วโมงบนระบบ 8xH100

NVIDIA details BioNeMo Inference Runtime (BioIR), delivering 2.90x higher Boltz-2 folding throughput and 58.5K residues per GPU-hour on 8xH100 systems.

Inewgen

Inewgen

#BioIR

NVIDIA เปิดตัว BioNeMo Inference Runtime เร่งความเร็ว

Inewgen