NVIDIA Rilis Nemotron 3.5 Bolt E4B, Model Agen Lokal untuk VRAM 4GB

NVIDIA merilis Nemotron 3.5 Bolt E4B 4GB, small language model dengan 8 miliar parameter total dan 4 miliar efektif, hasil post-training dari Gemma 4 E4B menggunakan reinforcement learning saja. Model ini ditujukan untuk voice assistant dan agen tool-calling multi-turn yang berjalan lokal di GPU RTX, perangkat Jetson, dan DGX Spark, dengan context window 64K serta mode reasoning on/off dengan thinking budget.

Perusahaan melaporkan model ini mengungguli Gemma 4 E4B dan Qwen3.5-4B di 15 dari 21 benchmark, serta berjalan dengan sekitar 3,5GB VRAM di RTX 5070 pada Q4_K_M dengan time-to-first-token 548ms dan 133 token per detik. Lisensinya OpenMDW-1.1 yang mengizinkan penggunaan komersial, dengan bobot, dataset pelatihan, dan resep RL dibuka secara penuh. Angka benchmark merupakan klaim vendor, dan penguji independen mencatat selisih skor antara model card dan technical report.