Tech Brief 2026-10-29

Liquid AI Rilis LFM3, Enam Model Open-Weight dengan Klaim Lompatan Benchmark Agentic 12,7x di Backbone 1,7B

Arsitektur tri-hybrid memadukan gated short convolution dengan sliding-window dan full attention, memangkas KV cache ke sekitar 27% transformer setara.

Liquid AI merilis LFM3 pada 27 Oktober, keluarga enam model multimodal open-weight berbasis backbone 1,7 miliar parameter yang pre-trained dengan 22 triliun token dan konteks 256K, di bawah LFM Open License v1.0. Arsitekturnya tri-hybrid: 13 layer gated short convolution dengan state O(1) tanpa KV cache, 5 layer sliding-window attention dengan window 256 token, dan hanya 6 layer full attention, memangkas KV cache ke sekitar 27% transformer 24-layer setara. Sebanyak 3,5 triliun token pelatihan terakhir adalah mid-training pada agentic traces dan tool calls.

Perusahaan melaporkan LFM3-1.7B mencetak 38,42 berbanding 3,02 milik LFM2.5-2.6B di WebArena-Verified, lompatan 12,7x pada tugas web agentic. Model teks 4-bit hanya sekitar 1,1GB dan dapat di-fine-tune di satu GPU konsumen, ditujukan untuk perangkat edge dan server kecil. Semua angka benchmark merupakan klaim mandiri dan belum direproduksi secara independen.