Startup kecerdasan buatan asal Amerika Serikat, Liquid AI, memperkenalkan model bahasa terbaru bernama LFM2.5-2.6B. Model dengan bobot terbuka (open-weight) ini dirancang khusus untuk menangani tugas-tugas agen AI (agentic workloads) dan dapat dijalankan sepenuhnya di perangkat keras lokal, mulai dari ponsel pintar, laptop, hingga Raspberry Pi. Kehadirannya menawarkan alternatif bagi perusahaan yang ingin memproses data sensitif tanpa harus mengirimnya ke cloud atau bergantung pada unit pemrosesan grafis (GPU) mahal.
Liquid AI yang didirikan pada 2023 oleh para ilmuwan komputer lulusan MIT ini menyebut model tersebut tetap bisa bekerja optimal di lingkungan dengan konektivitas terbatas, seperti di dalam kendaraan atau robotika. Model ini paling cocok untuk tugas-tugas agen yang terdefinisi jelas dan bervolume tinggi, seperti pemanggilan alat (tool calling), manajemen dokumen, otomatisasi kalender dan alur kerja, serta rutinitas latar belakang yang berjalan terus-menerus. Namun, untuk pekerjaan yang menuntut kemampuan coding berat, model ini kurang direkomendasikan.
LFM2.5-2.6B memiliki 2,6 miliar parameter dan mendukung jendela konteks hingga 128.000 token. Model ini juga memiliki kemampuan pemanggilan alat secara native. Nama yang sedikit rumit itu menjelaskan generasi model (2.5) yang digabungkan dengan jumlah parameter (2.6B). Baik model yang sudah melalui proses post-training maupun model dasar untuk pengembang yang ingin melakukan fine-tuning, sudah tersedia di platform Hugging Face. Pada hari peluncurannya, model ini langsung mendukung infrastruktur inferensi utama seperti llama.cpp, MLX, vLLM, SGLang, dan ONNX, sehingga siap digunakan di berbagai perangkat konsumen, infrastruktur perusahaan, hingga sistem tertanam.
Liquid AI juga menyediakan kerangka kerja fine-tuning sumber terbuka bernama LEAP. Alih-alih menempatkan LFM2.5-2.6B sebagai penyaingi model frontier terbesar, perusahaan ini menawarkan argumen berbeda: model kecil yang mumpuni bisa membuka kategori aplikasi enterprise di mana latensi, privasi, fleksibilitas penempatan, atau biaya inferensi lebih penting daripada sekadar peringkat benchmark.
"Saya percaya model terbaik akan tetap berada di cloud, dan itu tidak masalah," kata Maxime Labonne, kepala post-training Liquid AI, dalam wawancara dengan VentureBeat. "Kami ingin membuat model untuk tipe pengguna lain. Cara terbaik menggambarkannya adalah: kamu harus menggunakan edge AI ketika kamu tidak bisa menggunakan model cloud."
Menyoal kebutuhan perangkat keras minimum, Labonne menyebut model ini berjalan "sangat, sangat baik" di CPU. Arsitektur LFM2 yang mendasarinya memang dirancang dengan mempertimbangkan kinerja CPU dunia nyata, bukan hanya benchmark GPU. "Contoh terbaik adalah Raspberry Pi. Kami punya banyak demo yang menunjukkan bahwa model ini bekerja cukup cepat di Raspberry Pi," jelasnya.
Perusahaan mencatat kecepatan decoding sekitar 220 token per detik di Apple M5 Max dan 113 token per detik di AMD Ryzen AI Max+ 395, dengan penggunaan memori kurang dari 2,5 GB. Di ponsel pintar, kecepatannya mencapai sekitar 30 token per detik. Pengguna bisa mencoba model ini lewat aplikasi mobile Apollo milik Liquid AI. Sementara di sisi lain spektrum penempatan, model ini diklaim mencapai hampir 15.000 token output per detik pada satu GPU Nvidia H100 di bawah beban bersamaan, setara sekitar 1,3 miliar token per hari. Namun, angka ini adalah benchmark dari vendor dan belum diverifikasi secara independen.
Dari sisi pelatihan, model ini dilatih sekitar 34 triliun token. Kosakata digandakan menjadi 128 ribu untuk mendukung huruf non-Latin dengan lebih baik. Ada juga fase pelatihan khusus untuk memperpanjang jendela konteks menjadi 128 ribu token untuk alur kerja agen yang berjalan lama.
Proses post-training menggunakan empat tahap: fine-tuning yang diawasi, spesialisasi guru, distilasi multi-domain, dan penguatan belajar agen. Pada tahap terakhir, model dilatih langsung di dalam kerangka kerja agen produksi, seperti Hermes Agent dan OpenClaw, dengan tugas-tugas produktivitas yang realistis. Lab menyebut pembaruan alur pelatihan ini sebagai "kecelakaan yang membahagiakan" karena menghasilkan peningkatan yang melampaui target agen.
"Melalui teknik pelatihan baru ini, kami juga menjadi lebih baik dalam banyak hal. Kami lebih baik dalam matematika, dalam mengikuti instruksi. Kami tidak pernah benar-benar pandai dalam kode, tetapi dengan ini, kami bahkan menjadi sangat pandai dalam kode," jelasnya.
Bagi pelaku usaha di Indonesia, kehadiran model seperti ini membuka peluang besar. Banyak perusahaan lokal yang bergerak di sektor keuangan, kesehatan, dan pemerintahan memiliki data sensitif yang tidak bisa dikirim ke server luar. Dengan model yang bisa berjalan di perangkat lokal, mereka bisa membangun sistem AI untuk tugas-tugas spesifik tanpa khawatir soal regulasi dan keamanan data. Ini juga menekan biaya operasional karena tidak perlu menyewa GPU mahal.
Namun begitu, perusahaan perlu mencermati lisensi open-weight yang digunakan. Seperti halnya model Moonshot Kimi K3 yang dirilis bulan lalu, lisensi ini bisa memiliki ketentuan khusus yang perlu ditinjau tim hukum perusahaan. Ke depan, tren model AI yang ringan dan efisien diprediksi akan semakin kuat, terutama untuk aplikasi yang membutuhkan respons cepat dan berjalan di perangkat edge.