Software & Hardware

Recursive Rilis Flint, Model AI Coding Terbuka yang Bisa Dijalankan Secara Lokal

Perusahaan kecerdasan buatan Recursive memperkenalkan Flint pada 21 Oktober 2026 sebagai model AI coding terbuka yang dirancang untuk membantu pengembang menulis, memperbaiki, dan menguji kode secara lokal. Model ini menggunakan arsitektur Mixture-of-Experts dengan 39,8 miliar parameter, tetapi hanya mengaktifkan sekitar 2,5 miliar parameter untuk setiap token yang diproses. Pendekatan tersebut memungkinkan penggunaan komputasi yang lebih efisien dibandingkan model padat berukuran serupa. Dengan dukungan perangkat Apple Silicon dan GPU NVIDIA, Flint menawarkan alternatif bagi developer yang mengutamakan kecepatan, privasi, serta kontrol terhadap lingkungan pengembangan. Kehadirannya turut memperluas pilihan TEKNOLOGI AI coding yang dapat dijalankan tanpa selalu bergantung pada layanan cloud.

Inovasi Model AI Lokal dari Recursive untuk Pemrograman Modern

Recursive menghadirkan Flint sebagai model AI terbuka untuk membantu aktivitas coding. Tidak seperti asisten AI yang dirancang terutama untuk komunikasi sehari-hari, Flint dioptimalkan bagi tugas pengembangan kode. Kemampuan tersebut meliputi analisis basis kode, penanganan kesalahan program, implementasi fitur, dan penyusunan kode pengujian. Melalui kemampuan tersebut, programmer memperoleh alat bantu dalam menyelesaikan tugas. Namun demikian, hasil model tetap membutuhkan pemeriksaan manusia. Pendekatan tersebut membantu mengurangi kemungkinan kesalahan.

Karakteristik yang membedakan Flint adalah penggunaan lisensi terbuka untuk model. Recursive merilis Flint dengan lisensi Apache 2.0 yang memungkinkan integrasi dalam proyek yang sesuai ketentuan lisensi. Melalui distribusi model terbuka, pemrosesan AI tidak harus selalu dilakukan pada server pihak ketiga. Kondisi ini bermanfaat bagi tim yang ingin mengatur lingkungan komputasi sendiri. Meskipun model dapat dijalankan secara lokal, kebutuhan memori dan komputasi harus dipertimbangkan. Untuk perlindungan data yang lebih baik, penggunaan layanan tambahan dapat memengaruhi privasi. Dengan demikian, pengembang dapat menyesuaikan penerapan sesuai kebutuhan.

Spesifikasi Flint dengan Arsitektur Mixture-of-Experts

Pada bagian arsitektur, Flint memanfaatkan Mixture-of-Experts atau MoE yang dirancang mengurangi kebutuhan komputasi setiap token. Berdasarkan spesifikasi model, Flint menyimpan hampir 40 miliar parameter. Meskipun ukurannya besar, jumlah parameter yang digunakan per token sekitar 2,5 miliar. Karakteristik arsitektur ini membantu mengurangi jumlah operasi komputasi. Berbeda dari pendekatan MoE, seluruh lapisan utama digunakan secara lebih menyeluruh. Sementara itu, mekanisme pemilihan expert menentukan jalur komputasi. Dengan pendekatan ini, kebutuhan operasi dapat ditekan.

Di luar pengelolaan parameter, Flint memiliki konfigurasi konteks sebesar 262K token. Ukuran konteks ini memungkinkan model menerima kode dan instruksi panjang. Dalam penggunaan praktis, pengembang dapat memasukkan beberapa file terkait. Meski ruang informasi tersedia luas, panjang konteks tidak menjamin ketepatan pemahaman. Oleh karena itu, pekerjaan kompleks perlu dikelola dalam tahapan terukur. Sebagai langkah pendukung, informasi yang tidak relevan sebaiknya dibatasi. Cara penggunaan ini mengurangi risiko model kehilangan fokus.

Dukungan Hardware untuk Menjalankan Model AI Coding Flint

Tim pengembang Flint menyiapkan berbagai konfigurasi inferensi agar Flint mampu berjalan pada GPU NVIDIA yang kompatibel. Dalam evaluasi performa perusahaan, Flint menawarkan pemrosesan melampaui 125 token per detik pada konfigurasi Apple Silicon yang diuji. Sementara itu, hasil inferensi disebut melampaui 150 token per detik pada sistem komputasi yang digunakan perusahaan. Angka performa ini menjadi salah satu daya tarik pendekatan MoE. Meski hasilnya menarik, hasil dapat berubah menurut jumlah token konteks. Dengan demikian, angka benchmark tidak seharusnya dianggap sebagai jaminan universal.

Untuk mempermudah penggunaan, Flint tersedia dalam sejumlah konfigurasi inferensi. Salah satu pilihannya adalah BF16 yang digunakan sebagai checkpoint dasar. Sebagai alternatif yang lebih ringkas, tersedia versi terkuantisasi seperti NVFP4 dan GGUF. Varian bobot yang lebih kecil membantu memungkinkan inferensi pada perangkat yang lebih terbatas. Meskipun format ringkas tersedia, penggunaan RAM dan VRAM dapat meningkat saat konteks panjang. Sebelum melakukan instalasi, spesifikasi perangkat keras sebaiknya dibandingkan dengan kebutuhan runtime. Melalui pemilihan versi yang tepat, pengembang dapat menghindari konfigurasi yang terlalu membebani komputer.

Langkah Awal Mengintegrasikan Model Flint ke Alur Kerja Coding

Pilihan penggunaan lokal yang tersedia untuk menggunakan Flint pada komputer sendiri adalah menjalankan model melalui runtime Ollama. Perangkat lunak Ollama dikenal sebagai platform inferensi yang menyediakan pengunduhan serta eksekusi model. Setelah Ollama dipasang, pengguna dapat membuka terminal. Perintah ollama run flint mengaktifkan model setelah proses pengunduhan yang diperlukan. Setelah runtime berhasil menjalankan checkpoint, developer bisa mengajukan pertanyaan tentang kode. Meski proses penggunaan dipermudah, fungsi pengeditan file bergantung pada integrasi tools yang digunakan.

Di luar penggunaan runtime tersebut, Flint memiliki integrasi dengan berbagai perangkat lunak AI. Ekosistem yang mendukung Flint mencakup llama.cpp, LM Studio, dan vLLM. Selain itu, Recursive menyediakan runtime rec yang dioptimalkan. Sistem pemrosesan lokal tersebut ditujukan untuk perangkat Apple Silicon tertentu. Untuk penggunaan yang melibatkan banyak tindakan, model mendukung penggunaan melalui sistem agen seperti OpenHands. Melalui dukungan sistem agen, tugas pengembangan dapat dikelola melalui beberapa langkah. Perlu diingat, perintah otomatis sebaiknya dijalankan dalam lingkungan aman. Pengendalian izin tersebut membantu mengurangi risiko eksekusi perintah berbahaya.

Keunggulan dan Keterbatasan Model AI Coding Terbuka

Model tersebut dikembangkan untuk membantu aktivitas rekayasa perangkat lunak yang kompleks. Untuk menggambarkan penggunaannya, agen dapat diarahkan memeriksa penyebab masalah aplikasi. Melalui integrasi agen, sistem bisa membaca file terkait dan menyarankan perubahan sebelum hasil perubahan diperiksa melalui test. Di luar kegiatan debugging, Flint dapat membantu menambahkan fitur serta menyusun skenario pemeriksaan kode. Kemampuan tersebut mendukung produktivitas pengembang. Namun demikian, solusi tidak boleh langsung dianggap benar. Pengawasan kualitas tersebut penting terutama pada aplikasi produksi.

Sebagai bagian dari peluncuran Flint, Recursive melaporkan pencapaian pada pengujian agentic coding. Untuk benchmark tugas terminal, Flint memperoleh skor 54,9 persen. Pada evaluasi lainnya, SWE-bench Pro v2 menunjukkan skor 89,7 persen, sedangkan pengujian SWE-bench Verified menghasilkan 74,2 persen. Pencapaian benchmark ini perlu dibaca sebagai hasil yang dipublikasikan perusahaan. Untuk melakukan perbandingan yang tepat, perbedaan lingkungan benchmark dapat memengaruhi angka. Selain itu, kinerja nyata bergantung pada tingkat kesulitan dan instruksi. Dengan demikian, keputusan menggunakan model perlu mempertimbangkan kebutuhan nyata.

Prospek Flint untuk Teknologi Pemrograman Berbasis Kecerdasan Buatan

Kehadiran model AI coding Flint menjadi perkembangan menarik dalam teknologi kecerdasan buatan. Berkat desain model MoE yang efisien, Flint dirancang memberikan inferensi cepat. Dukungan konteks panjang serta integrasi dengan berbagai runtime lokal memberikan fleksibilitas dalam penggunaan. Selain itu, ketersediaan bobot model terbuka memberikan ruang pengembangan komunitas. Walaupun demikian, keamanan penggunaan agen perlu diperhatikan. Dalam transformasi TEKNOLOGI perangkat lunak, penggunaan kecerdasan buatan pada perangkat sendiri semakin relevan. Dari pengalaman Anda, apakah AI coding lokal dapat menggantikan sebagian kebutuhan layanan cloud? Bagikan pandangan Anda tentang masa depan model pemrograman terbuka.

Related Articles

Back to top button