AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Perkembangan TEKNOLOGI artificial intelligence menghadirkan perubahan terhadap permintaan sistem pemrosesan lokal. Berkat pengembangan Ryzen AI Max 400 Series, AMD mengembangkan kemampuan komputer pribadi untuk menjalankan model AI besar. Platform tersebut menggabungkan unit pemrosesan utama, akselerasi GPU, dan akselerator kecerdasan buatan dalam arsitektur komputasi terpadu. Kombinasi tersebut bertujuan membantu menjalankan berbagai pekerjaan AI dengan dukungan memori berkapasitas besar. Pada penggunaan profesional, jumlah RAM merupakan faktor pembatas utama. Oleh sebab itu, AMD menjadikan kapasitas RAM bersama sebagai bagian penting pengembangan.

Platform Ryzen AI Max 400 Series hadir sebagai penyempurnaan dari keluarga Strix Halo. Kemajuan utama generasi ini adalah dukungan RAM yang lebih besar. Pada generasi sebelumnya, RAM terpadu tersedia hingga 128GB. Sebagai peningkatan, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut memungkinkan alokasi memori lebih luas bagi aplikasi generatif. Walaupun kapasitas meningkat, kapasitas yang tersedia bergantung pada model produk. Dengan memahami perbedaan tersebut, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum merencanakan pemrosesan model besar.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Daya tarik utama Gorgon Halo adalah penggunaan RAM bersama yang mengintegrasikan akses memori untuk komponen pemrosesan sumber daya penyimpanan kerja terpadu. Memiliki pendekatan berlainan dibandingkan sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut tidak selalu memerlukan penyalinan data antarmemori terpisah antara unit pemrosesan yang terintegrasi. Keuntungan tersebut menjadi relevan ketika menjalankan model AI berukuran besar. Ketika LLM digunakan, bobot model harus dimuat ke memori. Melalui dukungan memori besar, sistem dapat menampung model lebih besar.

Menurut informasi perusahaan, sistem memungkinkan penggunaan hingga 160GB memori untuk GPU. Besarnya alokasi memori tersebut bukan berarti perangkat memiliki VRAM fisik terpisah. Dalam arsitektur terpadu, memori grafis berasal dari RAM bersama. Hal tersebut penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Jika memori hampir penuh, performa sistem dapat terpengaruh. Di samping kapasitas RAM, bandwidth memori turut menentukan kelancaran pemrosesan model. Oleh sebab itu, sistem yang memiliki ruang besar tetap membutuhkan kemampuan komputasi memadai.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Aspek menarik dari pengembangan Gorgon Halo adalah kemampuan menjalankan LLM dengan banyak parameter. Dalam informasi produknya, platform dengan memori maksimal dapat menjalankan model bahasa dengan jumlah parameter di atas 300 miliar menggunakan representasi bobot empat bit. Kemampuan tersebut menjadi pencapaian menarik bagi peneliti model bahasa yang ingin bereksperimen secara lokal. Meski jumlah parameternya tinggi, menjalankan model tidak sama dengan menghasilkan token dengan latensi rendah. Kecepatan sebenarnya dipengaruhi oleh arsitektur model serta konfigurasi sistem.

Quantization berperan penting dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, setiap parameter membutuhkan kapasitas penyimpanan kerja yang besar. Sebagai gambaran, sistem AI berukuran 300B pada representasi FP16 memiliki ukuran parameter teoritis mendekati 600GB. Apabila setiap bobot direpresentasikan dengan empat bit, estimasi parameter murni menjadi sekitar 150 gigabyte. Namun demikian, penyimpanan bobot terkompresi memiliki overhead. Di samping ukuran parameter, sistem masih membutuhkan buffer komputasi. Dengan mempertimbangkan kebutuhan tersebut, kapasitas RAM harus direncanakan secara menyeluruh.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Di samping dukungan RAM besar, Gorgon Halo mengintegrasikan prosesor berbasis AMD Zen 5, GPU terintegrasi berbasis RDNA 3.5, dan unit pemrosesan AI khusus berbasis XDNA 2. Perpaduan tiga komponen ini memungkinkan pembagian pekerjaan berdasarkan kebutuhan aplikasi. Unit pemrosesan utama digunakan untuk mengelola sistem operasi, sedangkan unit komputasi paralel memiliki kemampuan untuk operasi paralel. Sementara itu, NPU dioptimalkan bagi beban AI tertentu. Melalui arsitektur tersebut, pengembang dapat menyesuaikan sumber komputasi sesuai kebutuhan. Namun demikian, tidak semua aplikasi otomatis memanfaatkan ketiganya.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menawarkan dukungan pemrosesan utama enam belas inti, grafis terintegrasi dengan 40 unit komputasi, dan unit AI berkapasitas maksimum 55 triliun operasi per detik. Rancangan perangkat keras tersebut dapat mendukung pekerjaan kreatif dan teknis. Namun demikian, angka TOPS bukan satu-satunya penentu performa semua model bahasa. Pada inferensi LLM, efisiensi memori serta runtime memiliki pengaruh besar. Oleh sebab itu, penilaian perangkat sebaiknya menggunakan pengujian kecepatan token nyata, bukan hanya melihat angka spesifikasi.

AMD Memperlihatkan Performa Ryzen AI Max 400 Series pada Berbagai Beban Kerja

Dalam menjelaskan performa perangkat, AMD mengumumkan hasil benchmark internal. Pengujian tersebut mencakup aplikasi kecerdasan buatan lokal seperti pemrosesan grafis berbasis AI dan inferensi model bahasa. Berdasarkan presentasi perusahaan, keunggulan performa bervariasi dari peningkatan mendekati 1,1 kali hingga 32,2 kali terhadap konfigurasi pesaing dalam pengujian. Perlu dicermati, hasil pengujian dilakukan dalam kondisi tertentu. Dengan mempertimbangkan sumber pengujian, peningkatan maksimum bukan gambaran performa umum.

Pada sejumlah skenario benchmark, AMD memanfaatkan ComfyUI untuk pengujian alur kerja gambar. Dalam evaluasi model bahasa digunakan model terkompresi dengan dukungan Unsloth pada beberapa pengujian inferensi. Jenis perangkat lunak pengujian berperan terhadap hasil benchmark. Di samping pemilihan model, panjang konteks percakapan juga dapat memengaruhi kebutuhan RAM tambahan. Ketika jumlah token meningkat besar, throughput mungkin berkurang meskipun kapasitas memori mencukupi. Dengan demikian, pengembang sebaiknya melakukan hasil evaluasi pada pekerjaan nyata sebelum menyimpulkan keunggulan performa.

Teknologi Gorgon Halo Membuka Peluang Komputasi Mandiri Tanpa Cloud

Salah satu bidang penggunaan penting Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Melalui platform tersebut, tim teknologi dapat menguji model bahasa besar langsung pada komputer pengembangan. Pendekatan ini dapat membantu pengujian aplikasi tanpa ketergantungan penuh pada cloud. Dalam skenario profesional, tim internal bisa menyiapkan asisten analisis dokumen yang memproses berkas secara lokal. Walaupun proses dilakukan di perangkat, keamanan tetap memerlukan pengelolaan. Sistem yang digunakan berpotensi mengakses layanan tambahan, sehingga izin dan konfigurasi perlu diperiksa.

Tidak hanya mendukung pemrosesan teks, Gorgon Halo dapat dimanfaatkan dalam pengembangan agen AI. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Sebagai ilustrasi, aplikasi mungkin menganalisis data pendukung, kemudian menentukan langkah lanjutan berdasarkan instruksi pengguna. Memori besar dapat membantu menyimpan informasi konteks berukuran besar. Meski memungkinkan pemrosesan lebih luas, penggunaan beberapa agen tetap membutuhkan pengendalian konsumsi RAM. Di samping kebutuhan performa, informasi keluaran sebaiknya diperiksa agar keputusan sistem tetap sesuai tujuan.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengungkapan kemampuan Gorgon Halo oleh AMD menunjukkan kemajuan penting dalam pengembangan sistem AI pada perangkat pribadi. Dengan menghadirkan RAM bersama berkapasitas besar, dukungan memori GPU hingga 160GB, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, sistem Gorgon Halo memberikan kesempatan pengembangan agen digital. Kemampuan menjalankan model di atas 300B parameter menggunakan representasi model berpresisi rendah menjadi salah satu keunggulan bagi peneliti AI. Walaupun spesifikasinya menjanjikan, hasil inferensi tetap perlu diuji berdasarkan panjang konteks dan kebutuhan komputasi. Oleh sebab itu, calon pengguna sebaiknya memilih perangkat sesuai kebutuhan. Dari sudut pandang Anda, apakah Gorgon Halo dapat menjadi pilihan utama untuk workstation AI? Anda dapat berbagi pandangan mengenai perkembangan teknologi AMD.