Tahukah kamu jika AMD Ryzen 5 4600G bisa juga di jadikan Chip AI Kelas Berat? Ada seorang pengguna Reddit yang memodifikasi prosesor AMD agar bisa beroperasi layaknya chip AI Nvidia tersebut.
Pengguna Reddit itu bernama chain-77, ia memodifikasi Ryzen 5 4600G, sebuah accelerated processing unit (APU) AMD, untuk bisa mengolah komputasi AI. Pada dasarnya, ia “memerintahkan” Linux untuk mengenali APU tersebut sebagai sebuah GPU dengan RAM 16GB.
Tentu saja performanya jauh berbeda dibanding chip yang dikhususkan untuk AI, terutama dari sisi CPU. Namun komputasi AI lebih banyak mengutamakan memori, dan di sinilah APU punya keuntungan karena bisa mengalokasikan kapasitas RAM secara bebas.
Chain-77 mengalokasikan setengah dari RAM sistem-nya yang berkapasitas 32GB ke APU, yaitu 16GB. Sebenarnya, di motherboard tertentu, kapasitas yang dialokasikan bisa lebih besar, namun tak diuji oleh chain-77.
Dengan modifikasi ini, chain-77 bisa membuat sistem AI “rakitan” yang mendukung platform AMD ROC dan bisa menjalankan Pytorch dan TensorFlow. Saat dijajal di Stable Diffusion, 4600G bisa menghasilkan gambar 50-step 512×512 pixel dalam waktu kurang dari 2 menit.
Fastchat, MiniGPT 4, dan Whisper juga bisa beroperasi, namun APU itu sulit beroperasi di LLaMA. Opsi lain untuk keperluan ini adalah Ryzen 5 5600G yang lebih baru.
Perlu diketahui, APU 4600G ini harganya hanya USD 95 dan hanya menarik daya sebesar 0,35 KWh setiap harinya. Sebagai perbandingan, chip khusus AI seperti H100 harganya saat ini berkisar di antara USD 25 ribu sampai USD 30 ribu, sementara chip lain dengan skala lebih kecil harganya sekitar ratusan dolar.
Sebelumnya diberitakan, Nvidia disebut mengeruk keuntungan sangat besar dari setiap GPU H100 yang mereka jual, mencapai 1000%.
Sebagai informasi, H100 adalah GPU data center yang dijadikan akselerator untuk AI. Dan GPU ini kini jadi incaran banyak perusahaan, startup, dan siapa pun yang mau menggarap data center AI. Bahkan stoknya pun sudah mulai langka.
Sudah jadi incaran konsumen, kabarnya cuan yang diraup Nvidia dari setiap H100 yang terjual sangatlah besar. Menurut Tae Kim, penulis teknologi di Barron, Nvidia hanya mengeluarkan dana sebesar USD 3.320 untuk memproduksi sebuah chip H100.
