Jakarta, Tekno – Alibaba Cloud dan MediaTek tengah mempersiapkan chipset untuk smartphone yang dapat digunakan untuk mengakses sistem AI generatif tanpa perlu disambungkan ke internet. Chipset baru tersebut akan menggunakan Large Language Models (LLM) Qwen dari Alibaba Cloud yang telah memiliki 1,8 miliar dan 4 miliar parameter.
Chipset seri Dimensity 9300 dan Dimensity 8300 dari Mediatek merupakan generasi ketiga yang memungkinkan smartphone menjalankan tugas AI, di antaranya menjawab beragam pertanyaan dari pengguna.
Alibaba melihat kerja sama dengan MediTek sebagai usaha untuk memberikan kesempatan kepada pengembang untuk menciptakan AI yang inovatif dan mudah digunakan.
“Kami melihat minat yang meningkat dari banyak perusahaan untuk menggunakan LLMs berukuran lebih kecil ke dalam gawai, untuk mendorong aplikasi AI generatif,” ujar Xu Dong, Head of Business Development di Qwen team. “Melalui kemitraan dengan MediaTek, kami ingin memberikan lebih banyak kesempatan kepada para pengembang untuk bisa menciptakan aplikasi AI yang inovatif dan mudah digunakan supaya pengguna di seluruh dunia bisa merasakan manfaat dari AI generatif,” lanjutnya.
Sebelumnya AI generatif hanya dapat diakses melalui pusat data. Dengan inovasi chipset terbaru maka kini bisa hadir langsung di perangkat smartphone. Perusahaan riset Gartner memperkirakan bahwa hingga akhir 2024, akan ada 240 juta ponsel pintar dengan GenAI dan 54,5 juta PC dengan AI yang akan didistribusikan.
Kehadiran gawai ini akan mencakup 22% dari ponsel pintar kelas biasa, menengah, dan premium, serta 22% dari semua PC di tahun 2024.
Baca juga: Harga Baru Layanan Alibaba Cloud untuk Pelanggan Internasional
Alibaba Cloud Hadirkan LLMs untuk Perangkat Kecil
Beberapa tahun terakhir perkembangan AI generatif berjalan dengan progresif menuju ke perangkat yang lebih kecil. Dari sebelumnya membutuhkan pusat data besar sehingga butuh PC atau laptop, kini menjadi lebih efisien dalam hal komputasi. Dengan demikian membuat biayanya jadi lebih ekonomis dan dapat disesuaikan dengan kebutuhan pengguna.
Alibaba Cloud telah menyediakan versi open source dari LLM dengan 1,8 miliar parameter, Qwen-1.8B, awal tahun lalu. Karena memang dioptimalkan untuk perangkat yang lebih kecil, model ini membutuhkan daya komputasi yang lebih sedikit untuk dijalankan, sehingga memungkinkan aplikasi yang didukung oleh LLMs berjalan di ponsel pintar dengan keterbatasan atau tanpa koneksi jaringan.
Dengan dukungan dari Dimensity 9300, versi model Qwen dengan parameter 1,8 miliar bisa mencapai kinerja terdepan di industri dan sanggup menggunakan kurang dari 30% CPU dan 2 GB RAM dalam proses inferensi AI sambil mencapai lebih dari 20 token per detik. Konsumsi daya dalam proses inferensi kurang dari 3 watt, memberikan peningkatan kinerja dalam tugas AI tanpa mengorbankan efisiensi energi.
Untuk memastikan bahwa produsen ponsel pintar mengadopsi model AI di perangkat mereka, kedua perusahaan akan merilis paket pengembangan perangkat lunak bagi produsen dan pengembang ponsel pintar untuk mewujudkan inisiatif ini.
“Memfasilitasi implementasi AI generatif secara menyeluruh, serta pengembangan cepat dari aplikasi AI dan ekosistem agen AI, akan memberikan pengalaman produk yang lebih menarik bagi para pengguna,” terang Dr. Yenchi Lee, Deputy General Manager di MediaTek Wireless Communications Business Unit.
Kedua perusahaan juga akan bekerja sama untuk mengeksplorasi pembangunan agen AI yang dapat menavigasi antarmuka yang kompleks dan menjalankan tugas melintasi beberapa aplikasi, memanfaatkan kemampuan LLMs dari Alibaba Cloud dan daya komputasi dari Dimensity 9300.
Artikel berjudul Kerja Sama Alibaba Cloud dan MediaTek, Siapkan Chipset dengan AI Generatif yang ditulis oleh Ronggo pertama kali tampil di Tekno
