MediaTek Manfaatkan Meta Llama 2, Tingkatkan AI Generatif Komputasi Edge

Hitekno.com - MediaTek kembali memperkuat produknya dengan teknologi terkini. Yakni dengan hasil kerja sama dengan teknologi kecerdasan buatan (AI) milik Meta Platform Inc, Llama 2.

Teknologi ini merupakan model bahasa besar (Large Language Model/LLM) sumber terbuka generasi masa depan.

Memanfaatkan Meta LLM, APU terbaru MediaTek, dan platform AI NeuroPilot, MediaTek bertujuan untuk membangun ekosistem edge computing lengkap yang dirancang untuk mempercepat pengembangan aplikasi kecerdasan buatan (AI) pada smartphone, IoT, kendaraan pintar, rumah pintar, dan perangkat komputasi edge lainnya. 

Saat ini, sebagian besar pemrosesan AI generatif dilakukan melalui edge computing, tapi model Llama 2 yang digunakan oleh MediaTek akan memungkinkan aplikasi AI generatif bisa beroperasi langsung di perangkat.

Ini jelas memberikan beberapa keuntungan bagi para pengembang dan pengguna, antara lain performa lancar, privasi kuat, keamanan dan keandalan lebih baik, latensi lebih rendah, dan kemampuan untuk bekerja di area rendah konektivitas, serta biaya operasi lebih rendah. 

Untuk benar-benar memanfaatkan teknologi AI generatif pada perangkat, produsen edge device perlu mengadopsi komputasi tinggi, prosesor AI berdaya rendah, dan konektivitas yang lebih cepat dan lebih andal untuk meningkatkan kemampuan komputasinya.

Setiap System on Chip (SoC) pada smartphone 5G yang ditenagai oleh MediaTek telah dilengkapi dengan APU yang dirancang untuk menjalankan berbagai fitur AI generatif, seperti AI Noise Reduction, AI Super Resolution, AI MEMC, dan lainnya. 

Selain itu, cipset unggulan MediaTek generasi berikutnya, yang diperkenalkan akhir tahun ini, akan menghadirkan perangkat lunak yang dioptimalkan untuk menjalankan Llama 2, serta APU yang ditingkatkan dengan akselerasi inti Transformer, pengurangan area akses dan penggunaan bandwidth DRAM yang semakin meningkatkan kinerja LLM dan AIGC. Kemajuan ini untuk memfasilitasi percepatan penggunaan AI generatif di perangkat. 

"Meningkatnya popularitas AI generatif merupakan tren signifikan dalam transformasi digital, dan visi kami adalah menyediakan komunitas pengembang dan pengguna Llama 2 dengan alat yang diperlukan untuk berinovasi sepenuhnya di ruang AI," kata JC Hsu, Corporate Senior Vice President and General Manager of Wireless Communications Business Unit di MediaTek.

"Melalui kemitraan kami dengan Meta, kami dapat menghadirkan perangkat keras dan perangkat lunak dengan kemampuan yang jauh lebih canggih dibandingkan sebelumnya." lanjutnya. 

MediaTek menargetkan aplikasi AI berbasis Llama 2 tersedia untuk smartphone yang ditenagai oleh SoC andalan generasi berikutnya memasuki pasar pada akhir tahun ini.