Jakarta, Gizmologi – Meta baru-baru ini dikabarkan menggandeng Qualcomm untuk mengimplementasikan teknologi kecerdasan buatan ke dalam perangkat atau AI on-device. Dalam artian perangkat pintar tersebut tidak lagi membutuhkan koneksi internet seperti kebanyakan AI yang mengandalkan pengolahan data melalui layanan Cloud.
Menurut Qualcomm penerapan teknologi AI on-device dilakukan dengan menggunakan large language model (LLM) open-source LLaMA2 dari Meta. Di mana kemampuan AI berbasis LLaMA2 diprediksi akan diterapkan pada smartphone flagship dan juga PC mulai tahun 2024 mendatang.
“Kemampuan menjalankan model AI generative seperti LLaMA2 di perangkat seperti smartphone, PC, headset VR/ AR, dan kendaraan memungkinkan developer menghemat ongkos cloud dan memberikan pengguna pengalaman yang lebih privat,” tulis Qualcomm dalam keterangannya, Senin (31/7/2023).
Pengolahan AI secara lokal di perangkat disebut menawarkan sejumlah kelebihan, termasuk dalam hal biaya serta privasi dan keamanan. Hal ini berbeda dari sistem AI milik Google, Open AI, dan perusahaan lainnya yang bersifat tertutup, kode dan data LLaMA2 dibuka untuk publik sehingga peneliti dari seluruh dunia bisa bersama-sama ikut mengembangkannya.
Kolaborasi antara Meta dan Qualcomm Technologies dibangun di atas sejarah panjang mereka dalam mendorong inovasi teknologi untuk menghadirkan pengalaman perangkat premium. Kemitraan ini mencakup penelitian bersama dan upaya rekayasa produk yang ditujukan untuk mendukung ekosistem Llama.
Baca Juga: Qualcomm Rilis Cip Baru Snapdragon 4 Gen 2, Pertama di Kelasnya dengan Fabrikasi 4nm
Qualcomm Mau Tanamkan AI on-device ke Snapdragon
“Pengembangan AI untuk pengembang dari semua ukuran, membayangkan AI generatif untuk berjalan mulus di perangkat cloud dan edge seperti ponsel, laptop, kendaraan, dan perangkat IoT,” ungkap Durga Malladi, Durga Malladi, senior vice president and general manager of technology, planning and edge solutions businesses, Qualcomm Technologies.
Di sisi lain Qualcomm mengklaim sudah memiliki footprint perangkat berjumlah besar dengan miliaran smartphone, kendaraan, headset, PC, dan lain-lain yang dilengkapi hardware dan software AI buatannya. Sehingga implementasi AI on-device pun nantinya bisa membuka kemungkinan berbagai skenario pengunaan seperti virtual asssistant, kreasi konten, produktivitas, dan hiburan.
Rencananya, Qualcomm akan mulai mengimplementasikan AI on-device berbasis LLaMa2 pada perangkat-perangkat yang ditenagai chipset Snapdragon terbaru. Salah satunya dengan mengoptimalkan Qualcomm AI Stack yang memungkinkan pemrosesan AI yang lebih efisien di Snapdragon.
“Ditenagai Snapdragon, pengalaman-pengalaman AI on-device yang baru ini bisa bekerja di area tanpa konektivitas (internet) dan bahkan di mode pesawat,” pungkas Qualcomm.
Artikel berjudul Meta Gaet Qualcomm Buat AI on-device Berbasis Llama 2 yang ditulis oleh Aditya Fajar pertama kali tampil di Gizmologi
from Gizmologi https://ift.tt/gDdLHpP
via IFTTT
0 Komentar