meta dan Qualcomm dari kemitraan baru yang memungkinkan Llama 2 digunakan di perangkat seluler yang ditenagai oleh chip Qualcomm Snapdragon. disebutkan. Perhatikan pada titik ini bahwa Llama 2 adalah versi generasi berikutnya dari model bahasa luas untuk aplikasi dan layanan AI yang produktif.
Qualcomm mengatakan tujuannya adalah untuk memungkinkan perangkat ini menjalankan aplikasi dan layanan berbasis Llama 2 pada perangkat ini tanpa perlu terhubung ke layanan berbasis cloud seperti yang digunakan produk AI produktif lainnya seperti ChatGPT dan Bing Chat.
Seperti yang dinyatakan Qualcomm: “Kemampuan untuk menjalankan model AI generatif seperti Llama 2 pada perangkat seperti smartphone, PC, headset VR/AR, dan gadget memungkinkan pengembang menghemat biaya cloud dan memberikan pengalaman yang disesuaikan, lebih andal, dan dipersonalisasi kepada pengguna.”
Qualcomm mengatakan kemampuan menjalankan model bahasa utama seperti Llama 2 pada perangkat memiliki sejumlah keunggulan. Ini bisa lebih hemat biaya daripada menggunakan model bahasa luas berbasis cloud dan menawarkan kinerja yang lebih baik karena tidak perlu terhubung ke layanan online. Pada saat yang sama, model bahasa pada perangkat dapat memungkinkan penyesuaian layanan AI yang lebih besar. Itu juga bisa lebih aman dan pribadi dibandingkan dengan menghubungkan ke server cloud.
Saat ini, Qualcomm berencana untuk mulai mendukung layanan AI berbasis Llama 2 pada perangkat yang menggunakan chip Snapdragon pada tahun 2024. Belum ada kabar apakah model tersebut akan membutuhkan chip Qualcomm generasi terbaru untuk bekerja, atau apakah dukungan tersebut dapat dilakukan secara terbalik.
