Qualcomm kích hoạt Meta Llama 3 vận hành trên các thiết bị sử dụng Snapdragon

(vfo.vn) Mới đây, Qualcomm và Meta đã công bố sự hợp tác nhằm tối ưu hóa việc ứng dụng các mô hình ngôn ngữ lớn Meta Llama 3 (LLMs) trực tiếp trên điện thoại thông minh, máy tính, kính VR/AR, xe hơi và các thiết bị khác. Khả năng vận hành Llama 3 trên thiết bị mang lại nhiều ưu điểm, bao gồm tốc độ phản ứng vượt trội, nâng cao tính bảo mật, độ tin cậy và trải nghiệm cá nhân hóa cho người dùng.

Mối quan hệ hợp tác nhằm mục đích nâng cao khả năng tiếp cận các tính năng của AI tạo sinh (Gen AI) bằng cách cho phép các nhà sản xuất thiết bị (OEM) và nhà phát triển đưa Llama 3 vào vận hành các trên thiết bị sử dụng nền tảng Snapdragon thuộc hạng flagship sắp ra mắt của hãng. Việc sử dụng kiến trúc điện toán không đồng nhất (heterogeneous computing architecture) tận dụng sức mạnh của các thành phần xử lý hàng đầu bao gồm CPU, GPU và NPU, kết hợp với kiến trúc bộ nhớ tân tiến, giúp các khách hàng, đối tác và nhà phát triển tối đa hóa hiệu suất ứng dụng, hiệu suất nhiệt độ và tuổi thọ pin.

Các nhà phát triển sẽ có quyền truy cập vào nguồn tài nguyên và công cụ để vận hành Llama 3 một cách tối ưu trên nền tảng Snapdragon thông qua Qualcomm AI Hub, cổng thông tin hiện đang cung cấp khoảng 100 mô hình AI được tối ưu hóa. Qualcomm AI Hub giúp các nhà phát triển thúc đẩy thời gian tung sản phẩm ra thị trường nhanh hơn, đồng thời mở khóa các tiện ích của AI trên thiết bị cho ứng dụng của họ.

Qualcomm và Meta cam kết thúc đẩy sự tiên phong và nâng tầm những trải nghiệm AI ở một thế hệ hoàn toàn mới Sự kết hợp này đánh dấu cột mốc quan trọng trong mối quan hệ hợp tác lâu dài của hai bên, đồng thời thể hiện nhữngnỗ lực trong việc mang đến cho các nhà phát triển và người dùng những tính năng AI mạnh mẽ.​