Qualcomm kích hoạt Meta Llama 3 vận hành trên các thiết bị sử dụng Snapdragon
Khả năng tích hợp Llama 3 trên thiết bị mang lại nhiều ưu điểm, bao gồm tốc độ phản ứng vượt trội, nâng cao tính bảo mật, độ tin cậy và trải nghiệm cá nhân hóa cho người dùng.
Qualcomm và Meta vừa công bố hợp tác nhằm tối ưu hóa việc ứng dụng các mô hình ngôn ngữ lớn Meta Llama 3 (LLMs) trực tiếp trên điện thoại thông minh, máy tính, kính VR/AR, xe hơi và các thiết bị khác. Khả năng tích hợp Llama 3 trên thiết bị mang lại nhiều ưu điểm, bao gồm tốc độ phản ứng vượt trội, nâng cao tính bảo mật, độ tin cậy và trải nghiệm cá nhân hóa cho người dùng.
Durga Malladi, Phó Chủ tịch cấp cao và Giám đốc điều hành mảng công nghệ, kế hoạch và giải pháp của Qualcomm Technologies, Inc. chia sẻ: “Với vị thế dẫn đầu của Qualcomm trong lĩnh vực ứng dụng AI trên thiết bị, kết hợp với phạm vi tiếp cận rộng khắp trên nhiều thiết bị, chúng tôi ngày càng mở rộng lợi ích của hệ sinh thái Llama trên toàn cầu, cho phép khách hàng, đối tác và các nhà phát triển tạo ra một trải nghiệm AI hoàn toàn mới”.
Sự hợp tác nhằm mục đích nâng cao khả năng tiếp cận các tính năng của AI tạo sinh (Gen AI) bằng cách cho phép các nhà sản xuất thiết bị (OEM) và nhà phát triển đưa Llama 3 vào vận hành các trên thiết bị sử dụng nền tảng Snapdragon thuộc hạng flagship sắp ra mắt của hãng.
Việc sử dụng kiến trúc điện toán không đồng nhất (heterogeneous computing architecture) tận dụng sức mạnh của các thành phần xử lý hàng đầu bao gồm CPU, GPU và NPU, kết hợp với kiến trúc bộ nhớ tân tiến, giúp các khách hàng, đối tác và nhà phát triển tối đa hóa hiệu suất ứng dụng, hiệu suất nhiệt độ và tuổi thọ pin.
Các nhà phát triển sẽ có quyền truy cập vào nguồn tài nguyên và công cụ để vận hành Llama 3 một cách tối ưu trên nền tảng Snapdragon thông qua Qualcomm AI Hub, cổng thông tin hiện đang cung cấp khoảng 100 mô hình AI được tối ưu hóa.
Qualcomm AI Hub giúp các nhà phát triển thúc đẩy thời gian tung sản phẩm ra thị trường nhanh hơn, mở khóa các tiện ích của AI trên thiết bị cho ứng dụng của họ.
Qualcomm Technologies và Meta cam kết thúc đẩy sự tiên phong và nâng tầm những trải nghiệm AI ở một thế hệ hoàn toàn mới. Sự kết hợp này đánh dấu cột mốc quan trọng trong mối quan hệ hợp tác lâu dài của hai bên, đồng thời thể hiện những nỗ lực trong việc mang đến cho các nhà phát triển và người dùng những tính năng AI mạnh mẽ./.
