“

Tóm tắt:
- AI biên có thể giúp giảm nhu cầu băng thông và nâng cao hiệu suất ứng dụng.
- Các ngành công nghiệp đang phát triển các mô hình AI gọn gàng hơn, nhỏ hơn, hiệu quả hơn để có thể tải lên các thiết bị biên.

Có thể thấy, hiện nay AI tạo sinh - “sự bùng nổ của đổi mới” đang thể hiện tiềm năng to lớn trong các ngành công nghiệp. Nó có thể được sử dụng để hợp lý hóa công việc và tăng hiệu quả của nhiều người sáng tạo khác nhau như: luật sư, người viết nội dung, nhà thiết kế đồ họa, nhạc sĩ v.v.. Nó có thể giúp khám phá các loại thuốc điều trị mới hoặc hỗ trợ các thủ tục y tế. AI tạo sinh có thể cải thiện tự động hóa công nghiệp, phát triển mã phần mềm mới và tăng cường an ninh vận tải thông qua việc tổng hợp tự động video, âm thanh, hình ảnh v.v..

Tuy nhiên, AI tạo sinh ngày nay cũng bị hạn chế bởi công nghệ hỗ trợ nó. Đó là bởi AI tạo sinh diễn ra trên đám mây - các trung tâm dữ liệu lớn gồm các bộ xử lý máy tính tốn kém, tiêu tốn nhiều năng lượng, cách xa người dùng thực tế. Khi ai đó đưa ra lời nhắc tới một công cụ AI tạo sinh như ChatGPT hoặc một số giải pháp hội nghị truyền hình dựa trên AI, yêu cầu sẽ được truyền qua Internet tới đám mây, nơi nó được máy chủ xử lý trước khi kết quả được trả về qua mạng.

Khi các công ty phát triển các ứng dụng mới cho AI tạo sinh và triển khai chúng trên các loại thiết bị khác nhau - máy quay video và hệ thống an ninh, robot công nghiệp và cá nhân, máy tính xách tay và thậm chí cả ô tô - đám mây chính là điểm nghẽn về băng thông, chi phí và khả năng kết nối.

Và đối với các ứng dụng như hỗ trợ trình điều khiển, phần mềm máy tính cá nhân, hội nghị truyền hình và bảo mật, việc di chuyển dữ liệu liên tục qua mạng có thể gây ra rủi ro về quyền riêng tư.

Giải pháp để giải quyết vấn đề này chính là cho phép các thiết bị này xử lý AI tạo sinh ngay ở biên. Trên thực tế, thế hệ AI tạo sinh dựa trên biên sẽ mang lại lợi ích cho nhiều ứng dụng mới nổi.

AI tạo sinh đang trỗi dậy

Vào tháng 6/2023, Hãng ô tô Mercedes-Benz cho biết họ sẽ mở rộng hơn nữa việc sử dụng trí tuệ nhân tạo và tích hợp nó vào việc điều khiển bằng giọng nói cho các phương tiện của mình. Bằng cách thêm ChatGPT, điều khiển bằng giọng nói thông qua Hey Mercedes của Trợ lý giọng nói MBUX sẽ trở nên trực quan hơn nữa. Chương trình beta tùy chọn sẽ bắt đầu vào ngày 16 tháng 6 năm 2023 tại Hoa Kỳ cho hơn 900.000 xe được trang bị hệ thống thông tin giải trí MBUX.

Trong khi hầu hết các trợ lý giọng nói bị giới hạn ở các tác vụ và phản hồi được xác định trước, ChatGPT tận dụng mô hình ngôn ngữ lớn để cải thiện đáng kể khả năng hiểu ngôn ngữ tự nhiên và mở rộng các chủ đề mà nó có thể phản hồi. Ví dụ: trên một chiếc Mercedes được cải tiến ChatGPT, người lái xe có thể yêu cầu chiếc xe - trong chế độ rảnh tay - về công thức bữa tối dựa trên những nguyên liệu họ đã có ở nhà. Tất nhiên, chỉ thực hiện được nếu chiếc xe được kết nối với Internet; khi chiếc xe đang trong nhà để xe hoặc ở địa điểm xa, tất cả đều bị hủy.

Trong vài năm gần đây, hội nghị truyền hình đã trở nên quen thuộc đối với hầu hết chúng ta. Hiện tại, các công ty phần mềm đang tích hợp các dạng AI vào các giải pháp hội nghị truyền hình. Có thể là để nhanh chóng tối ưu hóa chất lượng âm thanh và video hoặc để “đặt” mọi người vào cùng một không gian ảo. Giờ đây, các hội nghị truyền hình được hỗ trợ bởi AI tạo sinh có thể tự động tạo biên bản cuộc họp hoặc lấy thông tin liên quan từ các nguồn của công ty trong thời gian thực khi các chủ đề khác nhau được thảo luận.

Tuy nhiên, nếu một chiếc ô tô thông minh, hệ thống hội nghị truyền hình hoặc bất kỳ thiết bị biên nào khác không thể truy cập trở lại đám mây thì trải nghiệm AI tạo sinh sẽ không thể xảy ra. Nhưng nếu không cần phải kết nối đám mây như vậy thì sao? Nghe có vẻ như là một nhiệm vụ khó khăn khi xem xét khả năng xử lý khổng lồ của AI trên nền tảng đám mây, nhưng giờ đây nó đã trở nên khả thi.

AI tạo sinh ở biên

Chẳng hạn, đã có các công cụ AI tạo sinh có thể tự động tạo các bản trình bày PowerPoint phong phú, hấp dẫn. Nhưng người dùng cần hệ thống có thể hoạt động ở mọi nơi, ngay cả khi không có kết nối Internet.

Tương tự, chúng ta đã thấy một lớp trợ lý Copilot dựa trên AI tạo sinh sẽ thay đổi căn bản cách chúng ta tương tác với các thiết bị máy tính bằng cách tự động hóa nhiều tác vụ thông thường, như tạo báo cáo hoặc trực quan hóa dữ liệu. Hãy tưởng tượng bạn mở một chiếc máy tính xách tay, máy tính xách tay nhận ra bạn qua camera của nó, sau đó tự động tạo ra một chuỗi hành động cho ngày/tuần/tháng dựa trên các công cụ được bạn sử dụng nhiều nhất, như Outlook, Teams, Slack, Trello, v.v.. Nhưng để duy trì dữ liệu quyền riêng tư và trải nghiệm người dùng tốt, bạn phải có tùy chọn chạy AI cục bộ.

Ngoài việc đáp ứng những thách thức về kết nối không đáng tin cậy và quyền riêng tư dữ liệu, AI biên có thể giúp giảm nhu cầu băng thông và nâng cao hiệu suất ứng dụng. Ví dụ: nếu một ứng dụng AI tạo sinh đang tạo nội dung giàu dữ liệu, như không gian hội nghị ảo, qua đám mây, thì quá trình này có thể bị trễ tùy thuộc vào băng thông có sẵn (và tốn kém). Và một số loại ứng dụng AI tạo sinh nhất định, như bảo mật, robot hoặc chăm sóc sức khỏe, yêu cầu phản hồi hiệu suất cao, độ trễ thấp mà kết nối đám mây không thể xử lý.

Trong bảo mật video, khả năng nhận dạng lại mọi người khi họ di chuyển giữa nhiều camera - một số được đặt ở nơi mạng không thể tiếp cận - yêu cầu mô hình dữ liệu và xử lý AI trong camera thực tế. Trong trường hợp này, AI tạo sinh có thể được áp dụng cho các mô tả tự động về những gì máy ảnh nhìn thấy thông qua các truy vấn đơn giản như “Tìm đứa trẻ 8 tuổi mặc áo phông đỏ và đội mũ bóng chày”. Đó chính là AI tạo sinh biên.

Sự phát triển của AI biên

Thông qua việc áp dụng một loại bộ xử lý AI mới và phát triển các mô hình dữ liệu AI tạo sinh gọn gàng hơn, hiệu quả hơn nhưng không kém phần mạnh mẽ, các thiết bị biên có thể được thiết kế để hoạt động thông minh ở những nơi không thể hoặc không mong muốn kết nối đám mây.

Tất nhiên, xử lý đám mây sẽ vẫn là một thành phần quan trọng của AI tạo sinh. Ví dụ: các mô hình AI đào tạo sẽ vẫn ở trên đám mây. Nhưng hành động đầu vào của người dùng vào các mô hình đó, được gọi là suy luận, có thể - và trong nhiều trường hợp nên - xảy ra ở biên.

Ngành công nghiệp này đang phát triển các mô hình AI gọn gàng hơn, nhỏ hơn, hiệu quả hơn để có thể tải lên các thiết bị biên. Các công ty như Hailo sản xuất bộ xử lý AI được thiết kế nhằm mục đích thực hiện xử lý mạng thần kinh. Những bộ xử lý mạng thần kinh như vậy không chỉ xử lý các mô hình AI cực kỳ nhanh chóng mà còn xử lý với ít năng lượng hơn, giúp chúng tiết kiệm năng lượng và phù hợp với nhiều thiết bị biên, từ điện thoại thông minh đến máy ảnh.

Việc xử lý AI tạo sinh ở biên cũng có thể cân bằng tải một cách hiệu quả với khối lượng công việc ngày càng tăng, cho phép các ứng dụng mở rộng quy mô ổn định hơn, giảm bớt gánh nặng xử lý tốn kém cho các trung tâm dữ liệu đám mây và giúp chúng giảm lượng khí thải carbon.

AI tạo sinh sẵn sàng thay đổi ngành điện toán một lần nữa. Trong tương lai, mô hình ngôn ngữ lớn LLM trên máy tính xách tay có thể tự động cập nhật giống như cách hệ điều hành thực hiện hiện nay - và hoạt động theo cách tương tự. Nhưng để đạt được điều đó, chúng ta cần kích hoạt khả năng xử lý AI tạo sinh ở biên mạng. Kết quả hứa hẹn sẽ mang lại hiệu suất cao hơn, tiết kiệm năng lượng cũng như quyền riêng tư và bảo mật. Tất cả những điều đó dẫn đến các ứng dụng AI có thể thay đổi thế giới cũng như chính AI.

“

Tài liệu tham khảo:

1. https://www.thegioimaychu.vn/blog/

2. https://smartindustry.vn/technology

3. https://www.unite.ai

4. https://media.mercedes-benz.com

5. https://qsystemsco.com/edge-ai.html

(Bài viết được đăng tải trên Tạp chí in Số 3 - Tháng 3/2024)

Minh Nhật