Giảm tải tính toán trong điện toán biên di động

Nhằm giải quyết vấn đề này, điện toán đám mây di động - MCC (Mobile Cloud Computing) được ra đời bằng sự kết hợp năng lực tính toán di động và điện toán đám mây. Các thiết bị di động chuyển một phần công việc của mình lên đám mây nhằm giảm gánh nặng về tính toán, kỹ thuật này được gọi là giảm tải (offloading).

Tuy nhiên, điểm yếu của MCC về độ trễ cũng lộ diện khi triển khai các công nghệ mới như xe tự lái hay xử lý hình ảnh thời gian thực. Vì thế, điện toán biên di động - MEC (Mobile Edge Computing) ra đời như một giải pháp để bù đắp khe hở này. Khác với điện toán đám mây, điện toán biên không phụ thuộc vào băng thông và trung tâm dữ liệu khi các nhiệm vụ xử lý và phân tích dữ liệu được thực hiện tại biên mạng. Do vậy, MEC đem lại khả năng cung cấp độ trễ cực thấp và giảm lưu lượng dữ liệu đường trục chính. Sự ra đời của điện toán biên và các chiến lược giảm tải tính toán là tiền đề để hiện thực hóa hàng loạt ứng dụng mới như hỗ trợ nhận thức cá nhân, trợ lý ảo AI, các thiết bị tăng cường thực tại ảo, hệ thống giao thông tự động, thành phố thông minh, quản lý lưới điện, v..v. 

Bài viết này sẽ trình bày các thách thức và ứng dụng của điện toán biên dưới góc độ giảm tải tính toán.

Giảm tải trong điện toán biên di động

Do sự xuất hiện của các công nghệ tiên tiến như 5G, Internet vạn vật (IoT), xe tự hành và các loại camera giám sát bằng AI thì điện toán biên di động MEC ngày càng trở nên cần thiết. Thật vậy, ta có thể thấy công nghệ truy cập vô tuyến 5G, có dung lượng tối đa lên đến 1Gb/s và độ trễ tới 1ms. Do đó, việc xử lý dữ liệu trong 5G sẽ là một cách thức hứa hẹn để giải quyết các vấn đề về trễ. Hơn nữa, xử lý dữ liệu ở ngay tại biên mạng sẽ giảm lưu lượng dữ liệu đến lõi mạng, khi việc xử lý dữ liệu được phân bố theo địa lý. 

Muc tiêu của phân tích biên là tiếp cận thông minh để nhằm đạt được độ trễ thấp và giảm lưu lượng đến trung tâm dữ liệu. Điều này đặc biệt hữu dụng trong các ứng dụng IoT theo thời gian thực. Các giải pháp công nghệ cho xe tự hành và giám sát video dựa trên AI sẽ được hỗ trợ bởi điện toán biên. Các phương tiện tự hành được lắp đặt rất nhiều cảm biến như radar, camera và lidar để trao đổi thông tin với nhau, cảm nhận môi trường bên ngoài, đồng thời xử lý và đưa ra quyết định. Vì thế các phương tiện thông minh luôn yêu cầu độ trễ xử lý thấp. Thêm vào đó, lượng dữ liệu sản sinh với tốc độ lớn đã dẫn tới việc truyền và phân tích dữ liệu ở trung tâm hay đám mây là không khả thi [1]. 

Chính vì những tính chất đặc thù này, các phương tiện tự hành phải tận dụng hạ tầng điện toán biên để xử lý dữ liệu lập tức, cùng với kết nối mạng nhanh (5G). Tương tự như cảm biến trong xe tự hành, các camera giám sát dựa trên AI liên tục tạo ta khối lượng dữ liệu lớn và bất khả thi trong truyền tải toàn bộ dữ liệu lên đám mây. Điện toán biên cung cấp giải pháp khả thi bằng cách sử dụng các bộ phân tích video tích hợp AI ở biên mạng. Không dừng lại ở các ứng dụng trên, điện toán biên còn được áp dụng cho nhiều ngành khác nhau như công nghiệp, nông nghiệp, y tế, điện lực,...

Giảm tải trong điện toán biên khác với điện toán đám mây di động ở ba điểm chính yếu. Đầu tiên, thay vì chỉ tính toán tại chỗ hay trên đám mây, điện toán biên có thêm lựa chọn tính toán tại biên mạng và gia tăng năng lực tính toán tổng thể. Thứ hai, vấn đề phân bổ tài nguyên và chọn vị trí phức tạp hơn do có nhiều thành phần tham gia. Việc thực thi tác vụ được phân bổ giữa các thiết bị di động, nút biên và đám mây đã kéo theo thách thức mới về phân hoạch tối ưu. Cuối cùng, không giống như các trung tâm dữ liệu được tổ chức và kết nối tốt, các nút biên thường không chuẩn hóa trong triển khai và vìthế cần phải có các giải pháp giảm tải giữa các thiết bị tham gia. Hình 2 chỉ ra các thách thức phân tải trong điện toán biên. Giảm tải trong điện toán biên đối mặt với 3 thách thức chính bao gồm phân vùng ứng dụng, phân bố nhiệm vụ và thực thi tác vụ [4]. 

Bước đầu tiên của giảm tải trong điện toán biên là phân vùng. Do đặc tính cố hữu của phân vùng, ta có hai vấn đề cần giải quyết khi phân vùng cho điện toán đám mây di động MCC đó là tự động phân tích chương trình và các phân vùng theo chỉ định của lập trình viên. Phân vùng theo phân tích chương trình tự động làm giảm khối lượng công việc của lập trình viên sẽ làm cho giảm tải trở nên linh hoạt, nhưng tốn thời gian. 

Hơn nữa, phân vùng trong MEC phức tạp hơn so với phân vùng trong MCC, khi mà các tác vụ ở MCC đều có vị trí riêng, hoặc ở đám mây hoặc ở các vị trí cục bộ. Từ đây, ta thấy thách thức của phân vùng ứng dụng trong MEC: phân vùng cho giảm tải ở nhiều nút, phải chia tác vụ thành nhiều phần và thực thi trên các nền tảng khác nhau từ thiết bị di động đến đám mây, các trung tâm dữ liêụ đám mây quy mô nhỏ (cloudlet),.. 

Một vấn đề nữa là mức chi tiết khi phân vùng. Rất nhiều tác vụ ở MCC được chia tải ở các mức giao thức, mức luồng và mức lớp, thực thi ở các lớp này không chỉ phụ thuộc dữ liệu mà còn phụ thuộc vào ngữ cảnh. Với hạ tầng không đồng nhất trong điện toán biên, giảm tải ở mức nhiệm vụ/thành phần (workflow) sẽ cho ra hiệu suất tốt hơn, đồng thời các nhà phát triển cũng có thể tạo ra nhiều cách để phân vùng trên các nền tảng khác nhau. Về mặt kỹ thuật, giảm tải trong độ chi tiết này chia ứng dụng ra thành nhiều nhiệm vụ và thành phần khác nhau, rồi chuyển các nhiệm vụ/thành phần yêu cầu cao về tính toán ra các hạ tầng từ xa. Ví dụ về ứng dụng thực tại ảo AR thì giảm tải chỉ thực hiện đối với thành phần quan trọng và phức tạp nhất như theo dõi đối tượng, ra quyết định cho các máy tính ở xa [2].

Phân bố nhiệm vụ liên quan thời gian quyết định vị trí nhiệm vụ, lập lịch và quản lý tài nguyên. Với điện toán biên mới, phân bố nhiệm vụ có 3 thách thức chính sau: phát hiện và đặt vị trí các đám mây nhỏ (cloudlet), quản lý tài nguyên và lập lịch phân quyền. 

Phát hiện các đám mây nhỏ là đặc tính độc nhất của điện toán biên bởi các đám mây này thường không theo các nguyên tắc tổ chức quy chuẩn. Các đám mây nhỏ có thể được khai thác theo nhận thức về ứng dụng hay theo loại dịch vụ. Vị trí đặt cloudlet là một vấn đề liên quan đến phát hiện cloudlet. Vị trí đặt cloudlet giải quyết vấn đề sắp xếp cloudlet một cách tối ưu để phù hợp với ứng dụng. Một ví dụ mang tính phổ biến về sắp xếp đám mây nhỏ là ứng dụng thành phố thông minh. Trong đó, các đám mây được bố trí trên cơ sở đặc tính hạ tầng thông minh hiện có trong thành phố. 

Trong điện toán biên, lập lịch tác vụ là rất phức tạp do phải lên lịch cho nhiều người dùng, nhiều nút đồng thời quản lý tài nguyên động. Nhiệm vụ này càng trở nên phức tạp bởi ngườidùng liên tục di chuyển và hạ tầng mạng không dây bất đồng nhất. 

Quản lý tài nguyên trong điện toán biên cũng phải đối diện với nhiều khó khăn hơn trong MCC. Quản lý tài nguyên trong MCC chỉ quan tâm đến các thiết bị di động, bỏ qua đám mây. Trên thực tế, các đám mây nhỏ được phân bố theo địa lý có tài nguyên rất hạn chế. Do đó, giải pháp tối ưu để phân bổ tài nguyên chỉ là cân bằng giữa người dùng, bài toán tối ưu phân bố tài nguyên cần giải quyết đồng thời hai vấn đề gồm tổng hợp năng lực nút và cân bằng tải.

Trong giảm tải tính toán, tác vụ sẽ được thực thi trên nhiều nền tảng không đồng nhất, từ thiết bị di động đến máy chủ từ xa (các nút biên và đám mây). Do đó, trong thực tế, rất nhiều công nghệ được phát triển để hỗ trợ thực thi tác vụ, từ cô lập lớp xử lý sớm, đến các giải pháp dựa trên máy ảo (Virtual Machine - VM) và các cấu trúc không máy chủ mới. Hầu hết các công nghệ chia tải nguyên thủy (như trong MCC) sử dụng giải pháp cô lập mức xử lý sớm để hỗ trợ thực thi tác vụ. Tuy nhiên, cách làm này có tính minh bạch thấp do cần hai phiên bản lệnh chạy ở thiết bị di động và máy chủ. Vì thế, các giải pháp dựa trên VM đã được phát triển, các giải pháp này đóng góp sự khác biệt giữa phần cứng và phần mềm trên các cơ sở hạ tầng không đồng nhất và cung cấp môi trường thực thi tác vụ liên tục trên thiết bị và đám mây. 

Tuy nhiên, ảo hóa dựa trên VM tiêu thụ tài nguyên lớn do mỗi lần chạy VM là thực hiện một bản sao đầy đủ của một hệ điều hành. Với những đám mây nhỏ bị giới hạn tài nguyên thìgiải pháp này không hiệu quả. Vìvậy, các giải pháp ảo hóa mức nhẹ như ngăn xếp (container) đang trở thành xu hướng mới. Các ngăn xếp cung chấp chế độ riêng trên hệ điều hành dùng chung nhân và ngăn xếp phần mềm nên giảm thiểu bộ nhớ sử dụng và lưu lượng vào ra thấp. Các cách tiếp cận kết hợp giữa các ngăn xếp với máy ảo để phát huy các ưu điểm của hai giải pháp công nghệ được đặt ra và triển khai, các kiến trúc không máy chủ nổi lên. 

Mô hình này giúp các nhà phát triển bỏ qua các chi tiết của việc triển khai máy chủ, phân bổ tài nguyên và cấu hình phần mềm (từ hệ điều hành, thời gian chạy đến thư viện), giúp họ tập trung vào ứng dụng. Đặc biệt, mô hình này rất phù hợp cho điện toán biên, các giải pháp ứng dụng IoT hiện nay.

Ứng dụng của giảm tải trong điện toán biên

Nhờ vào tính ưu việt về độ trễ, điện toán biên được áp dụng trong rất nhiều lĩnh vực: công nghiệp, nông nghiệp, y tế, quản lý, điện lực, xe tự lái,... Ở đây, chúng ta sẽ phân tích 3 ứng dụng chính là: phân tích video, IoT thông minh và phương tiện thông minh.

A. Ứng dụng phân tích video

Ngày nay, camera xuất hiện ở khắp mọi nơi, từ máy quay giao thông, máy quay trên drone đến các máy quay tích hợp trong điện thoại, xe cộ. Việc phân tích video từ các máy quay trên cho ra đời hàng loạt các ứng dụng có tiềm năng thay đổi thế giới như kiểm soát giao thông, hỗ trợ nhận thức cá nhân, an ninh,... Tuy nhiên, phân tích video trực tiếp quy mô lớn trên nhiều máy ảnh là rất khó, vìnó vừa yêu cầu khả năng tính toán vừa ngốn băng thông. Mặt khác, phân tích video chỉ trên các thiết bị cạnh (ví dụ: điện thoại thông minh và máy bay không người lái) không hiệu quả do khả năng lưu trữ và khả năng tính toán còn hạn chế. Mặt khác, việc gửi video hoàn toàn lên đám mây để phân tích sẽ dễ dàng làm cạn kiệt băng thông mạng và chịu độ trễ không thể chấp nhận được. 

Do đó, kiến trúc phân tán và phân cấp của đám mây công cộng và đám mây biên được coi là phương án khả thi duy nhất để đáp ứng độ trễ nghiêm ngặt và giảm lưu lượng mạng trong phân tích video quy mô lớn. Để tiết kiệm băng thông, một giải pháp đã được đưa ra là tận dụng phương pháp tiếp cận mạng neuron học sâu DNN (Deep Neural Network) để tránh truyền các khung video "không liên quan" và thực hiện các tối ưu hóa theo nhiệm vụ cụ thể [5]. 

Việc triển khai các chiến lược này cần nhiều máy tính để tính toán và cần sử dụng giảm tải điện toán và chuyển các tác vụ tới các đám mây nhỏ gần đó. Hình 3 chỉ ra một kịch bản phân tích video với kiến trúc 3 lớp. Ởđây, chỉ có kết quả và siêu dữ liệu được phân tích bởi AI ở đám mây nhỏ được truyền về trung tâm.

B. Ứng dụng Internet vạn vật

Internet vạn vật là công nghệ tiêu biểu cho thời đại Công nghiệp 4.0, cũng như động lực để phát triển điện toán biên. Hệ thống IoT dựa trên điện toán biên có kiến trúc phân tán nhằm khai thác tối đa hiệu quả cho các dịch vụ IoT và đem lại những lợi ích to lớn. Ở đây, chúng ta phân tích ví dụ nhà thông minh. 

Hình 4, chỉ ra một kiến trúc ba lớp phân tích dữ liệu từ các cảm biến và thiết bị trong nhà thông minh. Các thiết bị IoT thông minh gửi dữ liệu qua kết nối tốc độ cao đến trung tâm IoT. Ở đó, dữ liệu cảm biến lập tức được phân tích và trung tâm đưa ra kết quả phản hồi lại cho các thiết bị, đồng thời, gửi các thông tin mã hóa về trung tâm dữ liệu để phân tích và hiểu hành vi người dùng.

C. Ứng dụng xe tự lái

Phương tiện tự lái ngày nay đã không còn quá xa lạ với chúng ta do sự phát triển của các hãng xe như Tesla. Phân tích phương tiện được kết nối là một trong những công nghệ quan trọng đối với việc lái xe tự động. Liên kết phân tích thông tin giữa các phương tiện yêu cầu độ trễ cực thấp. Do đó, tận dụng sức mạnh của điện toán biên và đám mây là một lựa chọn tự nhiên. Đối với các ứng dụng điều khiển lái xe tự động, hệ thống điều khiển phương tiện dựa trên các máy chủ từ xa là một cách điều khiển liên kết giữa hai công nghệ đầy hứa hẹn. 

Điện toán biên được áp dụng để giải quyết vấn đề độ trễ và xây dựng cơ sở hạ tầng đám mây cạnh hai tầng để kiểm soát phương tiện. Cụ thể, cả điện toán biên và đám mây đều trang bị cùng một bộ điều khiển, thực hiện điều khiển phương tiện theo dữ liệu cảm biến và đám mây nếu có độ trễ. Nói cách khác, nếu độ trễ của đám mây thấp hơn một ngưỡng, điện toán biên sẽ giao quyền kiểm soát cho đám mây và ngược lại. Hơn nữa, bộ điều khiển trên biên và đám mây chia sẻ trạng thái nội bộ để đạt được sự cộng tác tốt hơn.

Kết luận

Bài viết này trình bày các đặc trưng cơ bản của giảm tải trong điện toán biên dựa trên các vấn đề kỹ thuật và công nghệ nhằm chỉ ra các thách thức trong việc triển khai giảm tải trong điện toán biên ở các ứng dụng cụ thể. Dưới góc độ kỹ thuật, giảm tải trong điện toán biên gặp nhiều khó khăn hơn so với giảm tải trong mạng di động thông thường do một loạt các ràng buộc và điều kiện phức tạp. Các thách thức chung được đề cập cần được tiếp tục cụ thể hóa bằng các giải pháp công nghệ trong tương lai. Bên cạnh đó, các ứng dụng hữu ích nhờ sự hỗ trợ bởi các giải pháp giảm tải cũng là nguồn động lực mạnh mẽ để phát triển các kỹ thuật giảm tải mới.

Tài liệu tham khảo

[1] P.A.Hancock, IIlah Nourbakhsh, and Jack Stewart, "On the Future of Transportation in an Era of Automated and Autonomous Vehicles," Proceedings of the National Academy of Sciences, no.16, 2019.

[2] Noghabaei, Mojtaba, et al.., "A Survey Study to Understand Industry Vision for Virtual and Augmented Reality Applications in Design and Construction," preprint arXiv: 2005.02795, 2020

[3] J. Gedeon et al., "From cell towere to smart street lamps: Placing cloudlets on existing urban infrastructures," in Proc. IEEE/ACM Symp. Edge, 2018.

[4] L. Lin, X. Liao, H. Jin and P. Li, "Computation Offloading Toward Edge Computing," in Proceedings of the IEEE, vol. 107, no. 8, pp. 1584-1607, Aug, 2019.

[5] J. Wang et al, "Bandwidth efficient live video analytics for drones via edge computing," in Procedings IEEE/ACM Symp. Edge Comput,. 2018.

(Bài đăng ấn phẩm in Tạp chí TT&TT số 11+12 tháng 9/2020)