Học máy trên ứng dụng Edge mang AI đến với công nghệ IoT

Học máy có thể trở thành một công cụ phân tích mạnh mẽ cho khối lượng dữ liệu khổng lồ. Sự kết hợp của học máy và thuật toán Edge có thể lọc hầu hết các thông tin không cần thiết được thu thập bởi các thiết bị IoT và để lại các dữ liệu có liên quan để được phân tích bởi các công cụ phân tích edge và công nghệ đám mây.

Những tiến bộ trong trí tuệ nhân tạo đã cho phép  những chiếc xe tự lái, nhận dạng giọng nói, tìm kiếm trên web hoạt động, và cũng như nhận dạng khuôn mặt và hình ảnh. Học máy là nền tảng của những hệ thống đó. Hôm nay nó phổ biến đến mức chúng ta có thể sử dụng nó hàng chục lần một ngày mà không biết.

Nhiều cổng hiện đang được sử dụng để kết nối các thiết bị IoT có một số khả năng xử lý. Các ứng dụng học máy hạn chế có thể chạy trên các bộ xử lý egde đó. Sử dụng các mạng IoT cục bộ, kết nối một số bộ định tuyến, cổng và máy chủ, một phần quan trọng của việc phân tích và ra quyết định có thể xảy ra trên các mạng lưới edge.

Khi triển khai nhiều cổng máy tính trong mạng lưới edge có khả năng, cần phải cẩn thận khi chuyển một số lượng đáng kể dữ liệu từ lớp đám mây sang lớp cạnh, đặc biệt là cho CPU các ứng dụng chuyên sâu. Việc xử lý dữ liệu không đồng nhất và đào tạo dữ liệu đòi hỏi tài nguyên tính toán đáng kể, nhưng rất khó cho khách hàng hoàn thành các nhiệm vụ này do các hạn chế về khả năng của chúng.

Đó là lý do tại sao các công ty như Google và Huawei đã sản xuất các sản phẩm cụ thể để tăng cường khả năng tính toán IoT trên Edge.

Khi số lượng tác vụ lớn hơn nhiều so với khả năng xử lý của các máy chủ edge, chúng ta có thể tránh các lỗi cổng tiềm năng bằng cách lên lịch xử lý trên toàn bộ mạng cục bộ. Lập kế hoạch hiệu quả là cần thiết để tối ưu hóa việc học máy cho IoT trong cấu trúc tính toán edge.

Khi lập kế hoạch nhiệm vụ có rất ít thông tin về các nhiệm vụ trong tương lai, quyết định triển khai ban đầu dựa trên các nhiệm vụ lịch sử. Một khi thuật toán học máy có thể phân tích hiệu suất của các máy chủ và cổng Edge, và hiệu quả thực hiện một số lượng lớn nhiệm vụ, hệ thống có thể bắt đầu dự đoán lập lịch tối ưu trên toàn mạng.

Một cách tiếp cận khác là sử dụng học máy trong môi trường máy tính trong suốt (TC), nơi các nhiệm vụ đào tạo chuyển từ các máy khách hạng nhẹ sang các máy chủ và các thiết bị Edge. TL hỗ trợ các thuật toán học máy khác nhau, chẳng hạn như học sâu (DL) và máy hỗ trợ vector (SVM). Thuật toán được cấu hình sẵn trong hệ thống và các gói phần mềm tương ứng được cài đặt trước khi đào tạo dữ liệu. TL có thể giảm thời gian đào tạo đáng kể trên tiền đề rằng nó đảm bảo độ chính xác.

Khi chúng tôi bắt đầu áp dụng học máy, mạng Edge có thể thực hiện nhiều tác vụ thường được dành riêng cho các máy chủ đám mây và cung cấp:

• Tăng độ tin cậy hoạt động: Sử dụng lưu trữ và xử lý cục bộ, lấy trí thông minh từ dữ liệu cục bộ, có thể triển khai các giải pháp IoT hiệu quả hơn. Điều này đặc biệt quan trọng ở những vị trí mà kết nối đám mây bị gián đoạn hoặc bị chậm trễ.
• Dự đoán thời gian thực: Chạy mô hình học máy trên thiết bị, mạng IoT kết hợp Edge có thể đạt được dự đoán nhanh hơn đáng kể cho các ứng dụng IoT quan trọng so với các giải pháp điện toán đám mây điển hình.
• Tăng cường bảo mật: Là mạng Edge, được ghép nối với học máy, có thể xử lý và phân tích dữ liệu như hình ảnh, video, âm thanh và các dữ liệu cảm biến khác được thu thập cục bộ trên các thiết bị cạnh, giúp giải quyết các nhu cầu riêng tư và tuân thủ cụ thể.

Các công ty máy tính lớn đang có bước nhảy lớn

Tháng trước, trong hội nghị Cloud Next '18, Google đã công bố một vài sản phẩm mới cho máy học và tính toán Edge trên IoT: Edge TPU, theo công ty “cho phép triển khai suy luận ML chất lượng cao trên Edge” và Cloud IoT Edge mở rộng khả năng xử lý dữ liệu mạnh mẽ của Google Cloud với hàng tỷ thiết bị Edge, chẳng hạn như cánh tay robot, tua-bin gió và giàn khoan, để họ có thể thực hiện dữ liệu từ cảm biến của họ trong thời gian thực và dự đoán kết quả tại địa phương.

Việc ra quyết định thời gian thực trong các hệ thống IoT vẫn còn nhiều thách thức do chi phí, các hạn chế về yếu tố hình thức, độ trễ, mức tiêu thụ điện năng và các cân nhắc khác. Google đang công bố hai sản phẩm mới nhằm giúp khách hàng phát triển và triển khai các thiết bị thông minh được kết nối với quy mô: Edge TPU, chip phần cứng mới và Cloud IoT Edge, một phần mềm mở rộng khả năng AI mạnh mẽ của Google Cloud tới các cổng và thiết bị được kết nối. Điều này cho phép xây dựng và đào tạo các mô hình ML trong đám mây, sau đó chạy các mô hình đó trên thiết bị Cloud IoT Edge thông qua sức mạnh của máy gia tốc phần cứng Edge TPU.

Để thực sự nhận ra tính toán Edge trong các ứng dụng IoT, vẫn còn nhiều thách thức cần giải quyết, chẳng hạn như cách phân phối hiệu quả nhu cầu xử lý trên các thiết bị, máy chủ và cổng. Giải quyết các thách thức này và những lỗi khác vẫn là lời hứa của Trí tuệ nhân tạo với khả năng học tập sâu sắc của nó.

Khôi Linh, Phạm Thu Trang