Vai trò của AI trong an ninh mạng khu vực APAC

Do đó, cùng với sự tiến bộ nhanh chóng của các kỹ thuật tinh vi của tin tặc, nhu cầu cấp thiết về các giải pháp ANM nhằm tăng cường phòng thủ mạng cũng được đặt ra cho khu vực APAC.

Tính đến năm 2022, khu vực APAC thiếu hụt tới 2,1 triệu chuyên gia ANM. Từ thực tế đó, một chuyên gia của Kaspersky đã nghiên cứu chi tiết về cách các đội ngũ trong lĩnh vực ANM có thể tận dụng công nghệ trí tuệ nhân tạo (AI) để tăng cường biện pháp bảo vệ hiện tại của họ trước những mối đe dọa mạng đang thay đổi nhanh chóng trong khu vực.

Theo đó, Saurabh Sharma, nhà nghiên cứu bảo mật hàng đầu của nhóm Nghiên cứu và Phân tích Toàn cầu (GReAT) của Kaspersky tại khu vực APAC, đã chỉ ra rằng trong khi tội phạm mạng có thể khai thác và lợi dụng những tiến bộ của AI cho mục đích xấu, thì các tổ chức ANM cũng có thể sử dụng công nghệ này cho mục đích có lợi.

Khu vực APAC thiếu hụt trầm trọng nhân lực ANM

Năm 2022, APAC phải đối mặt với tình trạng thiếu hụt 52,4% nhân lực ANM, một vấn đề nghiêm trọng đặc biệt khi khu vực này đang phát triển nhanh chóng về kinh tế số.

Cụ thể, Singapore đã ghi nhận sự sụt giảm 16,5% về nhân sự ANM, với tổng cộng 77.425 người, và là một trong hai thị trường ghi nhận sự thu hẹp của lực lượng lao động.

Thiếu hụt nhân lực ANM toàn cầu đã tăng lên 26,2%, đạt 3,42 triệu người. Khu vực APAC ghi nhận sự thiếu hụt lớn nhất, tiếp theo là châu Mỹ Latinh với 515.879 người và Bắc Mỹ, cần 436.080 chuyên gia.

Tại APAC, 60% người tham gia khảo sát đã thừa nhận tình trạng thiếu hụt đáng kể nhân viên ANM trong tổ chức của họ. Hơn nữa, 56% cho biết khoảng trống về nhân lực này đã làm cho công ty của họ dễ gặp rủi ro tấn công mạng ở mức trung bình hoặc cao.

Vai trò của AI trong an ninh mạng

Tình trạng thiếu hụt nhân lực ANM đã thúc đẩy các nhóm bảo mật CNTT xem xét sử dụng AI để tăng cường khả năng phòng thủ mạng của tổ chức. AI có thể đóng vai trò quan trọng trong việc cải thiện tình báo mối đe dọa, ứng phó sự cố và phân tích mối đe dọa mạng.

Tình báo về mối đe dọa mạng bao gồm việc tự động hóa và tối ưu hóa quy trình thu thập, kiểm tra và chia sẻ thông tin về các mối đe dọa. Cụ thể như:

Săn tìm mối đe dọa mạng: AI có thể đóng vai trò chủ động trong việc xác định và nhận diện các mối đe dọa mà có thể chưa được biết đến. Công nghệ này giúp các chuyên gia ANM phát hiện ra các phương thức tấn công mới hoặc điểm yếu bằng cách nghiên cứu và theo dõi những hành vi bất thường.

Phân tích phần mềm độc hại: Các công cụ được hỗ trợ bởi AI có thể tự động phân tích các mẫu phần mềm độc hại, xác định hành vi, khả năng và hậu quả tiềm năng của chúng. Điều này giúp các tổ chức, doanh nghiệp hiểu rõ mục tiêu của phần mềm độc hại và các chiến lược tốt nhất để giảm thiểu nó.

Phát hiện mối đe dọa theo thời gian thực: Các giải pháp bảo mật dựa trên AI có thể giám sát lưu lượng mạng, nhật ký hoạt động và theo dõi hành vi tổng thể của hệ thống theo thời gian thực. Chúng có thể phát hiện hành vi bất thường hoặc đáng ngờ, đặc biệt là trong trường hợp cuộc tấn công đang diễn ra.

Theo Saurabh Sharma, nhà nghiên cứu bảo mật cấp cao của nhóm Nghiên cứu và Phân tích toàn cầu (GReAT) của Kaspersky tại khu vực APAC, các thuật toán AI có thể nhanh chóng sàng lọc và đánh giá các nghiên cứu trước đây cũng như các chiến thuật, kỹ thuật và quy trình hoạt động, từ đó đưa ra giả thiết cho việc tìm kiếm các mối đe dọa mạng.

Phân tích mối đe dọa - giai đoạn mà các chuyên gia ANM nghiên cứu về cách hoạt động của các công cụ được sử dụng trong một cuộc tấn công. Theo chuyên gia Kaspersky Sharma, các mô hình AI tạo sinh như ChatGPT có thể hỗ trợ trong việc xác định các yếu tố quan trọng của phần mềm độc hại, giải mã các tập lệnh bị xáo trộn và thiết lập máy chủ web giả bằng các phương pháp mã hóa cụ thể.

Trong tất cả các khía cạnh của ANM, AI đóng vai trò quan trọng trong việc nâng cao khả năng phòng thủ và phản ứng sự cố, đặc biệt trong bối cảnh thiếu hụt nhân lực ANM ở khu vực APAC. Tuy nhiên, bên cạnh những lợi ích đó thì AI cũng được tin tặc tận dụng khai thác vào các mục đích tấn công.

Các nghiên cứu đã chỉ ra rằng các tệp thực thi ban đầu vô hại có thể được thiết kế để tương tác với ChatGPT thông qua API sau mỗi lần chạy. Thay vì chỉ sao chép các mẫu mã nguồn có sẵn, ChatGPT có thể được hướng dẫn tạo các phiên bản mã độc hại khác nhau và thay đổi liên tục, làm cho việc phát hiện của các hệ thống an ninh trở nên phức tạp hơn.

ChatGPT và các mô hình ngôn ngữ lớn (LLM) khác được trang bị các bộ lọc nội dung để ngăn chúng tạo ra nội dung có hại hoặc bất hợp pháp. Tuy nhiên, các nghiên cứu đã cho thấy rằng các bộ lọc này không đảm bảo hoàn toàn và có thể được vượt qua.

Hầu hết các khả năng khai thác tiềm năng liên quan đến ChatGPT đều được thực hiện bằng một kỹ thuật được gọi là "prompt engineering" (quá trình tìm kiếm, lựa chọn và sắp xếp các từ, cụm từ hoặc câu văn để hướng dẫn mô hình AI tạo ra các đầu ra hữu ích và phù hợp với mục đích và yêu cầu của người dùng). Điều này bao gồm việc thay đổi các lời gợi ý đầu vào để né tránh bộ lọc nội dung tích hợp trong công cụ, từ đó đạt được kết quả mong muốn.

Theo nghiên cứu, một số người đã phát hiện ra rằng họ có thể "lừa dối" ChatGPT bằng cách đưa ra các yêu cầu hoặc các truy vấn dưới dạng các tình huống giả định. Tuy nhiên, khả năng “lừa dối” ChatGPT vẫn bị giới hạn bởi các bộ lọc nội dung và biện pháp an ninh có sẵn, nhưng các biện pháp này cũng chưa thật sự an toàn và hiệu quả.

Điều này cũng đặt ra một thách thức cho cộng đồng ANM để tối ưu hóa các biện pháp ANM và tăng cường khả năng phát hiện sự lạm dụng của công nghệ AI.

Sharma cũng đã chỉ ra ranh giới của AI trong việc xây dựng cũng như duy trì các biện pháp ANM và đưa ra một số khuyến nghị cho các doanh nghiệp và tổ chức tại khu vực APAC, bao gồm việc tăng cường đội ngũ ANM và quy trình hiện có; đảm bảo tính minh bạch trong triển khai và sử dụng các công nghệ AI; và duy trì hồ sơ chi tiết về các giao dịch liên quan đến AI tạo sinh để có thể kiểm tra và theo dõi chúng theo thời gian trong suốt vòng đời của bất kỳ sản phẩm nào được tích hợp vào hệ thống doanh nghiệp.

Sharma nhấn mạnh rằng AI có thể cải thiện ANM, nhưng không thể thay thế hoàn toàn vai trò của con người trong lĩnh vực này. “AI mang lại lợi ích rõ ràng cho các nhóm ANM, đặc biệt là trong việc tự động hóa việc thu thập dữ liệu, cải thiện thời gian trung bình để giải quyết và hạn chế tác động của bất kỳ sự cố nào. Nếu được sử dụng hiệu quả, công nghệ này cũng có thể giảm yêu cầu về kỹ năng cho các chuyên gia bảo mật. Nhưng các tổ chức nên nhớ rằng máy móc thông minh có thể tăng cường và bổ sung tài năng của con người chứ không thể thay thế con người”./.