An toàn thông tin

Chống lại các cuộc tấn công AI bằng phòng thủ AI

Hoài Bắc • 19/01/2025 14:10

Những kẻ tấn công mạng đang sử dụng AI ngày càng nhiều để tiến hành các cuộc tấn công mạng nhanh hơn, diện rộng hơn và hiệu quả hơn. Do đó, điều quan trọng là các tổ chức phải phản ứng tương tự bằng cách khai thác AI trong các chiến lược phòng thủ an ninh mạng của họ.

“
Tóm tắt:
- Các kẻ tấn công đang ngày càng sử dụng AI để tiến hành các cuộc tấn công mạng nhanh hơn, diện rộng hơn và
hiệu quả hơn
- Một số phương pháp mà các tác nhân đe dọa mạng đang sử dụng AI: Tiến hành trinh sát; Mở rộng tấn công phi kỹ
thuật; Phát triển mã độc hại; Khai thác lỗ hổng tự động; Tấn công deepfake; Tấn công Injection.
- Các khả năng của AI cho các chiến lược phòng thủ an ninh mạng: Phát hiện và phân tích mối đe dọa; bảo mật tự
động; phân tích thông tin về mối đe dọa.
- Những khuyến nghị hành động để đề phòng các mối đe dọa do AI gây ra.

Mặc dù công nghệ trí tuệ nhân tạo (AI) đã xuất hiện được một thời gian nhưng không thể phủ nhận rằng nó đã trở thành xu hướng chủ đạo trong năm qua. Bất cứ khi nào công nghệ mới trở thành xu hướng chủ đạo, mọi người đều tìm cách sử dụng nó để giúp cuộc sống ở nhà và nơi làm việc của họ dễ dàng hơn. Mặc dù việc áp dụng nhanh chóng công nghệ AI chắc chắn đã cải thiện cách chúng ta điều hành doanh nghiệp của mình nhưng nó cũng tạo ra những cơ hội mới cho các tác nhân đe dọa mạng.

Sử dụng AI trong các cuộc tấn công mạng

Những kẻ đe dọa mạng luôn tìm kiếm con đường ít bị cản trở nhất để thực hiện các cuộc tấn công của chúng. Ví dụ: Chúng sử dụng lại phần mềm độc hại và thường sử dụng các bộ công cụ có sẵn như CobaltStrike và Brute Ratel C4 để khai thác điểm yếu và thực hiện các hành động độc hại mà không tốn nhiều công sức. Mô hình hành vi tương tự này đã được quan sát thấy với công nghệ AI mới. Khi các công cụ AI mới được tung ra thị trường, các tác nhân đe dọa sử dụng chúng ngày càng nhiều hơn để tự động hóa và tăng cường các phương thức tấn công khác nhau.

Dưới đây là một số cách mà các tác nhân đe dọa mạng đang sử dụng AI:

- Tiến hành trinh sát - các cuộc tấn công mạng thường bắt đầu bằng việc kẻ đe dọa thu thập thông tin về các mục tiêu tiềm năng của chúng. Sử dụng AI, họ có thể thu thập thông tin công khai từ các trang web, nền tảng truyền thông xã hội và các nguồn trực tuyến khác để thu thập dữ liệu về một tổ chức. Dữ liệu này có thể bao gồm chi tiết cá nhân, liên kết, kết nối và thông tin có giá trị khác có thể được sử dụng để lập kế hoạch và thực hiện một cuộc tấn công mạng.

-Mở rộng tấn công phi kỹ thuật - Đã qua rồi cái thời có thể phát hiện ra email lừa đảo do một số vấn đề về ngữ pháp hoặc chính tả. Bằng cách sử dụng các chatbot AI tạo sinh, kẻ tấn công có thể tạo ra các email, trang web và nội dung khác lừa đảo có độ tinh vi cao để tăng khả năng đánh lừa người dùng. Điều này sẽ tiếp tục góp phần khiến tấn công phi kỹ thuật (Social Engineering) trở thành một trong những mối đe dọa hàng đầu được sử dụng trong các cuộc tấn công mạng.

- Phát triển mã độc hại - Các tác nhân đe dọa có thể sử dụng các công cụ AI để tạo phần mềm độc hại và mã hóa khác, ngay cả khi họ không có kỹ năng viết mã hóa. Nhiều công cụ AI ngày nay cung cấp khả năng sửa đổi hoặc tạo mã hóa bằng cách cung cấp các hướng dẫn hoặc đầu vào đơn giản. Các tác nhân đe dọa có thể tạo tập lệnh tùy chỉnh, phát triển các biến thể phần mềm độc hại mới và liên tục phát triển bộ công cụ của chúng để tránh bị phát hiện và trở nên hiệu quả hơn.

- Khai thác lỗ hổng tự động - AI có thể được sử dụng để tự động hóa quá trình phát hiện và khai thác lỗ hổng trong ứng dụng hoặc hệ thống. Bằng cách tận dụng các kỹ thuật học máy, tác nhân đe dọa có thể nhanh chóng xác định điểm yếu và khởi động các cuộc tấn công có mục tiêu trên quy mô lớn.

- Tấn công deepfake - Các video, hình ảnh hoặc bản ghi âm giả mạo deepfake do AI tạo ra có thể được sử dụng để thao túng hoặc đánh lừa các cá nhân. Những kẻ đe dọa có thể khai thác công nghệ AI để tạo ra nội dung giả mạo có sức thuyết phục, có khả năng gây

thiệt hại về mặt danh tiếng hoặc tạo điều kiện cho các cuộc tấn công mạng rộng hơn.

- Tấn công Injection - Các công cụ AI tạo sinh có thể dễ bị tổn thương trước các cuộc tấn công Injection, trong đó tác nhân đe dọa có thể thao túng kết quả đầu ra do công cụ tạo ra. Bằng cách sử dụng các công cụ này để trả lời các câu hỏi theo cách ngoài ý muốn, các tác nhân đe dọa có thể sử dụng tính năng Injection để thu thập thông tin nhạy cảm và thậm chí thực thi mã độc hại.

“Tấn công Injection gián tiếp chắc chắn là mối lo ngại đối với chúng tôi”, Vijay Bolina, Giám đốc an ninh thông tin tại Đơn vị trí tuệ nhân tạo DeepMind của Google, cho biết. Google có nhiều dự án đang được tiến hành để tìm hiểu cách AI có thể bị tấn công. Trước đây, tấn công Injection được coi là “có vấn đề”, nhưng mọi thứ đã diễn ra nhanh hơn kể từ khi mọi người bắt đầu kết nối các mô hình ngôn ngữ lớn (LLM) với Internet và các plug-in, có thể thêm dữ liệu mới vào hệ thống.

Trong một thí nghiệm vào tháng 2/2023, các nhà nghiên cứu bảo mật đã buộc chatbot Bing của Microsoft hoạt động như một kẻ lừa đảo. Các hướng dẫn ẩn trên một trang web mà các nhà nghiên cứu tạo ra đã yêu cầu chatbot yêu cầu người sử dụng nó cung cấp thông tin chi tiết về tài khoản ngân hàng của họ. Loại tấn công này, trong đó thông tin ẩn có thể khiến hệ thống AI hoạt động theo những cách không mong muốn.

Nhưng đây mới chỉ là khởi đầu. Hàng trăm ví dụ về các cuộc tấn công “Injection gián tiếp” đã được tạo ra. Khi ngày càng nhiều công ty sử dụng LLM, có khả năng cung cấp cho hệ thống ngày càng nhiều dữ liệu của cá nhân và doanh nghiệp, chắc chắn đây là một rủi ro và nó thực sự hạn chế tiềm năng sử dụng LLM.

Các cuộc tấn công Injection được chia thành hai loại - trực tiếp và gián tiếp. Khi sử dụng LLM, mọi người đặt câu hỏi hoặc đưa ra hướng dẫn theo lời nhắc để hệ thống trả lời. Việc chèn lời nhắc trực tiếp xảy ra khi ai đó cố gắng đưa ra câu trả lời LLM theo cách ngoài ý muốn - chẳng hạn như khiến nó đưa ra lời nói hận thù hoặc câu trả lời có hại. Những lời nhắc nhở gián tiếp, những điều thực sự đáng lo ngại, sẽ đưa mọi thứ lên một tầm cao mới. Thay vì người dùng nhập lời nhắc độc hại, hướng dẫn sẽ đến từ bên thứ ba.

Ví dụ: một trang web mà LLM có thể đọc hoặc một tệp PDF đang được phân tích có thể chứa các hướng dẫn ẩn để hệ thống AI tuân theo. Rủi ro cơ bản tiềm ẩn trong tất cả những điều này, đối với cả hướng dẫn trực tiếp và gián tiếp, là bất kỳ ai cung cấp đầu vào cho LLM đều có mức độ ảnh hưởng cao đối với đầu ra. Nói một cách đơn giản: Nếu ai đó có thể đưa dữ liệu vào LLM, thì họ có khả năng có thể thao túng những gì nó đưa ra.

Loại tấn công này hiện được coi là một trong những cách đáng lo ngại nhất mà các mô hình ngôn ngữ có thể bị tin tặc lạm dụng. Khi các hệ thống AI tạo sinh được đưa vào hoạt động bởi các tập đoàn lớn và các công ty khởi nghiệp, ngành an ninh mạng đang cố gắng nâng cao nhận thức về các mối nguy hại tiềm ẩn, với mong muốn sẽ giữchodữliệu-cảdữliệucánhânvàdữliệu doanh nghiệp - an toàn khỏi bị tấn công. Hiện tại không có một giải pháp kỳ diệu nào, nhưng các biện pháp bảo mật thông thường có thể giảm thiểu rủi ro.

Việc sử dụng AI cho phép các tác nhân đe dọa thực hiện các cuộc tấn công nhanh hơn và hiệu quả hơn. Hậu quả của những cuộc tấn công này có thể rất nghiêm trọng, từ tổn thất tài chính và vi phạm dữ liệu đến thiệt hại về danh tiếng và gián đoạn hoạt động. Hơn nữa, sự phát triển nhanh chóng và khả năng thích ứng của các mối đe dọa do AI điều khiển khiến chúng trở thành thách thức đặc biệt đối với các biện pháp an ninh mạng truyền thống để chống lại một cách hiệu quả. Kết quả là, các tổ chức đang phải đối mặt với mức độ rủi ro chưa từng có, đòi hỏi phải có cách tiếp cận chủ động và thích ứng để bảo vệ an ninh mạng.

Họ phải đáp trả bằng cách sử dụng AI để chống lại AI của đối thủ.

Sử dụng AI để chống lại các cuộc tấn công mạng

Để chống lại hiệu quả các cuộc tấn công mạng do AI điều khiển, các tổ chức phải khai thác khả năng của AI cho các chiến lược phòng thủ an ninh mạng của mình. Triển khai các công cụ và chiến lược bảo mật do AI cung cấp là một khía cạnh quan trọng trong việc chống lại các cuộc tấn công mạng.

Có một số cách mà các tổ chức có thể sử dụng AI trong các chương trình an ninh mạng của họ:

- Phát hiện và phân tích mối đe dọa - Một lĩnh vực quan trọng mà AI có thể tạo ra tác động đáng kể là phát hiện và phân tích mối đe dọa. Các công cụ bảo mật được hỗ trợ bởi AI có thể phân tích lượng lớn dữ liệu trong thời gian thực, cho phép xác định nhanh chóng các hoạt động bất thường và các sự cố bảo mật tiềm ẩn.

Bằng cách tận dụng các thuật toán học máy, các tổ chức có thể phát hiện các mẫu biểu hiện của các mối đe dọa mạng và thực hiện các biện pháp chủ động để giảm thiểu rủi ro. Những công cụ này có thể cung cấp khả năng phản hồi theo thời gian thực, tự động điều chỉnh hệ thống phòng thủ của chúng trước các mối đe dọa mới nổi.

- Hoạt động bảo mật tự động - Các công cụ bảo mật được hỗ trợ bởi AI có thể tự động hóa các tác vụ bảo mật, chẳng hạn như tích hợp nguồn dữ liệu, ghép các cảnh báo khác nhau và làm phong phú thêm các chi tiết bảo mật.

AI cũng có thể hỗ trợ tự động hóa các hành động ứng phó sự cố bằng cách phân tích và liên hệ các sự kiện bảo mật, xác định mức độ của sự cố và đề xuất các hành động ứng phó thích hợp. Điều này giúp giảm gánh nặng cho các nhóm bảo mật, nâng cao hiệu quả và cho phép họ tập trung vào các vấn đề bảo mật mang tính chiến lược và phức tạp hơn. Tính năng tự động hóa có độ chính xác cao có thể tăng tốc thời gian trung bình để phát hiện (MTTD) và thời gian phản hồi trung bình (MTTR), giảm tác động của các cuộc tấn công mạng và giảm thiểu các cửa sổ dễ bị tổn thương.

- Phân tích thông tin về mối đe dọa - Thông tin về mối đe dọa chủ động và phân tích dự đoán là những thành phần thiết yếu của chiến lược an ninh mạng. AI có thể phân tích các nguồn dữ liệu bảo mật đa dạng trong thời gian thực để xác định các mối đe dọa mới nổi và dự đoán các hướng tấn công tiềm ẩn. Điều này có thể bao gồm việc tận dụng các kỹ thuật AI của đối thủ để tạo và tìm hiểu về các cuộc tấn công, nhờ đó khả năng phòng thủ có thể được cải thiện liên tục. Bằng cách tận dụng AI để chủ động phòng thủ, các tổ chức có thể đi trước đối thủ một bước và giảm thiểu rủi ro trước khi chúng chuyển sang tấn công toàn diện.

Việc thực hiện các chiến lược sử dụng AI trong phòng thủ an ninh mạng sẽ tăng cường khả năng của tổ chức trong việc phát hiện và ngăn chặn các cuộc tấn công mạng một cách hiệu quả.

Xu hướng và khuyến nghị trong tương lai

Nhìn về phía trước, vai trò của AI trong các cuộc tấn công và phòng thủ mạng dự kiến sẽ còn phát triển hơn nữa. Các tác nhân đe dọa sẽ tiếp tục cải tiến các kỹ thuật tấn công do AI điều khiển, đòi hỏi sự đổi mới liên tục trong các chiến lược an ninh mạng. Để đón đầu các mối đe dọa do AI gây ra, các tổ chức nên ưu tiên thực hiện các đề xuất sau:

- Đầu tư vào các giải pháp an ninh mạng được hỗ trợ bởi AI: Các tổ chức nên phân bổ nguồn lực để triển khai các hệ thống phòng thủ được hỗ trợ bởi AI có thể thích ứng với các mối đe dọa ngày càng gia tăng trong thời gian thực.

- Cộng tác và chia sẻ thông tin về mối đe dọa: Chia sẻ thông tin về mối đe dọa với các đồng nghiệp trong ngành và cộng đồng bảo mật có thể tăng cường phòng thủ tập thể trước các cuộc tấn công do AI điều khiển.

- Thúc đẩy văn hóa nhận thức về an ninh mạng: Giáo dục nhân viên về những rủi ro và các biện pháp thực hành tốt nhất liên quan đến các cuộc tấn công mạng do AI điều khiển có thể củng cố tình hình an ninh tổng thể của tổ chức.

- Luôn cập nhật các công nghệ AI đang phát triển: Các tổ chức nên luôn cập nhật thông tin về các công nghệ AI mới nổi và các ứng dụng tiềm năng của chúng trong cả nỗ lực tấn công và phòng thủ an ninh mạng.

Trong bối cảnh an ninh mạng ngày càng phát triển, các tổ chức phải thừa nhận việc đối thủ ngày càng sử dụng AI nhiều hơn trong các cuộc tấn công mạng. Khai thác AI để phòng thủ không còn là một lựa chọn mà là điều cần thiết để bảo vệ dữ liệu, hệ thống và cơ sở hạ tầng nhạy cảm.

Bằng cách tận dụng AI để phát hiện mối đe dọa, triển khai các hệ thống phòng thủ được hỗ trợ bởi AI và áp dụng thông tin tình báo về mối đe dọa chủ động, các tổ chức có thể tăng cường khả năng phòng thủ an ninh mạng và kiên cường trước các cuộc tấn công do AI điều khiển. Sử dụng AI trong bối cảnh an ninh mạng không chỉ làCtheo kịp đối thủ; đó là việc đi trước một bước trong cuộc chiến chống lại các mối đe dọa mạng.

“
Tài liệu tham khảo:
1. https://www.precisionai.com.au/
2. https://www.wired.com/story/generative-ai-prompt-injection
3. https://www.paloaltonetworks.com/blog/
4. https://www.linkedin.com/posts/vladsiniavin_artificialintelligence-technology-
management-activity-7106959950697873408-Dzkr/
5. https://www.wired.com/story/microsoft-copilot-phishing-data-extraction/

(Bài đăng ấn phẩm in Tạp chí TT&TT số 11 tháng 11/2024)