Nâng cao khả năng phát hiện mối đe dọa cho các mô hình GenAI

Phát hiện các mối đe dọa đám mây truyền thống

Các hệ thống phát hiện mối đe dọa được thiết kế để phát hiện sớm những vi phạm bảo mật tiềm ẩn nên rất cần thiết cho một kiến ​​trúc bảo mật đa lớp, phòng thủ chuyên sâu.

Các hệ thống phát hiện mối đe dọa thường sử dụng công cụ phát hiện mối đe dọa, về cơ bản là thu thập những sự kiện nhật ký phục vụ cho việc phân tích bảo mật. Những công cụ này sử dụng các thuật toán để phát hiện các mục nhật ký có hoạt động đáng ngờ.

Tuy nhiên, kết quả “dương tính” giả luôn là một thách thức trong việc phát hiện mối đe dọa. Do đó, các chiến lược khác đã được sử dụng để tăng cường độ chính xác của những lần phát hiện và ngăn chặn “bội thực cảnh báo” (alert fatigue).

Theo mô hình trách nhiệm chia sẻ, các tổ chức sử dụng đám mây có chịu trách nhiệm phát hiện mối đe dọa. Đây là việc rất khó khăn đối với các tổ chức vì việc phát hiện mối đe dọa trên đám mây không giống như trong các hệ thống tại chỗ.

Điểm khác biệt lớn nhất là truy cập nhật ký sự kiện, vì các tổ chức phụ thuộc vào nhà cung cấp dịch vụ đám mây (CSP) để cung cấp nhật ký. Trong khi đó với các hệ thống tại chỗ thì nhật ký có thể truy cập trực tiếp. Một điểm khác biệt khác là sự kết nối của các tài nguyên đám mây thông qua các API trong đám mây, nhằm cho phép tính linh hoạt và khả năng mở rộng.

Điều này giống như con dao hai lưỡi trong việc phát hiện mối đe dọa vì bên phòng thủ có thể tận dụng nó để nhanh chóng phát hiện và ngăn chặn các cuộc tấn công, trong khi bên tấn công cũng có thể sử dụng nó để nhanh chóng xâm nhập vào hệ thống đám mây

Phát hiện mối đe dọa trong các mô hình GenAI trên đám mây

Việc phát hiện mối đe dọa trong các mô hình GenAI trên đám mây là mối quan tâm lớn đối với hầu hết các tổ chức và gặp phải một số thách thức, bao gồm:

Quản lý tài sản: Hệ thống kiểm kê tự động là một yêu cầu quan trọng để phát hiện mối đe dọa trong các mô hình GenAI trên đám mây

Thiếu logic phát hiện mối đe dọa: Các công cụ phát hiện mối đe dọa cần có logic cụ thể để xác định các sự kiện độc hại hoặc đáng ngờ trên đám mây. Tuy nhiên, logic này phải được phát triển thông qua các nguồn mở hoặc nhà cung cấp an ninh mạng. Hiện tại, dường như có rất ít quy tắc phát hiện như vậy.

Điều chỉnh với MITRE ATLAS: MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) là cơ sở kiến ​​thức trực tiếp, có thể truy cập toàn cầu về các chiến thuật và kỹ thuật của đối thủ chống lại các hệ thống hỗ trợ AI dựa trên những quan sát tấn công trong thế giới thực và các cuộc trình diễn thực tế từ các nhóm AI và nhóm bảo mật. Các nhóm bảo mật tận dụng cơ sở kiến ​​thức này để nâng cao các hệ thống phát hiện mối đe dọa bằng cách điều chỉnh các quy tắc phát hiện cho phù hợp. Điều này làm giảm tình trạng “bội thực” cảnh báo và cho phép phát hiện mối đe dọa thực tế. Tuy nhiên, MITRE ATLAS hiện tại còn chung chung và không xác định các kỹ thuật GenAI dành riêng cho đám mây.

Khoảng cách phát hiện và lạm dụng API: Hầu hết các mối đe dọa đám mây không phải là lỗ hổng thực sự mà là sự lạm dụng các tính năng hiện có khiến việc phát hiện hành vi độc hại trở nên khó khăn. Đây cũng là một thách thức đối với các hệ thống dựa trên quy tắc.

GenAI có một số trường hợp lạm dụng, ví dụ như tấn công “đầu độc” dữ liệu huấn luyện. Tuy nhiên, sẽ xuất hiện nhiều trường hợp lạm dụng hơn khi Cloud GenAI trở nên phổ biến hơn và việc xác định những trường hợp này có thể là một thách thức.

Nghiên cứu tình huống: Amazon Bedrock

Amazon Bedrock là một trong những dịch vụ GenAI hàng đầu trên nền tảng đám mây do Amazon Web Service cung cấp. Amazon Bedrock cho phép truy cập vào các mô hình nền tảng (FM) do các công ty AI hàng đầu cung cấp, bao gồm A121 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI và Amazon. Bedrock sử dụng một số kỹ thuật AI như tinh chỉnh và tăng cường truy xuất (RAG - retrieval-augmented generation) để trao quyền cho các tổ chức xây dựng những ứng dụng do GenAI tạo ra mà không cần trải qua các quy trình AI nghiêm ngặt.

Tuy nhiên, các tổ chức sử dụng Bedrock cần phải có một hệ thống quản lý tài sản đám mây hiệu quả, có khả năng phát hiện và duy trì kho lưu trữ cập nhật tất cả các thành phần của Bedrock để có thể xác định nhanh chóng những thay đổi có thể gây hại.

Ngoài ra, bạn cần các hệ thống phát hiện mối đe dọa để thu thập và phân tích nhật ký sự kiện dựa trên tất cả các lệnh gọi API đối với Bedrock.

Mô phỏng tấn công đám mây

Mô phỏng tấn công đám mây để mô phỏng các chiến thuật, kỹ thuật và quy trình (TTP) của các cuộc tấn công trong thế giới thực trên cơ sở hạ tầng đám mây. Những mô phỏng này giúp các tổ chức có thể đánh giá tác động của các cuộc tấn công đối với cơ sở hạ tầng một cách thực tế và an toàn.

Mô phỏng tấn công đám mây giúp giảm thiểu lỗi trong phát hiện các mối đe doạ đám mây và tình trạng “bội thực” cảnh báo nhờ những mô phỏng các cuộc tấn công mạng đặc trưng cho hành vi của kẻ tấn công trong thực tế.

Mô phỏng tấn công đám mây là một thành phần quan trọng để phát triển và cải thiện đáng kể khả năng phát hiện các mối đe doạ đám mây vì các API, tính năng và tài nguyên đám mây luôn có sự thay đổi không thể lường trước được và những thay đổi này có thể là lỗ hổng và cơ hội cho những kẻ tấn công.

Các nhóm vận hành bảo mật đám mây có thể tận dụng mô phỏng tấn công đám mây theo nhiều cách. Các kỹ sư phát hiện có thể xác thực xem các mẫu tấn công có được ghi lại trong hệ thống ghi nhật ký hay không và cũng phát triển các quy tắc giúp giảm tình trạng “bội thực” cảnh báo bằng cách xác định các cảnh báo sai tiềm ẩn.

Kết luận

Sự phát triển bùng nổ của GenAI trên toàn thế giới đã khiến các tổ chức đang nhanh chóng áp dụng công nghệ này để thúc đẩy đổi mới sáng tạo và đạt được lợi thế kinh doanh. Tuy nhiên, hầu hết các tổ chức sẽ áp dụng các dịch vụ GenAI do các nhà cung cấp đám mây công cộng cung cấp để cân bằng giữa chi phí và lợi ích. Điều này sẽ tạo ra một số thách thức về bảo mật, đặc biệt là việc phát hiện các mối đe dọa.

Mô phỏng tấn công đám mây là một giải pháp hữu hiệu để xác định các mối đe dọa cụ thể đối với GenAI, đồng thời giúp ngăn chặn tình trạng “bội thực” cảnh báo và tránh các cảnh báo sai tiềm ẩn./.