Những hành động cần thực hiện ngay để chặn hacker lợi dụng AI

Khi ChatGPT lần đầu tiên ra mắt, tội phạm mạng đã tìm cách sử dụng chatbot AI tổng quát này để cải thiện chiến thuật lừa đảo. Một trong những mối quan ngại lớn nhất của các chính phủ và cơ quan thực thi pháp luật về AI tổng quát chính là cách tội phạm mạng sử dụng những công cụ này để tạo ra các mối đe dọa tinh vi hơn và cải thiện cơ chế phân phối các mối đe dọa của chúng.

ChatGPT bị kẻ xấu sử dụng rất phổ biến

Nhiều báo cáo đã thống kê về việc tội phạm mạng lợi dụng các công cụ AI tổng quát như ChatGPT. Mặc dù OpenAI đã thực hiện các bước để đảm bảo các công cụ của mình không bị sử dụng vào những mục đích sai trái, nhưng tội phạm mạng vẫn nỗ lực tìm cách vượt qua những ngăn cản này.

Theo báo cáo của Microsoft và OpenAI, ChatGPT đã bị những kẻ xấu sử dụng rất phổ biến. Microsoft là nhà hỗ trợ tài chính lớn cho OpenAI và bản thân công ty cũng sử dụng công nghệ AI, đặc biệt là các mô hình ngôn ngữ lớn (LLM), để hỗ trợ các ứng dụng và phần mềm của riêng mình.

Đã có những lo ngại về việc sử dụng AI trong các cuộc tấn công mạng, đặc biệt khi các công cụ AI như WormGPT và FraudGPT xuất hiện để hỗ trợ tạo ra các email độc hại và các công cụ bẻ khóa.

Phát biểu tại Hội nghị quốc tế về an ninh mạng tại Đại học Fordham ở New York hồi tháng 1/2024, Giám đốc Cơ quan an ninh mạng quốc gia Mỹ (NSA), Rob Joyce cho biết tin tặc đang sử dụng AI để khiến các email lừa đảo của chúng trông thuyết phục hơn.

“Các nhóm tội phạm mạng, các tác nhân đe dọa quốc gia và các đối thủ khác đang khám phá và thử nghiệm các công nghệ AI nhằm tìm hiểu giá trị tiềm năng của AI và tìm cách cách vượt qua các biện pháp kiểm soát an ninh. Về phía các tổ chức và người dùng, tăng cường các biện pháp kiểm soát bảo mật tương tự trước các cuộc tấn công và thực hiện hành động giám sát để dự đoán và ngăn chặn tấn công độc hại là điều rất quan trọng”, báo cáo nêu rõ.

Công ty cho biết trong một bài đăng trên blog riêng rằng các dịch vụ của OpenAI, bao gồm mô hình GPT-4, được sử dụng để “truy vấn thông tin nguồn mở, dịch, tìm lỗi mã hóa và chạy các tác vụ mã hóa cơ bản”.

“Các công nghệ AI sẽ tiếp tục phát triển. Microsoft sẽ tiếp tục theo dõi các tác nhân đe dọa và hoạt động độc hại lạm dụng LLM, đồng thời hợp tác với OpenAI và các đối tác khác để chia sẻ thông tin, cải thiện khả năng bảo vệ khách hàng và hỗ trợ cộng đồng bảo mật rộng lớn hơn”, Microsoft cho biết.

Trong khi đó, OpenAI sẽ thực hiện một cách tiếp cận đa hướng để chống lại việc tin tặc độc hại sử dụng nền tảng của công ty.

“Mặc dù chúng tôi nỗ lực giảm thiểu khả năng lạm dụng công cụ AI của các tin tặc nhưng chúng tôi sẽ không thể ngăn chặn mọi trường hợp. Tuy nhiên, bằng cách tiếp tục đổi mới, điều tra, cộng tác và chia sẻ, chúng ta sẽ loại bỏ được những nhân độc hại trong hệ sinh thái kỹ thuật số và cải thiện trải nghiệm cho những người khác”, OpenAI kết luận.

Về phần mình, giải pháp của Microsoft là sử dụng AI để đáp trả các cuộc tấn công của AI. Homa Hayatyfar, Giám đốc phân tích của Microsoft cho biết: “AI có thể giúp những kẻ tấn công thực hiện những kế hoạch tinh vi hơn. Chúng tôi đã phát hiện ra điều này, có hơn 300 tác nhân đe dọa mà Microsoft đã theo dõi và chúng tôi sử dụng AI để bảo vệ, phát hiện và ứng phó”.

Microsoft đang xây dựng Security Copilot, một trợ lý AI mới được thiết kế dành cho các chuyên gia an ninh mạng để xác định các vi phạm và hiểu rõ hơn về lượng tín hiệu và dữ liệu khổng lồ được tạo ra thông qua các công cụ an ninh mạng hàng ngày. Gã khổng lồ phần mềm cũng đang đại tu hệ thống bảo mật phần mềm sau các cuộc tấn công lớn.

Những hành động cần thực hiện ngay

Theo công ty nghiên cứu Bain & Company, bên cạnh những tiềm năng và lợi ích, AI tổng quát cũng có thể được sử dụng như một công cụ của kẻ tấn công mạng. Ví dụ, những kẻ tấn công ít kinh nghiệm hơn có thể sử dụng AI tổng quát để tạo các email hấp dẫn hơn hoặc các video, bản ghi và hình ảnh giả mạo thực tế hơn để gửi đến các mục tiêu lừa đảo. AI tổng quát cũng cho phép kẻ xấu dễ dàng viết lại mã tấn công một cách khác biệt để tránh bị phát hiện.

AI tổng quát đã trở thành một chủ đề thịnh hành đối với những kẻ độc hại. Mật độ đề cập đến AI tổng quát trên các web đen ngày càng phổ biến vào năm 2023. Việc tin tặc khoe khoang đang sử dụng ChatGPT là điều bình thường. Mối đe dọa từ những kẻ xấu sẽ chỉ tăng lên khi chúng sử dụng AI tổng quát để chuẩn hóa và cập nhật chiến thuật, kỹ thuật và quy trình tấn công.

Các mối nguy hiểm tổng hợp được AI hỗ trợ bao gồm các chủng phần mềm độc hại tự phát triển, tạo ra các biến thể để tấn công một mục tiêu cụ thể bằng kỹ thuật, mà các biện pháp bảo mật hiện có không thể phát hiện được. Chỉ những hoạt động an ninh mạng linh hoạt nhất mới có thể dẫn đầu.

Vì thế, sau đây là những hành động cần được thực hiện ngay.

Đối với lãnh đạo doanh nghiệp: nên hiểu rằng AI tổng quát khiến an ninh mạng trở thành vấn đề cấp bách hàng ngày. Vì thế, hãy biến AI và an ninh mạng thành một mục trong chương trình nghị sự định kỳ tại các cuộc họp hội đồng quản trị và ban lãnh đạo cấp cao (C-Suite); Tránh tập trung hạn hẹp vào các biện pháp kiểm soát hoặc một số rủi ro nhất định - bởi vì an ninh mạng đòi hỏi một cách tiếp cận toàn diện.

Đối với Giám đốc thông tin/giám đốc an ninh thông tin: nên yêu cầu các nhà lãnh đạo hoạt động bảo mật (SecOps) xác thực đầu ra AI tổng quát, đặc biệt là các thuật toán phát hiện mối đe dọa được cập nhật bởi AI tổng quát; đào tạo nhân viên SecOps mới và cấp dưới săn lùng các mối đe dọa có và không có AI tổng quát để tránh sự phụ thuộc; Và nếu có thể, hãy tránh dựa vào một nhà cung cấp duy nhất hoặc mô hình AI tổng quát trên toàn bộ hệ thống an ninh mạng.

Đối với các công ty an ninh mạng: nên tuyển dụng nhân sự có tài năng phù hợp để đưa khả năng sáng tạo AI vào sản phẩm của họ đồng thời bảo vệ chống lại thông tin sai lệch do AI tạo ra.

AI tổng quát sẽ phát triển nhanh chóng và điều cần thiết là tất cả các bên liên quan từ nhà cung cấp dịch vụ an ninh mạng đến doanh nghiệp phải liên tục cập nhật kiến thức chuyên môn và chiến lược của họ để tận dụng lợi thế và luôn được bảo vệ./.