Tin tặc đang biến những hệ thống bảo mật AI thành đồng minh

“Tóm” được những kẻ tấn công hiện đang là một thách thức bởi vì tin tặc đang “kết nạp” các kỹ thuật thông minh mà chúng ta sử dụng để làm cho bản thân mình hiệu quả hơn, năng suất hơn. Chúng sử dụng chính những công nghệ hỗ trợ chúng ta để ngăn chặn những phát triển của chúng ta. Dường như bất cứ điều gì chúng ta có thể làm thì những kẻ tội phạm mạng cũng có thể - và đôi khi chúng còn làm tốt hơn.

Chiến đấu với vấn đề này và đảm bảo rằng các kỹ thuật và thuật toán AI tiên tiến vẫn đứng về phía những người tốt sẽ là một trong những thách thức lớn nhất đối với các chuyên gia an ninh mạng trong những năm tới.

Để làm điều đó, các tổ chức sẽ phải trở nên chủ động hơn trong việc bảo vệ mình. Nhiều tổ chức cài đặt các hệ thống bảo mật tiên tiến sử dụng AI và học máy để ngăn chặn những cuộc tấn công vào hệ thống máy tính một cách bí mật và liên tục (Advanced Persistent Threat-APT) cùng với những mối đe dọa mới nổi khác. Bằng cách đó, các tổ chức thường cho rằng vấn đề đã được giải quyết; một khi chương trình bảo mật nâng cao đã được cài đặt, họ có thể ngồi và thư giãn, tự tin rằng mình đang được bảo vệ.

Tuy nhiên, thái độ này gần như đảm bảo một thực tế rằng họ sẽ bị tấn công. Cho dù hệ thống của bạn có hiện đại như thế nào, tin tặc luôn luôn đi trước một bước. Sự tận tâm mới là một trong những vũ khí quan trọng nhất trong sự rung chuyển của vũ khí bảo vệ không gian mạng.

Sự tự mãn, đã được nói nhiều lần, là kẻ thù. Và trong trường hợp này, nó có thể là nguyên nhân dẫn đến thảm kịch mạng. Các tổ chức có thể đặt sự chú ý nhiều hơn đến những bảo mật cơ bản, hỗ trợ hệ thống bảo mật dựa trên AI của mình phát hiện tốt hơn các chiến thuật mà tin tặc sử dụng, giáo dục nhân viên về sự nguy hiểm của các chiến thuật lừa đảo và các phương pháp khác được tin tặc sử dụng để xâm phạm hệ thống.

Tin tặc đã học được cách điều khiển AI

Các tin tặc biến AI của chúng ta thành đồng minh của  chúng bằng cách nào?

Các nhà nghiên cứu tại Đại học Tel Aviv đã phát triển các hệ thống sử dụng AI để cải thiện tính bảo mật của mạng, đồng thời tránh sự vi phạm danh tính cá nhân. Hệ thống này có thể cảm nhận được khi kẻ xâm lược cố gắng truy cập vào máy chủ hoặc mạng. Nhận thức được các kiểu tấn công, hệ thống AI dựa trên học máy và phân tích nâng cao có thể cảnh báo cho các quản trị viên rằng họ đang bị tấn công, cho phép họ đưa ra hành động kịp thời trước khi chúng đi quá xa.

Dưới đây là ví dụ về một chiến thuật tin tặc có thể sử dụng để biến hệ thống của chúng ta thành “bạn” của chúng. Học máy - trái tim của thứ mà chúng ta gọi là trí thông minh nhân tạo- có được “trí khôn” bằng cách quan sát các mẫu trong dữ liệu và đưa ra các giả định về ý nghĩa của nó, cho dù là trên một máy tính cá nhân hay một mạng lưới thần kinh lớn.

Vì vậy, nếu một hành động cụ thể trong bộ xử lý máy tính diễn ra khi các quy trình cụ thể đang chạy và hành động đó được lặp lại trên mạng thần kinh và/hoặc máy tính cụ thể, hệ thống học máy sẽ biết rằng hành động đó có nghĩa là một cuộc tấn công mạng đã xảy ra và cần phải có hành động thích hợp.

Nhưng đây là nơi mà mọi việc trở nên phức tạp. Phần mềm độc hại hiểu biết về AI có thể tiêm dữ liệu sai lệch vào hệ thống bảo mật với mục tiêu là phá vỡ các mẫu dữ liệu được thuật toán học máy sử dụng để đưa ra quyết định. Dữ liệu giả mạo có thể được chèn vào cơ sở dữ liệu để làm cho hệ thống học máy coi quá trình sao chép thông tin cá nhân giống như một phần của hoạt động thông thường của hệ thống CNTT và có thể bỏ qua nó một cách an toàn.

Thay vì cố gắng vượt qua các hệ thống bảo mật học máy thông minh, tin tặc chỉ đơn giản là kết bạn với chúng - sử dụng khả năng của chính chúng để chống lại chúng ta và giúp những kẻ tội phạm làm bất cứ điều gì chúng muốn trên máy chủ.

Còn rất nhiều cách khác để đánh lừa các hệ thống bảo mật dựa trên AI. Ví dụ, một hệ thống nhận dạng hình ảnh dựa trên AI có thể bị đánh lừa bằng cách thay đổi chỉ một vài pixel trong ảnh. Trong một thí nghiệm nổi tiếng tại Đại học Kyushu, Nhật Bản, các nhà khoa học đã có thể đánh lừa các hệ thống nhận dạng hình ảnh dựa trên AI với tỷ lệ gần 75%, thuyết phục chúng rằng đó không phải là một con mèo mà là một con chó hay thậm chí là một chiến binh tàng hình.

Một chiến thuật khác đó là tin tặc chèn các tín hiệu và quy trình hoàn toàn không ảnh hưởng đến hệ thống CNTT, đào tạo hệ thống AI rằng những điều này là bình thường. Một khi thành công, tin tặc có thể sử dụng những thói quen đó để thực hiện các cuộc tấn công mà hệ thống an ninh sẽ bỏ lỡ bởi vì nó đã được huấn luyện để tin rằng hành vi đó là không liên quan, hoặc thậm chí là bình thường.

Hơn thế nữa, tin tặc có thể thỏa hiệp với hệ thống an ninh mạng dựa trên AI là bằng cách thay đổi hoặc thay thế các tệp nhật ký - hoặc thậm chí thay đổi dấu thời gian hoặc những siêu dữ liệu khác để làm rối loạn các thuật toán học máy.

Cách tổ chức có thể tự bảo vệ mình

Do đó, sức mạnh to lớn của AI có khả năng là nguyên nhân cho sự sụp đổ của chính nó. Vậy chúng ta không nên sử dụng AI nữa? Chắc chắn điều này sẽ không xảy ra, và cũng không có lý do nào cho việc đó. Với nỗ lực đúng đắn, chúng ta có thể khắc phục những trục trặc AI này và ngăn chặn các nỗ lực của tin tặc. Dưới đây là một số ý tưởng cụ thể:

Sự tận tâm: Điều đầu tiên các tổ chức cần làm là tăng mức độ tham gia của họ vào những quy trình bảo mật. Các công ty đã cài đặt những hệ thống bảo mật AI tiên tiến có xu hướng trở nên tự mãn về sức mạnh an ninh mạng của mình, tin rằng hệ thống này sẽ bảo vệ họ và bằng cách cài đặt nó, họ được đảm bảo an toàn.

Tuy nhiên, như chúng ta đã thấy, thực tế không phải như vậy. Theo dõi các hệ thống AI đang bảo vệ tổ chức là bước đầu tiên để đảm bảo rằng chúng thực sự đáng giá với số tiền được đầu tư.

Làm cho AI ít bị ảnh hưởng hơn: Một chiến thuật tin tặc sử dụng để tấn công là làm ngập hệ thống AI với dữ liệu chất lượng thấp để gây nhầm lẫn cho nó. Để chống lại điều này, các hệ thống bảo mật cần tính đến khả năng phải đối mặt với dữ liệu chất lượng thấp.

Kiểm soát chặt chẽ hơn về cách đánh giá dữ liệu. Ví dụ, kiểm tra dấu thời gian trên các tệp nhật ký một cách cẩn thận hơn để xác định xem chúng có bị giả mạo hay không, một vũ khí của tin tặc mà chúng ta có thể tận dụng.

Quan tâm nhiều hơn đến bảo mật cơ bản: Các tin tặc thường xâm nhập vào tổ chức bằng cách sử dụng các chiến thuật truyền thống – các cuộc tấn công dai dẳng hoặc chạy phần mềm độc hại. Bằng cách hỗ trợ hệ thống phòng thủ của mình chống lại các chiến thuật cơ bản này, tổ chức sẽ có thể ngăn chặn mọi cuộc tấn công dưới bất kỳ hình thức nào - kể cả những người sử dụng AI tiên tiến - bằng cách trục xuất hoàn toàn phần mềm độc hại và khai thác độc hại khỏi mạng của mình.

Đào tạo nhân viên về sự nguy hiểm của các trò lừa đảo, bao gồm cả việc trao thưởng cho những người tránh được và phạt những người không tránh được các trò lừa đảo. Cùng với các biện pháp phòng thủ cơ bản mạnh hơn như hộp cát, hệ thống chống phần mềm độc hại, các hệ thống phòng thủ AI thông minh hơn thành công trong việc bảo vệ tổ chức. AI có khả năng giữ cho tương lai kỹ thuật số của chúng ta an toàn hơn. Với một chút giúp đỡ từ chính chúng ta, nó sẽ có thể tránh được sự thao túng của tin tặc và thực hiện được đúng công việc của mình.