Các mối đe doạ đối với các hệ thống AI

Trong bối cảnh kỹ thuật số phát triển nhanh chóng ngày nay, sự tiến bộ của công nghệ mang đến những thách thức mới trong việc đảm bảo phát triển bền vững cho con người, đặc biệt là trong lĩnh vực an ninh mạng và bảo vệ dữ liệu cá nhân.

Chia sẻ tại phiên hội thảo chuyên đề “An toàn dữ liệu trong kỷ nguyên trí tuệ nhân tạo” trong khuôn khổ Hội thảo quốc tế về dữ liệu lớn, Internet vạn vật và điện toán đám mây do Swinburne Việt Nam tổ chức mới đây, ông Đoàn Hữu Hậu, Giám đốc Tư vấn Chuyển đổi số của FPT Digital, cho biết giống như các hệ thống công nghệ thông tin khác, hệ thống AI cũng thường xuyên phải đối mặt với các nguy cơ tấn công.

Ông Đoàn Hữu Hậu dẫn chứng trong một cuộc khảo sát toàn cầu đối với các chuyên gia quản lý rủi ro, 58% cho rằng AI là mối nguy cơ tiềm ẩn lớn nhất có thể dẫn đến các hậu quả bất ngờ trong vòng 2 năm tới. Chỉ 11% số chuyên gia tự nhận là có đủ năng lực để đánh giá các rủi ro liên quan đến việc triển khai AI trên quy mô toàn tổ chức.

Theo đó, các hệ thống AI đang phải đối diện với các mối đe dọa ngày càng tinh vi xuyên suốt vòng đời, từ giai đoạn huấn luyện (tấn công trong quá trình huấn luyện) đến giai đoạn triển khai sử dụng (tấn công vào mô hình và tấn công vào hệ thống gây gián đoạn dịch vụ)

Cụ thể, trong quá trình huấn luyện có 2 hình thức tấn công. Đầu tiên là đầu độc dữ liệu, bao gồm: thêm vào dữ liệu sai lệch, xóa bỏ dữ liệu quan trọng, thay đổi nhãn dữ liệu, thay đổi thuật toán huấn luyện, thay đổi siêu tham số, thay đổi cấu trúc mạng thần kinh. Thứ hai là tấn công vào quá trình thu thập dữ liệu: tạo dữ liệu giả, thay đổi thiết bị thu thập dữ liệu. Hậu quả là mô hình AI đưa ra quyết định sai lệch, gây mất niềm tin vào AI và tổn thất kinh tế.

Trong khi đó, tấn công vào mô hình AI nhằm sao chép và làm giả mô hình, có tác động xấu đến hiệu quả đầu tư của các công ty phát triển AI. Có hai hình thức tấn công vào mô hình AI đó là: Tấn công đối kháng nhằm tạo ra các mẫu dữ liệu đầu vào được thiết kế đặc biệt để đánh lừa mô hình, khiến mô hình đưa ra những quyết định sai lầm; Tấn công trích xuất thông tin, theo đó tác nhân xấu cố gắng trích xuất thông tin nhạy cảm từ mô hình đã được huấn luyện, ví dụ như các thông số của mô hình. Hậu quả của việc tấn công vào mô hình AI là làm giảm hiệu suất mô hình; rò rỉ thông tin nhạy cảm và gây mất niềm tin vào AI.

Cuối cùng, việc tấn công vào hệ thống, theo ông Hậu, gây ảnh hưởng trực tiếp đến khả năng vận hành, gây gián đoạn dịch vụ, trong đó tin tặc chủ yếu sử dụng phương thức tấn công từ chối dịch vụ và tấn công vào cơ sở hạ tầng khác.

Các hậu quả tiềm ẩn đối với rủi ro mất an toàn các hệ thống AI

Việc phát triển các hệ thống AI phải được song hành với vấn đề an ninh mạng và an toàn thông tin để tránh việc bị tấn công, chiếm quyền điều khiển gây ra các hậu quả nghiêm trọng.

Theo Giám đốc Tư vấn Chuyển đổi số của FPT Digital, các hậu quả tiềm ẩn đối với cá nhân là ảnh hưởng đến quyền riêng tư và danh tiếng của mỗi cá nhân, gây thiệt hại về tài chính, ví dụ dữ liệu sinh trắc học có thể bị tấn công trong các mô hình AI và gây tổn thất tài chính. Hữu

Bên cạnh đó là các vấn đề liên quan tới bình đẳng và công bằng, ví dụ: Các định kiến về sắc tộc và tôn giáo trong mô hình AI gây bất bình đẳng trong việc phê duyệt các khoản vay ngân hàng hoặc phê duyệt tín dụng. Cuối là việc tuân thủ pháp luật, như hệ thống chăm sóc sức khoẻ AI tiết lộ thông tin bệnh nhân cho người không có thẩm quyền.

Trong khi đó, đối với các tổ chức, các hậu quả tiềm ẩn đối với rủi ro mất an toàn các hệ thống AI là hiệu suất tài chính, hiệu suất phi tài chính (Ví dụ: Hệ thống AI tuyển dụng trên định kiến sai lệch làm giảm sự đa dạng và hiệu suất của nhân sự), vấn đề tuân thủ pháp luật (Hệ thống chăm sóc sức khoẻ AI tiết lộ thông tin bệnh nhân cho người không có thẩm quyền) và tính toàn vẹn của danh tiếng.

Ở góc độ xã hội, các hậu quả tiềm ẩn còn nghiêm trọng hơn. Đầu tiên là an ninh quốc gia, điển hình như việc các phương tiện không người lái sử dụng AI bị tấn công và gây nguy hiểm cho xã hội. Thứ hai là ổn định kinh tế, ví dụ như thuật toán AI xác định giá bán bị sai lệch dẫn đến bất ổn thị trường. Thứ ba là vấn đề chính trị, cụ thể công cụ gen AI bị thao túng ngầm dẫn đến các thông tin sai lệch về bầu cử và chính trị. Cuối cùng là tính toàn vẹn của cơ sở hạ tầng, ví dụ như hệ thống GPS bị dùng quá mức bởi hệ thống AI làm ngẽn mạch các hệ thống điều phối giao thông dẫn đến ùn tắc.

Nguyên tắc xây dựng hệ thống AI an toàn

Theo ông Đoàn Hữu Hậu, có 5 nguyên tắc chính để xây dựng hệ thống AI an toàn, đó là: an toàn từ thiết kế (Security by design); Minh bạch và giải thích được (Explainability); Khả năng chống lại các cuộc tấn công; Bảo vệ dữ liệu; Tính đa dạng và công bằng. Trong đó, dữ liệu là một thành phần vô cùng quan trọng đối với các hệ thống AI, vì vậy bảo vệ dữ liệu an toàn là điều đầu tiên và xuyên suốt trong quá trình xây dựng và vận hành các mô hình AI.

Chia sẻ về một cách tiếp cận thực tiễn nhằm xây dựng hệ thống AI an toàn trong quá trình huấn luyện, ông Đoàn Hữu Hậu cho rằng đầu tiên là cần kiểm tra chất lượng dữ liệu, phân tích nguồn dữ liệu, kiểm tra tính công bằng để đảm bảo dữ liệu đầu vào chính xác và không bị sai lệch. Một biện pháp nữa là quản lý truy cập, giúp giới hạn quyền truy cập vào hệ thống cho những người có thẩm quyền. Đồng thời phát hiện bất thường trong quá trình hoạt động của hệ thống giúp nhanh chóng nhận diện và xử lý các mối đe dọa tiềm ẩn. Việc kiểm tra tính minh bạch của mô hình cũng cần được chú trọng. Cuối cùng, đa dạng hóa dữ liệu huấn luyện là cần thiết để mô hình AI có thể học từ nhiều nguồn dữ liệu khác nhau, giảm thiểu nguy cơ bị ảnh hưởng bởi dữ liệu sai lệch.

Giám đốc Tư vấn Chuyển đổi số của FPT Digital nhấn mạnh: "Ứng dụng AI không chỉ là xu thế mà sẽ là một xu hướng không thể tránh khỏi, tạo nền tảng mới, thúc đẩy phát triển kinh tế, xã hội. Do đó để phục vụ phát triển, kinh doanh, hệ thống AI phải an toàn và đáng tin cậy"./.

Ngọc Diệp