Singapore hướng dẫn kỹ thuật để bảo mật hệ thống AI

Theo ông Janil Puthucheary, Bộ trưởng cấp cao Bộ Thông tin và Truyền thông Singapore, Cơ quan An ninh mạng (CSA) dự kiến ​​​​sẽ đưa ra dự thảo Hướng dẫn kỹ thuật về bảo mật hệ thống AI để tham vấn cộng đồng vào cuối tháng này.

Bộ trưởng Puthucheary cho biết trong bài phát biểu tại hội nghị thượng đỉnh về bảo mật AI mới đây của Hiệp hội các chuyên gia bảo mật thông tin (AiSP) rằng các hướng dẫn kỹ thuật mới có thể được áp dụng cùng với các quy trình bảo mật hiện có mà các tổ chức thực hiện để giải quyết các rủi ro tiềm ẩn trong hệ thống AI.

Ông Puthucheary cũng cho biết, thông qua các hướng dẫn kỹ thuật, CSA hy vọng sẽ cung cấp tài liệu tham khảo hữu ích cho các chuyên gia an ninh mạng đang tìm cách nâng cao tính bảo mật cho các công cụ AI của họ.

Ông tiếp tục kêu gọi ngành công nghiệp và cộng đồng thực hiện phần việc của mình trong việc đảm bảo các công cụ và hệ thống AI luôn an toàn và bảo mật trước các mối đe dọa độc hại, ngay cả khi các kỹ thuật tiếp tục phát triển.

Ông Puthucheary cho biết: “Trong vài năm qua, AI đã phát triển nhanh chóng và được triển khai ở nhiều không gian khác nhau. Điều này đã tác động đáng kể đến bối cảnh mối đe dọa. Chúng tôi biết rằng sự phát triển và ứng dụng AI nhanh chóng này đã khiến chúng tôi phải đối mặt với nhiều rủi ro mới như tấn công học máy đối kháng, cho phép kẻ tấn công xâm phạm chức năng của mô hình”.

Ông lấy ví dụ cách nhà cung cấp bảo mật McAfee đã thành công trong việc xâm phạm Mobileye bằng cách thực hiện các thay đổi đối với các biển báo giới hạn tốc độ mà hệ thống AI đã được đào tạo để nhận biết.

AI đang gây ra những rủi ro bảo mật mới và các tổ chức thuộc khu vực công cũng như tư nhân phải nỗ lực để hiểu được bối cảnh mối đe dọa ngày càng gia tăng này. Ông cho biết thêm CIO của chính phủ Singapore, Cơ quan Công nghệ Chính phủ (GovTech), đang phát triển các khả năng mô phỏng các cuộc tấn công tiềm tàng vào các hệ thống AI để nắm bắt cách chúng có thể tác động đến tính bảo mật của các nền tảng đó. Ông nói: “Bằng cách đó sẽ giúp chúng tôi áp dụng các biện pháp bảo vệ phù hợp”.

Ông Puthucheary cũng cho biết thêm việc ứng dụng AI ngày càng tăng sẽ mở rộng bề mặt tấn công mà qua đó dữ liệu có thể bị lộ, bị xâm phạm hoặc bị rò rỉ. AI có thể bị khai thác để tạo ra phần mềm độc hại ngày càng tinh vi, chẳng hạn như WormGPT, mà các hệ thống bảo mật hiện tại khó có thể phát hiện được.

Tuy nhiên, AI có thể hỗ trợ các chuyên gia an ninh phòng thủ mạng với khả năng xác định rủi ro nhanh hơn, trên quy mô lớn với độ chính xác tốt hơn. Các công cụ bảo mật được hỗ trợ bởi máy học có thể giúp phát hiện những điểm bất thường và khởi động hành động tự động nhằm giảm thiểu các mối đe dọa tiềm ẩn.

Theo Puthucheary, AiSP đang thành lập một nhóm quan tâm đặc biệt về AI, trong đó các thành viên có thể trao đổi những hiểu biết sâu sắc về sự phát triển và khả năng. Được thành lập vào năm 2008, AiSP tự mô tả mình là một tập đoàn công nghiệp tập trung vào việc thúc đẩy năng lực kỹ thuật và lợi ích của cộng đồng an ninh mạng Singapore.

Vào tháng 4, Trung tâm an ninh AI của Cơ quan An ninh Quốc gia Hoa Kỳ (NSA) đã phát hành một hướng dẫn Triển khai hệ thống AI một cách an toàn, trong đó cho biết các phương pháp hay nhất về triển khai và vận hành hệ thống AI.

Được Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ cùng hỗ trợ xây dựng, hướng dẫn này nhằm mục đích nâng cao tính toàn vẹn và tính khả dụng của hệ thống AI, đồng thời tạo ra các biện pháp giảm thiểu các lỗ hổng đã biết trong hệ thống AI. Tài liệu cũng phác thảo các phương pháp và biện pháp kiểm soát để phát hiện và ứng phó với các hoạt động độc hại chống lại hệ thống AI và dữ liệu liên quan./.