An toàn thông tin

Singapore hướng dẫn kỹ thuật để bảo mật hệ thống AI

QA 15:54 08/07/2024

Các hướng dẫn kỹ thuật sẽ là tài liệu tham khảo cho các chuyên gia an ninh mạng đang tìm cách nâng cao bảo mật AI.

he-thong-ai.png
Ảnh minh hoạ (Nguồn: Getty Images)

Theo ông Janil Puthucheary, Bộ trưởng cấp cao Bộ Thông tin và Truyền thông Singapore, Cơ quan An ninh mạng (CSA) dự kiến ​​​​sẽ đưa ra dự thảo Hướng dẫn kỹ thuật về bảo mật hệ thống AI để tham vấn cộng đồng vào cuối tháng này.

Bộ trưởng Puthucheary cho biết trong bài phát biểu tại hội nghị thượng đỉnh về bảo mật AI mới đây của Hiệp hội các chuyên gia bảo mật thông tin (AiSP) rằng các hướng dẫn kỹ thuật mới có thể được áp dụng cùng với các quy trình bảo mật hiện có mà các tổ chức thực hiện để giải quyết các rủi ro tiềm ẩn trong hệ thống AI.

Ông Puthucheary cũng cho biết, thông qua các hướng dẫn kỹ thuật, CSA hy vọng sẽ cung cấp tài liệu tham khảo hữu ích cho các chuyên gia an ninh mạng đang tìm cách nâng cao tính bảo mật cho các công cụ AI của họ.

Ông tiếp tục kêu gọi ngành công nghiệp và cộng đồng thực hiện phần việc của mình trong việc đảm bảo các công cụ và hệ thống AI luôn an toàn và bảo mật trước các mối đe dọa độc hại, ngay cả khi các kỹ thuật tiếp tục phát triển.

Ông Puthucheary cho biết: “Trong vài năm qua, AI đã phát triển nhanh chóng và được triển khai ở nhiều không gian khác nhau. Điều này đã tác động đáng kể đến bối cảnh mối đe dọa. Chúng tôi biết rằng sự phát triển và ứng dụng AI nhanh chóng này đã khiến chúng tôi phải đối mặt với nhiều rủi ro mới như tấn công học máy đối kháng, cho phép kẻ tấn công xâm phạm chức năng của mô hình”.

Ông lấy ví dụ cách nhà cung cấp bảo mật McAfee đã thành công trong việc xâm phạm Mobileye bằng cách thực hiện các thay đổi đối với các biển báo giới hạn tốc độ mà hệ thống AI đã được đào tạo để nhận biết.

AI đang gây ra những rủi ro bảo mật mới và các tổ chức thuộc khu vực công cũng như tư nhân phải nỗ lực để hiểu được bối cảnh mối đe dọa ngày càng gia tăng này. Ông cho biết thêm CIO của chính phủ Singapore, Cơ quan Công nghệ Chính phủ (GovTech), đang phát triển các khả năng mô phỏng các cuộc tấn công tiềm tàng vào các hệ thống AI để nắm bắt cách chúng có thể tác động đến tính bảo mật của các nền tảng đó. Ông nói: “Bằng cách đó sẽ giúp chúng tôi áp dụng các biện pháp bảo vệ phù hợp”.

Ông Puthucheary cũng cho biết thêm việc ứng dụng AI ngày càng tăng sẽ mở rộng bề mặt tấn công mà qua đó dữ liệu có thể bị lộ, bị xâm phạm hoặc bị rò rỉ. AI có thể bị khai thác để tạo ra phần mềm độc hại ngày càng tinh vi, chẳng hạn như WormGPT, mà các hệ thống bảo mật hiện tại khó có thể phát hiện được.

Tuy nhiên, AI có thể hỗ trợ các chuyên gia an ninh phòng thủ mạng với khả năng xác định rủi ro nhanh hơn, trên quy mô lớn với độ chính xác tốt hơn. Các công cụ bảo mật được hỗ trợ bởi máy học có thể giúp phát hiện những điểm bất thường và khởi động hành động tự động nhằm giảm thiểu các mối đe dọa tiềm ẩn.

Theo Puthucheary, AiSP đang thành lập một nhóm quan tâm đặc biệt về AI, trong đó các thành viên có thể trao đổi những hiểu biết sâu sắc về sự phát triển và khả năng. Được thành lập vào năm 2008, AiSP tự mô tả mình là một tập đoàn công nghiệp tập trung vào việc thúc đẩy năng lực kỹ thuật và lợi ích của cộng đồng an ninh mạng Singapore.

Vào tháng 4, Trung tâm an ninh AI của Cơ quan An ninh Quốc gia Hoa Kỳ (NSA) đã phát hành một hướng dẫn Triển khai hệ thống AI một cách an toàn, trong đó cho biết các phương pháp hay nhất về triển khai và vận hành hệ thống AI.

Được Cơ quan An ninh mạng và Cơ sở hạ tầng Hoa Kỳ cùng hỗ trợ xây dựng, hướng dẫn này nhằm mục đích nâng cao tính toàn vẹn và tính khả dụng của hệ thống AI, đồng thời tạo ra các biện pháp giảm thiểu các lỗ hổng đã biết trong hệ thống AI. Tài liệu cũng phác thảo các phương pháp và biện pháp kiểm soát để phát hiện và ứng phó với các hoạt động độc hại chống lại hệ thống AI và dữ liệu liên quan./.

Theo zdnet
Copy Link
Bài liên quan
Nổi bật Tạp chí Thông tin & Truyền thông
Đừng bỏ lỡ
  • Microsoft hắt hơi và lĩnh vực CNTT thế giới cảm lạnh
    Một lỗi trong hệ thống của Crowdstrike, đối tác của Microsoft, đã gây gián đoạn hầu hết các dịch vụ trên hành tinh và là lời cảnh báo lớn về rủi ro hệ thống của dịch vụ đám mây.
  • Còn 11 triệu thuê bao 2G và một số kiến nghị giải pháp
    Tính đến tháng 5/2024, số thuê bao 2G only còn hơn 11 triệu thuê bao, chiếm khoảng 9% tổng số thuê bao di động trên toàn quốc. Các nhà mạng đang kiến nghị các giải pháp giảm số thuê bao 2G khi hệ thống công nghệ này tiến tới dừng hoạt động vào ngày 15/9/2024.
  • VNPT cung cấp đường truyền Internet thế hệ mới XGSPON, đột phá về tốc độ
    Với tốc độ truyền tải tối đa lên tới 10 Gbps, đường truyền Internet công nghệ mới XGigabit-capable Passive Optical Network (XGSPON) của VNPT đang tiên phong trong việc đón đầu, đáp ứng xu hướng kết nối của thời đại số, đem đến trải nghiệm tối ưu cho khách hàng.
  • VinaPhone hỗ trợ khách hàng nâng cấp điện thoại 4G miễn phí
    Thực hiện chủ trương tắt sóng 2G của Bộ Thông tin và Truyền thông vào tháng 9/2024 tới đây, VinaPhone triển khai loạt ưu đãi khách hàng nâng cấp lên điện thoại 4G miễn phí và nhiều ưu đãi hấp dẫn khác để duy trì liên lạc mà không phải lo lắng về chi phí.
  • 4 kỹ năng cần có để không bị AI thay thế
    Sự phát triển bùng nổ của trí tuệ nhân tạo (AI) trong những năm gần đây đã gây ra không ít tranh luận về việc liệu AI có thể thay thế con người và đe dọa trực tiếp đến công việc của người lao động trong tương lai hay không. Theo đó, chúng ta cần trang bị những gì để thích ứng.
  • ‏FPT khai trương văn phòng mới tại Kuala Lumpur, Malaysia‏
    FPT vừa chính thức cắt băng khánh thành văn phòng thứ hai tại Kuala Lumpur, nhằm tăng cường hiện diện của công ty tại khu vực và trên toàn cầu, từ đó mở rộng tiếp cận các khách hàng lớn. ‏
  • Nhân lực ngành quản trị kinh doanh cần cập nhật, ứng dụng công nghệ liên tục
    Quản trị Kinh doanh (QTKD) là một ngành "hot" trong những năm gần đây và dường như vẫn chưa có dấu hiệu hạ nhiệt ngay cả khi hàng loạt ngành học mới liên tục ra đời.
  • VPBank cam kết đầu tư cho các tài năng trẻ lĩnh vực CNTT & Khoa học dữ liệu
    Sau thành công của các sân chơi công nghệ từ VPBank Cloud Technology Day 2023 tới VPBank Technology Hackathon 2024, Ngân hàng đánh giá cao tiềm năng của nhóm nguồn nhân lực trẻ và cam kết tiếp tục đầu tư hơn nữa để tiếp tục mang đến những cơ hội phát triển nghề nghiệp của các tài năng trẻ tại VPBank. Đó cũng là mục tiêu của chương trình VPBank Technology & Data Young Talents mà ngân hàng vừa mới triển khai.
  • VPBank và IFC hợp tác cung ứng vốn cho doanh nghiệp cà phê Việt Nam
    VPBank và Tổ chức Tài chính Quốc tế (IFC) mới đây đã hợp tác đồng tài trợ chuỗi cung ứng cho các công ty xuất khẩu cà phê, trong nỗ lực hỗ trợ cộng đồng doanh nghiệp vừa và nhỏ (SME) của Việt Nam tham gia sâu rộng hơn vào chuỗi cung ứng nông nghiệp toàn cầu.
  • Doanh nghiệp game thứ ba ký kết hợp tác đào tạo với PTIT
    Học viện Công nghệ Bưu chính Viễn thông (PTIT) - Bộ TT&TT và Công ty Cổ phần (CP) APPOTA (APPOTA) đã chính thức công bố hợp tác đào tạo và phát triển nguồn nhân lực ngành công nghiệp game.
Singapore hướng dẫn kỹ thuật để bảo mật hệ thống AI
POWERED BY ONECMS - A PRODUCT OF NEKO