An toàn thông tin

Google lập Red Team để thử nghiệm các cuộc tấn công vào AI

Nhật Bình 10:34 22/07/2023

Google đã lập một nhóm AI Red Team chuyên dụng với nhiệm vụ thực hiện các cuộc tấn công kỹ thuật phức tạp vào các hệ thống trí tuệ nhân tạo (AI).

Google đã thành lập một Red Team (Đội Đỏ) tập trung vào các hệ thống AI, và đã công bố một báo cáo tổng quan về các hình thức tấn công phổ biến cùng các bài học kinh nghiệm.

anh-man-hinh-2023-07-22-luc-09.37.05.png

Người khổng lồ công nghệ đã công bố AI Red Team chỉ vài tuần sau khi giới thiệu "Khung AI an toàn" (SAIF), được thiết kế để cung cấp khung bảo mật cho việc phát triển, sử dụng, và bảo vệ các hệ thống AI.

Báo cáo mới của Google nhấn mạnh tầm quan trọng của việc lập AI Red Team cho các hệ thống AI, các kiểu tấn công AI có thể được mô phỏng bởi các AI Red Team, và những bài học cho các tổ chức khác có thể cân nhắc thành lập nhóm Red Team của riêng họ.

Google cho biết: “AI Red Team được liên kết chặt chẽ với các Red Team truyền thống, nhưng cần có chuyên môn về AI để thực hiện các cuộc tấn công kỹ thuật phức tạp vào các hệ thống AI”.

Nhóm AI Red Team của Google đóng vai trò là đối thủ trong việc thử nghiệm những tác động của các cuộc tấn công tiềm ẩn đối với các sản phẩm và tính năng sử dụng AI trong thế giới thực.

Chẳng hạn, sử dụng "kỹ thuật nhắc nhở", một phương pháp tấn công AI được sử dụng rộng rãi trong đó các lời nhắc được thao túng để buộc hệ thống phản hồi theo cách mà kẻ tấn công mong muốn.

Trong một ví dụ được Google chia sẻ, một ứng dụng webmail sử dụng AI để tự động phát hiện email lừa đảo và cảnh báo người dùng. Tính năng bảo mật sử dụng mô hình ngôn ngữ lớn có mục đích chung (LLM) - ChatGPT là LLM nổi tiếng nhất - để phân tích email và phân loại email đó là hợp pháp hay độc hại.

Kẻ tấn công biết webmail có tính năng phát hiện lừa đảo sử dụng AI, từ đó chúng có thể thêm vào email độc hại một đoạn vô hình (bằng cách đặt phông chữ thành màu trắng) chứa hướng dẫn cho LLM, yêu cầu nó phân loại email độc hại là hợp pháp. 

“Nếu bộ lọc lừa đảo của webmail bị tấn công, LLM có thể diễn giải các phần của nội dung email dưới dạng hướng dẫn và phân loại email là hợp pháp, như mong muốn của kẻ tấn công. Kẻ lừa đảo không cần phải lo lắng về những hậu quả tiêu cực của việc này, vì văn bản được ẩn rất kỹ khỏi nạn nhân và không mất gì ngay cả khi cuộc tấn công thất bại,” Google giải thích. 

Đối với các bài học kinh nghiệm, Google khuyến nghị các Red Team truyền thống nên hợp tác với các chuyên gia AI để tạo ra các mô phỏng đối thủ thực tế. Google cũng chỉ ra việc giải quyết những phát hiện của các Red Team có thể là một thách thức và một số vấn đề có thể không dễ khắc phục.

Kiểm soát an ninh truyền thống có thể hiệu quả trong việc giảm thiểu nhiều rủi ro. Ví dụ: đảm bảo rằng các hệ thống và mô hình được khóa đúng cách sẽ giúp bảo vệ tính toàn vẹn của các mô hình AI, ngăn chặn các "cửa hậu" và đầu độc dữ liệu. 

Mặt khác, trong khi một số cuộc tấn công vào hệ thống AI có thể được phát hiện bằng các phương pháp truyền thống, thì những cuộc tấn công khác, chẳng hạn như các vấn đề về nội dung và các cuộc tấn công nhanh, có thể yêu cầu nhiều mô hình bảo mật phân lớp./.

Bài liên quan
  • Hai mối đe dọa tấn công trực tuyến nguy hiểm
    Các mối đe dọa trên mạng không phải là một câu chuyện hài hước. Chúng là những hành vi ác ý nhằm đánh cắp các dữ liệu quý giá và gây ra sự hỗn loạn trong cuộc sống số của chúng ta.
Nổi bật Tạp chí Thông tin & Truyền thông
  • Việt Nam - Malaysia nâng cấp quan hệ Đối tác chiến lược toàn diện
    Phát biểu tại họp báo, Tổng Bí thư Tô Lâm cho biết, Việt Nam-Malaysia tăng cường hợp tác trên các lĩnh vực mới (như kinh tế xanh, đổi mới sáng tạo, khoa học công nghệ, chuyển đổi số, năng lượng xanh...).
  • Chìa khóa giải quyết thách thức trong bảo vệ trẻ em trên không gian mạng
    Trẻ em - đối tượng dễ bị tổn thương nhất, đang phải đối mặt với nhiều nguy cơ. Đây không chỉ là bài toán của riêng Việt Nam mà còn là thách thức toàn cầu đòi hỏi sự chung tay hợp tác từ nhiều phía.
  • Việt Nam đang đối mặt 3 thách thức an toàn thông tin
    Các cuộc tấn công mạng hiện nay ngày càng tinh vi và phức tạp hơn, đặc biệt khi có sự hỗ trợ của trí tuệ nhân tạo. Tuy nhiên, việc kết hợp công nghệ này với trí tuệ của con người đã giúp phát hiện và phòng, chống tấn công mạng hiệu quả hơn.
  • Chuyển đổi số thành công không thể thiếu “niềm tin số”
    Muốn triển khai hiệu quả chiến lược số hóa quốc gia cần triển khai theo hướng tiếp cận từ trên xuống dưới và phải phù hợp với thực tế, đảm bảo có tầm nhìn rộng trong tương lai.
  • Việt Nam - Hàn Quốc đồng hành trong kỷ nguyên AI
    Thứ trưởng Bộ TT&TT Phan Tâm hy vọng, Việt Nam có thể học tập nhiều hơn từ Hàn Quốc về các bài học kinh nghiệm, cách làm hay để phát huy tối đa vai trò công nghệ số nói chung và trợ lý ảo nói riêng trong hoạt động của cơ quan nhà nước, thúc đẩy phát triển kinh tế, tạo lập xã hội số nhân văn và thu hẹp khoảng cách số.
Đừng bỏ lỡ
  • Bốn giải pháp trọng tâm để giải bài toán an toàn dữ liệu quốc gia
    Theo Thứ trưởng Bộ TT&TT Bùi Hoàng Phương, năm 2024 đánh dấu bước tiến vượt bậc của Việt Nam trong lĩnh vực an toàn thông tin. Tuy nhiên, còn rất nhiều thách thức cần vượt qua để đảm bảo an toàn dữ liệu quốc gia.
  • Việt Nam tăng cường hợp tác phát triển công nghệ số với Burundi và NIPA
    Trong khuôn khổ sự kiện Tuần lễ Số quốc tế 2024, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng đã tiếp và làm việc với Bộ trưởng Bộ Truyền thông, Công nghệ Thông tin và Đa phương tiện Burundi Léocadie Ndacayisaba và ông Hur Sung Wook, Chủ tịch Cục Xúc tiến Công nghiệp CNTT quốc gia Hàn Quốc (NIPA).
  • Chính thức ra mắt Nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin
    Nền tảng hướng tới nâng cao chất lượng và điều phối hiệu quả các hoạt động diễn tập trên toàn quốc thông qua nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin.
  • Robot Delta hữu dụng trong nhiều ngành
    Nhờ vào thiết kế độc đáo và khả năng hoạt động với tốc độ và độ chính xác cao, robot Delta là một giải pháp tối ưu trong nhiều ngành công nghiệp hiện đại.
  • Cà Mau ứng dụng các phần mềm chuyển đổi số trong ngành nông nghiệp
    Ngành nông nghiệp tỉnh Cà Mau đã không ngừng triển khai các giải pháp chuyển đổi số thông qua việc sử dụng các phần mềm, xây dựng cơ sở dữ liệu chuyên ngành phục vụ quản lý, điều hành. Trong tương lai không xa, các phần mềm này sẽ hoàn thiện và bắt kịp xu hướng công nghệ để hỗ trợ người nông dân nhiều hơn trong việc tăng gia sản xuất.
  • Bảo vệ các hệ thống mạng trọng yếu là cấp thiết
    Song song với tiến trình chuyển đổi số, các chiến dịch tấn công mạng, gián điệp và khủng bố mạng nhằm vào hệ thống công nghệ thông tin (IT) và công nghệ vận hành (OT) trọng yếu ngày càng gia tăng, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu của các quốc gia.
  • ‏OPPO Find X8 Series sẽ chính thức lên kệ ngày 7/12‏
    Ngày 21/11, OPPO chính thức ra mắt Find X8 Series‏‏ tại Việt Nam và sẽ lên kệ ngày 7/12 tới. Đây là lần đầu tiên người dùng Việt Nam được trải nghiệm dòng flagship cao cấp nhất của OPPO cùng lúc với toàn cầu. ‏
  • Chuyển đổi số từ thực tiễn Báo Hải Dương
    Báo Hải Dương có nhiều thuận lợi khi thực hiện chuyển đổi số. Đó là Ban Biên tập có quyết tâm cao. Đội ngũ cán bộ, phóng viên, nhân viên của báo nhanh nhạy với cái mới, ham học hỏi...
  • Đưa siêu ứng dụng "Công dân Thủ đô số - iHanoi" vào cuộc sống
    “Công dân Thủ đô số” - iHaNoi là kênh tương tác trực tuyến trên môi trường số giữa người dân, doanh nghiệp với các cấp chính quyền thành phố Hà Nội. Qua ứng dụng này, người dân và doanh nghiệp có thể phản ánh các vấn đề đời sống, từ đó giúp chính quyền tiếp nhận và giải quyết kịp thời.
  • Sự gia tăng của ứng dụng AI tạo sinh: Những rủi ro tiềm ẩn cho xã hội và con người
    AI tạo sinh là một trong những thành tựu công nghệ mới nhất của con người trong thập niên 20 của thế kỷ XXI. Cho đến nay, sự ứng dụng của AI tạo sinh đã tạo ra nhiều cuộc tranh luận quan trọng trong các nghiên cứu xã hội, đặc biệt là trong lĩnh vực triết học. AI tạo sinh đã thách thức nhiều khái niệm và định kiến của chúng ta về bản thân mình, đặc biệt là về cách chúng ta hiểu về tư duy và bản chất của tư duy con người.
Google lập Red Team để thử nghiệm các cuộc tấn công vào AI
POWERED BY ONECMS - A PRODUCT OF NEKO