OpenAI tài trợ 1 triệu USD, đảm bảo an ninh mạng cho AI

Trước đó, OpenAI đã cung cấp khoản tài trợ 1 triệu USD cho quá trình dân chủ hóa AI. Lần này, OpenAI ra mắt chương trình tài trợ an ninh mạng mới, nhằm trợ giúp và cho phép tạo ra cũng như cải tiến các công cụ và công nghệ an ninh mạng do AI cung cấp.

Trong một động thái nhằm hợp nhất “những người bảo vệ” để tạo thành một hệ thống mạnh mẽ nhằm chống lại các mối đe dọa trên mạng, chương trình tài trợ an ninh mạng của OpenAI lần này nhằm mục đích làm việc với các cá nhân và tổ chức có thể giúp đề xuất một hệ thống hợp tác chặt chẽ như vậy.

Bằng cách đó, họ tin rằng sức mạnh của an ninh mạng chuyển từ kẻ tấn công sang người bảo vệ. Chương trình nhằm mục đích trao quyền cho những người bảo vệ bằng cách cấp cho họ quyền truy cập vào các khả năng AI mới nhất và tiên tiến nhất, đồng thời phát triển các phương pháp và số liệu để đánh giá khả năng của các hệ thống an ninh mạng dựa trên AI.

Đây không phải là lần đầu tiên OpenAI mời mọi người trợ giúp về các tính năng an ninh mạng của họ. Vào tháng 4, công ty đã chạy chương trình tiền thưởng lỗi để mời mọi người báo cáo các lỗ hổng và lỗi bảo mật trong mô hình ChatGPT.

Công ty đặc biệt kêu gọi các nhà nghiên cứu bảo mật, tin tặc có đạo đức và những người đam mê công nghệ tiến tới tham gia. Tuy nhiên, số tiền thưởng cho chương trình dao động từ 200 USD - 20.000 USD tùy thuộc vào mức độ nghiêm trọng của các phát hiện.

OpenAI cũng đã đề cập rằng chương trình an ninh mạng sẽ được “cấp phép hoặc phân phối vì lợi ích công cộng và được chia sẻ tối đa”. Điều này có thể gợi ý về một tương lai nơi họ có thể cung cấp những kiến thức này cho cộng đồng rộng lớn hơn theo bất kỳ cách nào họ cho là cần thiết.

Thật thú vị khi lưu ý rằng OpenAI đang chọn một hệ thống thông minh không sử dụng tài nguyên nội bộ để đưa ra các cơ chế xây dựng một hệ thống an toàn thay vì chọn một phương pháp giống nguồn mở.

Bằng cách cung cấp nguồn lực cộng đồng cho các yếu tố quan trọng như khung quy định AI và các mối đe dọa an ninh mạng, công ty có vẻ như tuân thủ và gắn bó với mọi người vì lợi ích lớn hơn của họ.

Tất cả những hành động này đang hình thành sau các phiên điều trần gần đây của Thượng viện Mỹ. Công ty cũng được đồn đại là sẽ bắt đầu mô hình nguồn mở của riêng họ, tuy nhiên, không có thông tin chi tiết nào về việc này.

Theo Computer Weekly, sau khi ra mắt ChatGPT vào tháng 11/2022, một số báo cáo đã xuất hiện nhằm xác định tác động của AI tổng quát trong an ninh mạng. Không thể phủ nhận, AI sáng tạo trong an ninh mạng là con dao hai lưỡi, liệu mô hình này sẽ thay đổi theo hướng có lợi hay sẽ mang đến những rủi ro?

Hiện nay, các tổ chức đang nhìn sâu vào kính vạn hoa AI tổng quát, nhưng vẫn luôn thận trọng với các rủi ro tiềm ẩn về mặt bảo mật, quyền riêng tư và xã hội có thể xảy ra. Họ phải cân bằng lợi ích và mối đe dọa khi đưa AI vào các quy trình của mình, đồng thời tập trung giám sát và các hướng dẫn cần thiết để sử dụng AI một cách thích hợp./.