OpenAI và các “big tech” cam kết đánh dấu nội dung AI để đảm bảo an toàn

Các công ty - bao gồm cả Anthropic, Inflection, Amazon.com và đối tác OpenAI của Microsoft đã ký cam kết cho phép các chuyên gia bảo mật độc lập kiểm tra kỹ lưỡng các hệ thống của các công ty trước khi được công bố ra công chúng và cam kết chia sẻ dữ liệu về sự an toàn của hệ thống của họ với chính phủ và các học giả.

Động thái này được coi là một chiến thắng cho nỗ lực của chính quyền của Tổng thống Joe Biden trong việc điều tiết công nghệ đã trải qua sự bùng nổ về đầu tư và mức độ phổ biến của người tiêu dùng.

Kể từ khi AI tổng quát, sử dụng dữ liệu để tạo nội dung mới như bài văn của ChatGPT, trở nên cực kỳ phổ biến trong năm nay, các nhà lập pháp trên khắp thế giới đã bắt đầu xem xét cách giảm thiểu mối nguy hiểm của công nghệ mới nổi đối với an ninh quốc gia và nền kinh tế.

Ông Chuck Schumer, lãnh đạo đa số Thượng viện Mỹ vào tháng 6 đã kêu gọi "quy định luật pháp toàn diện" để thúc đẩy và đảm bảo các biện pháp bảo vệ AI.

Quốc hội Mỹ đang xem xét một dự luật yêu cầu các quảng cáo chính trị thông báo liệu AI có được sử dụng để tạo hình ảnh hoặc nội dung khác hay không.

Tổng thống Joe Biden đã gặp gỡ các giám đốc điều hành của 7 công ty tại Nhà Trắng ngày 21/7, cũng đang nghiên cứu xây dựng một sắc lệnh hành pháp và luật lưỡng đảng về công nghệ AI.

Là một phần của nỗ lực, 7 công ty đã cam kết phát triển một hệ thống để "tạo hình mờ" (watermark) cho tất cả các dạng nội dung, từ văn bản, hình ảnh, âm thanh đến video do AI tạo ra để người dùng biết khi nào công nghệ đã được sử dụng.

Hình mờ này, được nhúng vào nội dung theo cách kỹ thuật, có lẽ sẽ giúp người dùng dễ dàng phát hiện ra những hình ảnh hoặc âm thanh giả mạo sâu sắc, chẳng hạn như có thể cho thấy hành vi bạo lực chưa xảy ra, tạo ra một trò lừa đảo hay hơn hoặc bóp méo hình ảnh của một chính trị gia nhằm đưa người đó ra ánh sáng không mấy tốt đẹp.

Không rõ hình mờ sẽ hiển thị như thế nào trong việc chia sẻ thông tin.

Các công ty cũng cam kết tập trung vào việc bảo vệ quyền riêng tư của người dùng khi AI phát triển và đảm bảo rằng công nghệ này không thiên vị và không được sử dụng để phân biệt đối xử với các nhóm dễ bị tổn thương. Các cam kết khác bao gồm phát triển các giải pháp AI cho các vấn đề khoa học như nghiên cứu y tế và giảm thiểu biến đổi khí hậu./.