Các chuyên gia kêu gọi tăng cường các quy định quản lý công nghệ deepfake

Trong lá thư có đoạn nêu rõ, ngày nay, deepfake thường bị sử dụng trong sáng tạo các nội dung hình ảnh khiêu dâm, gian lận hoặc lan truyền các thông tin chính trị sai lệch. Khi AI phát triển ngày càng nhanh, việc tạo ra các hình ảnh deepfake lại càng dễ dàng hơn, do đó việc cần có các công cụ bảo vệ càng trở nên quan trọng hơn.

Những hình ảnh deepfake được sáng tạo nhờ các thuật toán AI và thường được dùng cho các nội dung hình ảnh, âm thanh và video bắt chước nhân vật có thật. Những tiến bộ không ngừng trong công nghệ này đã giúp AI tạo ra những hình ảnh ngày càng khó phân biệt với sản phẩm do con người tạo ra.

Lá thư có tiêu đề "Phá vỡ chuỗi cung ứng deepfake", đưa ra các đề xuất về cách quản lý các nội dung deepfake, trong đó có hình sự hóa mọi hành vi sử dụng công nghệ deepfake để sản xuất nội dung khiêu dâm trẻ em, áp dụng án phạt hình sự đối với bất kỳ cá nhân nào cố tình tạo ra hoặc tạo điều kiện cho việc lan truyền các nội dung deepfake gây hại; đồng thời yêu cầu các công ty AI ngăn chặn, đảm bảo các sản phẩm của họ không bị sử dụng để tạo ra các nội dung deepfake có hại.

Tính đến sáng 21/2, hơn 400 cá nhân từ nhiều lĩnh vực khác nhau như nghiên cứu học thuật, giải trí và chính trị đã ký vào lá thư, trong đó có cả các nhà nghiên cứu của Google và OpenAI.

Kể từ khi ChatGPT của OpenAI ra mắt công chúng vào năm 2022 và nhanh chóng trở nên phổ biến rộng rãi với các tính năng gây ấn tượng với người dùng như trò chuyện giống con người và thực hiện được nhiều nhiệm vụ khác nhau, các nhà quản lý đã nghiên cứu các cách thức để đảm bảo những hệ thống AI không gây hại cho xã hội.

Đặc biệt, nhiều người có uy tín trong lĩnh vực nghiên cứu AI cũng đã cảnh báo về những rủi ro và nguy cơ tiềm ẩn của công nghệ này nếu nó được sử dụng cho các mục đích sai trái, đáng chú ý trong đó có lá thư của tỷ phú công nghệ Elon Musk vào năm ngoái, đã kêu gọi tạm ngừng 6 tháng việc phát triển các hệ thống mạnh hơn mô hình AI GPT-4 của OpenAI./.