Khi việc phát hiện và chống lại nội dung giả mạo ngày càng trở nên khó khăn, chi phí duy trì môi trường Internet tin cậy có thể sẽ do người dùng, nhà sáng tạo và nhà quảng cáo cùng gánh chịu.
Báo cáo Tin tức Kỹ thuật số năm 2024 của Reuters cho thấy bạn đọc đang ngày càng cảnh giác hơn với những hình ảnh và video trên các nền tảng thông tin mạng do tình trạng gia tăng giả mạo sâu (deepfake). Người đọc chỉ chấp nhận một phần nội dung thông tin báo chí được ứng dụng sản xuất bởi AI.
Mọi xâm phạm dữ liệu và tấn công trực tuyến dường như đều liên quan đến một số loại lừa đảo để đánh cắp thông tin đăng nhập mật khẩu, khởi chạy các giao dịch gian lận hoặc lừa ai đó tải xuống phần mềm độc hại.
Kể từ khi trí tuệ nhân tạo (AI) trở nên phổ biến, việc tạo ra nội dung giả mạo và lan truyền thông tin sai lệch trên mạng xã hội đã gia tăng nhanh chóng. Ngày nay, bất kỳ ai có máy tính và chỉ cần dành ra vài giờ nghiên cứu hướng dẫn đều có thể tạo ra những nội dung giả mạo về bất kỳ ai.
Deepfake nhắm vào dữ liệu tài chính không còn là mối đe dọa nữa, nhiều giám đốc điều hành (CEO) cho biết, công ty của họ đã trở thành mục tiêu của các vụ lừa đảo deepfake trong năm qua.
Các chuyên gia bảo mật cho biết, công nghệ deepfake sử dụng AI đang phát triển và chỉ còn là vấn đề thời gian trước khi tội phạm mạng tìm ra mô hình kinh doanh mà chúng có thể sử dụng.
Arup, tập đoàn thiết kế và kỹ thuật đa quốc gia của Anh, đã xác nhận là mục tiêu của một vụ lừa đảo deepfake khiến một trong những nhân viên ở Hồng Kông của họ phải trả 25 triệu USD cho những kẻ lừa đảo.
Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, sự gia tăng của các thiết bị kết nối di động, cùng sự thiếu hụt lực lượng chuyên gia an ninh mạng (ANM) dự kiến sẽ tạo thêm nhiều lỗ hổng cho tội phạm mạng khai thác.
Thông tin sai lệch được xếp hạng là một trong những rủi ro toàn cầu hàng đầu vào năm 2024, trong đó deepfake là một trong những ứng dụng AI đáng lo ngại nhất khi nó có thể bị lạm dụng để thao túng chính trị, tạo ra thông tin sai lệch gây hậu quả nghiêm trọng.
Mối đe dọa về video và hình ảnh deepfake đang gia tăng trước cuộc bầu cử quốc hội Hàn Quốc dự kiến diễn ra vào ngày 10/4 tới đây, đặt ra một thách thức nghiêm trọng đối với cơ quan giám sát bầu cử và cử tri về những nguy cơ tiềm ẩn của công nghệ này đối với những lá phiếu của người dân Xứ Kim chi.
Các chuyên gia trí tuệ nhân tạo (AI), trong đó có cả Yoshua Bengio - nhà nghiên cứu AI tiên phong - đã ký tên vào lá thư ngỏ kêu gọi tăng cường quản lý hoạt động sáng tạo nội dung sử dụng công nghệ giả mạo khuôn mặt (deepfake) tiềm ẩn nhiều nguy cơ cho xã hội.