For Fake’s Sake: công cụ phát hiện deepfake và gian lận tổng hợp

Mối lo ngại gia tăng khi deepfake ngày càng tinh vi và khó phát hiện

Deepfake là cụm từ kết hợp giữa deep learning (học sâu) và fake (giả). Thực ra, đây là phương thức tạo ra các sản phẩm công nghệ giả dưới dạng âm thanh, hình ảnh, thậm chí là cả video bởi trí tuệ nhân tạo (AI) tinh vi thông qua những dữ liệu gốc. Với sự phát triển ngày càng nhanh chóng của công nghệ AI, những ứng dụng deepfake lại càng giúp cho người dùng dễ dàng tiếp cận hơn.

Tuy nhiên, việc công nghệ deepfake ngày càng được sử dụng phổ biến cũng đem đến những hậu quả đáng lo ngại. Đặc biệt, nếu công nghệ AI bị lợi dụng bất chính, deepfake có thể trở thành một vũ khí nguy hiểm trong tay những kẻ xấu.

Hiện nay, các nội dung deepfake và gian lận tổng hợp đang trở thành vấn đề lớn không chỉ đối với các cá nhân mà còn cả các doanh nghiệp (DN). Trong khi cả thế giới chứng kiến sự phát triển bùng nổ về xu thế AI siêu lớn, qua các hệ thống AI tạo sinh thì tội phạm mạng cũng đang gia tăng sử dụng công cụ này cho các cuộc tấn công mạng. Chỉ trong vài tháng qua, nhiều DN, người nổi tiếng và chính trị gia đã trở thành nạn nhân của nội dung deepfake.

Đối với hành vi gian lận tổng hợp, các công cụ AI tạo sinh ngày nay đã khiến cho gian lận tổng hợp khó bị phát hiện hơn và các trường hợp như vậy cũng gia tăng.

Theo một báo cáo của Regula, gần một nửa số tổ chức trên toàn cầu (46%) đã gặp phải gian lận tổng hợp vào năm 2022. Trong đó, ngân hàng là lĩnh vực chịu nhiều tổn thất nhất bởi loại hình tấn công này. Gần như tất cả các công ty trong ngành (92%) được khảo sát đều coi gian lận tổng hợp là mối đe dọa thực sự và gần một nửa (49%) gần đây đã trở thành nạn nhân của chiêu trò này.

Theo Sumsub, nhà cung cấp dịch vụ xác minh toàn cầu, nửa đầu năm 2023 đã chứng kiến ​​sự gia tăng đáng kể các trường hợp deepfake trên toàn thế giới so với nửa cuối năm 2022, đặc biệt là ở các nước châu Á - Thái Bình Dương (APAC) như Úc (1300%), Việt Nam (1400%) và Nhật Bản (2300%). Tương tự, số lượng vụ lừa đảo deepfake cũng tăng 84% ở Anh, 250% ở Mỹ, hơn 300% ở Đức và Ý, và 500% ở Pháp.

Điều khiến cho deepfake và gian lận tổng hợp trở nên đáng lo ngại hơn là chúng ngày càng đa dạng, tinh vi và khó bị phát hiện hơn. Deepfake có thể cung cấp một video mạo danh chất lượng cao dưới dạng dịch vụ cho đến việc sử dụng hình ảnh người nổi tiếng để phát trực tuyến giả mạo (fake livestream) trên mạng xã hội.

Một trường hợp gần đây liên quan đến nam diễn viên Tom Hanks. Ngày 1/10, Tom Hanks đã đăng trên Instagram rằng ông không liên quan gì đến hình ảnh ông do AI tạo ra để quảng cáo một số gói khám răng. Nam diễn viên viết trên Instagram cá nhân: “Hãy cẩn thận! Có một video quảng cáo vài chương trình nha khoa với phiên bản AI của tôi. Tôi chẳng liên quan gì đến nó cả”. Lời cảnh báo được đăng kèm ảnh chụp nội dung giả mạo (deepfake).

Trong khi đó, Zelda Williams - con gái của nam diễn viên Robin Williams quá cố - cho biết về việc phát hiện giọng nói cha mình bị sử dụng: “Tôi thấy thật đáng ngại khi AI lấy giọng nói của ông để nói bất cứ thứ gì người khác muốn. Những nội dung tái tạo như vậy là quái vật Frankenstein khủng khiếp”.

Công cụ giúp phát hiện nội dung trực tuyến deepfake và lừa đảo tổng hợp

Với những sản phẩm công nghệ cao như deepfake, việc đối phó không dễ dàng. Mỗi người cần nâng cao khả năng tự vệ trong thời đại ảo hóa, trước hết là tinh thần cảnh giác với những cuộc gọi, liên lạc lạ, hạn chế chia sẻ thông tin cá nhân trên các nền tảng mạng xã hội

Để hỗ trợ người dùng phát hiện deepfake và lừa đảo tổng hợp, mới đây Sumsub đã phát hành For Fake’s Sake, một tập hợp các mô hình có thể giúp phát hiện nội dung trực quan. Sumsub hy vọng sẽ cung cấp cho cộng đồng AI, đặc biệt là các nhà phát triển, nhà nghiên cứu và nhà khoa học AI, một nền tảng mà họ có thể kiểm thử, thử nghiệm cũng như khám phá những cách sáng tạo để giải quyết mối đe dọa ngày càng tăng của deepfake.

Được phát triển bởi Phòng thí nghiệm nghiên cứu ML và AI nội bộ của Sumsub, For Fake's Sake là một công cụ gồm 4 mô hình dựa trên học máy riêng biệt để phát hiện deepfake và gian lận tổng hợp.

Thông qua For Fake's Sake, người dùng sẽ có thể ước tính khả năng hình ảnh tải lên được tạo một cách giả tạo là bao nhiêu. Thử nghiệm nội bộ của Sumsub chỉ ra rằng các mô hình AI này hiệu quả trong việc phát hiện chính xác những thay đổi hình ảnh điển hình. Hơn nữa, khi các mô hình này được sử dụng cùng với các phương pháp phân tích nội dung khác, hình ảnh do AI tạo ra có thể được nhận dạng một cách chính xác hơn.

Theo Vyacheslav Zholudev, đồng sáng lập và Giám đốc công nghệ (CTO) của Sumsub, công ty đã nỗ lực đáng kể để chống lại mối đe dọa của deepfake và ảnh hưởng bất lợi của gian lận tổng hợp bằng cách liên tục nâng cấp các giải pháp hiện có và phát triển những tính năng mới, bao gồm cả trình phát hiện deepfake mới được cải tiến.

“Cung cấp sản phẩm chất lượng hàng đầu cho khách hàng là một chuyện. Nhưng điều quan trọng không kém là chúng tôi cam kết duy trì một diễn đàn công khai minh bạch về các mối đe dọa nhiều mặt do deepfake gây ra, từ việc mạo danh cá nhân trên mạng, đánh cắp dữ liệu cá nhân, phổ biến thông tin sai lệch, kỹ thuật lừa đảo xã hội, v.v.. Công cụ nguồn mở của chúng tôi chỉ đại diện cho một trong nhiều bước tiến mà Sumsub đang thực hiện, ngoài việc phát triển sản phẩm, hướng tới hoàn thành sứ mệnh của chúng tôi là hỗ trợ một tương lai kỹ thuật số an toàn và bao trùm - cho các công ty cũng như quyền sử dụng miễn phí của công chúng”, Zholudev cho biết.

Tạo ra một môi trường an toàn hơn

Sumsub cũng sẽ lắng nghe phản hồi từ cộng đồng nghiên cứu AI để cải thiện hơn nữa hiệu quả của For Fake's Sake. Điều này sẽ cho phép nền tảng thích ứng và phát triển song song với các công cụ AI khác.

“Khi công nghệ AI tiến bộ, chúng tôi thấy cần thắt chặt các quy định quản lý việc sử dụng chúng, ví dụ: việc áp dụng hình mờ (watermark) cho tất cả các hình ảnh tổng hợp có thể sớm trở thành bắt buộc. Tuy nhiên, những kẻ lừa đảo sẽ liên tục tìm cách vượt qua các quy định, đặc biệt là trước cuộc bầu cử tổng thống Mỹ năm 2024”, Pavel Goldman-Kalaydin, Giám đốc AI/ML tại Sumsub giải thích.

Kalaydin cũng chỉ ra rằng Sumsub sẽ chia sẻ các mô hình phát hiện hình ảnh tổng hợp thử nghiệm của mình nhằm hỗ trợ sự phát triển hơn nữa trong cuộc chiến chống gian lận do AI tạo ra.