Truyền thông

Tại sao deepfake ngày càng phổ biến? Liệu có thể ngăn chặn?

QA 10:38 02/03/2024

Thế giới tràn ngập những tác phẩm giả mạo: video, âm thanh hoặc hình ảnh, gây ra nhiều mối đe dọa.

deepfake.png

Nhiều video deepfake đều là những video và hình ảnh được tạo ra bằng cách ánh xạ khuôn mặt của một người nổi tiếng lên cơ thể của người khác. Một số được sử dụng để lừa đảo người tiêu dùng hoặc làm tổn hại đến danh tiếng của các chính trị gia và những người khác trong mắt công chúng. Những tiến bộ trong trí tuệ nhân tạo (AI) mà với chỉ vài cú chạm trên bàn phím là có thể tạo ra những nội dung giả mạo. Để ngăn chặn mối đe dọa từ deefake, các chính phủ trên thế giới đang nỗ lực triển khai nhiều giải pháp.

Nỗ lực ngăn chặn deepfake

Ngày 8/2, Ủy ban Truyền thông Liên bang Mỹ (FCC) đã quy định việc các công ty sử dụng giọng nói do AI tạo ra trong các cuộc gọi tự động là bất hợp pháp. Lệnh cấm được đưa ra 2 ngày sau khi FCC ban hành lệnh ngừng hoạt động đối với công ty chịu trách nhiệm về âm thanh giả mạo của Tổng thống Joe Biden.

Người dân New Hampshire đã nhận được một cuộc gọi tự động trước cuộc bầu cử tổng thống của bang, có vẻ như ông Biden đang kêu gọi họ ở nhà và “để dành phiếu bầu cho cuộc bầu cử tháng 11”.

Giọng nói đó thậm chí còn thốt ra một trong những cụm từ đặc trưng của ông Biden: “Thật là một lũ khốn nạn”. Hiện tại chưa có luật liên bang Mỹ cấm deepfake.

Một số tiểu bang đã thực thi luật liên quan đến nội dung khiêu dâm deepfake, nhưng việc áp dụng chúng không nhất quán trên toàn quốc. Đạo luật AI của Liên minh châu Âu được đề xuất sẽ yêu cầu các nền tảng gắn nhãn cho các deepfake như vậy.

Deefake được tạo ra như thế nào?

Những hình ảnh deepfake rõ ràng của ngôi sao nhạc pop Taylor Swift đã được chia sẻ rộng rãi trên các trang mạng xã hội vào cuối tháng 1, khiến vô số người hâm mộ của cô phẫn nộ. Vụ việc đã thu hút sự bày tỏ quan ngại từ Nhà Trắng.

Cũng đầu tháng 1, nữ diễn viên 17 tuổi của loạt phim Marvel Xochitl Gomez đã lên tiếng về việc tìm thấy những bức ảnh giả mạo rõ ràng về tình dục với khuôn mặt của cô ấy trên mạng xã hội và không thành công trong việc gỡ tài liệu xuống, NBC News đưa tin.

Deepfake thường được tạo bằng thuật toán AI để nhận dạng các mẫu trong bản ghi video thực của một người cụ thể, một quá trình được gọi là học sâu. Sau đó, có thể hoán đổi một phần tử của một video, chẳng hạn như khuôn mặt của một người, thành một phần nội dung khác mà không trông giống như một bản dựng phim thô thiển.

Các thao tác này dễ gây hiểu lầm nhất khi được sử dụng với công nghệ sao chép giọng nói, công nghệ này sẽ chia đoạn âm thanh của một người nào đó nói thành các đoạn nửa âm tiết có thể được tập hợp lại thành các từ mới có vẻ như được người đó nói trong bản ghi âm gốc.

Sự phát triển của công nghệ deepfake

Công nghệ này ban đầu là lĩnh vực nghiên cứu của các học giả và nhà nghiên cứu. Tuy nhiên, Motherboard, một ấn phẩm của Vice, đã báo cáo vào năm 2017 rằng một người dùng Reddit có tên là “deepfakes” đã nghĩ ra thuật toán tạo video giả bằng mã nguồn mở.

Reddit đã cấm người dùng này, nhưng hành vi này vẫn lan rộng. Ban đầu, deepfake yêu cầu video đã tồn tại và giọng nói thực sự cùng với kỹ năng chỉnh sửa thành thạo. Các hệ thống AI tiên tiến ngày nay cho phép người dùng tạo ra hình ảnh và video thuyết phục từ những văn bản đơn giản.

Các hành vi giả mạo kỹ thuật số ngày càng khó phát hiện hơn khi các công ty AI áp dụng các công cụ mới cho lượng tài liệu khổng lồ có sẵn trên web, từ YouTube đến các thư viện hình ảnh và video có sẵn.

Một số ví dụ khác về deepfake?

Đã có những kẻ lan truyền những hình ảnh bịa đặt về vụ cháy rừng vào tháng 8/2023 trên đảo Maui của Hawaii để khiến mọi người tin rằng cúng là do một “vũ khí thời tiết” bí mật đang được Mỹ thử nghiệm gây ra.

Vào tháng 5/2023, chứng khoán Mỹ sụt giảm trong thời gian ngắn sau khi một hình ảnh lan truyền trên mạng cho thấy Lầu Năm Góc đang bốc cháy. Các chuyên gia cho biết bức ảnh giả có dấu hiệu được tạo ra bởi AI.

Vào tháng 2/2023, một đoạn âm thanh được sản xuất đã xuất hiện với nội dung giống như ứng cử viên tổng thống Nigeria Atiku Abubakar đang âm mưu gian lận cuộc bầu cử tháng đó. Vào năm 2021, một đoạn video dài một phút được đăng tải trên mạng xã hội xuất hiện cho thấy Tổng thống Ukraine Volodymyr Zelensky yêu cầu các binh sĩ của ông hạ vũ khí và đầu hàng Nga.

Nguy hiểm từ deepfake

Điều đáng lo ngại là những tác phẩm deepfake cuối cùng sẽ trở nên thuyết phục đến mức không thể phân biệt được đâu là thật đâu là giả. Hãy tưởng tượng những kẻ lừa đảo thao túng giá cổ phiếu bằng cách tạo ra các video giả mạo về các giám đốc điều hành đưa ra các thông tin cập nhật của công ty hoặc video giả mạo về những người lính phạm tội ác chiến tranh.

Các chính trị gia, lãnh đạo doanh nghiệp và người nổi tiếng đặc biệt gặp rủi ro vì có rất nhiều bản ghi âm về họ. Công nghệ này khiến cái gọi là khiêu dâm trả thù có thể xảy ra ngay cả khi không có ảnh hoặc video khỏa thân thực tế nào tồn tại, thường nhắm đến phụ nữ. Một khi một video lan truyền trên Internet thì gần như không thể ngăn chặn được.

Mặt khác, việc lan truyền deepfake sẽ giúp những người thực sự bị ghi hình đang làm hoặc nói những điều phản cảm hoặc bất hợp pháp dễ dàng tuyên bố rằng bằng chứng chống lại họ là không có thật. Một số người đã sử dụng phương pháp bào chữa deepfake trước tòa.

Có thể làm gì khác để ngăn chặn deepfake?

Một số công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia cũng như nhiều công ty công nghệ lớn của Mỹ đang phát triển công nghệ phát hiện deefake.

Intel đã ra mắt sản phẩm FakeCatcher vào tháng 11/2022. Intel cho biết sản phẩm này có thể phát hiện video giả với độ chính xác 96% bằng cách quan sát những thay đổi màu sắc tinh tế trên da của đối tượng do lưu lượng máu gây ra. Các công ty bao gồm Microsoft đã cam kết nhúng hình mờ kỹ thuật số vào hình ảnh được tạo bằng công cụ AI của họ để phân biệt chúng là giả./.

Theo TechCrunch
Copy Link
Bài liên quan
Nổi bật Tạp chí Thông tin & Truyền thông
  • Việt Nam - Malaysia nâng cấp quan hệ Đối tác chiến lược toàn diện
    Phát biểu tại họp báo, Tổng Bí thư Tô Lâm cho biết, Việt Nam-Malaysia tăng cường hợp tác trên các lĩnh vực mới (như kinh tế xanh, đổi mới sáng tạo, khoa học công nghệ, chuyển đổi số, năng lượng xanh...).
  • Chìa khóa giải quyết thách thức trong bảo vệ trẻ em trên không gian mạng
    Trẻ em - đối tượng dễ bị tổn thương nhất, đang phải đối mặt với nhiều nguy cơ. Đây không chỉ là bài toán của riêng Việt Nam mà còn là thách thức toàn cầu đòi hỏi sự chung tay hợp tác từ nhiều phía.
  • Việt Nam đang đối mặt 3 thách thức an toàn thông tin
    Các cuộc tấn công mạng hiện nay ngày càng tinh vi và phức tạp hơn, đặc biệt khi có sự hỗ trợ của trí tuệ nhân tạo. Tuy nhiên, việc kết hợp công nghệ này với trí tuệ của con người đã giúp phát hiện và phòng, chống tấn công mạng hiệu quả hơn.
  • Chuyển đổi số thành công không thể thiếu “niềm tin số”
    Muốn triển khai hiệu quả chiến lược số hóa quốc gia cần triển khai theo hướng tiếp cận từ trên xuống dưới và phải phù hợp với thực tế, đảm bảo có tầm nhìn rộng trong tương lai.
  • Việt Nam - Hàn Quốc đồng hành trong kỷ nguyên AI
    Thứ trưởng Bộ TT&TT Phan Tâm hy vọng, Việt Nam có thể học tập nhiều hơn từ Hàn Quốc về các bài học kinh nghiệm, cách làm hay để phát huy tối đa vai trò công nghệ số nói chung và trợ lý ảo nói riêng trong hoạt động của cơ quan nhà nước, thúc đẩy phát triển kinh tế, tạo lập xã hội số nhân văn và thu hẹp khoảng cách số.
Đừng bỏ lỡ
  • Bốn giải pháp trọng tâm để giải bài toán an toàn dữ liệu quốc gia
    Theo Thứ trưởng Bộ TT&TT Bùi Hoàng Phương, năm 2024 đánh dấu bước tiến vượt bậc của Việt Nam trong lĩnh vực an toàn thông tin. Tuy nhiên, còn rất nhiều thách thức cần vượt qua để đảm bảo an toàn dữ liệu quốc gia.
  • Việt Nam tăng cường hợp tác phát triển công nghệ số với Burundi và NIPA
    Trong khuôn khổ sự kiện Tuần lễ Số quốc tế 2024, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng đã tiếp và làm việc với Bộ trưởng Bộ Truyền thông, Công nghệ Thông tin và Đa phương tiện Burundi Léocadie Ndacayisaba và ông Hur Sung Wook, Chủ tịch Cục Xúc tiến Công nghiệp CNTT quốc gia Hàn Quốc (NIPA).
  • Chính thức ra mắt Nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin
    Nền tảng hướng tới nâng cao chất lượng và điều phối hiệu quả các hoạt động diễn tập trên toàn quốc thông qua nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin.
  • Robot Delta hữu dụng trong nhiều ngành
    Nhờ vào thiết kế độc đáo và khả năng hoạt động với tốc độ và độ chính xác cao, robot Delta là một giải pháp tối ưu trong nhiều ngành công nghiệp hiện đại.
  • Cà Mau ứng dụng các phần mềm chuyển đổi số trong ngành nông nghiệp
    Ngành nông nghiệp tỉnh Cà Mau đã không ngừng triển khai các giải pháp chuyển đổi số thông qua việc sử dụng các phần mềm, xây dựng cơ sở dữ liệu chuyên ngành phục vụ quản lý, điều hành. Trong tương lai không xa, các phần mềm này sẽ hoàn thiện và bắt kịp xu hướng công nghệ để hỗ trợ người nông dân nhiều hơn trong việc tăng gia sản xuất.
  • Bảo vệ các hệ thống mạng trọng yếu là cấp thiết
    Song song với tiến trình chuyển đổi số, các chiến dịch tấn công mạng, gián điệp và khủng bố mạng nhằm vào hệ thống công nghệ thông tin (IT) và công nghệ vận hành (OT) trọng yếu ngày càng gia tăng, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu của các quốc gia.
  • ‏OPPO Find X8 Series sẽ chính thức lên kệ ngày 7/12‏
    Ngày 21/11, OPPO chính thức ra mắt Find X8 Series‏‏ tại Việt Nam và sẽ lên kệ ngày 7/12 tới. Đây là lần đầu tiên người dùng Việt Nam được trải nghiệm dòng flagship cao cấp nhất của OPPO cùng lúc với toàn cầu. ‏
  • Chuyển đổi số từ thực tiễn Báo Hải Dương
    Báo Hải Dương có nhiều thuận lợi khi thực hiện chuyển đổi số. Đó là Ban Biên tập có quyết tâm cao. Đội ngũ cán bộ, phóng viên, nhân viên của báo nhanh nhạy với cái mới, ham học hỏi...
  • Đưa siêu ứng dụng "Công dân Thủ đô số - iHanoi" vào cuộc sống
    “Công dân Thủ đô số” - iHaNoi là kênh tương tác trực tuyến trên môi trường số giữa người dân, doanh nghiệp với các cấp chính quyền thành phố Hà Nội. Qua ứng dụng này, người dân và doanh nghiệp có thể phản ánh các vấn đề đời sống, từ đó giúp chính quyền tiếp nhận và giải quyết kịp thời.
  • Sự gia tăng của ứng dụng AI tạo sinh: Những rủi ro tiềm ẩn cho xã hội và con người
    AI tạo sinh là một trong những thành tựu công nghệ mới nhất của con người trong thập niên 20 của thế kỷ XXI. Cho đến nay, sự ứng dụng của AI tạo sinh đã tạo ra nhiều cuộc tranh luận quan trọng trong các nghiên cứu xã hội, đặc biệt là trong lĩnh vực triết học. AI tạo sinh đã thách thức nhiều khái niệm và định kiến của chúng ta về bản thân mình, đặc biệt là về cách chúng ta hiểu về tư duy và bản chất của tư duy con người.
Tại sao deepfake ngày càng phổ biến? Liệu có thể ngăn chặn?
POWERED BY ONECMS - A PRODUCT OF NEKO