An toàn thông tin

AI tạo sinh làm tăng một số rủi ro mới

Tâm An 11:22 28/04/2023

Trí tuệ nhân tạo (AI) làm cho cuộc sống của chúng ta dễ dàng hơn theo nhiều cách khác nhau, đặc biệt với sự phát triển mạnh mẽ của AI tạo sinh (generative AI). Tuy nhiên, bên cạnh những lợi ích này có thể đi kèm với đó là những rủi ro.

AI tạo sinh, chẳng hạn như ChatGPT, đã cách mạng hóa cách chúng ta ứng dụng và tương tác với AI. Cụ thể, công nghệ này có thể tạo ra văn bản, hình ảnh, âm thanh và các loại hình đa phương tiện khác để phản hồi những yêu cầu ngắn của người dùng. Tuy nhiên, nó cũng tiềm ẩn những rủi ro nhất định.

3.jpg

Khi AI tiếp tục phát triển với tốc độ chóng mặt, những lo ngại về bảo mật và rủi ro ngày càng trở nên nổi bật. Điều này thậm chí đã khiến một số quốc gia cấm hoàn toàn ChatGPT, một số nhà lập pháp đã yêu cầu các quy tắc và quy định mới cho các công cụ AI, trong khi một số nhà lãnh đạo công nghệ và doanh nghiệp đề xuất tạm dừng đào tạo các hệ thống AI để đánh giá mức độ an toàn của chúng.

Theo bà Avivah Litan, Phó Chủ tịch phân tích tại Gartner, một số rủi ro lớn nhất của AI tạo sinh là liên quan đến niềm tin và bảo mật, trong đó bao gồm thông tin sai lệch, thông tin bịa đặt, deepfake, quyền riêng tư dữ liệu, vấn đề bản quyền và an ninh mạng.

Thông tin sai lệch, nhận thức sai về thông tin

Thông tin không chính xác là lỗi mà các mô hình AI tạo sinh dễ mắc phải bởi vì mặc dù tiên tiến nhưng chúng vẫn không phải là con người và dựa vào quá trình đào tạo với các nguồn dữ liệu khổng lồ - có thể là nguồn trên Internet chưa được kiểm chứng để đưa ra câu trả lời.

Ngoài ra, các công cụ AI cũng có thể nhận định sai về các yêu cầu của người dùng dẫn đến việc cung cấp phản hồi thông tin không chính xác.

Bà Litan cho biết, dữ liệu đào tạo không chuẩn, chưa được kiểm chứng có thể dẫn đến các phản hồi sai lệch hoặc sai thực tế, đây có thể là một vấn đề nghiêm trọng khi mọi người dựa vào các chatbot để lấy thông tin.

Deepfake

Khi AI tạo sinh được sử dụng để tạo nội dung với mục đích xấu, đó sẽ là một rủi ro lớn và deepfake là một điển hình.

Deepfake là từ để chỉ các hình ảnh, video hoặc âm thanh giả mạo được tạo ra bằng công nghệ AI một cách sống động và khó phân biệt với những nội dung thật. Các sản phẩm của deepfake thường được sử dụng để tạo ra những bức ảnh hoặc video giả mạo của những người nổi tiếng, những câu nói không có thật hoặc để đánh lừa người xem.

Một ví dụ điển hình mới đây là công nghệ AI đã tạo ra bức ảnh deepfake Giáo hoàng Francis trong chiếc áo phao của Balenciaga. Bức ảnh này thật đến nỗi đánh lừa hàng triệu người dùng mạng xã hội. Mặc dù đây là hình ảnh có vẻ vô thưởng vô phạt, nhưng nó đã cung cấp một cái nhìn sâu hơn về một tương lai nơi deepfake tạo ra rủi ro chính trị, giả mạo, gian lận và uy tín đáng kể cho các cá nhân, tổ chức và chính phủ.

fsfwmreama.jpg
Bức ảnh Giáo hoàng Francis mặc áo phao trắng do AI Midjourney tạo ra. (Ảnh: Twitter)

Các nghệ sĩ nổi tiếng gần đây cũng đã trở thành nạn nhân của deepfake khi liên tục bị công nghệ AI dùng giọng để tạo ra các bản cover.

Mới đây, cộng đồng người yêu âm nhạc và giới công nghệ đã xôn xao về một ca khúc được tạo ra bởi AI với giọng hát do AI mô phỏng giống với Drake và The Weeknd. Ngay khi xuất hiện, ca khúc lập tức gây sốt. Sau ba ngày, ca khúc nhận hơn 20 triệu lượt phát trực tuyến trên các nền tảng như Apple Music, Spotify, TikTok và Twitter, cùng hàng triệu lượt nghe trên những nền tảng khác như Soundcloud, Deezer và Tidal.

Bà Litan cho biết: “Những hình ảnh, video và tệp (file) âm thanh giả giọng nói đã được sử dụng để tấn công những người nổi tiếng và chính trị gia, để tạo và truyền bá thông tin sai lệch, thậm chí để tạo tài khoản giả hoặc chiếm đoạt và đột nhập vào các tài khoản hợp pháp hiện có”.

Với độ chân thực ngày càng cao và khó phân biệt, deepfake có thể góp phần vào việc lan truyền rộng rãi nội dung giả mạo, cũng như thông tin sai lệch, đây là một vấn đề xã hội nghiêm trọng.

Quyền riêng tư dữ liệu

Quyền riêng tư cũng là mối quan tâm chính đối với AI tạo sinh vì dữ liệu người dùng thường được lưu trữ để đào tạo mô hình. Mối lo ngại này là lý do chính đã thúc đẩy Italia cấm ChatGPT, và tuyên bố rằng OpenAI không được phép thu thập dữ liệu người dùng một cách hợp pháp.

Litan cho biết: “Nhân viên có thể dễ dàng tiết lộ dữ liệu nhạy cảm và độc quyền của doanh nghiệp khi tương tác với các giải pháp chatbot AI tạo sinh. Trong khi đó, các ứng dụng này có thể lưu trữ vô thời hạn thông tin được thu thập thông qua đầu vào của người dùng và thậm chí sử dụng thông tin để đào tạo các mô hình khác”.

Bà Litan nhấn mạnh rằng, ngoài việc ảnh hưởng đến tính bảo mật của người dùng, thông tin được lưu trữ còn có nguy cơ "rơi vào tay kẻ xấu" trong trường hợp hệ thống bị tấn công.

An ninh mạng

Các khả năng tiên tiến của các mô hình AI tạo sinh, chẳng hạn như mã hóa, cũng có thể rơi vào tay kẻ xấu, gây ra những lo ngại về an ninh mạng.

Theo bà Litan, bên cạnh các mối đe dọa kỹ thuật xã hội và lừa đảo tiên tiến hơn, những kẻ tấn công có thể sử dụng các công cụ này để tạo mã độc dễ dàng hơn.

Ngoài ra, bà cũng cho biết thêm, mặc dù các nhà cung cấp giải pháp AI tạo sinh thường đảm bảo với khách hàng rằng các mô hình của họ được đào tạo để từ chối các yêu cầu an ninh mạng độc hại, nhưng các nhà cung cấp này không trang bị cho người dùng cuối khả năng xác minh tất cả các biện pháp bảo mật đã được triển khai.

Vấn đề bản quyền

Bản quyền cũng là một mối quan tâm lớn vì các mô hình AI tạo sinh được đào tạo dựa trên lượng dữ liệu Internet khổng lồ được sử dụng để tạo thông tin đầu ra có thể bao gồm tài liệu có bản quyền. Chẳng hạn, để tạo một hình ảnh từ lời yêu cầu, các công cụ AI như hệ thống AI tạo sinh DALL-E, sẽ tham khảo cơ sở dữ liệu lớn về ảnh mà họ đã được đào tạo. Do đó, một số đầu ra có thể vi phạm các biện pháp bảo vệ bản quyền hoặc sở hữu trí tuệ.

Trong khi đó, bản quyền là một vấn đề đặc biệt nhức nhối đối với nghệ thuật do AI tạo ra dưới mọi hình thức, bao gồm cả ảnh và nhạc.

Tuy nhiên, vì dữ liệu mà các mô hình AI tạo sinh được đào tạo không được tiết lộ rõ ràng nguồn thông tin, nên rất khó để giảm thiểu các vấn đề bản quyền này. Nếu không có tham chiếu nguồn hoặc tính minh bạch về cách tạo kết quả đầu ra, cách duy nhất để giảm thiểu rủi ro này là người dùng xem xét kỹ lưỡng kết quả đầu ra để đảm bảo chúng không vi phạm bản quyền hoặc quyền sở hữu trí tuệ.

Mặc dù có nhiều rủi ro liên quan đến AI tạo sinh, nhưng bà Litan không nghĩ rằng các tổ chức nên ngừng nghiên cứu và phát triển công nghệ này. Thay vào đó, họ nên tạo ra một chiến lược toàn doanh nghiệp nhắm mục tiêu quản lý vấn đề về an ninh, rủi ro và niềm tin AI.

Hiện tại không có công cụ sẵn có nào trên thị trường cung cấp cho người dùng sự đảm bảo về quyền riêng tư một cách có hệ thống hoặc lọc nội dung hiệu quả về các tương tác của họ với các mô hình này, chẳng hạn như lọc ra các lỗi thực tế, thông tin sai, tài liệu có bản quyền hoặc thông tin bí mật.

“Các nhà phát triển AI cần phải làm việc với các nhà hoạch định chính sách, bao gồm cả các cơ quan quản lý mới có thể xuất hiện, để thiết lập các chính sách và thực tiễn nhằm giám sát AI tạo sinh và quản lý rủi ro một cách hiệu quả”, Litan nhấn mạnh./.

Theo Zdnet, Gartner
Copy Link
Bài liên quan
  • Cần có khả năng lãnh đạo AI
    Các doanh nghiệp (DN) nên có kế hoạch lãnh đạo trí tuệ nhân tạo (AI) để có thể tận dụng tối đa lợi ích của công nghệ này đồng thời giúp làm giảm thiểu những rủi ro có thể xảy ra.
Nổi bật Tạp chí Thông tin & Truyền thông
  • Việt Nam - Malaysia nâng cấp quan hệ Đối tác chiến lược toàn diện
    Phát biểu tại họp báo, Tổng Bí thư Tô Lâm cho biết, Việt Nam-Malaysia tăng cường hợp tác trên các lĩnh vực mới (như kinh tế xanh, đổi mới sáng tạo, khoa học công nghệ, chuyển đổi số, năng lượng xanh...).
  • Chìa khóa giải quyết thách thức trong bảo vệ trẻ em trên không gian mạng
    Trẻ em - đối tượng dễ bị tổn thương nhất, đang phải đối mặt với nhiều nguy cơ. Đây không chỉ là bài toán của riêng Việt Nam mà còn là thách thức toàn cầu đòi hỏi sự chung tay hợp tác từ nhiều phía.
  • Việt Nam đang đối mặt 3 thách thức an toàn thông tin
    Các cuộc tấn công mạng hiện nay ngày càng tinh vi và phức tạp hơn, đặc biệt khi có sự hỗ trợ của trí tuệ nhân tạo. Tuy nhiên, việc kết hợp công nghệ này với trí tuệ của con người đã giúp phát hiện và phòng, chống tấn công mạng hiệu quả hơn.
  • Chuyển đổi số thành công không thể thiếu “niềm tin số”
    Muốn triển khai hiệu quả chiến lược số hóa quốc gia cần triển khai theo hướng tiếp cận từ trên xuống dưới và phải phù hợp với thực tế, đảm bảo có tầm nhìn rộng trong tương lai.
  • Việt Nam - Hàn Quốc đồng hành trong kỷ nguyên AI
    Thứ trưởng Bộ TT&TT Phan Tâm hy vọng, Việt Nam có thể học tập nhiều hơn từ Hàn Quốc về các bài học kinh nghiệm, cách làm hay để phát huy tối đa vai trò công nghệ số nói chung và trợ lý ảo nói riêng trong hoạt động của cơ quan nhà nước, thúc đẩy phát triển kinh tế, tạo lập xã hội số nhân văn và thu hẹp khoảng cách số.
Đừng bỏ lỡ
  • Bốn giải pháp trọng tâm để giải bài toán an toàn dữ liệu quốc gia
    Theo Thứ trưởng Bộ TT&TT Bùi Hoàng Phương, năm 2024 đánh dấu bước tiến vượt bậc của Việt Nam trong lĩnh vực an toàn thông tin. Tuy nhiên, còn rất nhiều thách thức cần vượt qua để đảm bảo an toàn dữ liệu quốc gia.
  • Việt Nam tăng cường hợp tác phát triển công nghệ số với Burundi và NIPA
    Trong khuôn khổ sự kiện Tuần lễ Số quốc tế 2024, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng đã tiếp và làm việc với Bộ trưởng Bộ Truyền thông, Công nghệ Thông tin và Đa phương tiện Burundi Léocadie Ndacayisaba và ông Hur Sung Wook, Chủ tịch Cục Xúc tiến Công nghiệp CNTT quốc gia Hàn Quốc (NIPA).
  • Chính thức ra mắt Nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin
    Nền tảng hướng tới nâng cao chất lượng và điều phối hiệu quả các hoạt động diễn tập trên toàn quốc thông qua nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin.
  • Robot Delta hữu dụng trong nhiều ngành
    Nhờ vào thiết kế độc đáo và khả năng hoạt động với tốc độ và độ chính xác cao, robot Delta là một giải pháp tối ưu trong nhiều ngành công nghiệp hiện đại.
  • Cà Mau ứng dụng các phần mềm chuyển đổi số trong ngành nông nghiệp
    Ngành nông nghiệp tỉnh Cà Mau đã không ngừng triển khai các giải pháp chuyển đổi số thông qua việc sử dụng các phần mềm, xây dựng cơ sở dữ liệu chuyên ngành phục vụ quản lý, điều hành. Trong tương lai không xa, các phần mềm này sẽ hoàn thiện và bắt kịp xu hướng công nghệ để hỗ trợ người nông dân nhiều hơn trong việc tăng gia sản xuất.
  • Bảo vệ các hệ thống mạng trọng yếu là cấp thiết
    Song song với tiến trình chuyển đổi số, các chiến dịch tấn công mạng, gián điệp và khủng bố mạng nhằm vào hệ thống công nghệ thông tin (IT) và công nghệ vận hành (OT) trọng yếu ngày càng gia tăng, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu của các quốc gia.
  • ‏OPPO Find X8 Series sẽ chính thức lên kệ ngày 7/12‏
    Ngày 21/11, OPPO chính thức ra mắt Find X8 Series‏‏ tại Việt Nam và sẽ lên kệ ngày 7/12 tới. Đây là lần đầu tiên người dùng Việt Nam được trải nghiệm dòng flagship cao cấp nhất của OPPO cùng lúc với toàn cầu. ‏
  • Chuyển đổi số từ thực tiễn Báo Hải Dương
    Báo Hải Dương có nhiều thuận lợi khi thực hiện chuyển đổi số. Đó là Ban Biên tập có quyết tâm cao. Đội ngũ cán bộ, phóng viên, nhân viên của báo nhanh nhạy với cái mới, ham học hỏi...
  • Đưa siêu ứng dụng "Công dân Thủ đô số - iHanoi" vào cuộc sống
    “Công dân Thủ đô số” - iHaNoi là kênh tương tác trực tuyến trên môi trường số giữa người dân, doanh nghiệp với các cấp chính quyền thành phố Hà Nội. Qua ứng dụng này, người dân và doanh nghiệp có thể phản ánh các vấn đề đời sống, từ đó giúp chính quyền tiếp nhận và giải quyết kịp thời.
  • Sự gia tăng của ứng dụng AI tạo sinh: Những rủi ro tiềm ẩn cho xã hội và con người
    AI tạo sinh là một trong những thành tựu công nghệ mới nhất của con người trong thập niên 20 của thế kỷ XXI. Cho đến nay, sự ứng dụng của AI tạo sinh đã tạo ra nhiều cuộc tranh luận quan trọng trong các nghiên cứu xã hội, đặc biệt là trong lĩnh vực triết học. AI tạo sinh đã thách thức nhiều khái niệm và định kiến của chúng ta về bản thân mình, đặc biệt là về cách chúng ta hiểu về tư duy và bản chất của tư duy con người.
AI tạo sinh làm tăng một số rủi ro mới
POWERED BY ONECMS - A PRODUCT OF NEKO