An toàn thông tin

Mối lo ngại sử dụng công nghệ AI để tạo ra những nội dung tuyên truyền sai lệch

ThS. Lê Toàn 06/10/2024 14:15

Trí tuệ nhân tạo đang trở thành công cụ mạnh mẽ trong truyền thông và báo chí, nhưng cũng tạo ra lo ngại về việc sử dụng cho mục đích tuyên truyền sai lệch.

Tóm tắt:

- AI và truyền thông: AI đang trở thành công cụ mạnh mẽ trong truyền thông và báo chí, nhưng cũng tạo ra lo ngại về việc sử dụng cho mục đích tuyên truyền sai lệch.

- Hiệu quả của AI trong tuyên truyền: Nghiên cứu cho thấy tuyên truyền do AI tạo ra có sức thuyết phục cao, thậm chí có thể thuyết phục hơn cả nội dung do con người viết.

- Rủi ro của thông tin sai lệch: Nội dung do AI tạo ra, đặc biệt trong bối cảnh chính trị và xã hội, có thể dễ dàng được sử dụng để làm xói mòn niềm tin và gây ra bất ổn địa chính trị.

- Khó khăn trong việc phát hiện: Nội dung sai lệch do AI tạo ra rất khó phát hiện, làm cho việc kiểm tra thông tin và bảo vệ người dùng trở nên thách thức hơn.

- Nguy cơ đối với các cuộc bầu cử: Các công cụ AI đang được sử dụng để tạo ra thông tin giả mạo, gây ảnh hưởng đến cử tri và làm phức tạp thêm các cuộc bầu cử.

- Hành động: Cần có biện pháp kiểm soát và quản lý việc sử dụng AI để ngăn chặn việc lạm dụng công nghệ này trong tuyên truyền thông tin sai lệch.

Trí tuệ nhân tạo - hay AI là một thuật ngữ quen thuộc trong thời đại số hiện nay. Nhắc tới AI, chúng ta có thể ngay lập tức hình dung ra một thế giới đầy sự tiên tiến, tối tân và hiện đại. Sự xuất hiện của AI đã giải quyết được vô số nhu cầu của loài người trong nhiều ngành nghề, lĩnh vực khác nhau của đời sống xã hội.

AI được ứng dụng trong nhiều lĩnh vực khác nhau, như robot học, xử lý ngôn ngữ tự nhiên, nhận dạng khuôn mặt, xe tự lái và mô phỏng quân sự, chẩn đoán y khoa, dạy học, phân tích dữ liệu, sáng tạo nội dung, dự báo thời tiết, và nhiều hơn thế nữa.

Với những bước đột phá lớn trong các mô hình ngôn ngữ có thể nói AI trở thành công cụ có sức mạnh vượt bậc trong truyền thông, báo chí cũng như công tác tuyên truyền nói chung.

Tuy nhiên, trên thực tế có nhiều nghiên cứu đã chỉ ra những mặt trái, những khía cạnh tiêu cực nếu sử dụng công nghệ này cho những mục đích tuyên truyền sai lệch, nhất là những chiến dịch tuyên truyền được hậu thuẫn bởi chính phủ; điều này làm dấy lên những lo ngại về bất ổn địa chính trị trên phạm vi nhiều quốc gia. Bài báo này phân tích một số nghiên cứu gần đây về những phát triển của AI trong việc tạo ra các nội dung thông tin cũng như tổng hợp những mặt trái đối với những nội dung tuyên truyền sai lệch được tạo ra bởi công nghệ này.

AI hỗ trợ hiệu quả trong việc tạo nội dung tuyên truyền

Các nhà nghiên cứu đã phát hiện ra rằng tuyên truyền do AI tạo ra cũng hiệu quả như tuyên truyền do con người viết ra và chỉ cần chỉnh sửa một chút, nó thậm chí còn có sức thuyết phục hơn. [1] Theo đó, công nghệ AI có thể tạo ra nội dung tuyên truyền hiệu quả giống như con người.

Các nhà nghiên cứu từ Đại học Georgetown và Stanford đã công bố nghiên cứu của mình trên tạp chí PNAS Nexus. Nghiên cứu này sử dụng mô hình GPT-3 của OpenAI để tạo ra các bài báo tuyên truyền. Nghiên cứu cũng khảo sát xem liệu mọi người có đánh giá các bài báo do AI tạo ra là đáng tin cậy hay không và nhận biết về độ tin cậy về nội dung do AI tạo ra.

chatgpt-image.png
Công nghệ AI có thể tạo ra nội dung tuyên truyền hiệu quả giống như con người.

Mẫu khảo sát là sáu bài viết (dài từ 151 đến 308 từ) được chọn lựa gọi là các bài báo gốc. Sau đó, sử dụng GPT-3 để tạo các bài viết về cùng sáu chủ đề. Đối với mỗi chủ đề, GPT-3 được cung cấp một hoặc hai câu từ bài viết tuyên truyền gốc tạo nên quan điểm chính của bài viết, cũng như ba bài viết tuyên truyền khác về các chủ đề không liên quan.

Nghiên cứu yêu cầu GPT-3 tạo ba bài viết về mỗi chủ đề, thay vì một bài, để tránh lập chỉ mục quá mức cho bất kỳ một đầu ra nào vì mỗi đầu ra do AI tạo là duy nhất; Loại bỏ các phiên bản có dưới 686 ký tự hoặc trên 1.936 ký tự. Các tham số này được chọn để giữ các bài viết nằm trong khoảng 10% của các bài viết ngắn nhất và dài nhất so với bài tuyên truyền đầu vào hoặc đã được chỉnh sửa. Sau đó, nghiên cứu sẽ so sánh tính thuyết phục của bài viết tuyên truyền gốc với bài viết do GPT-3 tạo ra.

Cụ thể: thực hiện thăm dò ý kiến của 8.221 người trưởng thành ở Hoa Kỳ về việc liệu họ có đồng ý hay không đồng ý ở mức độ nào với các nhận định luận điểm đối với bốn trong số sáu chủ đề tuyên truyền, được chọn ngẫu nhiên mà không đọc một bài báo nào về những chủ đề này.[2]

Để thiết lập một chuẩn mực đánh giá GPT-3, trước tiên các nhà nghiên cứu đánh giá tác động của việc đọc bản tuyên truyền gốc so với việc không đọc bất kỳ bản tuyên truyền nào về chủ đề đó. Kết quả là nếu không đọc trước các bài báo tuyên truyền nguyên bản do con người sáng tác, chỉ có 24,4% số người được hỏi đồng ý hoặc đồng ý cao với nội dung luận điểm tuyên truyền do AI tạo ra. Nhưng nếu số người được hỏi đã đọc bản nội dung gốc ban đầu thì tỷ lệ đồng ý này đã tăng lên 47,4% (tăng 23%). Do đó, bản tuyên truyền gốc gần như tăng gấp đôi tỷ lệ người tham gia khảo sát đồng tình với nội dung, luận điểm do AI tạo ra.

Nghiên cứu cũng chỉ ra nội dung tuyên truyền do GPT-3 tạo ra cũng có sức thuyết phục cao, và 43,5% số người được hỏi đã đọc bài viết do GPT3 tạo ra đã bày tỏ quan điểm đồng ý hoặc hoàn toàn đồng ý với nội dung luận điểm trong bài viết GPT-3. Điều này cho thấy rằng con người hoàn toàn có thể sử dụng GPT-3 để tạo ra các bài viết tuyên truyền có sức thuyết phục, bằng cách sử dụng các bài viết hiện có về các chủ đề không liên quan để hướng dẫn GPT-3 về phong cách và độ dài của các bài viết mới.

Ngoài ra, số liệu nghiên cứu cũng cho thấy có sự không đồng nhất đáng kể trong hiệu ứng tác động khi chia mẫu theo các biến nhân khẩu học, đảng phái/ý thức hệ, mức tiêu thụ tin tức, thời gian dành cho phương tiện truyền thông xã hội, v.v.. Điều này dẫn tới nhận định rằng hoạt động tuyên truyền do AI tạo ra có thể hấp dẫn nhiều nhóm người khác nhau trong xã hội.

Hơn thế nữa, các nhà nghiên cứu cũng đã thực hiện nhiều bước để cải thiện kết quả đầu ra, chẳng hạn như bằng cách chỉnh sửa các phần nội dung tuyên truyền gốc để tìm lỗi ngữ pháp và nhắc AI bằng quan điểm nội dung cô đọng, họ nhận thấy rằng hiệu quả tuyên truyền do AI tạo ra vượt trội hơn so với bản gốc.

Trên thực tế, các nhà tuyên truyền có thể không sử dụng toàn bộ kết quả đầu ra của một mô hình trong một chiến dịch tuyên truyền. Thay vào đó, họ có thể tham gia vào việc hợp tác giữa con người và máy móc để nâng cao hiệu quả của việc tuyên truyền trong khi vẫn có biện pháp giám sát con người và kiểm soát chất lượng.

Nội dung tuyên truyền sai lệch sử dụng AI như thế nào?

Có thể thấy các mô hình ngôn ngữ có thể tạo ra văn bản có sức thuyết phục đối với khán giả. Hơn nữa, các chiến lược hợp tác giữa con người và máy móc (chỉnh sửa lời nhắc và quản lý kết quả đầu ra) đã tạo ra các bài báo có sức thuyết phục tương đương hoặc hơn so với nội dung tuyên truyền ban đầu.

Tuy nhiên cũng chính bởi ưu điểm này mà hiện nay việc tuyên truyền theo mục đích sai lệch đang được tận dụng triệt để. Không ít các ví dụ thực tế chứng minh sự thật đáng lo ngại này. Các chiến dịch tuyên truyền bí mật (do nhà nước hậu thuẫn) sử dụng nội dung ngắn và các bài báo dài cho nhiều mục tiêu, từ tự đề cao bản thân đến làm xói mòn niềm tin vào các thể chế của chính phủ.

Ngày nay, công nghệ thông tin và truyền thông đóng vai trò rất quan trọng trong cuộc sống của chúng ta, nên những người trẻ tuổi đặc biệt dễ bị ảnh hưởng bởi tuyên truyền, thông tin sai lệch và tin tức giả mạo. Những người trẻ tuổi dành phần lớn thời gian để xem tivi, chơi trò chơi trực tuyến, trò chuyện, viết blog, nghe nhạc, đăng ảnh của mình và tìm kiếm những người khác để giao tiếp trực tuyến. Họ phụ thuộc rất nhiều vào thông tin lưu hành trực tuyến để có kiến thức về thế giới và cách họ nhận thức thực tế.

Vì thế các nội dung tuyên truyền, thông tin sai lệch và tin tức giả có khả năng phân cực dư luận, thúc đẩy chủ nghĩa cực đoan bạo lực và ngôn từ kích động thù địch. Tuyên truyền thông tin sai lệch và ngôn từ kích động thù địch đang làm ô nhiễm hệ sinh thái thông tin của chúng ta - gây chia rẽ xã hội, làm xói mòn lòng tin và cuối cùng là đe dọa sự tiến bộ của con người.

untitled.jpg

Vấn nạn tin giả, tin sai lệch được sử dụng triệt để cho các mục đích chính trị, thậm chí còn được hậu thuẫn bởi các chính phủ nhất là khi các công cụ AI tạo ra ngày càng tinh vi hơn. Các tác nhân chính trị vẫn tiếp tục triển khai công nghệ này để khuếch đại thông tin sai lệch. Hơn nữa, nội dung do AI tạo ra khó phát hiện, ít dấu vết, khiến các nhà báo, người kiểm tra thông tin, cơ quan thực thi pháp luật hoặc người dùng thông thường khó phân biệt được với thông tin thực.

Những thông tin tuyên truyền sai lệch này tác động ở nhiều lĩnh vực, từ hòa bình và an ninh đến nhân quyền. Nội dung phân biệt chủng tộc, bài Do Thái, kỳ thị Hồi giáo, kỳ thị người nước ngoài hoặc thậm chí là lạm dụng tình dục cũng bị khai thác tương tự. Trong một nghiên cứu gây sốc gần đây của các nhà nghiên cứu Stanford đã tìm thấy hơn 1.000 hình ảnh bất hợp pháp khai thác trẻ em trong một cơ sở dữ liệu nguồn mở nổi bật được sử dụng để đào tạo một số công cụ tạo hình ảnh AI.[3]

Những nguy cơ tiềm ẩn không dừng lại ở đó. Nhiều nhà nghiên cứu đang cảnh báo về mối đe dọa mà thông tin sai lệch do AI tạo ra gây ra cho các cuộc bầu cử, bỏ phiếu. Điều này được minh chứng rõ nét nhất trong các cuộc bầu cử tổng thống Hoa Kỳ. Các công cụ AI đang khiến cuộc đua vào Nhà Trắng trở nên khó khăn hơn bằng cách cho phép mọi người dễ dàng tạo ra hình ảnh và video giả nhằm mục đích tác động đến cử tri.

Trên thực tế, việc thao túng cử tri do AI hỗ trợ đã xuất hiện. Các công cụ AI đã được sử dụng để tạo ra và phát tán các thông tin giả mạo và thông tin sai lệch khác có vẻ hợp lý. Hầu như bất kỳ ai cũng có thể tạo ra một kênh tin tức trông giống như một kênh thực sự. Công nghệ video giả mạo này đang được triển khai trên các nguồn cấp dữ liệu truyền thông xã hội để đánh lừa mọi người bằng tuyên truyền được ngụy trang thành tin tức.

Và còn rất nhiều những lĩnh vực khác bị ảnh hưởng bởi nội dung tuyên truyền sai lệch do AI tạo ra. Đó là lý do tại sao chúng ta phải hành động nhanh chóng. Các chính phủ và người dùng cá nhân đang yêu cầu các nhà phát triển công cụ AI hành động khẩn cấp để công việc của họ an toàn hơn và minh bạch hơn.

Kết luận

AI giúp con người tạo ra nhiều nội dung thông tin, giúp công tác tuyên truyền hiệu quả. Tuy nhiên công nghệ này thực sự có tác động tích cực tới cuộc sống của mỗi chúng ta hoàn toàn phụ thuộc vào mục đích của những người sử dụng công cụ này trong công tác tuyên truyền. Trên thực tế một vấn đề luôn tồn tại hai mặt, do đó bên cạnh việc sử dụng thì cũng cần phải kiểm soát công nghệ AI trong tuyên truyền thông tin.

Vậy làm thế nào chúng ta có thể chống lại làn sóng thông tin tuyên truyền sai lệch do AI tạo ra sắp tới? Kiểm tra thông tin theo cách truyền thống đòi hỏi quá nhiều công sức và chắc chắn sẽ thất bại. Nhưng hy vọng với những hệ lụy sử dụng sai mục đích của công cụ AI mà chúng ta đang chứng kiến mỗi ngày, các quốc gia trên toàn cầu cần chung tay để có được các biện pháp kiểm tra, kiểm soát đối với những nội dung tuyên truyền sai lệch được tạo ra bởi công nghệ AI./.

(Bài đăng ấn phẩm in Tạp chí TT&TT số 8 tháng 8/2024)

Bài liên quan
Nổi bật Tạp chí Thông tin & Truyền thông
Đừng bỏ lỡ
Mối lo ngại sử dụng công nghệ AI để tạo ra những nội dung tuyên truyền sai lệch
POWERED BY ONECMS - A PRODUCT OF NEKO