An toàn thông tin

Những mối nguy từ “hot trend” trên mạng xã hội

QA 20:03 06/11/2023

Các ứng dụng tích hợp AI đang trở nên ngày càng phổ biến, được nhiều người chia sẻ và sử dụng tạo “hot trend” trong đó người dùng cần tải hình ảnh rõ mặt rồi cung cấp các thông tin về giới tính, độ tuổi...

Trao đổi về vấn đề này tại cuộc họp báo thường kỳ của Bộ TT&TT chiều ngày 6/11, ông Nguyễn Phú Lương, Phó Giám đốc Trung tâm giám sát an toàn không gian mạng quốc gia (NCSC), Cục An toàn thông tin (ATTT) - Bộ TT&TT cho biết người dùng Internet cần ý thức rằng khi sử dụng bất kỳ ứng dụng nào trên mạng Internet đều sẽ có các nguy cơ lộ lọt ít hoặc nhiều các thông tin cá nhân.

ong-nguyen-phu-luong.jpg
Ông Nguyễn Phú Lương: Các thông tin trên MXH nếu không được bảo vệ đều có thể được sử dụng, tổng hợp cho các mục đích khác nhau, không loại trừ mục đích lừa đảo về sau

Ông Lương lấy ví dụ như việc sử dụng ảnh khuôn mặt của mình làm ảnh đại diện (avatar) ở bất kỳ ứng dụng Internet hay mạng xã hội (MXH) nào là đã công khai khuôn mặt của mình với toàn bộ người dùng khác trên Internet. Như vậy, chúng ta luôn đối mặt với nguy cơ lộ, lọt thông tin từ trước đến nay chứ không phải chỉ đến khi có trao lưu Zalo AI mới xuất hiện. Ngoài ra, là một công ty của Việt Nam Zalo cũng luôn cam kết tuân thủ các quy định tại Việt Nam.

Các thông tin trên MXH nói chung nếu không được bảo vệ đều có thể được sử dụng, tổng hợp cho các mục đích khác nhau, không loại trừ mục đích lừa đảo về sau”, đại diện Cục ATTT nhận định.

Tuy nhiên, ông Lương cho biết khi sử dụng các dịch vụ trên mạng Internet, mỗi cá nhân cần tự ý thức về việc tự bảo vệ mình. Điều này đến từ các việc đơn giản như chọn ứng dụng uy tín, cài đặt các tuỳ chỉnh quyền riêng tư (privacy setting) có sẵn để giới hạn các bên có thể tiếp cận thông tin của mình. Những việc làm này tuy nhỏ nhưng có tác dụng rất lớn đến việc bảo vệ thông tin cá nhân của chúng ta khi sử dụng các dịch vụ trên mạng Internet hiện nay.

Một số các rủi ro của AI tác động tới trẻ em

Không chỉ người lớn, trẻ em thuộc mọi lứa tuổi đều có thể dễ dàng tiếp cận với các công cụ AI nhưng những công cụ này hầu như không yêu cầu sự cam kết nào trước khi sử dụng.

Theo ông Nguyễn Phú Lương, một số các rủi ro của AI tác động tới trẻ em có thể kể đến như:

Rủi ro tiếp cận thông tin không phù hợp: Những thông tin từ các ứng dụng tích hợp AI như ChatGPT, … cung cấp cho người dùng là những thông tin tổng hợp từ nhiều nguồn trên Internet bao gồm có cả thông tin chính xác và thông tin không chính xác, các thông tin này thậm chí không được chọn lọc, đánh giá, sàng lọc theo độ tuổi của người sử dụng đề để xuất câu trả lời phù hợp.

Do đó, tìm kiếm có thể hiển thị những thông tin sai lệch hoặc hiện thị cả những nội dung người lớn hoặc bạo lực mà các bậc cha mẹ không muốn con mình xem hoặc tìm hiểu...

Rủi ro phát tán rò rỉ, thông tin riêng tư, thông tin cá nhân của trẻ: Trẻ em có thể bất cẩn khi chia sẻ thông tin cá nhân trên mạng, dễ trở thành nạn nhân của các vụ xâm nhập dữ liệu trái phép khi sử dụng những ứng dụng chỉnh sửa ảnh, ứng dụng trò chuyện (chatbot).

Lôi kéo, dụ dỗ tham gia các thử thách nguy hiểm: Đã có những trường hợp đáng báo động khi các nữ sinh ở tuổi vị thành niên tham khảo ChatGPT về thông tin sức khỏe và kế hoạch ăn kiêng.

Theo Cục ATTT, AI có thể cung cấp nhanh chóng những thông tin với kế hoạch chi tiết và lời khuyên cụ thể, tuy nhiên những thông tin này không tham chiếu bất kỳ dữ liệu thực tế và chỉ là các tập hợp thông tin ngẫu nhiên trên mạng. Tiếp xúc với Chatbot từ khi còn quá nhỏ, trẻ sẽ lầm tưởng AI là người bạn thật sự và hành động theo lời khuyên của AI. Trong khi đó, những lời khuyên này có thể bao gồm nội dung thiên vị, không chính xác, có hại hoặc gây hiểu nhầm.

Tác động về tâm - sinh lý và hành vi của trẻ: Với sự trợ giúp của các công cụ AI, người dùng có thể tìm thấy thông tin về bất kỳ chủ đề nào chỉ bằng một câu hỏi. Chatbot AI đã giúp việc điều hướng thông tin dễ dàng hơn mà không cần mở hàng chục trang web khác nhau và đọc vô số bài viết để tổng hợp thông tin.

Theo phân tích của cục ATTT, việc tương tác quá nhiều với máy móc công nghệ có thể dẫn đến tình trạng trầm cảm, lo lắng bất an hoặc mất kỹ năng xã hội do ngày càng ít tương tác với người khác. Quá phụ thuộc vào AI làm giảm khả năng học tập, nghiên cứu và làm việc chủ động của trẻ.

Để giảm thiểu các rủi ro của AI tác động đến trẻ, không phải cấm trẻ sử dụng là giải pháp tốt mà quan trọng nhất là giáo dục để trẻ nâng cao nhận thức để nhận biết được các rủi ro để tự bảo vệ mình trên môi trường mạng”, Cục ATTT khuyến cáo.

Để giúp trẻ an toàn trên môi trường mạng được đại diện Cục ATTT nhấn mạnh nguyên tắc “4T”: Tuân thủ - Thông minh - Thận trọng Tử tế.

Tuân thủ: Tuân thủ quy tắc, biện pháp an toàn khi sử dụng Internet và nguyên tắc đã được thiết lập tại gia đình và trường học đặt ra. Ví dụ: Chỉ sử dụng MXH khi đủ 13 tuổi trở lên, sử dụng Internet trong khoảng thời gian cho phép, truy cập những nội dung được phép…

Thông minh: Trang bị kiến thức, kỹ năng để tham gia môi trường mạng thông minh như kỹ năng cung cấp thông tin cá nhân trên môi trường mạng, kỹ năng sử dụng, quản lý mật khẩu để đảm bảo an toàn, …

Thận trọng: Nên cẩn trọng với những người bạn trên mạng bởi có thể có người giả danh để tiếp cận bạn, cẩn trọng khi truy cập vào các đường link lạ, cẩn trọng khi gặp những lời mời chào hấp dẫn đến khó tin,… để giảm thiểu các rủi ro liên quan tới lừa đảo trực tuyến.

Tử tế: Cư xử văn minh, tử tế trên môi trường mạng, không gửi hoặc phản hồi những tin nhắn có nội dung xấu hoặc có tính xúc phạm người khác. Chia sẻ với cha mẹ, thầy cô khi gặp các vấn đề, khó khăn, khi bị bắt nạt, cô lập hoặc bị xâm hại trên không gian mạng.

Ngoài ra, đại diện Cục ATTT đề nghị bố mẹ có thể ứng dụng một số các công cụ công nghệ để có thể hỗ trợ chặn lọc các thông tin không phù hợp cho trẻ như Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone,…

Hướng giải quyết deepfake ngày càng bùng nổ

Deepfake ngày càng bùng nổ. Công nghệ này hiện không chỉ sử dụng với mục đích lừa đảo mà còn nhằm đưa các thông tin sai sự thật (bằng cách giả mạo MC của các nhà đài) nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các tin đã xác thực hoặc độc quyền.

Trước thực trạng này, đại diện Cục ATTT cho biết, tin giả tạo bởi deepfake xuất hiện từ lâu nhưng gần đây, hình thức lừa đảo này gắn với các MC nổi tiếng. Sau khi xử lý bằng deepfake, hình ảnh và giọng nói của nhiều MC nổi tiếng bị biến thành công cụ lan truyền tin giả trên mạng xã hội có hiệu ứng lan truyền mạnh và gây hậu quả khó lường. Video của các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình được khán giả quen mặt và tin tưởng. Giao diện bản tin cũng khiến nội dung thân thuộc, đáng tin cậy hơn.

Theo đại diện Cục ATTT, cách quan trọng nhất để phát hiện các hành vi giả mạo deepfake và tránh thông tin sai lệch là kiểm tra tính xác thực, đặt câu hỏi về độ tin cậy của các nguồn chia sẻ hình ảnh hoặc video.

Mỗi người cần rèn cho mình một thói quen thận trọng, cảnh giác và tư duy “fact check” - (kiểm chứng sự thực) trên không gian mạng. Điều quan trọng là lấy thông tin từ các nguồn chính thức và đáng tin cậy như các cơ quan, đơn vị chính thức và các nền tảng tin tức đáng tin cậy. Đừng chia sẻ trừ khi bạn chắc chắn 100% về tính xác thực của nó”.

deep-fake-3.png

Ngoài ra, người dùng có thể sử dụng chính các công cụ AI để nhận diện deepfake nhằm phòng tránh các vụ lừa đảo. Cụ thể, có thể dùng những phần mềm phát hiện nội dung do AI tạo ra, sử dụng thuật toán AI tiên tiến để phân tích và xác định mức độ bị chỉnh sửa của tệp hình ảnh, video, âm thanh. Có thể kể đến một số công cụ như: Intel FakeCatcher, Microsoft Video Authenticator…

Nhận biết video deepfake qua các dấu hiệu thường thấy như: Hình ảnh trong video chuyển động giật, như một đoạn video lỗi; ánh sáng bị thay đổi liên tục từ khung hình này sang khung hình tiếp theo; thay đổi tông màu da liên tục; video có những sự nhấp nháy lạ thường; khẩu hình miệng không đồng bộ với lời nói; hiện lên các đồ vật kỹ thuật số trong hình ảnh; âm thanh, video chất lượng thấp; nhân vật nói liên tục, không chớp mắt…

Trước nguy cơ cả hình ảnh và giọng nói đều có thể bị giả mạo, Cục ATTT đưa ra một số cách để người dùng phòng tránh là dù có tin tưởng thì vẫn phải xác minh. Đừng vội truy cập bất kỳ đường link nào để đề phòng nguy cơ bị hack tài khoản ngân hàng, tài khoản mạng xã hội.

Người dùng cần hạn chế sự hiện diện trên mạng xã hội, hoặc đặt tài khoản của mình ở chế độ riêng tư, chỉ chấp nhận yêu cầu từ những người tin tưởng để phòng ngừa, ngăn chặn việc dữ liệu hình ảnh, âm thanh của mình bị sao chép. Việc hạn chế quyền truy cập vào giọng nói và hình ảnh cá nhân giúp loại trừ khả năng hình ảnh bị lợi dụng.

Quản lý chặt chẽ thông tin cá nhân của mình. Tuyệt đối không nên đưa lên mạng các thông tin như số căn cước công dân, địa chỉ nhà riêng, ngày sinh, số điện thoại, tên của con cái...

Nếu bị làm giả deepfake hay lừa đảo trực tuyến nói chung, người dùng nên thông báo ngay lập tức cho mọi người biết và báo cơ quan công an tại nơi cư trú./.

An toàn thông tin

Những mối nguy từ “hot trend” trên mạng xã hội

QA 20:03 06/11/2023

Các ứng dụng tích hợp AI đang trở nên ngày càng phổ biến, được nhiều người chia sẻ và sử dụng tạo “hot trend” trong đó người dùng cần tải hình ảnh rõ mặt rồi cung cấp các thông tin về giới tính, độ tuổi...

Trao đổi về vấn đề này tại cuộc họp báo thường kỳ của Bộ TT&TT chiều ngày 6/11, ông Nguyễn Phú Lương, Phó Giám đốc Trung tâm giám sát an toàn không gian mạng quốc gia (NCSC), Cục An toàn thông tin (ATTT) - Bộ TT&TT cho biết người dùng Internet cần ý thức rằng khi sử dụng bất kỳ ứng dụng nào trên mạng Internet đều sẽ có các nguy cơ lộ lọt ít hoặc nhiều các thông tin cá nhân.

ong-nguyen-phu-luong.jpg
Ông Nguyễn Phú Lương: Các thông tin trên MXH nếu không được bảo vệ đều có thể được sử dụng, tổng hợp cho các mục đích khác nhau, không loại trừ mục đích lừa đảo về sau

Ông Lương lấy ví dụ như việc sử dụng ảnh khuôn mặt của mình làm ảnh đại diện (avatar) ở bất kỳ ứng dụng Internet hay mạng xã hội (MXH) nào là đã công khai khuôn mặt của mình với toàn bộ người dùng khác trên Internet. Như vậy, chúng ta luôn đối mặt với nguy cơ lộ, lọt thông tin từ trước đến nay chứ không phải chỉ đến khi có trao lưu Zalo AI mới xuất hiện. Ngoài ra, là một công ty của Việt Nam Zalo cũng luôn cam kết tuân thủ các quy định tại Việt Nam.

Các thông tin trên MXH nói chung nếu không được bảo vệ đều có thể được sử dụng, tổng hợp cho các mục đích khác nhau, không loại trừ mục đích lừa đảo về sau”, đại diện Cục ATTT nhận định.

Tuy nhiên, ông Lương cho biết khi sử dụng các dịch vụ trên mạng Internet, mỗi cá nhân cần tự ý thức về việc tự bảo vệ mình. Điều này đến từ các việc đơn giản như chọn ứng dụng uy tín, cài đặt các tuỳ chỉnh quyền riêng tư (privacy setting) có sẵn để giới hạn các bên có thể tiếp cận thông tin của mình. Những việc làm này tuy nhỏ nhưng có tác dụng rất lớn đến việc bảo vệ thông tin cá nhân của chúng ta khi sử dụng các dịch vụ trên mạng Internet hiện nay.

Một số các rủi ro của AI tác động tới trẻ em

Không chỉ người lớn, trẻ em thuộc mọi lứa tuổi đều có thể dễ dàng tiếp cận với các công cụ AI nhưng những công cụ này hầu như không yêu cầu sự cam kết nào trước khi sử dụng.

Theo ông Nguyễn Phú Lương, một số các rủi ro của AI tác động tới trẻ em có thể kể đến như:

Rủi ro tiếp cận thông tin không phù hợp: Những thông tin từ các ứng dụng tích hợp AI như ChatGPT, … cung cấp cho người dùng là những thông tin tổng hợp từ nhiều nguồn trên Internet bao gồm có cả thông tin chính xác và thông tin không chính xác, các thông tin này thậm chí không được chọn lọc, đánh giá, sàng lọc theo độ tuổi của người sử dụng đề để xuất câu trả lời phù hợp.

Do đó, tìm kiếm có thể hiển thị những thông tin sai lệch hoặc hiện thị cả những nội dung người lớn hoặc bạo lực mà các bậc cha mẹ không muốn con mình xem hoặc tìm hiểu...

Rủi ro phát tán rò rỉ, thông tin riêng tư, thông tin cá nhân của trẻ: Trẻ em có thể bất cẩn khi chia sẻ thông tin cá nhân trên mạng, dễ trở thành nạn nhân của các vụ xâm nhập dữ liệu trái phép khi sử dụng những ứng dụng chỉnh sửa ảnh, ứng dụng trò chuyện (chatbot).

Lôi kéo, dụ dỗ tham gia các thử thách nguy hiểm: Đã có những trường hợp đáng báo động khi các nữ sinh ở tuổi vị thành niên tham khảo ChatGPT về thông tin sức khỏe và kế hoạch ăn kiêng.

Theo Cục ATTT, AI có thể cung cấp nhanh chóng những thông tin với kế hoạch chi tiết và lời khuyên cụ thể, tuy nhiên những thông tin này không tham chiếu bất kỳ dữ liệu thực tế và chỉ là các tập hợp thông tin ngẫu nhiên trên mạng. Tiếp xúc với Chatbot từ khi còn quá nhỏ, trẻ sẽ lầm tưởng AI là người bạn thật sự và hành động theo lời khuyên của AI. Trong khi đó, những lời khuyên này có thể bao gồm nội dung thiên vị, không chính xác, có hại hoặc gây hiểu nhầm.

Tác động về tâm - sinh lý và hành vi của trẻ: Với sự trợ giúp của các công cụ AI, người dùng có thể tìm thấy thông tin về bất kỳ chủ đề nào chỉ bằng một câu hỏi. Chatbot AI đã giúp việc điều hướng thông tin dễ dàng hơn mà không cần mở hàng chục trang web khác nhau và đọc vô số bài viết để tổng hợp thông tin.

Theo phân tích của cục ATTT, việc tương tác quá nhiều với máy móc công nghệ có thể dẫn đến tình trạng trầm cảm, lo lắng bất an hoặc mất kỹ năng xã hội do ngày càng ít tương tác với người khác. Quá phụ thuộc vào AI làm giảm khả năng học tập, nghiên cứu và làm việc chủ động của trẻ.

Để giảm thiểu các rủi ro của AI tác động đến trẻ, không phải cấm trẻ sử dụng là giải pháp tốt mà quan trọng nhất là giáo dục để trẻ nâng cao nhận thức để nhận biết được các rủi ro để tự bảo vệ mình trên môi trường mạng”, Cục ATTT khuyến cáo.

Để giúp trẻ an toàn trên môi trường mạng được đại diện Cục ATTT nhấn mạnh nguyên tắc “4T”: Tuân thủ - Thông minh - Thận trọng Tử tế.

Tuân thủ: Tuân thủ quy tắc, biện pháp an toàn khi sử dụng Internet và nguyên tắc đã được thiết lập tại gia đình và trường học đặt ra. Ví dụ: Chỉ sử dụng MXH khi đủ 13 tuổi trở lên, sử dụng Internet trong khoảng thời gian cho phép, truy cập những nội dung được phép…

Thông minh: Trang bị kiến thức, kỹ năng để tham gia môi trường mạng thông minh như kỹ năng cung cấp thông tin cá nhân trên môi trường mạng, kỹ năng sử dụng, quản lý mật khẩu để đảm bảo an toàn, …

Thận trọng: Nên cẩn trọng với những người bạn trên mạng bởi có thể có người giả danh để tiếp cận bạn, cẩn trọng khi truy cập vào các đường link lạ, cẩn trọng khi gặp những lời mời chào hấp dẫn đến khó tin,… để giảm thiểu các rủi ro liên quan tới lừa đảo trực tuyến.

Tử tế: Cư xử văn minh, tử tế trên môi trường mạng, không gửi hoặc phản hồi những tin nhắn có nội dung xấu hoặc có tính xúc phạm người khác. Chia sẻ với cha mẹ, thầy cô khi gặp các vấn đề, khó khăn, khi bị bắt nạt, cô lập hoặc bị xâm hại trên không gian mạng.

Ngoài ra, đại diện Cục ATTT đề nghị bố mẹ có thể ứng dụng một số các công cụ công nghệ để có thể hỗ trợ chặn lọc các thông tin không phù hợp cho trẻ như Cyberpurify kid, safe gate family, BKAV safe kid, mobile guard for kid, safe zone,…

Hướng giải quyết deepfake ngày càng bùng nổ

Deepfake ngày càng bùng nổ. Công nghệ này hiện không chỉ sử dụng với mục đích lừa đảo mà còn nhằm đưa các thông tin sai sự thật (bằng cách giả mạo MC của các nhà đài) nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các tin đã xác thực hoặc độc quyền.

Trước thực trạng này, đại diện Cục ATTT cho biết, tin giả tạo bởi deepfake xuất hiện từ lâu nhưng gần đây, hình thức lừa đảo này gắn với các MC nổi tiếng. Sau khi xử lý bằng deepfake, hình ảnh và giọng nói của nhiều MC nổi tiếng bị biến thành công cụ lan truyền tin giả trên mạng xã hội có hiệu ứng lan truyền mạnh và gây hậu quả khó lường. Video của các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình được khán giả quen mặt và tin tưởng. Giao diện bản tin cũng khiến nội dung thân thuộc, đáng tin cậy hơn.

Theo đại diện Cục ATTT, cách quan trọng nhất để phát hiện các hành vi giả mạo deepfake và tránh thông tin sai lệch là kiểm tra tính xác thực, đặt câu hỏi về độ tin cậy của các nguồn chia sẻ hình ảnh hoặc video.

Mỗi người cần rèn cho mình một thói quen thận trọng, cảnh giác và tư duy “fact check” - (kiểm chứng sự thực) trên không gian mạng. Điều quan trọng là lấy thông tin từ các nguồn chính thức và đáng tin cậy như các cơ quan, đơn vị chính thức và các nền tảng tin tức đáng tin cậy. Đừng chia sẻ trừ khi bạn chắc chắn 100% về tính xác thực của nó”.

deep-fake-3.png

Ngoài ra, người dùng có thể sử dụng chính các công cụ AI để nhận diện deepfake nhằm phòng tránh các vụ lừa đảo. Cụ thể, có thể dùng những phần mềm phát hiện nội dung do AI tạo ra, sử dụng thuật toán AI tiên tiến để phân tích và xác định mức độ bị chỉnh sửa của tệp hình ảnh, video, âm thanh. Có thể kể đến một số công cụ như: Intel FakeCatcher, Microsoft Video Authenticator…

Nhận biết video deepfake qua các dấu hiệu thường thấy như: Hình ảnh trong video chuyển động giật, như một đoạn video lỗi; ánh sáng bị thay đổi liên tục từ khung hình này sang khung hình tiếp theo; thay đổi tông màu da liên tục; video có những sự nhấp nháy lạ thường; khẩu hình miệng không đồng bộ với lời nói; hiện lên các đồ vật kỹ thuật số trong hình ảnh; âm thanh, video chất lượng thấp; nhân vật nói liên tục, không chớp mắt…

Trước nguy cơ cả hình ảnh và giọng nói đều có thể bị giả mạo, Cục ATTT đưa ra một số cách để người dùng phòng tránh là dù có tin tưởng thì vẫn phải xác minh. Đừng vội truy cập bất kỳ đường link nào để đề phòng nguy cơ bị hack tài khoản ngân hàng, tài khoản mạng xã hội.

Người dùng cần hạn chế sự hiện diện trên mạng xã hội, hoặc đặt tài khoản của mình ở chế độ riêng tư, chỉ chấp nhận yêu cầu từ những người tin tưởng để phòng ngừa, ngăn chặn việc dữ liệu hình ảnh, âm thanh của mình bị sao chép. Việc hạn chế quyền truy cập vào giọng nói và hình ảnh cá nhân giúp loại trừ khả năng hình ảnh bị lợi dụng.

Quản lý chặt chẽ thông tin cá nhân của mình. Tuyệt đối không nên đưa lên mạng các thông tin như số căn cước công dân, địa chỉ nhà riêng, ngày sinh, số điện thoại, tên của con cái...

Nếu bị làm giả deepfake hay lừa đảo trực tuyến nói chung, người dùng nên thông báo ngay lập tức cho mọi người biết và báo cơ quan công an tại nơi cư trú./.

Nổi bật Tạp chí Thông tin & Truyền thông
Đừng bỏ lỡ
Những mối nguy từ “hot trend” trên mạng xã hội
POWERED BY ONECMS - A PRODUCT OF NEKO