Trung Quốc đã đặt ra những yêu cầu đặc biệt gì đối với các thuật toán khuyến nghị?

Cơ quan Quản lý An ninh mạng Trung Quốc đã thông qua một bộ quy định mới về các thuật toán khuyến nghị. Quy định mới, sẽ có hiệu lực từ 1/3/2022, nhằm thực hiện các bước quan trọng trong việc điều chỉnh cách công nghệ của Trung Quốc. Nếu được thực thi như dự kiến, các quy định được cho là sẽ gây tác động lớn đến các công ty phụ thuộc nhiều vào công nghệ, chẳng hạn như các ứng dụng truyền thông xã hội, nền tảng thương mại điện tử (TMĐT) và trang web tin tức, yêu cầu các công ty phải tăng cường giám sát và thực hiện các điều chỉnh kỹ thuật đáng kể.

Cụ thể, vào ngày 31/12/2021 vừa qua, Cục quản lý an ninh mạng Trung Quốc (CAC), cơ quan giám sát Internet của Trung Quốc, đã thông qua bộ  quy định quản lý thuật toán dịch vụ thông tin Internet (Internet Information Service Algorithm Recommendation Management Regulations), một bộ quy định mới nhằm kiềm chế việc sử dụng - và lạm dụng - các thuật toán khuyến nghị.

Bộ quy định là  bộ các quy tắc được mở rộng nhất từng được xây dựng nhằm triển khai các thuật toán khuyến nghị trên thế giới, đòi hỏi sự minh bạch hơn về cách các thuật toán hoạt động. Đặc biệt, quy định mới cho phép người dùng kiểm soát nhiều hơn những dữ liệu mà các công ty có thể sử dụng để cung cấp cho thuật toán. Các quy định không chỉ dừng lại ở việc giải quyết quyền của người dùng, mà còn yêu cầu các nhà khai thác thuật toán tuân theo một quy tắc đạo đức để nuôi dưỡng “năng lượng tích cực” trực tuyến, ngăn chặn việc phát tán thông tin không mong muốn hoặc bất hợp pháp.

Quy định mới về thuật toán khuyến nghị ảnh hưởng đến những đối tượng nào?

Các quy định đề xuất xác định “công nghệ thuật toán khuyến nghị” là một ứng dụng của công nghệ thuật toán, chẳng hạn như tạo và tổng hợp nội dung, cá nhân hóa đề xuất, sắp xếp và lựa chọn, truy xuất và lọc nội dung, cung cấp cho người dùng nội dung và thông tin.

Các quy định này ảnh hưởng mạnh mẽ đến ngành công nghệ. Thực tế, thuật toán cá nhân hóa các kết quả tìm kiếm được các ứng dụng truyền thông xã hội sử dụng rất rộng rãi, nhằm đề xuất nội dung và quảng cáo nhắm mục tiêu. Vì vậy, các công ty như nhà điều hành Douyin (phiên bản TikTok của Trung Quốc) ByteDance và nhà điều hành WeChat Tencent sẽ bị ảnh hưởng mạnh mẽ trước các quy định mới. Hai công ty này cũng sở hữu các ứng dụng tổng hợp tin tức, đó là Jinri Toutiao và Tencent News.

Ngoài ra, các công ty TMĐT và nền tảng dịch vụ, chẳng hạn như ứng dụng giao đồ ăn giới thiệu sản phẩm và dịch vụ cho người dùng dựa trên hoạt động và sở thích trước đây của họ, cũng sẽ bị ảnh hưởng. Trong khi đó, các ứng dụng giao nhận thực phẩm và hậu cần sẽ phải điều chỉnh cách triển khai các thuật toán để phân bổ đơn hàng và lên lịch giờ làm việc của nhân viên.

Bất kỳ công ty nước ngoài nào vận hành ứng dụng hoặc dịch vụ trực tuyến sử dụng thuật toán cho bất kỳ mục đích nào nêu trên cũng sẽ bị ảnh hưởng trước các quy định mới.

Quy định mới hạn chế việc sử dụng các thuật toán khuyến nghị như thế nào?

Theo các quy định mới, các nhà khai thác thuật toán sẽ phải cập nhật công nghệ để tuân thủ các yêu cầu kỹ thuật mới, từ việc kiểm tra các từ khóa cho phép người dùng truy cập và kiểm soát hồ sơ dữ liệu cá nhân của họ. 

Ngoài ra, các nhà khai thác sẽ phải điều chỉnh hướng của các thuật toán đề xuất, để tuân thủ "giá trị chủ đạo" và bị cấm sử dụng một loạt hành vi thuật toán bất hợp pháp, chẳng hạn như thực hiện các hành vi chống cạnh tranh và tham gia vào phân biệt đối xử về giá.

Một số điểm lưu ý trong quản lý thuật toán khuyến nghị mới của Trung Quốc

Kiểm duyệt nội dung bất hợp pháp và không mong muốn

Doanh nghiệp (DN) phải tăng cường quản lý nội dung bằng cách xây dựng cơ sở dữ liệu đặc điểm để xác định thông tin bất hợp pháp và không mong muốn, cải thiện các tiêu chuẩn, quy tắc và thủ tục lưu trữ cho các mục nhập cơ sở dữ liệu. 

Mọi thông tin bất hợp pháp phải ngừng xuất hiện ngay lập tức sau khi được phát hiện và phải loại bỏ hoặc ngăn chặn việc phát tán thêm thông qua các biện pháp khác. Sự việc cũng phải được ghi lại và báo cáo cho CAC.

Quản lý hệ sinh thái

Quy định mới yêu cầu phải tăng cường quản lý hệ sinh thái trên trang chính của dịch vụ thuật toán đề xuất bằng cách thiết lập các cơ chế mạnh mẽ để can thiệp thủ công và cho phép người dùng lựa chọn nội dung một cách độc lập. 

Ngoài ra, cần thực hiện các chiến lược chống trùng lặp nội dung, phân mảnh, can thiệp và các chiến lược quản lý nội dung khác; Đảm bảo các quy tắc về các lĩnh vực như truy xuất, sắp xếp, lựa chọn, quảng bá và hiển thị nội dung minh bạch và dễ hiểu, nhằm tránh ảnh hưởng xấu đến người dùng và ngăn ngừa, giảm thiểu tranh chấp.

Người dùng kiểm soát các từ khóa đề xuất

Điều 17 của bộ quy định mới cung cấp cho người dùng các tùy chọn không dựa trên hồ sơ người dùng hoặc cung cấp cho người dùng tùy chọn thuận tiện để tắt các dịch vụ đề xuất thuật toán. DN phải ngay lập tức ngừng cung cấp các dịch vụ liên quan khi người dùng chọn tắt dịch vụ đề xuất thuật toán.

Ngoài ra, phải cung cấp cho người dùng khả năng chọn hoặc xóa thẻ người dùng cho các dịch vụ đề xuất thuật toán. Nếu việc áp dụng thuật toán ảnh hưởng đáng kể đến quyền và lợi ích của người dùng, DN phải cung cấp cho người dùng lời giải thích và chịu trách nhiệm tương ứng.

Đặc biệt, quy định yêu cầu các thuật toán tìm kiếm phải giám sát, xác định và xử lý thông tin gian lận trực tuyến, tạo điều kiện cho phép người cao tuổi sử dụng các dịch vụ khuyến nghị thuật toán một cách an toàn.

Trong số các yêu cầu trên, có lẽ quan trọng nhất là những yêu cầu được nêu trong Điều 17, cấp cho người dùng quyền kiểm soát hồ sơ của họ. Điều này sẽ yêu cầu các nhà phát triển tạo một giao diện nơi người dùng có thể xem hồ sơ của họ và chủ động chọn và xóa các từ khóa được sử dụng cho thuật toán đề xuất. Đây là lần đầu tiên những yêu cầu như vậy được đặt ra đối với việc quản lý thuật toán khuyến nghị. 

Ngoài ra, các quy định cũng yêu cầu các nhà khai thác thuật toán phải thông báo rõ ràng cho người dùng về các trường hợp mà họ đang sử dụng thuật toán khuyến nghị và công bố các nguyên tắc cơ bản, ý định và cơ chế hoạt động của dịch vụ đề xuất thuật toán.

Yêu cầu đạo đức đối với nhà cung cấp thuật toán đề xuất

Các quy định mới cũng yêu cầu các nhà khai thác cập nhật và thiết kế các thuật toán của họ để tuân thủ "giá trị chủ đạo" và quảng bá "nội dung tích cực". Trong đó, các nhà khai thác cần ngăn chặn hoặc giảm sự lan truyền những nội dung bất hợp pháp hoặc không mong muốn, những nội dung này sẽ phải được tích hợp vào hệ thống nền tảng. Trong đó, quy định mới đặc biệt nhấn mạnh đến việc bảo vệ trẻ vị thành niên. 

Cụ thể, nhà cung cấp dịch vụ thuật toán phải bảo vệ mạng Internet của trẻ vị thành niên theo quy định của pháp luật, tạo điều kiện cho trẻ vị thành niên tiếp cận nội dung có lợi cho sức khỏe thể chất và tinh thần bằng cách phát triển mô hình sử dụng và dịch vụ phù hợp với trẻ vị thành niên.

Các quy định trên mở rộng phạm vi trách nhiệm của các nhà khai thác thuật toán, từ việc kiểm duyệt và ngăn chặn nội dung bất hợp pháp xuất hiện trên nền tảng, đến tích cực quảng bá nội dung tốt đẹp. 

Ngoài ra, quy định mới cũng yêu cầu cắt giảm nội dung khuyến khích tiêu dùng quá mức và lối sống xa hoa - đây là một bước phát triển mới và đã được chính phủ thúc đẩy trong chiến dịch xây dựng nền “thịnh vượng chung và giảm bất bình đẳng thu nhập”.

Các quy định cho thấy một sự thay đổi rõ rệt trong cách chính phủ Trung Quốc nhìn nhận vai trò của các công ty và nền tảng công nghệ lớn trong xã hội. Tuân thủ các quy định và ngăn chặn hành vi phạm tội là không đủ, các công ty sẽ phải nỗ lực phối hợp để đảm bảo một môi trường trực tuyến an toàn và lành mạnh về mặt tư tưởng cho tất cả người dùng.

Một số hành vi bị cấm 

Cấm giả mạo hoặc thao túng nội dung hoặc dữ liệu

Cụ thể, trang cung cấp tin tức không được tạo ra hoặc tổng hợp tin tức giả mạo, phổ biến tin tức từ các nguồn ngoài phạm vi quy định của quốc gia. Quy định cấm sử dụng thuật toán để đăng ký sai tài khoản, giao dịch tài khoản bất hợp pháp, thao túng tài khoản người dùng hoặc tạo số lượt thích, bình luận, chuyển tiếp hoặc số lượt xem trang giả mạo để tăng lưu lượng truy cập hoặc thực hiện chiếm đoạt lưu lượng truy cập.

Quy định cũng cấm sử dụng các thuật toán để can thiệp vào việc trình bày thông tin trực tuyến, chẳng hạn như chặn thông tin, đề xuất quá mức thông tin, thao tác danh sách, sắp xếp kết quả tìm kiếm, kiểm soát các tìm kiếm và chủ đề thịnh hành…, có hành vi gây ảnh hưởng đến dư luận trên mạng hoặc trốn tránh sự giám sát, quản lý.

Cấm tham gia vào hành vi chống cạnh tranh

Theo quy địnhh, việc sử dụng thuật toán để đặt ra những hạn chế bất hợp lý đối với các nhà cung cấp thông tin trực tuyến khác, cản trở, làm gián đoạn hoạt động cung cấp dịch vụ thông tin trực tuyến hợp pháp bình thường của các nhà cung cấp khác cũng bị cấm.

Cấm những hành vi gây nguy hiểm đến sức khỏe và phúc lợi của trẻ vị thành niên

Quy định mới cấm đưa những thông tin có thể khiến trẻ bắt chước hành vi không an toàn, vi phạm đạo đức xã hội, nuôi dưỡng thói hư tật xấu và các thông tin khác có thể ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ vị thành niên. Không được sử dụng các dịch vụ khuyến nghị thuật toán để gây nghiện Internet ở trẻ vị thành niên.

Bộ quy định quản lý thuật toán “tiên tiến nhất” trên thế giới 

Theo bình luận của truyền thông thế giới, các quy tắc này của Trung Quốc đại diện cho một trong những khuôn khổ tiên tiến nhất quản lý các thuật toán trên toàn thế giới. Các chính phủ trên toàn cầu đã tìm cách đưa ra các đề xuất lập pháp nhằm cố gắng kiềm chế quyền lực của những gã khổng lồ công nghệ, mà các thuật toán của họ thường bị cáo buộc đề xuất các bài đăng gây trầm trọng hoặc kích động thù địch. 

Tuy nhiên, một số người cho rằng đại đa số người dùng sẽ không biết về quyền của họ khi sử dụng các thuật toán khuyến nghị, và ít người điều chỉnh các lựa chọn để bảo vệ quyền lợi riêng tư của họ, vì những tùy chọn này thường được gắn sâu vào các cài đặt quyền riêng tư của ứng dụng.

Theo bình luận của trang Nikkei (Nhật Bản), các cơ quan quản lý Trung Quốc đã tăng cường giám sát việc sử dụng thuật toán của các công ty công nghệ và cam kết đấu tranh chống lại các hành vi lạm dụng có thể được coi là “bắt nạt" trong thế giới công nghệ.

Nikkei cho rằng tận dụng trí tuệ nhân tạo và công nghệ dữ liệu lớn, những gã khổng lồ Internet đã sử dụng các thuật toán để đưa ra đề xuất cho người dùng và nhắm mục tiêu họ bằng quảng cáo. Công nghệ này đã gây ra tranh cãi ngày càng tăng về cách các gã khổng lồ công nghệ quản lý thông tin có sẵn cho người tiêu dùng cá nhân và tận dụng quyền truy cập của họ vào dữ liệu cá nhân để thu lợi. Một mối quan tâm đặc biệt là “định giá sản phẩm, dịch vụ theo lịch sử tìm kiếm”, cụ thể là các công ty sử dụng dữ liệu cá nhân của người mua sắm trực tuyến để tính toán các mức giá khác nhau dựa trên những gì cá nhân có thể sẵn sàng trả.

Do đó, các quy định mới sẽ cấm phân biệt đối xử về giá theo các thuật toán. Họ cũng sẽ yêu cầu các công ty công nghệ tiết lộ công khai các quy tắc và cơ chế cơ bản của thuật toán đề xuất của họ và cho phép người dùng dễ dàng tắt các dịch vụ đó. 

Các quy tắc dự thảo đã được chính phủ Trung Quốc đưa ra để lấy ý kiến công chúng hồi tháng 8/2021. Kể từ tháng 11, các nhà điều hành ứng dụng truyền thông xã hội hàng đầu, bao gồm ứng dụng video nổi tiếng Douyin, Kuaishou và Xiaohongshu của ByteDance đã cập nhật chính sách bảo mật của họ để thêm những nội dung liên quan đến các đề xuất thuật toán./.