Trung Quốc đề xuất danh sách đen dữ liệu trong đào tạo các mô hình AI tạo sinh
Chuyển động ICT - Ngày đăng : 16:50, 13/10/2023
Trung Quốc đề xuất danh sách đen dữ liệu trong đào tạo các mô hình AI tạo sinh
Mới đây, Trung Quốc đã công bố các yêu cầu bảo mật được đề xuất đối với những công ty cung cấp dịch vụ trí tuệ nhân tạo tạo sinh (generative AI), bao gồm danh sách đen các nguồn không được sử dụng để đào tạo các mô hình AI.
Phổ biến rộng rãi từ sự thành công của chatbot ChatGPT của OpenAI, AI tạo sinh học cách thực hiện hành động từ dữ liệu trong quá khứ và tạo nội dung mới như văn bản hoặc hình ảnh dựa trên khóa đào tạo đó.
Các yêu cầu bảo mật này đã được Ủy ban Tiêu chuẩn An toàn thông tin Quốc gia Trung Quốc, bao gồm các quan chức của Cục Quản lý Không gian mạng Trung Quốc (CAC), Bộ Công nghiệp và Công nghệ Thông tin, và cảnh sát Trung Quốc công bố ngày 11/10.
Ủy ban đề xuất tiến hành đánh giá bảo mật đối với từng nội dung được sử dụng để đào tạo các mô hình AI tạo sinh hướng tới công chúng, trong đó những nội dung chứa “hơn 5% thông tin bất hợp pháp và có hại” sẽ bị đưa vào danh sách đen.
Những thông tin như vậy bao gồm "ủng hộ khủng bố" hoặc bạo lực, "làm tổn hại hình ảnh đất nước", "phá hoại đoàn kết dân tộc và ổn định xã hội"...
Dự thảo quy định cũng nêu rõ rằng thông tin bị kiểm duyệt trên mạng Internet Trung Quốc không được phép sử dụng để đào tạo mô hình AI tạo sinh.
Việc đề xuất các quy định này diễn ra chỉ hơn 1 tháng sau khi các cơ quan quản lý cho phép một số công ty công nghệ Trung Quốc, trong đó bao gồm cả gã khổng lồ tìm kiếm Baidu, ra mắt công chúng các chatbot dựa trên AI tạo sinh của họ.
Kể từ tháng 4, CAC cho biết họ đã yêu cầu các công ty phải gửi đánh giá bảo mật cho các cơ quan chức năng trước khi đưa ra công chúng các dịch vụ dựa trên AI tạo sinh.
Vào tháng 7, CAC đã công bố các biện pháp quản lý các dịch vụ mới. Các nhà phân tích cho rằng các biện pháp này ít phiền toái hơn nhiều so với các biện pháp được nêu trong dự thảo hồi tháng 4.
Dự thảo yêu cầu bảo mật được công bố hôm 11/10 yêu cầu các tổ chức đào tạo các mô hình AI phải có được sự đồng ý của những người có thông tin cá nhân được sử dụng cho mục đích đào tạo, bao gồm cả dữ liệu sinh trắc học. Dự thảo cũng đưa ra những hướng dẫn chi tiết về cách tránh vi phạm sở hữu trí tuệ.
Các quốc gia trên toàn cầu đang vật lộn với việc thiết lập các rào cản cho công nghệ AI. Trung Quốc coi AI là lĩnh vực mà họ muốn cạnh tranh với Mỹ và đặt mục tiêu trở thành nước dẫn đầu thế giới trong lĩnh vực này vào năm 2030.
Hiện nay, những quy định về AI vẫn còn khá mơ hồ và gây tranh cãi trên toàn cầu, các quy định gần đây của Trung Quốc về AI được cho là "những quy định sớm nhất và chi tiết nhất thế giới về quản lý AI"./.