9 nguyên tắc nghiên cứu, phát triển các hệ thống AI có trách nhiệm

Theo đó, việc hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ các hệ thống AI, bảo đảm sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI…

Hướng dẫn có mục tiêu là thúc đẩy việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng AI một cách an toàn và có trách nhiệm. Đồng thời hạn chế tối đa các ảnh hưởng tiêu cực cho con người và cộng đồng nhằm đạt được sự tin tưởng của người dùng và xã hội đối với AI.

Bộ KH&CN cho biết, theo xu thế chung trên thế giới, các hệ thống AI được đánh giá sẽ mang lại các lợi ích to lớn cho con người, xã hội và nền kinh tế Việt Nam thông qua việc hỗ trợ, giải quyết các vấn đề khó khăn mà con người, cộng đồng đang phải đối mặt. Trên tinh thần đó, quan điểm của Bộ KH&CN về việc nghiên cứu, phát triển các hệ thống AI ở Việt Nam là hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ cuộc sống cũng như từ các hệ thống AI; đảm bảo sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI; đảm bảo các hoạt động nghiên cứu, phát triển các hệ thống AI dựa trên các công nghệ hoặc kỹ thuật cụ thể nhưng vẫn đảm bảo tính trung lập về công nghệ và các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến AI trong tương lai;

Bộ KH&CN cũng tạm thời xác định rằng các văn bản có thể ở dạng hướng dẫn, không có tính ràng buộc và khuyến khích xây dựng, áp dụng các tiêu chuẩn, quy trình thực hành dựa trên các khuyến nghị quốc tế làm nền tảng để thúc đẩy nghiên cứu, phát triển và sử dụng các hệ thống AI; trong mọi trường hợp, khuyến khích việc trao đổi, thảo luận với sự tham gia của các bên liên quan đến hệ thống AI…

Trong hướng dẫn, Bộ KH&CN đã đưa ra 9 nguyên tắc chung cần chú ý trong nghiên cứu, phát triển các hệ thống AI một cách có trách nhiệm: tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ người dùng; trách nhiệm giải trình. Với mỗi nguyên tắc đều có hướng dẫn thực hiện.

Đơn cử như đối với nguyên tắc an toàn, nhà phát triển cần đảm bảo rằng hệ thống AI sẽ không gây tổn hại đến tính mạng, thân thể hoặc tài sản của người dùng hoặc bên thứ ba kể cả thông qua trung gian.

Hay đối với nguyên tắc bảo mật, Bộ KH&CN yêu cầu các nhà phát triển cần chú ý đến tính bảo mật của hệ thống AI đồng thời các nhà phát triển cần đặc biệt lưu ý các khả năng đầu ra hoặc chương trình thay đổi do quá trình huấn luyện hệ thống AI.

Về nguyên tắc tôn trọng quyền và phẩm giá con người, Bộ KH&CN yêu cầu các tổ chức, cá nhân liên quan khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan; các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam.

Về nguyên tắc tinh thần hợp tác, thúc đẩy đổi mới sáng tạo, nhà phát triển cần chú ý đến khả năng kết nối và tương tác của các hệ thống AI.

Về nguyên tắc tính minh bạch, nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan.

Đối với nguyên tắc khả năng kiểm soát, Bộ KH&CN yêu cầu nhà phát triển cần chú ý đến khả năng kiểm soát hệ thống AI đồng thời chú ý đến việc giám sát hệ thống và các biện pháp ứng phó được thực hiện bởi con người hay các hệ thống AI đáng tin cậy khác.

Về nguyên tắc hỗ trợ người dùng, nhà phát triển cần đảm bảo rằng hệ thống AI sẽ hỗ trợ người dùng và tạo điều kiện cho họ cơ hội lựa chọn theo cách phù hợp.

Về nguyên tắc trách nhiệm giải trình, nhà phát triển cần thực hiện trách nhiệm giải trình của mình đối với các bên liên quan bao gồm cả người dùng hệ thống AI, thực hiện trách nhiệm giải trình đối với các hệ thống AI mà họ đã phát triển để đảm bảo niềm tin của người dùng.

Theo Bộ KH&CN, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

Tại Ngày hội Trí tuệ nhân tạo Việt Nam (AI4VN 2023) do Bộ KH&CN chỉ đạo tổ chức ngày tháng 9/2023 tại TP. HCM, Bộ trưởng Bộ KH&CN Huỳnh Thành Đạt cho rằng, AI đã trở thành một trong những công nghệ chủ chốt của cuộc CMCN 4.0. Gần đây, AI có sự phát triển vượt bậc với rất nhiều sản phẩm, ứng dụng ra đời và thu hút sự quan tâm của cộng đồng, đặc biệt là các sản phẩm AI tạo sinh.

Tại Việt Nam, ngày 26/1/2021, Thủ tướng Chính phủ đã ban hành Quyết định số 127/QĐ-TTg về "Chiến lược quốc gia về nghiên cứu, phát triển và ứng dụng AI đến năm 2030". Chiến lược đưa ra mục tiêu "đẩy mạnh nghiên cứu, phát triển và ứng dụng AI, đưa AI trở thành lĩnh vực công nghệ quan trọng của Việt Nam trong cuộc CMCN 4.0", góp phần phát triển kinh tế - xã hội và từng bước đưa Việt Nam trở thành điểm sáng về nghiên cứu, phát triển và ứng dụng AI trong khu vực và trên thế giới.

Cũng tại ngày hội, bà Emily Hamblin, Tổng Lãnh sự Vương quốc Anh tại TP. HCM cho rằng AI đã tác động mạnh mẽ đến mọi mặt, từ Chính phủ, hành chính công đến thương mại, y tế, giáo dục.

Theo bà Emily Hamblin, Vương quốc Anh đã có chiến lược công nghệ với 5 công nghệ ưu tiên, một trong số đó là AI. Sự phát triển của AI mang lại nhiều cơ hội song cũng không ít rủi ro, đòi hỏi các quốc gia cần cân bằng giữa sự phát triển với đạo đức, quản lý.

"Các rào cản về AI chủ yếu nằm ở niềm tin người dùng, rất khó để khai thác công nghệ mà bỏ qua bước giải quyết rào cản kiến thức, quản trị", bà Emily Hamblin nêu./.