Đánh giá mức độ sẵn sàng về trí tuệ nhân tạo - Kinh nghiệm triển khai tại Chile

Thiết lập khung đạo đức cho AI

Trong những năm gần đây, Trí tuệ nhân tạo (AI) đã nhanh chóng được tích hợp vào mọi mặt trong cuộc sống chúng ta. Các công nghệ mới liên quan đến AI đang ngày càng định hình lại cách chúng ta làm việc, tương tác và sống.

Tuy nhiên, những thay đổi nhanh chóng này cũng làm dấy lên những lo ngại sâu sắc về mặt đạo đức. Các hệ thống dựa trên AI thường duy trì, thậm chí còn làm trầm trọng thêm và khuếch đại, những thành kiến của con người, cấu trúc và xã hội. Những thành kiến này không chỉ khó giảm thiểu mà còn có thể dẫn đến tổn hại ở cấp độ cá nhân, tập thể hoặc xã hội. Những lo ngại này phát sinh từ khả năng các hệ thống AI nhúng thành kiến và làm nổi bật một số sự phân biệt đối xử, duy trì sự chia rẽ và đe dọa các quyền và tự do cơ bản của con người.

UNESCO đã đưa ra lời kêu gọi mạnh mẽ tới các chính phủ trên toàn thế giới thiết lập các khuôn khổ pháp lý và thể chế cần thiết để quản lý các công nghệ AI và đảm bảo rằng chúng đóng góp cho lợi ích chung, đồng thời giảm thiểu các rủi ro liên quan, để đảm bảo việc triển khai AI một cách có đạo đức. Điều này rõ ràng đánh dấu sự kết thúc của "mô hình tự điều chỉnh" đã tồn tại quá lâu, ưu tiên các mục tiêu thương mại và địa chính trị hơn con người.

Vào tháng 7/2023, UNESCO đã công bố Phương pháp đánh giá mức độ sẵn sàng RAM về AI, một công cụ chẩn đoán nhằm hỗ trợ các chính phủ trên thế giới đảm bảo trí tuệ nhân tạo được phát triển và triển khai một cách có đạo đức, phù hợp với Khuyến nghị về Đạo đức của Trí tuệ nhân tạo, được các quốc gia thành viên nhất trí thông qua vào tháng 11 năm 2021. Phương pháp luận này sẽ giúp các quốc gia xác định các khoảng cách, đặt ra các ưu tiên và phát triển các chiến lược để áp dụng AI có đạo đức.

Đánh giá mức độ sẵn sàng về AI - một công cụ khuyến nghị về đạo đức của trí tuệ nhân tạo

UNESCO đã hợp tác với một nhóm chuyên gia AI cấp cao từ khắp các khu vực trên thế giới để phát triển Phương pháp đánh giá mức độ sẵn sàng (RAM) vào năm 2022. Công cụ này là một đánh giá toàn diện nhằm kiểm tra tính đầy đủ và phù hợp của các luật và chính sách quốc gia hiện hành để định hình sự phát triển công nghệ theo hướng tích cực và đánh giá năng lực kỹ thuật của các công chức và thể chế.

Một công cụ để đảm bảo AI đáng tin cậy

Khuyến nghị của UNESCO về Đạo đức của AI là một khuôn khổ chuẩn mực toàn cầu, về cơ bản đề cập đến mệnh lệnh đạo đức liên quan đến các giá trị và nguyên tắc để hướng dẫn hành vi. Áp dụng cho AI, khuôn khổ chuẩn mực tự bộc lộ như một công cụ toàn diện và có hệ thống, không chỉ là một danh sách các nguyên tắc không có cơ chế hướng dẫn hành động.

Được vận hành thông qua Phương pháp đánh giá mức độ sẵn sàng (RAM), cho phép các quốc gia xem xét việc triển khai và phát triển AI đáng tin cậy. RAM giúp xác định nơi các nguyên tắc đạo đức phải được tích hợp để đảm bảo phát triển và sử dụng AI có trách nhiệm.

Việc vận hành mệnh lệnh đạo đức được thực hiện thông qua việc đánh giá mức độ sẵn sàng của AI. Các chỉ số định tính và định lượng của RAM cho phép lập bản đồ hệ sinh thái của quốc gia và đánh giá mức độ sẵn sàng của AI, xác định tiềm năng và thế mạnh đồng thời nêu bật các lĩnh vực cần cải thiện và phát triển. Các lĩnh vực được xác định này là nơi các quốc gia nên ghi dấu các nguyên tắc đạo đức và thực hiện các quy định.

Xác định một kế hoạch hành động chính xác

RAM cung cấp đánh giá về năng lực AI về mặt pháp lý, xã hội, văn hóa, khoa học, giáo dục, kỹ thuật và cơ sở hạ tầng của một quốc gia. Nó cũng chỉ ra liệu các hệ thống AI của một quốc gia có phù hợp với các giá trị, nguyên tắc và lĩnh vực chính sách được nêu trong Khuyến nghị của UNESCO hay không. Sản phẩm cuối cùng của RAM sẽ là một báo cáo toàn diện, cho phép các chuyên gia và nhà hoạch định chính sách xác định những thay đổi về mặt thể chế và quy định cần thiết để tận dụng các công nghệ này, trong khi vẫn bảo vệ chống lại những thiếu sót của nó.

Phương pháp “Đánh giá mức độ sẵn sàng (RAM)” bao gồm một loạt các câu hỏi định lượng và định tính được thiết kế để thu thập thông tin về các khía cạnh khác nhau liên quan đến hệ sinh thái AI của một quốc gia, bao gồm các khía cạnh pháp lý và quy định, xã hội và văn hóa, kinh tế, khoa học và giáo dục, công nghệ và cơ sở hạ tầng.

Ngoài việc hoàn thành bản câu hỏi RAM, kết quả cuối cùng của bài tập RAM bao gồm việc tạo ra một báo cáo quốc gia cung cấp tổng quan toàn diện về tình trạng sẵn sàng AI tại quốc gia, tóm tắt vị trí của quốc gia trên từng khía cạnh, nêu chi tiết các hoạt động đang diễn ra, tóm tắt tình hình hiện tại và đưa ra các khuyến nghị chính sách cụ thể về cách giải quyết các khoảng cách quản trị.

Báo cáo này giúp xác định chi tiết những thay đổi về mặt thể chế nào là cần thiết để xây dựng hoặc củng cố chiến lược AI quốc gia và cho phép UNESCO điều chỉnh các nỗ lực xây dựng năng lực theo nhu cầu cụ thể của quốc gia.

UNESCO cam kết sử dụng mạng lưới và chuyên môn của mình để hỗ trợ các quốc gia, đặc biệt là thông qua mạng lưới “Chuyên gia AI không biên giới”, được ra mắt vào tháng 6 năm 2023. Mạng lưới này sẽ hỗ trợ các quốc gia trong việc xây dựng chính sách, sử dụng các chuẩn mực quốc tế làm tài liệu tham khảo.

Bài học kinh nghiệm từ Chile

Hiện có 139 quốc gia thành viên UNESCO đã áp dụng và cam kết triển khai RAM AI. Chile là một trong những quốc gia đầu tiên trên thế giới triển khai Phương pháp đánh giá mức độ sẵn sàng (RAM) của UNESCO. Việc triển khai RAM bao gồm ba giai đoạn: (1) Chẩn đoán bối cảnh AI quốc gia của Chile; (2) Phát triển Lộ trình AI quốc gia của nhiều bên liên quan; và (3) Đề xuất chính sách chính cho Chiến lược AI quốc gia. Công việc này được thực hiện với sự hỗ trợ của Quỹ Patrick J. McGovern.

1. RAM là cơ hội tuyệt vời để thu hút nhiều bên liên quan và hiểu được các ưu tiên cũng như mối quan tâm của họ về AI

Sự tiến triển nhanh chóng của AI và các ưu tiên mới của chính phủ đòi hỏi phải cập nhật Chính sách AI quốc gia (NAIP) của Chile. RAM là cơ hội để đánh giá mức độ sẵn sàng AI tại Chile, thông qua việc hợp tác với hơn 300 chuyên gia AI từ xã hội dân sự, chính phủ và học viện để cập nhật NAIP của Chile. Các chuyên gia dự đoán nhiều kịch bản khả thi khác nhau cho sự phát triển của AI tại Chile vào năm 2050.

Công việc tiếp theo là xác định các hành động cần thiết phải thực hiện ngay hôm nay để đạt được các kịch bản tích cực và tránh các kịch bản tiêu cực. Các quá trình tham gia như vậy rất cần thiết để giúp các nhà hoạch định chính sách lắng nghe các bên liên quan, đưa ra phản hồi kịp thời và tránh các vấn đề về tính hợp pháp.

Việc áp dụng RAM thông qua một quá trình trao đổi như vậy giúp các khuyến nghị về chính sách và các bản cập nhật của công cụ trở nên chính xác hơn. Bộ Khoa học và Công nghệ Chile đã quyết định tập trung thảo luận xung quanh 6 chủ đề: (1) Tương lai của Công việc và AI; (2) Tương lai của Dân chủ và AI; (3) Tương lai của AI trong Chính phủ; (4) Tương lai của Tương tác giữa Con người và AI trong Y tế, Giáo dục và An ninh; (5) Tương lai của Quy định và AI; (6) Tương lai của Môi trường và AI.

Sáu cuộc thảo luận bàn tròn theo chủ đề này được tiến hành ở các khu vực khác nhau để đưa ra các ưu tiên tại địa phương. RAM đã giúp đưa ra những hành động cụ thể, vượt ra ngoài các cuộc thảo luận chung để đi sâu vào các lĩnh vực ứng dụng tiềm năng.

2. Trí tưởng tượng về AI khác nhau ở mỗi khu vực

Ngay cả ở một quốc gia đồng nhất về mặt văn hóa như Chile, tầm nhìn về sự phát triển tương lai của AI cũng khác nhau ở các khu vực. Ví dụ, các cuộc thảo luận ở phía bắc Chile tập trung vào các cơ hội sử dụng AI trong ngành khai khoáng và ở phía nam về tác động của AI đối với môi trường. Sự xuất hiện của những tưởng tượng địa phương về sự tiến hóa của AI đã vượt ra ngoài các chủ đề được đề xuất, vì các cộng đồng địa phương hình dung ra những cơ hội và mối đe dọa độc đáo liên quan đến sự tiến hóa của AI trong các lĩnh vực đó.

Các bên liên quan tại địa phương nêu lên mối lo ngại về sự tập trung phát triển công nghệ ở một số nước và chỉ ở một số ít công ty, làm tăng khả năng xảy ra sai lệch ngoài ý muốn trong lĩnh vực y tế và giáo dục từ các hệ thống AI được đào tạo trên các nhóm dân số và nền văn hóa khác nhau.

Những người tham gia ủng hộ việc tăng đầu tư vào R&D tại địa phương để tránh phụ thuộc quá mức vào các tác nhân nước ngoài và để điều chỉnh và cá nhân hóa phát triển AI theo nhu cầu của địa phương. Họ đưa ra khuyến nghị các chính quyền địa phương nên xây dựng các chiến lược AI, tạo cơ hội để mở rộng phát triển AI ra ngoài các thành phố lớn.

Cuộc thảo luận do RAM thúc đẩy khuyến khích việc xem xét cách các bản sắc quốc gia và khu vực, đặc biệt là ở Mỹ Latinh, có thể ảnh hưởng đến việc xây dựng và tiến triển chính sách và phát triển AI. Hơn nữa, việc triển khai RAM đã nhận được phản hồi có giá trị và xác định các lĩnh vực cần cải thiện khi áp dụng ở Nam bán cầu.

3. Các nhà hoạch định chính sách rất muốn chia sẻ cách họ sử dụng AI

Là một phần của dự án RAM, một Ủy ban chỉ đạo cấp Bộ trưởng (MSC) đã được thành lập, bao gồm các nhà hoạch định chính sách từ các bộ khác nhau. Tuy nhiên có những khoảng cách kiến thức đáng kể về công nghệ và quản lý công nghệ trong khu vực công. Các bộ có kinh nghiệm sử dụng cơ sở dữ liệu cho các chương trình phúc lợi (ví dụ: giáo dục, phát triển xã hội) đã có nhiều sự chuẩn bị và hướng dẫn hơn trong việc áp dụng AI vào các quy trình này; các bộ khác mới chỉ bắt đầu khám phá việc sử dụng AI.

Những khó khăn và thách thức trong việc phối hợp thiết lập các ưu tiên chung đã xuất hiện trong các cuộc họp MSC vì AI là công nghệ đòi hỏi sự tham gia của nhiều bộ. Một bài học quan trọng ở đây là cần thống nhất kỳ vọng của họ về vai trò của họ và hiểu cách thức sự tham gia của họ sẽ chuyển thành các kết quả chính sách hữu hình, chẳng hạn như việc sửa đổi và cập nhật chính sách AI.

4. Sự phản kháng khi áp dụng các công cụ đánh giá là điều tự nhiên; hãy khắc phục bằng cách điều chỉnh RAM theo các ưu tiên cục bộ

Các quốc gia có thể miễn cưỡng tham gia đánh giá nếu họ không nhận ra giá trị của những đánh giá đó, đặc biệt là khi họ dự đoán sẽ không đạt hiệu quả ở một số chỉ số nhất định. Điểm then chốt để vượt qua sự kháng cự này là các chính phủ nhận thức được giá trị, quan tâm đến việc cập nhật chính sách AI quốc gia và RAM là một bài tập bổ sung trong nỗ lực này. Cách tiếp cận hợp tác của chính phủ trong việc cung cấp thông tin toàn diện và đáng tin cậy, xuất phát từ mối quan tâm cập nhật chính sách, đã giúp đưa ra các khuyến nghị cụ thể và có mục tiêu hơn.

AI là công nghệ có tiềm năng ứng dụng trong nhiều lĩnh vực, chẳng hạn như ảnh hưởng của AI, đặc biệt là AI tạo sinh, đối với văn hóa và các ngành công nghiệp sáng tạo. Một khuyến nghị từ việc áp dụng RAM là thành lập một nhóm có nhiệm vụ tạo báo cáo về tác động của AI trong các lĩnh vực này.

Hơn nữa, RAM còn tiết lộ việc thiếu phân tích về mặt đạo đức đối với các công nghệ đang được sử dụng, đặc biệt là đối với các nhóm dân số dễ bị tổn thương như trẻ em, phụ nữ; điều này càng nhấn mạnh thêm quan điểm về việc hợp tác với nhiều bên liên quan khi phát triển các chiến lược AI quốc gia.

5. Có sự không phù hợp giữa tốc độ các tổ chức điều chỉnh khuôn khổ pháp lý và tốc độ phát triển của AI

Ở Chile, việc chậm trễ điều chỉnh các quy định như Bảo vệ dữ liệu cá nhân, An ninh mạng, Sở hữu trí tuệ và Cơ sở hạ tầng quan trọng, cùng nhiều quy định khác, cản trở việc triển khai AI. Các viên chức nhà nước nhấn mạnh sự cần thiết của việc quản lý được xác định rõ ràng về chất lượng và quản lý dữ liệu là điều cần thiết để cho phép các cơ quan chính phủ chia sẻ thông tin một cách hiệu quả và an toàn. Các nhà hoạch định chính sách cũng nhấn mạnh tầm quan trọng của việc giáo dục các bên liên quan trong chính quyền địa phương về việc sử dụng AI một cách có đạo đức và phát triển các chứng chỉ sử dụng AI trong chính quyền.

Để triển khai AI yêu cầu việc tự điều chỉnh và việc thành lập các Cơ chế thử nghiệm quy định sáng tạo, chẳng hạn như Sandbox, để thích ứng với sự phát triển nhanh chóng của công nghệ, đặc biệt là để áp dụng AI trong các lĩnh vực quan trọng. Ngoài ra, các chính phủ có thể ủng hộ các nguyên tắc AI có đạo đức thông qua việc thực hiện các quy định và tiêu chuẩn mua sắm.

“

Tài liệu tham khảo:
1. https://www.unesco.org/
2. https://rumahpemilu.org/
3. https://gcedclearinghouse.org/
4. https://www.unesco.org/
5. https://my.ai.se/
6. https://digital-skills-jobs.europa.eu/