Singapore ra mắt bộ công cụ đánh giá sự minh bạch của AI

Theo đó, các DN ở Singapore giờ đây sẽ có thể sử dụng bộ công cụ và khuôn khổ kiểm tra quản trị để chứng minh việc sử dụng công nghệ AI "khách quan và có thể kiểm chứng" của họ.

Động thái này là một phần trong nỗ lực của chính phủ Singapore nhằm thúc đẩy tính minh bạch trong việc triển khai AI thông qua kiểm tra kỹ thuật và quy trình.

Bộ công cụ A.I. Verify được \Cơ quan Phát triển Truyền thông Infocomm (IMDA) và Ủy ban Bảo vệ Dữ liệu Cá nhân (PDPC), cơ quan quản lý Đạo luật Bảo vệ dữ liệu cá nhân Singapore, phát triển.

Bộ công cụ này cung cấp thử nghiệm kỹ thuật dựa trên ba nguyên tắc về "tính công bằng, khả năng giải thích và tính mạnh mẽ".

Các cơ quan chính phủ Singapore cho biết, ngày càng có nhiều sản phẩm và dịch vụ được nhúng với AI để mang lại trải nghiệm được cá nhân hóa hơn cho người dùng hoặc đưa ra quyết định mà không cần sự can thiệp của con người, do đó người tiêu dùng cần được biết các hệ thống AI đó là "công bằng, có thể giải thích được và an toàn" hay không. Họ cần được đảm bảo rằng các tổ chức triển khai các dịch vụ như vậy phải có trách nhiệm giải trình và minh bạch.

A.I Verify sẽ cho phép những nhà cung cấp các dịch vụ AI chứng minh cho các bên liên quan thấy việc họ triển khai AI có trách nhiệm thông qua các bài kiểm tra được tiêu chuẩn hóa.

Bộ công cụ thí điểm cũng có thể cung cấp báo cáo cho các nhà phát triển, quản lý, và các đối tác kinh doanh về các lĩnh vực chính có thể ảnh hưởng đến hiệu suất của AI, kết quả thử nghiệm mô hình AI.

Chẳng hạn như, sản phẩm được hỗ trợ bởi AI sẽ được kiểm tra về cách mô hình đưa ra quyết định và liệu quyết định được dự đoán có mang thành kiến ngoài ý muốn hay không. Hệ thống AI cũng có thể được đánh giá về tính bảo mật và khả năng phục hồi của nó.

Hiện nay, bộ công cụ có thể hoạt động với một số mô hình AI phổ biến như thuật toán phân loại nhị phân và thuật toán hồi quy từ các khuôn khổ phổ biến như scikit-learning, Tensorflow và XGBoost.

Theo IMDA, khung thử nghiệm và bộ công cụ sẽ cho phép các nhà phát triển hệ thống AI tiến hành tự kiểm tra không chỉ để duy trì các yêu cầu thương mại của sản phẩm mà còn cung cấp một nền tảng chung để hiển thị các kết quả kiểm tra này.

Thay vì xác định các tiêu chuẩn đạo đức, A.I. Verify sẽ xác thực các thông tin, số liệu của các nhà phát triển hệ thống AI về việc sử dụng AI cũng như hiệu suất của các sản phẩm AI của họ.

IMDA nhấn mạnh bộ công cụ sẽ không cung cấp chức năng đảm bảo hệ thống AI được thử nghiệm không có thành kiến hoặc rủi ro bảo mật. Tuy nhiên, nó có thể tạo điều kiện thuận lợi cho khả năng tương tác của các khuôn khổ quản trị AI và có thể giúp các tổ chức lấp đầy khoảng cách giữa các khuôn khổ và quy định.

IMDA cũng cho biết thêm, họ đang làm việc với các tổ chức quy định và tiêu chuẩn để ánh xạ A.I. Verify tới các khuôn khổ AI đã được thiết lập, vì vậy, các DN có thể cung cấp các sản phẩm và dịch vụ hỗ trợ AI trên các thị trường toàn cầu khác nhau. Bộ Thương mại Hoa Kỳ là một trong số các cơ quan mà Singapore đang làm việc để đảm bảo khả năng tương tác giữa các khuôn khổ quản trị AI của họ.

Theo IMDA, 10 tổ chức đã thử nghiệm và đưa ra phản hồi về bộ công cụ mới này, bao gồm Google, Meta, Microsoft, Singapore Airlines và Standard Chartered Bank...

IMDA khẳng định Singapore sẽ tiếp tục phát triển A.I. Verify để kết hợp các tiêu chuẩn quản trị AI quốc tế và các điểm chuẩn của ngành. Nhiều chức năng hơn cũng sẽ dần được bổ sung với sự đóng góp và phản hồi của ngành.

Trước đó, vào tháng 2, quốc gia này cũng đã phát hành một bộ công cụ phần mềm nhằm giúp các tổ chức tài chính đảm bảo rằng họ đang sử dụng AI một cách có trách nhiệm, cũng như các bản tài liệu để hướng dẫn họ đánh giá việc triển khai dựa trên các nguyên tắc được xác định trước.

Cơ quan tiền tệ Singapore (MAS) cho biết các tài liệu hướng dẫn chi tiết các phương pháp luận để kết hợp các nguyên tắc FEAT - Công bằng, Đạo đức, Trách nhiệm giải trình và Minh bạch - vào việc sử dụng AI trong lĩnh vực dịch vụ tài chính./.

MP