Singapore ra mắt bộ công cụ đánh giá sự minh bạch của AI

MP| 29/05/2022 07:10
Theo dõi ICTVietnam trên

Mới đây, Singapore đã ra mắt thí điểm bộ công cụ A.I. Verify nhằm đánh giá sự minh bạch trong việc sử dụng công nghệ trí tuệ nhân tạo (AI) của các doanh nghiệp (DN).

Theo đó, các DN ở Singapore giờ đây sẽ có thể sử dụng bộ công cụ và khuôn khổ kiểm tra quản trị để chứng minh việc sử dụng công nghệ AI "khách quan và có thể kiểm chứng" của họ.

Động thái này là một phần trong nỗ lực của chính phủ Singapore nhằm thúc đẩy tính minh bạch trong việc triển khai AI thông qua kiểm tra kỹ thuật và quy trình.

Bộ công cụ A.I. Verify được \Cơ quan Phát triển Truyền thông Infocomm (IMDA) và Ủy ban Bảo vệ Dữ liệu Cá nhân (PDPC), cơ quan quản lý Đạo luật Bảo vệ dữ liệu cá nhân Singapore, phát triển.

Bộ công cụ này cung cấp thử nghiệm kỹ thuật dựa trên ba nguyên tắc về "tính công bằng, khả năng giải thích và tính mạnh mẽ".

Các cơ quan chính phủ Singapore cho biết, ngày càng có nhiều sản phẩm và dịch vụ được nhúng với AI để mang lại trải nghiệm được cá nhân hóa hơn cho người dùng hoặc đưa ra quyết định mà không cần sự can thiệp của con người, do đó người tiêu dùng cần được biết các hệ thống AI đó là "công bằng, có thể giải thích được và an toàn" hay không. Họ cần được đảm bảo rằng các tổ chức triển khai các dịch vụ như vậy phải có trách nhiệm giải trình và minh bạch.

A.I Verify sẽ cho phép những nhà cung cấp các dịch vụ AI chứng minh cho các bên liên quan thấy việc họ triển khai AI có trách nhiệm thông qua các bài kiểm tra được tiêu chuẩn hóa.

Bộ công cụ thí điểm cũng có thể cung cấp báo cáo cho các nhà phát triển, quản lý, và các đối tác kinh doanh về các lĩnh vực chính có thể ảnh hưởng đến hiệu suất của AI, kết quả thử nghiệm mô hình AI.

Chẳng hạn như, sản phẩm được hỗ trợ bởi AI sẽ được kiểm tra về cách mô hình đưa ra quyết định và liệu quyết định được dự đoán có mang thành kiến ngoài ý muốn hay không. Hệ thống AI cũng có thể được đánh giá về tính bảo mật và khả năng phục hồi của nó.

Singapore ra mắt bộ công cụ đánh giá sự minh bạch của AI - Ảnh 1.

(Hình minh họa)

Hiện nay, bộ công cụ có thể hoạt động với một số mô hình AI phổ biến như thuật toán phân loại nhị phân và thuật toán hồi quy từ các khuôn khổ phổ biến như scikit-learning, Tensorflow và XGBoost.

Theo IMDA, khung thử nghiệm và bộ công cụ sẽ cho phép các nhà phát triển hệ thống AI tiến hành tự kiểm tra không chỉ để duy trì các yêu cầu thương mại của sản phẩm mà còn cung cấp một nền tảng chung để hiển thị các kết quả kiểm tra này.

Thay vì xác định các tiêu chuẩn đạo đức, A.I. Verify sẽ xác thực các thông tin, số liệu của các nhà phát triển hệ thống AI về việc sử dụng AI cũng như hiệu suất của các sản phẩm AI của họ.

IMDA nhấn mạnh bộ công cụ sẽ không cung cấp chức năng đảm bảo hệ thống AI được thử nghiệm không có thành kiến hoặc rủi ro bảo mật. Tuy nhiên, nó có thể tạo điều kiện thuận lợi cho khả năng tương tác của các khuôn khổ quản trị AI và có thể giúp các tổ chức lấp đầy khoảng cách giữa các khuôn khổ và quy định.

IMDA cũng cho biết thêm, họ đang làm việc với các tổ chức quy định và tiêu chuẩn để ánh xạ A.I. Verify tới các khuôn khổ AI đã được thiết lập, vì vậy, các DN có thể cung cấp các sản phẩm và dịch vụ hỗ trợ AI trên các thị trường toàn cầu khác nhau. Bộ Thương mại Hoa Kỳ là một trong số các cơ quan mà Singapore đang làm việc để đảm bảo khả năng tương tác giữa các khuôn khổ quản trị AI của họ.

Theo IMDA, 10 tổ chức đã thử nghiệm và đưa ra phản hồi về bộ công cụ mới này, bao gồm Google, Meta, Microsoft, Singapore Airlines và Standard Chartered Bank...

IMDA khẳng định Singapore sẽ tiếp tục phát triển A.I. Verify để kết hợp các tiêu chuẩn quản trị AI quốc tế và các điểm chuẩn của ngành. Nhiều chức năng hơn cũng sẽ dần được bổ sung với sự đóng góp và phản hồi của ngành.

Trước đó, vào tháng 2, quốc gia này cũng đã phát hành một bộ công cụ phần mềm nhằm giúp các tổ chức tài chính đảm bảo rằng họ đang sử dụng AI một cách có trách nhiệm, cũng như các bản tài liệu để hướng dẫn họ đánh giá việc triển khai dựa trên các nguyên tắc được xác định trước.

Cơ quan tiền tệ Singapore (MAS) cho biết các tài liệu hướng dẫn chi tiết các phương pháp luận để kết hợp các nguyên tắc FEAT - Công bằng, Đạo đức, Trách nhiệm giải trình và Minh bạch - vào việc sử dụng AI trong lĩnh vực dịch vụ tài chính./.

Bài liên quan
  • Cuộc đua trung tâm dữ liệu AI tại Đông Nam Á
    Trí tuệ nhân tạo (AI) đã trở thành một động lực chính thúc đẩy đổi mới công nghệ toàn cầu và Đông Nam Á đang ngày càng khẳng định vai trò của mình trong cuộc đua phát triển AI. Hàng loạt các hãng công nghệ và đám mây lớn đã thông báo kế hoạch xây dựng, vận hành trung tâm dữ liệu mới tại Đông Nam Á.
Nổi bật Tạp chí Thông tin & Truyền thông
  • 5G và những thay đổi toàn diện trong xây dựng thành phố thông minh
    Với tốc độ cực cao, độ trễ cực thấp, băng thông rộng và kết nối mật độ cực lớn, 5G là hạ tầng cốt lõi hỗ trợ toàn diện cho sự đổi mới và phát triển của thành phố thông minh trên tất cả các lĩnh vực, tác động tích cực vào công tác xây dựng và quản lý thành phố, tạo ra một môi trường sống tiện nghi, bền vững và an toàn hơn bao giờ hết.
  • Sắp diễn ra Lễ hội văn hoá ẩm thực Hà Nội năm 2024
    UBND TP. Hà Nội vừa ban hành Kế hoạch số 313/KH-UBND về việc tổ chức Lễ hội văn hóa ẩm thực Hà Nội năm 2024 (The HaNoi Culinary Culture Festival 2024) với chủ đề "Hà Nội kết nối năm châu".
  • Cuộc đua trung tâm dữ liệu AI tại Đông Nam Á
    Trí tuệ nhân tạo (AI) đã trở thành một động lực chính thúc đẩy đổi mới công nghệ toàn cầu và Đông Nam Á đang ngày càng khẳng định vai trò của mình trong cuộc đua phát triển AI. Hàng loạt các hãng công nghệ và đám mây lớn đã thông báo kế hoạch xây dựng, vận hành trung tâm dữ liệu mới tại Đông Nam Á.
  • Hai nền tảng số MISA được công nhận là sản phẩm Thương hiệu quốc gia Việt Nam 2024
    Vượt qua hơn 1.000 hồ sơ và nhiều vòng thẩm định khắt khe, MISA có hai nền tảng số đạt danh hiệu Thương hiệu quốc gia Việt Nam 2024.
  • Mở rộng trông xe không dùng tiền mặt mang lại lợi ích "kép"
    Việc áp dụng hình thức thanh toán qua ứng dụng thu phí không dừng VETC và mã QR vào hoạt động thanh toán phí gửi xe không dùng tiền mặt không những góp phần từng bước hình thành hệ thống giao thông thông minh mà còn tăng cường công tác quản lý nhà nước, minh bạch trong công tác thu phí dịch vụ trông giữ xe.
Đừng bỏ lỡ
  • Xây dựng hạ tầng cho mạng 5G tương lai của Việt Nam
    Đông Nam Á là một trong những khu vực có tốc độ phát triển nhanh nhất trên thế giới. Dự kiến tới năm 2030, ASEAN (gồm 10 quốc gia Đông Nam Á) sẽ trở thành nền kinh tế lớn thứ tư toàn cầu. Phần lớn động lực thúc đẩy sự phát triển này đến từ sự vận động và tăng trưởng không ngừng của nền kinh tế số trong khu vực, với giá trị ước tính lên đến gần 1 nghìn tỉ đô-la vào năm 2030.
  • Vượt qua hơn 1.000 doanh nghiệp, Bưu điện Việt Nam đạt giải Thương hiệu Quốc gia 2024
    Đây là lần thứ 2 liên tiếp Bưu điện Việt Nam vinh dự nhận giải thưởng danh giá này bởi những thành tựu lớn trong lĩnh vực logistics, bưu chính chuyển phát tại Việt Nam và Quốc tế.
  • Malaysia gây “sốc” khi trao giấy phép mạng 5G thứ hai
    Câu chuyện 5G của Malaysia đã có một bước ngoặt bất ngờ khi cơ quan quản lý nước này trao giấy phép triển khai mạng 5G thứ hai cho nhà mạng nhỏ nhất của đất nước là U Mobile.
  • 10 xu hướng định hình tương lai của quản lý giao dịch số
    Quản lý giao dịch số đang phát triển mạnh mẽ, được thúc đẩy bởi những tiến bộ công nghệ và nhu cầu ngày càng tăng về xử lý tài liệu an toàn, hiệu quả. Đây là công cụ quan trọng giúp doanh nghiệp giảm bớt thủ tục hành chính và tối ưu hóa quy trình xử lý tài liệu số.
  • Zalo giữ vững ngôi đầu nền tảng nhắn tin được yêu thích nhất
    Ngày 5/11, theo báo cáo “The Connected Consumer Q.III/2024” mới nhất do Decision Lab công bố, Zalo tiếp tục dẫn đầu các nền tảng nhắn tin tại Việt Nam về tỷ lệ sử dụng (renetration rate) và mức độ yêu thích (preference rate).
  • Những động lực tăng trưởng thị trường chữ ký số toàn cầu
    Thị trường chữ ký số toàn cầu đang có ​​sự tăng trưởng chưa từng có khi các doanh nghiệp và cá nhân ngày càng áp dụng các giải pháp số để xác thực tài liệu và giao dịch an toàn.
  • ĐMST mở xã hội mang lại cho 90% doanh nghiệp cơ hội tạo giá trị kinh doanh bền vững
    Theo bà Nguyễn Phương Linh, Viện trưởng Viện MSD, hơn 90% các doanh nghiệp cho rằng đổi mới sáng tạo (ĐMST) mở xã hội mang lại cho doanh nghiệp cơ hội tạo ra giá trị kinh doanh bền vững, tác động tích cực đến xã hội và môi trường.
  • ‏FPT đẩy mạnh phát triển giải pháp low-code tại thị trường Hàn Quốc‏
    ‏Mới đây, FPT vừa ký kết thỏa thuận hợp tác ba năm với OutSystems, chính thức trở thành đối tác phân phối và triển khai tại thị trường Hàn Quốc, đảm bảo thời gian ra mắt phần mềm của khách hàng được rút ngắn và tối ưu chi phí.
  • Người giữ bình yên nơi vùng cao
    Huyện Sơn Động là huyện vùng cao của tỉnh Bắc Giang, có tỷ lệ người dân tộc thiểu số (DTTS) cao nhất tỉnh, chiếm 56,92%, với địa hình rừng núi, giao thông đi lại khó khăn, phong tục tập quán, bản sắc văn hóa đa dạng chính vì vậy công tác đảm bảo an ninh trật tự ở các bản làng luôn là nhiệm vụ được các cấp ủy Đảng quan tâm. Do đó, đội ngũ già làng, trưởng bản, người uy tín luôn là đội ngũ nòng cốt góp phần xây dựng khối đại đoàn kết dân tộc, giữ gìn an ninh trật tự xã hội trong cộng đồng.
  • Tuyên Quang: Kiên trì phương châm “mưa dầm thấm lâu” để nâng cao kiến thức pháp luật cho đồng bào vùng DTTS&MN
    Với phương châm “mưa dầm thấm lâu”, những năm qua, các cấp chính quyền tỉnh Tuyên Quang đã đa dạng hoá các hình thức tuyên truyền, góp phần giúp các kiến thức pháp luật về mọi mặt của đời sống ngày một đến gần hơn với người dân (đặc biệt là vùng đồng bào DTTS&MN).
Singapore ra mắt bộ công cụ đánh giá sự minh bạch của AI
POWERED BY ONECMS - A PRODUCT OF NEKO