Giải pháp cho những rủi ro mới khi ứng dụng AI trong dịch vụ tài chính

Trung tâm Chiến lược Pháp chế Deloitte châu Á – Thái Bình Dương (Asia Pacific Centre for Regulatory Strategy - ACRS) gần đây đã phát hành báo cáo “Generative AI: Ứng dụng và Quy định tại khu vực châu Á – Thái Bình Dương”.

Báo cáo chỉ ra những rủi ro phát sinh từ việc sử dụng GenAI (AI tạo sinh) trong lĩnh vực dịch vụ tài chính, bức tranh toàn cảnh về các quy định hiện nay tại châu Á - Thái Bình Dương, cũng như đưa ra các hướng dẫn hỗ trợ các công ty chuẩn bị tốt nhằm đáp ứng những thay đổi về quy định và pháp chế sắp tới trong lĩnh vực tài chính đang phát triển nhanh chóng.

ACRS đã phỏng vấn 12 chuyên gia về công nghệ và pháp chế của Deloitte trên toàn khu vực châu Á - Thái Bình Dương, trong bối cảnh công nghệ GenAI ngày càng có nhiều bước tiến lớn, các nhà hoạch định chính sách và các cơ quan quản lý đang đánh giá lại các khuôn khổ AI hiện nay để giảm thiểu những rủi ro công nghệ mới phát sinh từ việc áp dụng GenAI, đồng thời đảm bảo những khuôn khổ này vẫn phù hợp với ngành dịch vụ tài chính.

Các công ty tài chính đối mặt những rủi ro mới và ngày càng trầm trọng trong chu kỳ ứng dụng AI

Theo báo cáo, trong 12 tháng qua, công nghệ AI đã có nhiều phát triển đột phá lớn như việc các công nghệ GenAI đã phổ biến hơn thông qua các công cụ như Chat GPT của OpenAI và Bard AI của Google, tuy nhiên, những rủi ro phổ biến mà các cơ quan quản lý tại khu vực châu Á - Thái Bình Dương phải đối mặt cũng trở nên nghiêm trọng hơn.

Trong khi tính minh bạch, trách nhiệm giải trình, tính công bằng, phát triển lành mạnh, quyền riêng tư và bảo mật dữ liệu vẫn còn là những vấn đề cần xem xét, thì quan ngại với những thành kiến tiềm ẩn và quyền sở hữu trí tuệ tiếp tục đặt ra cho các cơ quan quản lý bài toán phải cân bằng lợi ích giữa việc đổi mới công nghệ và việc đảm bảo an toàn của người dùng.

Ngành dịch vụ tài chính đang trải qua thời kỳ thay đổi và gián đoạn sâu sắc. GenAI đang thay đổi cách thức cung cấp dịch vụ, nhưng cũng như bất kỳ thay đổi nào, mối quan tâm về mặt pháp lý và giám sát đối với AI vẫn đang gia tăng. Các công ty tài chính hiện đang phải đối mặt với những rủi ro mới và ngày càng trầm trọng hơn như công tác quản trị, trách nhiệm giải trình và bảo vệ dữ liệu trong chu kỳ ứng dụng AI, cũng như các rủi ro pháp lý và rủi ro chiến lược.

Báo cáo mới nhất của Deloitte đưa ra những khuyến nghị để hỗ trợ các công ty dịch vụ tài chính chuẩn bị sẵn sàng cho những thay đổi trong tương lai, sớm thiết lập khuôn khổ quản trị AI của riêng các doanh nghiệp, đồng thời có những động thái để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Báo cáo cũng nêu những điểm nổi bật trong báo cáo như các công ty ngành dịch vụ tài chính nên chuẩn bị để đáp ứng các yêu cầu tuân thủ các quy định liên quan đến GenAI, ngay khi các quy định đang trong quá trình xây dựng.

Các công ty ngành dịch vụ tài chính đã sử dụng hoặc đang cân nhắc sử dụng các ứng dụng AI nên bắt đầu phát triển khuôn khổ quản trị AI nhằm hỗ trợ quản trị rủi ro tốt hơn, cũng như tuân thủ các quy định trong tương lai liên quan lĩnh vực này. Các công ty dịch vụ tài chính phải có trách nhiệm và chịu trách nhiệm về kết quả đầu ra từ các ứng dụng GenAI.

Các công ty ngành dịch vụ tài chính cần đánh giá các yếu tố có thể góp phần tạo ra những tổn thương (vulnerability) cho khách hàng như trình độ học vấn, thu nhập, hoặc tuổi tác và đảm bảo việc áp dụng các ứng dụng GenAI không kéo theo những thành kiến hoặc phân biệt đối xử với các khách hàng cho dù đó là hệ quả chủ đích hoặc hệ quả không dự tính trước.

Các công ty dịch vụ tài chính nên xác định các bên liên quan trong việc thu thập, lưu trữ và xử lý thông tin cá nhân khách hàng và đảm bảo các bên hoặc bộ phận liên quan cũng tuân thủ các quy định liên quan đến bảo mật thông tin.

Do vấn đề bảo vệ bản quyền cho các yếu tố đầu vào và đầu ra của GenAI vẫn còn chưa rõ ràng, các công ty dịch vụ tài chính nên hiểu rằng bất kỳ dữ liệu hoặc truy vấn được nhập vào các ứng dụng GenAI có thể sẽ công khai, cần cân nhắc ban hành các biện pháp kiểm soát với mục đích ngăn chặn tình huống vô tình làm tiết lộ tài sản trí tuệ hoặc vi phạm bản quyền.

Các công ty ngành dịch vụ tài chính đang sử dụng hoặc có kế hoạch sử dụng các ứng dụng GenAI nên đầu tư vào việc thu hút nhân tài và cung cấp các chương trình đào tạo về công nghệ AI cho đội ngũ nhân sự hiện tại, bao gồm ban lãnh đạo và quản cấp cao, góp phần nâng cao hiểu biết về các rủi ro trọng yếu và trách nhiệm của họ trong việc giảm thiểu những rủi ro đó.

Cần xây dựng cho mình một khung quản trị AI

Trao đổi về các phát hiện từ báo cáo, ông Akihiro Matsuyama, lãnh đạo dịch vụ Tư vấn Rủi ro tại Deloitte châu Á - Thái Bình Dương cho biết: "Mặc dù các quy định và hành lang pháp lý về AI vẫn đang trong giai đoạn đầu xây dựng hoặc triển khai ở hầu hết các quốc gia, nhưng điều quan trọng với các công ty dịch vụ cần sớm thực hiện cách tiếp cận có thể đo lường thông qua việc thiết lập khuôn khổ AI của riêng doanh nghiệp càng sớm càng tốt và có kế hoạch hành động để hiểu rõ, xác định và quản trị các rủi ro liên quan đến AI.

Khối tư nhân cần tham gia vào các cuộc đối thoại tích cực với các cơ quan quản lý và cơ quan lập pháp để chia sẻ những hiểu biết chuyên ngành và kinh nghiệm trong lĩnh vực này nhằm hỗ trợ quá trình xây dựng quy định phát luật và thúc đẩy sự đồng thuận về lộ trình tương lai của AI".

Trong khi đó, ông Wong Nai Seng, lãnh đạo phụ trách Quy định Chiến lược tại Deloitte Đông Nam Á, chia sẻ thêm: “Các công nghệ AI như GenAI mang lại tiềm năng lớn giúp gia tăng hiệu suất và đẩy nhanh tốc độ số hóa trong ngành dịch vụ tài chính. Tuy nhiên, những rủi ro phát sinh từ việc sử dụng công nghệ vẫn cần được đặc biệt lưu ý, với mức độ ưu tiên cao”.

Ông Đỗ Danh Thanh, Phó Tổng Giám đốc Dịch vụ Tư vấn Chuyển đổi số và An ninh mạng, Deloitte Việt Nam cho biết: “Tại Việt Nam, Luật Kinh doanh bảo hiểm được thông qua vào tháng 6/2022, cho phép ứng dụng CNTT vào hoạt động kinh doanh bảo hiểm. Chính phủ cũng khuyến khích các công ty bảo hiểm áp dụng công nghệ, trong đó có AI để bán các sản phẩm và dịch vụ bảo hiểm mới. Bắt nhịp cùng xu thế trên thế giới, việc ứng dụng AI, trong đó có GenAI chắc chắn sẽ mở rộng ra các mảng khác trong ngành dịch vụ tài chính tại Việt Nam”.

Tuy nhiên, theo ông Đỗ Thanh Danh, bên cạnh việc hưởng lợi từ AI, các công ty trong ngành dịch vụ tài chính cũng sẽ phải đối mặt với những rủi ro mới. Để chuẩn bị sẵn sàng và giảm thiểu những rủi ro này, các công ty dịch vụ tài chính nên xây dựng cho mình một khung quản trị AI./.