Cơ hội và thách thức khi ứng dụng AI

Ứng dụng AI trong nhiều lĩnh vực đạt được thành công nhất có thể kể đến như: bán lẻ, tài chính, sản xuất, nông nghiệp, giáo dục, ô tô, bán hàng B2B, ngân hàng, thương mại, bảo hiểm, khoa học đời sống và các dịch vụ tiện ích. AI đã giúp nhiều DN hoạt động trong lĩnh vực này thực hiện chuyển đổi số thành công với chi phí thấp, hiệu quả, sản xuất tự động nhiều hơn. Song song với các cơ hội mà AI mang lại thì AI cũng đem lại những thách thức không nhỏ đối với nhà quản lý DN.

Ứng dụng AI trong hầu hết mọi lĩnh vực

Cuộc cách mạng 4.0 hiện nay đã cho thấy công nghệ nhanh chóng trở nên thông minh hơn và mạnh hơn, nhỏ hơn, nhẹ hơn và rẻ hơn. Các công nghệ này bao gồm phần cứng của các thiết bị: robot vật lý, máy bay không người lái và phương tiện tự trị và các thành phần của chúng (ví dụ: bộ xử lý, cảm biến, camera, chip). Công nghệ có thể là mã hoặc phần mềm như: phần mềm Analytics, phần mềm xử lý giọng nói, phần mềm sinh trắc học, thực tế ảo, thực tế tăng cường, công nghệ đám mây, công nghệ di động, gắn thẻ địa lý, nền tảng mã thấp, tự động hóa quá trình robot (RPA) và học máy. AI sẽ làm thay đổi tất cả các ngành trong tất cả các lĩnh vực dịch vụ và tự động hóa như:

Trong quản lý nhân sự: AI kiểm soát quá trình lao động tại nơi làm việc, cho phép tối đa hóa năng suất và hiệu quả của con người tại nơi làm việc. Theo một báo cáo gần đây, hầu hết các tổ chức lớn đã xây dựng khả năng của AI, 70% giám đốc điều hành xem ứng dụng AI ưu tiên hàng đầu. Năm 2020 là một năm thuận lợi để các công ty bán phần mềm giám sát nhân viên. 

Ví dụ, giải pháp “Công nhân Maximo” của IBM sử dụng AI để xử lý dữ liệu thời gian thực từ “camera, tín hiệu Bluetooth, điện thoại di động, thiết bị đeo có kết nối IoT và cảm biến môi trường” cho phép người quản lý giám sát nhân viên hiệu quả. Ngoài ra, AI hứa cho phép dự đoán và ngăn chặn sự vi phạm của trật tự được thiết lập trước khi chúng xảy ra.

Trong DN: Theo Alibaba, Chatbot AI đã giúp họ giảm tới 90% truy vấn đối với khách hàng và phục vụ hơn 3,5 triệu người dùng mỗi ngày. Trong một nghiên cứu gần đây liên quan đến 1.500 công ty trong 12 ngành công nghiệp, đã cho thấy các tổ chức có thể đạt được những cải tiến hiệu suất đáng kể nhất khi con người và máy móc làm việc cùng nhau. 

Ví dụ, chatbot của chương trình Chương trình Thạc sĩ quản trị kinh doanh của Đại học Quốc gia Singapore (NUS MBA) đã xử lý 20.000 cuộc hội thoại mỗi tháng ngay sau khi khởi chạy và trả lời tất cả các câu hỏi thường ngày. Còn theo Google, hệ thống khuyến nghị AI Google đã giúp tiết kiệm năng lượng khoảng 30% tại các trung tâm dữ liệu của họ. Công nghệ robot có thể tăng cường khả năng trong việc kiểm tra hàng hóa. Công ty cũng có thể dùng AI để cải thiện việc kiểm tra và bảo trì, hay kiểm soát trên các chuỗi cung ứng.

Trong phân tích dữ liệu: Dữ liệu rất quan trọng đối với các DN để thực hiện các giải pháp AI nhằm cải thiện khả năng kinh doanh của DN. Nếu được lập trình một cách thích hợp, AI có thể tìm kiếm cơ sở dữ liệu rộng lớn cho các danh mục và từ khóa được xác định trước có liên quan, cũng như xây dựng các đề xuất về cách thông tin được thu thập có thể bổ sung mới vào các sản phẩm và dịch vụ hiện có. 

Do đó, AI tăng cường quá trình sáng tạo bền bỉ hơn con người, nó vượt trội hơn trong lưu trữ và xử lý thông tin, cũng như khi AI tham gia vào các quy trình tìm kiếm có hệ thống và gia tăng các bộ dữ liệu lớn. Dữ liệu có giá trị nhất hiện đang được kiểm soát bởi các DN lớn như Google, Facebook, Alibaba, Tencent, v.v.. Đây là lý do tại sao hầu hết các câu chuyện thành công nổi tiếng về ứng dụng AI đến từ những DN lớn này trong 10 năm qua. Các DN lớn này có những đóng góp đáng kể để đưa các giải pháp AI vào cuộc sống hàng ngày.

Trong y tế: Liên quan đến phát hiện ung thư, trong hình ảnh của các tế bào hạch bạch huyết, Wang et al. (2016) phát hiện ra rằng một cách tiếp cận con người kết hợp với AI sẽ vượt trội hơn so với các quyết định chỉ có con người duy nhất. Tỷ lệ lỗi 0,5% khi kết hợp AI và con người trong việc ra quyết định, giảm tỷ lệ lỗi ít nhất ở mức 85% so với các phương pháp tiếp cận chỉ có con người và chỉ có AI. 

Triển vọng rất lớn khi ứng dụng AI trong các dịch vụ y tế, bao gồm chăm sóc sức khỏe có khả năng sẽ trở nên có giá thấp hơn nhiều và chất lượng tốt hơn nhiều, và dẫn đến sự gia tăng mạnh mẽ trong tiêu chuẩn sống của chúng ta. Không những thế, Robot dịch vụ so sánh dữ liệu và triệu chứng của bệnh nhân và cung cấp một “danh sách hit” có thể xảy ra với một chỉ số phù hợp. Các bác sĩ đa khoa sau đó có thể làm việc trong danh sách và thảo luận với bệnh nhân (ví dụ: “Bạn đã ở vùng nhiệt đới trong hai tuần qua chưa?”) Và sau đó xác định chẩn đoán và kiểm tra nhiều khả năng nhất cho nó.

Trong các ngành dịch vụ và tự động hóa: Robot dịch vụ có thể phân tích khối lượng dữ liệu lớn, tích hợp thông tin nội bộ và bên ngoài, nhận dạng các mẫu liên quan đến các hồ sơ khách hàng. Trong vài phút, các robot này có thể đề xuất các giải pháp phù hợp nhất và đưa ra khuyến nghị. Các đội người-robot ngày càng mang lại các nhiệm vụ đòi hỏi kỹ năng nhận thức và cảm xúc cao. 

Ví dụ, trong bối cảnh chăm sóc sức khỏe, robot dịch vụ sẽ thực hiện công việc phân tích (phân tích các triệu chứng và so sánh chúng với cơ sở dữ liệu để chẩn đoán) và con người sẽ đưa ra các khuyến nghị và quyết định cuối cùng và đảm nhận các nhiệm vụ xã hội và cảm xúc (tư vấn và thuyết phục bệnh nhân). 

Một robot bán vé sẽ không cho phép khách hàng bị mắc kẹt, vì nó có thể yêu cầu làm rõ các câu hỏi (“Chuyến đi trở về của bạn ngày hôm nay là chuyến nào?”, “Bạn có thể đi quá mức không?") và thậm chí có thể khôi phục lỗi khách hàng (ví dụ: sai nhấn nút, thông tin không chính xác làm cho đăng nhập hoặc thẻ tín dụng bị từ chối). Đối với hầu hết các dịch vụ tiêu chuẩn, khách hàng sẽ tương tác với các robot dịch vụ theo cách tương tự như với nhân viên phục vụ (“Tôi cần một vé khứ hồi cùng ngày và tôi có thể sử dụng Zalo Pay không?”). 

Amazon gần đây đã sử dụng một hệ thống theo dõi Warehouse-Worker (nhân viên kho hàng chịu trách nhiệm thực hiện một loạt các nhiệm vụ như tiếp nhận và xử lý kho và nguyên vật liệu nhập vào, chọn và điền đơn hàng từ kho, đóng gói và vận chuyển đơn đặt hàng, hoặc quản lý, sắp xếp và truy xuất kho hàng và các hoạt động khác) có thể tự động làm việc mà không có sự tham gia giám sát của con người. Ví dụ này cho thấy rằng quản lý thuật toán, nơi các thuật toán có một mức độ tự chủ nhất định khi đưa ra quyết định, đang tăng lên trong các tổ chức.

Trong ngành thương mại và du lịch: Trí thông minh nhân tạo đang thay đổi cách mà những người kinh doanh làm việc, giúp khả năng thương mại hiệu quả, ít tốn kém và cạnh tranh. Mục tiêu thương mại chủ yếu là sự tuân thủ và kiểm soát cẩn thận, như cách xử lý ngôn ngữ tự nhiên để tạo ra hồ sơ toàn diện của cá nhân hay DN tham gia giao dịch, dựa trên các khả năng tìm kiếm trên mạng Internet. Các ứng dụng tìm kiếm bất thường được ứng dụng AI. 

Ví dụ sự khác biệt giữa giá cho mỗi đơn vị sản phẩm và giá trị hóa đơn cuối cùng. Thực hiện AI chắc chắn có giá trị, đặc biệt là phát triển những các ứng dụng điện tử đáng tin cậy, không cần văn bản giấy, kiểm tra danh tính (ID) nhanh hơn, chia sẻ dữ liệu và thủ tục lưu tài liệu theo tiêu chuẩn số hóa. Sự gia nhập của AI trong ngành thương mại sẽ yêu cầu phát triển một loạt các tiêu chuẩn mới, cho phép cải tiến quản lý kho hàng, dự đoán yêu cầu, và độ chính xác hơn trong việc chế tạo và vận chuyển đúng thời gian.

Có lẽ sự đột phá lớn nhất trong công nghệ AI Trung Quốc nằm trong lĩnh vực hệ thống thanh toán thương mại và du lịch thông qua nhận dạng khuôn mặt. Ở Trung Quốc, thẻ tín dụng không được dùng phổ biến, nhưng việc thanh toán không dùng tiền mặt vẫn phổ biến, thậm chí nhiều cửa hàng không lấy tiền mặt. Người tiêu dùng Trung Quốc có thể trả tiền cho hàng hóa tại các siêu thị, nhà hàng ăn nhanh, trạm xăng và các cửa hàng bán lẻ khác chỉ với điện thoại di động của họ. Công nghệ nhận dạng khuôn mặt xác định người dùng trong 100 mili giây hoặc một phần mười giây. Khuôn mặt của họ được liên kết với hệ thống thanh toán số của họ và hàng hóa được mua mà không cần tiếp cận túi hay ví. 

Alibaba gọi là cười để thanh toán, còn WeChat sử dụng hệ thống có tên Frog Pro thông qua nhận dạng sinh trắc học qua tàn nhang, tĩnh mạch, nốt ruồi, nếp nhăn và các đặc điểm khác. Thuật toán sinh trắc học so sánh các bức ảnh với các chi tiết về khuôn mặt của một cá nhân bao gồm kích thước, hình dạng và vị trí của mắt, mũi, gò má và hàm. Sinh trắc học khác tập trung vào hình dạng cơ thể của một người và dáng đi, những chuyển động mà anh ta hoặc cô ta làm khi đi bộ. Hệ thống sinh trắc học ghi lại các đặc điểm này với các cảm biến 3 chiều. Với các phương pháp nhận dạng chính xác này, các nhà bán lẻ Trung Quốc đang kiếm tiền mà không cần thẻ tín dụng.

Trong công nghệ điện toán đám mây: Hệ thống Alibaba Cloud có thể giúp DN hoạt động hiệu quả. Trung tâm dữ liệu trí tuệ nhân tạo của Alibaba hoạt động trên nền tảng đám mây đã hỗ trợ gần 800 triệu người tiêu dùng và các nhà bán lẻ trên toàn thế giới cùng tham gia vào cuộc thi lớn nhất hành tinh. Đó là sự kiện về lễ hội mua sắm trực tuyến Alibaba Global (còn được gọi là “Ngày độc thân”). Có tới 583.000 đơn đặt hàng mỗi giây được hưởng trải nghiệm mua sắm từ phần mềm được hỗ trợ AI, cho phép khắc phục lỗi bảo trì theo thời gian thực. 

Dựa trên nền tảng đám mây, Alibaba Cloud đã xử lý hàng triệu đơn đặt hàng cho công ty chuyển phát STO Express của Trung Quốc cho phép công ty này cắt giảm chi phí CNTT tới 30% và giảm thời gian đồng bộ dữ liệu từ một giờ xuống còn ba phút. Alibaba Cloud cũng cung cấp các ứng dụng trí tuệ nhân tạo AI cho phép DN có thể đưa ý tưởng hay các nghiên cứu và phát triển các giai đoạn mua sắm vào trong sản xuất. 

Ví dụ: Công ty PrestoMall, hoạt động trong lĩnh vực thương mại điện tử lớn nhất Malaysia nhờ sử dụng dữ liệu trên đám mây của Alibaba Cloud cho phép công ty này tăng trưởng ấn tượng, giảm chi phí hơn 40% sau khi di chuyển dữ liệu lên đám mây. Tại Nhật Bản, một công ty trò chơi có tên là ENISH, tận dụng giải pháp chơi game của Alibaba Cloud bắt đầu hoạt động từ năm 2020. Bây giờ ENISH có thể xây dựng một môi trường thử nghiệm cho trò chơi mới chỉ trong 10 ngày so với 20 ngày như trước đây và có thể xây dựng tạo mô hình game trong vòng 7 ngày, đây là một kết quả ấn tượng kể từ khi công ty này sử dụng dịch vụ của Alibaba Cloud.

Trong tài chính ngân hàng: AI có thể giúp giám sát dữ liệu theo thời gian thực, phát hiện những điều kỳ lạ để điều tra thêm và loại bỏ hoặc giảm sự xuất hiện của gian lận trong thanh toán do tội phạm mạng chuyên nghiệp thực hiện. Gian lận thanh toán hiện nay tinh vi hơn và thường vượt quá khả năng phát hiện của các hệ thống dựa trên quy tắc cũ. Ứng dụng AI cho phép chống gian lận, bảo mật gấp đôi so với giải pháp bảo mật thông thường do vậy lừa đảo được phát hiện gần ngay lập tức và thông tin thông báo sẽ được gửi đi kịp thời. 

Do các công ty AI đang cạnh tranh nhau để cung cấp giải pháp nhanh hơn, tỉ lệ ứng dụng cho việc tính toán rủi ro đang tăng dần. Phân tích AI và kết hợp kĩ sư AI có thể tìm ra sự khác biệt trong các bộ dữ liệu lớn chỉ trong vài giây giúp nhân viên ngân hàng phân biệt lừa đảo và đúng luật pháp với độ chính xác hơn. Công nghệ Blockchain tích hợp AI có khả năng có thể được sử dụng để xây dựng một thị trường hợp tác, cho phép các DN vừa và nhỏ có thể hợp tác để vượt qua những thách thức về dữ liệu và tài năng và phát triển các giải pháp AI thành công.

Mới đây, tạp chí The Economist Intelligence Unit đã công bố báo cáo phân tích kết quả từ một cuộc khảo sát 200 giám đốc điều hành kinh doanh và các nhà quản lý cấp cao liên quan đến CNTT. Chủ đề là “Khảo sát công nghệ trí tuệ nhân tạo (AI) được ứng dụng trong ngành dịch vụ tài chính”, mục đích là đo lường sự thành công của AI, cơ hội và thách thức của các công nghệ AI này trong tương lai. Thông qua khảo sát và các cuộc phỏng vấn sâu với các chuyên gia hàng đầu trong lĩnh vực AI để xác định cách những thay đổi sẽ định hình trong ngành tài chính trong những năm tới. Kết quả là:

• Nhiều ngân hàng, các nhà bán lẻ và các công ty bảo hiểm đang bắt đầu khảo sát các xu hướng ứng dụng AI làm sao cho hiệu quả. Do quy mô của AI, các ngân hàng đang vật lộn với một số thách thức về mức độ phức tạp và về quy mô lớn. Việc ứng dụng công nghệ tiên tiến AI đã đem lại hiệu quả to lớn trong các ngành này.

• Tại khu vực châu Á - Thái Bình Dương (APAC) gần 61% người trong APAC được hỏi đã báo cáo rằng công việc của họ được AI hỗ trợ một nửa hoặc nhiều hơn. Trong khi ở Bắc Mỹ và châu Âu con số này là 41%.

• Một loạt ứng dụng được thực hiện bởi AI trong các ngân hàng và các công ty bảo hiểm như trợ lý ảo, học máy và phân tích dự đoán cùng với với việc xử lý ngôn ngữ tự nhiên NPL ở phía sau đã được sử dụng rộng rãi trong các danh mục “ứng dụng AI”.

• Mức độ hài lòng của khách hàng và các bên liên quan đã giúp AI thành công. Còn những người khác cho rằng ứng dụng AI chỉ để giảm chi phí vận hành và tăng lợi tức đầu tư là yếu tố quan trọng. Tuy nhiên, gần 10% số người được hỏi ở châu Âu không có số liệu để đo lường ứng dụng AI thành công.

• Hiệu quả của việc ứng dụng công nghệ AI này rất rõ ràng. Ví dụ, các nhiệm vụ thủ công trong những thập kỷ trước đây được thay bằng tự động hóa. Điều này đã dẫn đến một sự hợp lý hóa lực lượng lao động, với nhân sự có kỹ năng thực hiện các chức năng có giá trị cao hơn. Một lần nữa APAC dẫn đầu khu vực trong đầu tư vào các dự án có liên quan đến công nghệ AI.

Cơ hội

Rất nhiều CEO đều công nhận rằng AI có tiềm năng thay đổi hoàn toàn cách thức hoạt động của tổ chức. Để nắm bắt được cơ hội mà AI mang lại các DN cần hình dung lại mô hình kinh doanh của mình và phương thức hoạt động. DN không thể cứ ứng dụng AI vào một quy trình hiện tại để tự động hóa nó hoặc thêm thông tin chi tiết. Cách tiếp cận sử dụng AI qua các chức năng có trong danh sách ứng dụng cụ thể sẽ không đem lại thay đổi bởi vì nó phụ thuộc vào quy trình hoạt động DN. 

Và cách tiếp cận đó cũng làm cho việc ứng dụng AI mở rộng quy mô, tăng thêm module lập trình liên quan đến dữ liệu đầu vào, dữ liệu đào tạo, dữ liệu thay đổi, dữ liệu quản lý đối tác và dữ liệu công nghệ. Điều đó không có nghĩa là DN nên thay đổi toàn bộ tổ chức khi ứng dụng AI cùng một lúc. Một sự thay đổi hoàn toàn là một quá trình cực kỳ phức tạp liên quan đến quá nhiều nhiều bộ phận và các bên liên quan. Thay đổi trong toàn bộ quy trình hoặc chức năng cốt lõi được gọi là miền quản lý sẽ dẫn đến cải tiến lớn về hiệu suất.

Không những thế, tập hợp một nhóm nhân tài phù hợp với các trường hợp cần giải quyết ba sự cân bằng lý tưởng để nắm bắt cơ hội AI và bắt đầu các nỗ lực AI. Những nhân sự trong ba hình tròn sẽ tạo thành bộ ba bổ sung về AI, CNTT và chuyên môn về miền quản lý. Nhưng trong mỗi lĩnh vực chuyên môn, các nhân sự có kỹ năng sẽ là trung tâm để giải quyết các trường hợp được đề xuất (xem Hình 2).

Nó cũng sẽ cho phép mỗi sáng kiến AI sử dụng lại dữ liệu hoặc cải tiến khả năng của các loại dữ liệu liên quan. Cách tiếp cận này kích hoạt một chu kỳ thay đổi hữu cơ trong nhiều lĩnh vực và cuối cùng là xây dựng động lực cho việc sử dụng AI trong toàn bộ DN. Hơn nữa, cách tiếp cận này thúc đẩy tư duy về cải tiến liên tục trong lực lượng lao động, điều này rất quan trọng vì công nghệ AI đang phát triển nhanh chóng, yêu cầu các tổ chức nghĩ về chuyển đổi AI liên tục thay vì nỗ lực chuyển đổi một lần. Không những thế, khi mô tả các trường hợp sử dụng AI càng rõ ràng càng tốt, đặc biệt khi nói đến các kỹ thuật AI, các đề xuất giá trị cần phải được trình bày rõ ràng nhất có thể. Một framework đề xuất giá trị như thể hiện trong Hình 3 có thể là một công cụ mạnh để các CIO đánh giá một cách minh bạch kết quả kinh doanh và các rào cản tiềm ẩn.

Cuối cùng, DN nào không thể tận dụng hết khả năng và cơ hội do AI mang lại sẽ bị gạt sang một bên, ví dụ như nhiều DN sản xuất ô tô và DN dịch vụ tài chính. Tin tốt là nhiều DN có số liệu phân tích hạn chế khả năng đã bắt đầu phát triển các kỹ năng cần thiết để nắm bắt các cơ hội AI, vì cuộc khủng hoảng COVID-19 đã buộc họ thay đổi cách họ kinh doanh gần như chỉ sau một đêm.

Thách thức

Thách thức ở đây là việc tự động hóa các quy trình làm việc bằng phương tiện AI đã làm tỷ lệ thất nghiệp tăng lên. Bởi vì AI giúp tự động hóa và xử lý các vấn để phức tạp và sáng tạo trong công việc nhờ áp dụng các thuật toán ML đã được tối ưu. AI sẽ dần thay thế công việc của con người ở những công việc có tính phức tạp và sáng tạo. Không những thế, chuyện gì xảy ra khi ML và các chương trình máy tính cập nhật thông tin mới và sau đó thay đổi cách chúng đưa ra quyết định, dẫn đến có sự thiên vị trong các khoản đầu tư, trong các khoản cho thuê hoặc cho vay hay trong tai nạn ô tô?

Thuật toán trong AI không phải lúc nào cũng hoạt động trơn tru và không phải lúc nào AI cũng đưa ra được lựa chọn có đạo đức và chính xác. Có ba lý do cơ bản là:

Thứ nhất, các thuật toán ML thường dựa vào xác suất. Nên khi các thuật toán trong AI đưa ra rất nhiều dự đoán thì có thể một trong số dự đoán đó sẽ sai. Khả năng xảy ra lỗi phụ thuộc vào rất nhiều yếu tố, bao gồm số lượng và chất lượng của dữ liệu được sử dụng để đào tạo các thuật toán ML, phương pháp ML được chọn (ví dụ: học sâu, sử dụng các mô hình toán học phức tạp, cây phân loại dựa trên các quy tắc quyết định) và hệ thống sử dụng các thuật toán. Khả năng xảy ra lỗi có thể không cho phép tối ưu hóa độ chính xác.

Thứ hai, môi trường mà ML hoạt động tự nó có thể phát triển hoặc phát triển các thuật toán khác. Mặc dù các khả năng này có thể xảy ra thì một trong số đó thường gặp nhất là bị mất khái niệm và dịch chuyển đồng biến. Theo thời gian, mối quan hệ giữa các đầu vào mà hệ thống sử dụng không ổn định hoặc không xác định. Ví dụ khi xem xét một thuật toán ML sử dụng trong giao dịch chứng khoán. 

Nếu ML đã được đào tạo chỉ sử dụng dữ liệu trong thời kỳ thị trường ít biến động và tăng trưởng kinh tế cao, thuật toán ML có thể không hoạt động tốt khi nền kinh tế bước vào suy thoái hoặc khủng hoảng ví dụ như trong cuộc khủng hoảng từ đại dịch COVID-19. Khi thị trường thay đổi, mối quan hệ giữa các yếu tố đầu vào và đầu ra (ví dụ như giữa đòn bẩy lâu năm của một DN và lợi nhuận cổ phiếu của DN đó) cũng có thể thay đổi. Sự sai lệch tương tự có thể xảy ra ở mô hình tính điểm tín dụng tại các thời điểm khác nhau trong chu kỳ kinh doanh.

Trong y học, khi một hệ thống chẩn đoán dựa trên ML sử dụng hình ảnh màu da làm đầu vào trong việc phát hiện ung thư da có thể chẩn đoán không chính xác là bởi vì mối quan hệ giữa màu sắc của da có thể thay đổi theo chủng tộc hoặc tiếp xúc với ánh nắng mặt trời. Quyết định chẩn đoán sai này là do thông tin để các thuật toán ML tự học là không chính xác và không đầy đủ. Thông tin như vậy thậm chí không có sẵn trong hồ sơ sức khỏe điện tử được sử dụng để đào tạo mô hình ML, trong quá trình sử dụng khác với dữ liệu mà AI được đào tạo.

Thứ ba, là các quyết định của ML làm tăng tính phức tạp của hệ thống. Khi xem xét một thiết bị dùng để chẩn đoán bệnh qua hình ảnh. Chất lượng thiết bị phụ thuộc vào: thứ nhất là độ nét của hình ảnh, thứ hai là thuật toán ML được thiết bị sử dụng, thứ ba là dữ liệu mà thuật toán đó đào tạo cho ML. Với rất nhiều thông số, rất khó để đánh giá liệu và tại sao một thiết bị như vậy có thể phạm sai lầm. Các quyết định thiếu chính xác không phải là rủi ro duy nhất mà AI có thể tạo ra.

Rủi ro AI

Sự không hoàn hảo của công nghệ ML làm dấy lên một thách thức khác: Rủi ro bắt nguồn từ những thứ không đúng sự kiểm soát của DN hay tổ chức. Vì ML thường được nhúng vào hệ thống phức tạp, nó sẽ không phân tích rõ ràng nhà phát triển thuật toán, người triển khai hệ thống hay đối tác chịu trách nhiệm về một lỗi và liệu thuật toán có sự cố, với một số dữ liệu được người dùng cung cấp cho nó hoặc với dữ liệu được sử dụng để đào tạo nó, có thể đến từ nhiều bên thứ ba cung cấp. Sự thay đổi môi trường và bản chất mạnh mẽ của công nghệ ML khiến việc quy trách nhiệm cho một tác nhân cụ thể càng khó hơn. 

Trên thực tế, tai nạn hoặc các quyết định trái pháp luật có thể xảy ra ngay cả khi không có sơ suất gì. Vì đơn giản là luôn có khả năng xảy ra quyết định không chính xác. Các giám đốc điều hành cần biết khi nào công ty của họ có khả năng phải đối mặt với trách nhiệm pháp lý hiện hành do ứng dụng công nghệ AI gây ra.

Các sản phẩm và dịch vụ tự đưa ra quyết định cũng sẽ cần giải quyết các tình huống khó xử về đạo đức. DN cần cân bằng giữa quyền riêng tư, sự công bằng, độ chính xác và bảo mật? Có thể tránh được tất cả các loại rủi ro không? Rủi ro đạo đức bao gồm các thành kiến liên quan đến nhân khẩu học các nhóm. Ví dụ: các thuật toán nhận dạng khuôn mặt có một thời gian rất khó để xác định người da màu. Khi sử dụng AI trong thương mại, hệ thống ML có thể được coi là không công bằng đối với một nhóm nhất định ở một khía cạnh nào đó. Cuối cùng, tất cả các vấn đề này cũng có thể do mô hình gây ra không ổn định. Đây là tình huống mà các đầu vào gần nhau dẫn đến những quyết định khác xa nhau.

Để có thể phòng chống rủi ro AI, DN cần áp dụng framework quản lý rủi ro của Gartner (Hình 4) mô tả vấn đề bảo vệ các hệ thống và giải pháp dựa trên AI, với sự tập trung vào MLe và những thách thức liên quan đến bảo mật, tính toàn vẹn và tính khả dụng ở mỗi giai đoạn. Nó cũng mô tả một số thách thức của các hệ thống AI bao gồm thiên vị, đạo đức và khả năng giải thích. Một số phương thức tấn công khác và thiệt hại từ các cuộc tấn công trong thế giới thực.

Tổ chức cần lập các đội chức năng chéo, đảm bảo họ quan tâm tới AI, những người tuân thủ pháp luật, tuân thủ các nguyên tắc về dữ liệu và phân tích dữ liệu, bảo mật và quyền riêng tư, để:

1. Nắm bắt lỗ hổng của AI, đảm bảo có sự giải thích phù hợp khi rủi ro xảy ra.

2. Nhận thức của nhân viên về AI thông qua chương trình giáo dục rủi ro AI.

3. Dữ liệu AI nội bộ cần phải được bảo mật và được chia sẻ bằng chương trình bảo vệ dữ liệu.

4. Hỗ trợ độ tin cậy và bảo mật kết hợp quản lý rủi ro trong các mô hình AI hoạt động.

5. Áp dụng các biện pháp bảo mật AI cụ thể chống lại các cuộc tấn công mạng.

DN có nên cho phép các sản phẩm và các dịch vụ thông minh của họ phát triển một cách tự chủ hay là nên “khóa” các thuật toán và cập nhật chúng theo định kỳ? Nếu các công ty chọn “khóa” các thuật toán và cập nhật chúng theo định kỳ thì khi nào khóa và tần suất thực hiện cập nhật là bao nhiêu? DN nên đánh giá và giảm thiểu rủi ro đó. Rủi ro cũng có thể xảy ra ngay cả khi các mẫu thuật toán đã học ổn định và không có sự thay đổi khái niệm. Ví dụ, phát triển hệ thống thiết bị y tế trong bệnh viện dựa trên ML, thiết bị ở trong bệnh viện đã sử dụng dữ liệu của các bệnh viện lớn. Nhưng khi sử dụng thiết bị ở bên ngoài thị trường, dữ liệu y tế được cung cấp bởi các nhà cung cấp dịch vụ chăm sóc ở vùng nông thôn mà dữ liệu đó có thể không giống với dữ liệu đang phát triển. Với sự đa dạng và tốc độ thay đổi của thị trường, ngày càng trở nên khó lường trước những gì sẽ xảy ra trong môi trường mà AI hoạt động trong đó, và không có lượng dữ liệu nào có thể nắm bắt tất cả các sắc thái xảy ra trong thế giới thực.

Các chương trình máy tính cập nhật thông tin mới và sau đó thay đổi cách chúng đưa ra quyết định, làm thiên vị trong đầu tư, trong cho thuê hoặc cho vay, gây ra tai nạn ô tô.

Quản lý rủi ro AI rất khó nhưng không có nghĩa là trì hoãn. DN cần hợp tác và thiết lập mục tiêu các ngành nghề kinh doanh là điều kiện tiên quyết sau đó đưa ra các nhiệm vụ cụ thể như quản lý băng thông khi sử dụng AI. Tuy nhiên, nếu không tiến triển rủi ro AI thậm chí còn nguy hiểm hơn.

Nếu các nhà lãnh đạo quyết định sử dụng ML, câu hỏi tiếp theo là: Công ty có nên cho phép nó liên tục phát triển hay chỉ giới thiệu các phiên bản thử nghiệm và khóa nó trong một khoảng thời gian? Liệu lựa chọn thứ hai có giảm thiểu rủi ro? Khóa không thay đổi thực tế là các thuật toán ML thường dựa trên các quyết định mang tính xác suất. Hơn nữa, đầu vào nhiều dữ liệu hơn thường dẫn đến hiệu suất tốt hơn. Mức độ cải tiến có thể khác nhau. Cải tiến các thuật toán lớn hay nhỏ trong hệ thống phụ thuộc vào khối lượng dữ liệu khác nhau. 

Các quyết định có thể thay đổi khi một thuật toán được mở khóa. Sự thay đổi môi trường cũng quan trọng vì hệ thống đưa ra quyết định đang phát triển phụ thuộc vào môi trường. Ví dụ: ô tô tự lái hoạt động trong môi trường xung quanh liên tục bị thay đổi vì hành vi của các trình điều khiển khác. Hệ thống định giá, chấm điểm tín dụng và giao dịch có thể phải đối mặt với một thị trường thay đổi khi DN bước sang một giai đoạn mới. Thách thức là đảm bảo rằng hệ thống ML và hệ số môi trường tham gia, giúp hệ thống đưa ra quyết định phù hợp. Khóa một thuật toán không loại bỏ sự phức tạp của hệ thống mà nó được nhúng vào. Lỗi do sử dụng dữ liệu từ các nhà cung cấp bên thứ ba để đào tạo thuật toán hoặc lỗi do sự khác biệt về kỹ năng người dùng có thể xảy ra. Trách nhiệm pháp lý vẫn có thể được phân bổ giữa các nhà cung cấp dữ liệu, người phát triển thuật toán, người triển khai và người dùng.

Có được mô hình rõ ràng AI là bước đầu tiên tổ chức cần thực hiện để quản lý rủi ro. Quản lý rủi ro AI đặt ra các yêu cầu mới. Các điều khiển thông thường không đủ đảm bảo an ninh và độ tin cậy.

Quyền riêng tư và bảo mật dữ liệu được xem là một rào cản chính đối với các dự án AI. Để quản lý rủi ro của AI, các nhà quản lý DN nên phát triển các quy trình thích hợp, ban lãnh đạo và hội đồng quản trị có các quyết định sáng suốt, đặt câu hỏi phù hợp và áp dụng các tiêu chuẩn chính xác, phù hợp là các bước quan trọng. Đối xử với ML như con người. Giám đốc điều hành cần nghĩ về ML như một thực thể sống, không phải là một công nghệ mạnh nhất, cũng như kiểm tra nhận thức của nhân viên để đảm bảo không tiết lộ cách AI làm khi được thêm vào ứng dụng kinh doanh. 

Thử nghiệm các hệ thống ML trong phòng thí nghiệm khi không thể dự đoán được hiệu suất. Giám đốc điều hành nên yêu cầu phân tích đầy đủ về cách thức nhân viên, khách hàng, hoặc những người dùng áp dụng hệ thống này và các phản ứng với các quyết định từ AI. Ngay cả khi các cơ quan quản lý không yêu cầu thì DN khi muốn đưa các sản phẩm dựa trên ML vào các thử nghiệm cần có hướng dẫn và kiểm soát để đảm bảo an toàn, hiệu quả và công bằng trước khi triển khai. 

DN cần phân tích các quyết định về sản phẩm AI trên thị trường thực tế, nơi có nhiều người dùng khác nhau, để xem xét chất lượng của các quyết định đó. Ngoài ra, cần so sánh chất lượng của các quyết định của các thuật toán trong các tình huống tương tự với khi không sử dụng chúng. Trước khi triển khai các sản phẩm trên quy mô lớn cần cẩn thận loại bỏ sản phẩm chưa qua thử nghiệm. DN nên xem xét thử nghiệm chúng ở thị trường hạn chế để hiểu rõ hơn về độ chính xác của chúng và hành vi khi có nhiều yếu tố khác nhau, như khi người dùng không có chuyên môn như nhau, dữ liệu từ các nguồn khác nhau, hoặc môi trường thay đổi. Thất bại trong cài đặt báo hiệu cần phải cải thiện hoặc gỡ bỏ các thuật toán ML.

DN nên phát triển các kế hoạch để có chứng nhận kiểm thử các sản phẩm AI trước khi đưa ra thị trường. Các công ty có thể cần phát triển một framework tương tự của riêng mình. Giám sát liên tục (sản phẩm và dịch vụ và môi trường) dựa trên ML, khi đó DN có thể thấy rằng công nghệ của họ không như thiết kế ban đầu. Thiết lập các cách để kiểm tra xem các công nghệ này hoạt động trong một giới hạn thích hợp, phù hợp với tiêu chuẩn và các quy định của pháp luật đã ban hành. Thường xuyên giám sát, đo lường và kiểm tra các chương trình có các công cụ bảo trì phòng ngừa rủi ro trong sản xuất hay trong lĩnh vực an ninh mạng. Ví dụ như các công ty có thể tiến hành các cuộc tấn công thử vào hệ thống AI xem sức mạnh phòng thủ của hệ thống CNTT trong DN thế nào.

Hình 5 cho thấy các mối đe dọa và biện pháp bảo mật mới. Các mối đe dọa và các hình thức tấn công này có thể ít kịch tính nhưng nghiêm trọng đối với DN.

Kết luận

AI đang đi đầu trong mục tiêu thay đổi nhanh trong chiến lược chuyển đổi số của các DN. Thế nhưng thay đổi càng nhanh thì không phải là không có rủi ro. Cách AI có thể được sử dụng để tăng cường quyết định tiếp tục mở rộng. Các ứng dụng AI mới sẽ ngày được tạo ra nhiều hơn, đem lại thay đổi cơ bản nhưng đôi khi cũng gặp những thách thức và khó khăn không nhỏ trong quy trình công việc. Cuối cùng, DN nào triển khai AI cho phép con người và ML làm việc cùng nhau sẽ có lợi thế hơn so với DN chỉ có con người hoặc máy móc tự làm.

Tài liệu tham khảo:

1. 5 Steps to Practically Implement AI Techniques Analyst(s) by rick Brethenoux, Frances Karamouzis, Published: 25 April 2019 ID: G00383797, Refreshed: 6 August 2020

2. Grokking Artificial Intelligence Algorithms by Rishal Hurbans ISBN: 9781617296185 ©2020 by Manning Publications Co. Printed in the United States of America.

3. Bayesian Artificial Intelligence by Kevin B. Korb Ann E. Nicholson © 2011 by Taylor and Francis Group, LLC, Printed in the United States of America on acid-free paper.

4. AI Governance Spotlight: Early Lessons and Next Practices by Svetlana Sicular, Van Baker, Published 8 April 2019 - ID G00383983.

5. Debunking Myths and Misconceptions About Artificial Intelligence 2021 by Saniye Alaybeyi, Pieter den Hamer, Published 10 September 2020 - ID G00724462.

6. Machine Learning for Business USING AMAZON SAGEMAKER AND JUPYTER by DOUG HUDGEON AND RICHARD NICHOL, ©2020 by Manning Publications Co, ISBN: 9781617295836 Printed in the United States of America.

7. How to Get Started, and Grow, With AI Enhancements in CRM by Jeffery Skowron, Published: 23 February 2018 ID: G00344289

(Bài viết đăng ấn phẩm in Tạp chí TT&TT số 6 tháng 6 năm 2021)