AI trong chăm sóc sức khỏe: những lo ngại về bảo mật

Đại dịch COVID-19 đã dẫn đến khủng hoảng sức khỏe tâm thần, chi phí CSSK tăng và dân số già đi. Các lãnh đạo ngành đang gấp rút phát triển các ứng dụng AI dành riêng cho CSCK. Một tín hiệu đến từ thị trường đầu tư mạo hiểm: hơn 40 công ty khởi nghiệp đã huy động được những nguồn vốn đáng kể - 20 triệu USD trở lên - để xây dựng các giải pháp AI cho ngành. Nhưng làm thế nào để AI thực sự được đưa vào sử dụng trong CSSK?

Khảo sát "AI trong CSSK năm 2022" (2022 AI in Healthcare Survey Report) do Gradient Flow thực hiện đã phỏng vấn hơn 300 người trả lời từ khắp nơi trên thế giới để hiểu rõ hơn về những thách thức, kết quả và các trường hợp sử dụng AI trong CSSK. 

Trong lần khảo sát thứ 2 này, kết quả không thay đổi đáng kể so với lần đầu, nhưng chúng chỉ ra một số xu hướng thú vị, báo trước cách AI trong CSSK sẽ phát triển trong những năm tới. Trong khi một phần của sự tiến hóa này là tích cực (sự dân chủ hóa của AI) thì các khía cạnh khác lại ít hứng thú hơn (bị tấn công nhiều hơn). Dưới đây là 3 xu hướng mà chúng ta cần biết.

Dễ dùng và dân chủ hóa AI với các công cụ không mã

Gartner ước tính đến năm 2025, 70% ứng dụng mới do doanh nghiệp (DN) phát triển sẽ sử dụng công nghệ no-code (không cần lập trình/không viết mã lệnh) và low-code (lập trình tối thiểu/ít mã lệnh) tăng từ mức dưới 25% vào năm 2020. Trong khi "low-code" có khả năng đơn giản hóa khối lượng công việc cho các lập trình viên, các giải pháp "no-code" không cần can thiệp của khoa học dữ liệu, sẽ có tác động lớn nhất đến DN và hơn thế nữa. Đó là lý do tại sao thật thú vị khi thấy sự thay đổi rõ ràng trong việc sử dụng AI từ các chức danh kỹ thuật đến chính các chuyên gia tên miền.

Đối với lĩnh vực CSSK, hơn một nửa (61%) số người được hỏi trong khảo sát "2022 AI in Healthcare" đã xác định, các bác sĩ lâm sàng là người dùng mục tiêu của họ, tiếp theo là những người trả tiền để được CSSK (45%) và các công ty CNTT trong lĩnh vực y tế (38%). Cùng với sự phát triển và đầu tư đáng kể vào các ứng dụng AI dành riêng cho CSSK và sự sẵn sàng của các công nghệ nguồn mở, là dấu hiệu cho thấy ngành công nghiệp AI đang được áp dụng rộng rãi hơn.

Điều này rất quan trọng: đặt mã vào tay nhân viên y tế theo cách như chúng ta vẫn sử dụng các công cụ văn phòng thông thường như Excel hoặc Photoshop, sẽ thay đổi AI tốt hơn. Ngoài việc làm cho công nghệ dễ tiếp cận hơn, nó cũng cho kết quả chính xác và đáng tin cậy hơn, vì một chuyên gia y tế - không phải là chuyên gia phần mềm. Những thay đổi này không diễn ra trong một sớm một chiều, nhưng sự gia tăng các chuyên gia với tư cách là người dùng chính của AI đang là một bước tiến lớn.

Công cụ và tiện ích ngày càng tinh vi

Những phát hiện đáng khích lệ khác liên quan đến những tiến bộ trong các công cụ AI và mong muốn người dùng đi sâu vào các mô hình cụ thể. Cũng liên quan đến khảo sát "2022 AI in Healthcare", khi được hỏi họ dự định đầu tư vào những công nghệ nào trong năm 2022? các nhà lãnh đạo kỹ thuật đã cho biết: tích hợp dữ liệu (46%), BI - trí tuệ DN (44%), NLP - lập trình ngôn ngữ tư duy (43%) và giải thích dữ liệu (38%). 

Văn bản hiện là kiểu dữ liệu có nhiều khả năng được sử dụng nhất trong các ứng dụng AI và việc nhấn mạnh vào NLP và giải thích dữ liệu cho thấy sự phức tạp hơn khi phát triển các công nghệ AI.

Những công cụ này cho phép hỗ trợ các hoạt động quan trọng như quyết định lâm sàng, phát triển thuốc và đánh giá chính sách y tế... Sau 2 năm đại dịch, rõ ràng đã có những tiến bộ quan trọng trong những lĩnh vực này, khi các nhà khoa học phát triển vaccine mới và khám phá ra cách hỗ trợ tốt hơn nhu cầu CSSK của công chúng. Và bằng những ví dụ này, chúng ta có thể thấy rõ việc sử dụng AI trong ngành y tế rất khác so với các ngành khác, đòi hỏi một cách tiếp cận khác.

Do đó, không có gì ngạc nhiên khi các nhà lãnh đạo kỹ thuật đều cho biết, sự sẵn sàng của các mô hình và thuật toán dành riêng cho CSSK là yêu cầu quan trọng nhất.

Mối quan tâm về an ninh và an toàn

Với tất cả những tiến bộ về AI đã đạt được trong năm qua cũng mở ra một loạt các vectơ tấn công mới. Khi được hỏi: đang sử dụng loại phần mềm nào để xây dựng các ứng dụng AI. Câu trả lời, các lựa chọn phổ biến nhất là phần mềm thương mại được cài đặt cục bộ (37%) và phần mềm nguồn mở (35%). Đáng chú ý nhất là việc sử dụng các dịch vụ đám mây giảm 12% (30%) so với cuộc khảo sát năm ngoái, rất có thể là do những lo ngại về quyền riêng tư xung quanh việc chia sẻ dữ liệu.

Ngoài ra, phần lớn những người được hỏi (53%) đã chọn việc dựa vào dữ liệu của chính họ để xác thực các mô hình, thay vì dựa vào các chỉ số của bên thứ ba hoặc nhà cung cấp phần mềm. Những người trả lời từ các tổ chức đã có thương hiệu (68%) cho thấy sự ưa thích rõ ràng đối với việc sử dụng đánh giá nội bộ và tự điều chỉnh mô hình của họ. Một lần nữa, với các quy trình và kiểm soát nghiêm ngặt xung quanh việc xử lý dữ liệu CSSK là lý do tại sao người dùng AI muốn giữ các hoạt động trong nội bộ khi có thể.

Nhưng bất kể tùy chọn phần mềm hoặc cách người dùng xác định mô hình, các mối đe dọa bảo mật đang leo thang đối với các dịch vụ CSSK có khả năng gây ra tác động đáng kể. Trong khi các dịch vụ cơ sở hạ tầng quan trọng khác phải đối mặt với những thách thức, thì các vi phạm về CSSK còn có những ảnh hưởng lớn hơn cả tổn thất về danh tiếng và tài chính. Việc mất dữ liệu hoặc giả mạo các thiết bị của bệnh viện có thể là sự khác biệt giữa sự sống và cái chết.

AI đang sẵn sàng cho sự phát triển đáng kể hơn nữa khi các nhà phát triển và nhà đầu tư nỗ lực để đưa công nghệ này đến tay người dùng hàng ngày. Nhưng khi AI trở nên phổ biến hơn, và khi các mô hình và công cụ được cải thiện, bảo mật, an toàn và đạo đức sẽ chiếm vị trí trung tâm như một lĩnh vực quan trọng. Sẽ thú vị khi theo dõi xem AI trong CSSK phát triển như thế nào trong năm nay và ý nghĩa của nó đối với tương lai của ngành y tế./.

Tài liệu tham khảo:

[1]. https://gradientflow.com/2022aihealthsurvey

[2]. www.gartner.com/en/newsroom/press-releases/2021-02-15-gartner-forecasts-worldwide-low-code-development-technologies-market-to-grow-23-percent-in-2021

[3]. www.cio.com/article/401881/healthcare-ai-in-a-year-3-trends-to-watch