Chuyển động ICT

Cần làm gì khi sử dụng công cụ AI cho nhu cầu của tổ chức?

Tuấn Trần 17:29 10/06/2023

Ngay từ đầu, làm đúng là hiểu cách trí tuệ nhân tạo (AI) có thể trao quyền cho tổ chức của bạn phát triển vào năm 2023.

Kể từ khi ChatGPT được công bố vào cuối năm 2022, Internet đã trở nên huyên náo với sự bi quan và cả lạc quan. Yêu hay ghét thì AI cũng sẽ đến với tổ chức của bạn. Ngay cả khi bạn không có kế hoạch phát triển một sản phẩm AI hoặc thuê AI bot (một ứng dụng phần mềm tự động thực hiện các tác vụ lặp đi lặp lại qua mạng) để viết mã, thì nó vẫn có thể được tích hợp vào các công cụ và nền tảng được sử dụng để xây dựng, thử nghiệm và chạy mã nguồn thủ công.

6-ai-implementation-challenges-and-how-to-overcome-them-1.jpg
Các công cụ AI mang lại những lợi ích to lớn về năng suất từ tự động hóa các nhiệm vụ từng đòi hỏi não bộ của con người phải làm việc.

Nên đặt ra những câu hỏi

Dù các công cụ AI có thể sẽ mang lại những rủi ro nhưng nó cũng lại có khả năng mang lại những lợi ích to lớn về năng suất từ việc tự động hóa các nhiệm vụ từng đòi hỏi não bộ của con người phải làm việc.

Những rủi ro có thể sảy ra bắt nguồn từ cách AI được đào tạo, xây dựng, lưu trữ và sử dụng - tất cả đều khác với các công cụ phần mềm khác hiện được các nhà phát triển sử dụng. Hiểu rủi ro là bước đầu tiên trong việc quản lý rủi ro và để giúp bạn hiểu những rủi ro tiềm ẩn liên quan đến công cụ AI sắp tới. 

Và để hiểu được những rủi ro này, theo các chuyên gia, chúng ta nên đặt ra một số câu hỏi có liên quan như:

Chúng sẽ được lưu trữ ở đâu? Các AI hiện đại hiện yêu cầu phần cứng chuyên dụng và đắt tiền để thực hiện các tác vụ đáng kinh ngạc mà chúng ta đang thấy ngày nay. Trừ khi bạn chuẩn bị mua một trung tâm dữ liệu (TTDL) hoàn toàn mới, nếu không AI bot của bạn sẽ hoạt động từ xa và yêu cầu các cân nhắc về bảo mật giống như nhân viên làm việc từ xa sử dụng quyền truy cập từ xa và lưu trữ dữ liệu ngoại vi.

Loại biện pháp bảo vệ nào được áp dụng để ngăn ngừa việc mất IP khi mã ở ngoài ranh giới? Mọi thứ từ tivi thông minh đến ô tô đều báo cáo dữ liệu sử dụng cho nhà sản xuất. Một số đang sử dụng dữ liệu đó để cải thiện, sửa lỗi phần mềm, nhưng lại xảy ra trường hợp dữ liệu này có thể được bán cho các nhà quảng cáo. Hiểu chính xác cách công cụ AI sử dụng hoặc xử lý mã nguồn hoặc dữ liệu riêng tư khác mà công cụ này sử dụng là điều cần thiết.

Dữ liệu đầu vào có được sử dụng trong quá trình đào tạo AI trong tương lai không? Việc đào tạo liên tục các mô hình AI sẽ là một lĩnh vực ngày càng được quan tâm đối với cả chủ sở hữu và những người có dữ liệu được sử dụng để đào tạo mô hình. Ví dụ: chủ sở hữu có thể muốn ngăn các nhà quảng cáo thiên vị AI bot theo hướng có lợi cho khách hàng của họ. Các nghệ sĩ chia sẻ tác phẩm trực tuyến đã có các bot tạo hình ảnh AI sao chép phong cách của họ và rất lo ngại về việc mất hoặc đánh cắp danh tính người sáng tạo.

Độ trung thực của kết quả là gì? Hạn chế được nhắc đến nhiều nhất của ChatGPT là kết quả không chính xác - nó sẽ tự tin khẳng định những điều sai trái là sự thật. Điều này được gọi là “ảo giác” của AI. Hiểu cách thức và vị trí AI có thể bị ảo giác sẽ có thể giúp quản lý AI khi xảy ra vấn đề này.

Ngoài ra, chủ sở hữu và nhà phát triển AI sẽ có nhiều lo ngại về bảo mật. Những lo ngại mới này bao gồm các mối đe dọa đối với mô hình đào tạo của AI có thể làm hỏng kết quả hoặc tiết lộ thông tin độc quyền về cách thức hoạt động của mô hình. Ngoài ra, mô hình AI sẽ phải giao tiếp với API (cơ chế cho phép 2 thành phần phần mềm giao tiếp với nhau bằng một tập hợp các định nghĩa và giao thức), web, thiết bị di động và các ứng dụng khác cần được xây dựng một cách an toàn.

Hiểu ưu và nhược điểm của AI là chìa khóa

Các nhà phát triển sẽ phải đặt ra các câu hỏi cụ thể khi sử dụng công cụ AI, chẳng hạn như máy quét bảo mật AI để quản lý các rủi ro được đưa ra trong quá trình phát triển phần mềm.

Công cụ AI có phù hợp nhất cho trường hợp sử dụng này không? Hiểu ưu và nhược điểm của AI là chìa khóa. Nhiệm vụ có thể được chia nhỏ thành “đưa ra quyết định theo các quy tắc đã học” hoặc “viết nội dung tuân theo các quy tắc đã học”, thì AI sẽ càng làm tốt công việc đó.

Những biện pháp bảo vệ nào được áp dụng nếu công cụ không nắm bắt được thứ gì đó hoặc gây ảo giác? Đừng bao giờ đưa một nội dung sai sót nào vào các quy trình, đặc biệt là nội dung có thể gây ảo giác. Dựa vào các phương pháp phòng thủ chuyên sâu truyền thống hoặc mô hình quản lý rủi ro “phô mai Thụy Sĩ”, trong đó ngay cả khi một lớp bỏ sót vấn đề, lớp tiếp theo sẽ nắm bắt được vấn đề đã bị bỏ sót.

Cần có sự giám sát nào để kiểm tra kết quả của công cụ? Đây là vấn đề cũ nhưng được làm mới: hướng dẫn ghi nhật ký truyền thống được chia thành hai phần. Đầu tiên là thu thập dữ liệu về các sự kiện quan trọng, và thứ hai là kiểm tra nhật ký. Cho đến khi AI trưởng thành hơn nữa và những nhược điểm của nó được hiểu hoặc giảm thiểu, sẽ cần được con người lưu ý.

“Thuê” ChatGPT viết mã nguồn

Ngày càng có nhiều nhà phát triển “thuê” ChatGPT viết mã nguồn. Các báo cáo ban đầu cho thấy ChatGPT có khả năng viết mã nguồn bằng nhiều ngôn ngữ lập trình và thông thạo tất cả các ngôn ngữ phổ biến và được thảo luận công khai.

Nhưng do những hạn chế trong quá trình đào tạo và mô hình của phiên bản beta này, mã mà nó tạo ra không phải lúc nào cũng hoàn hảo. Thông thường, nó chứa các lỗi logic nghiệp vụ có thể thay đổi cách thức hoạt động của phần mềm, các lỗi cú pháp có thể kết hợp các phiên bản phần mềm khác nhau và các sự cố khác có nguồn gốc từ con người. Nói cách khác, ChatGPT là một nhà phát triển cơ sở. Khi sử dụng mã được viết bởi nhà phát triển cơ sở này, cần phải suy nghĩ về cách quản lý mã.

Ai sẽ là người quản lý và đảm bảo mã hoạt động, được tối ưu hóa, chất lượng cao và đạt tiêu chuẩn bảo mật? Các nhà phát triển cơ sở cần các nhà phát triển cao cấp. Mỗi dòng mã sẽ phải được kiểm tra và một số sẽ phải được sửa. Tuy nhiên, các báo cáo ban đầu cho thấy quá trình hiệu đính này nhanh hơn và dễ dàng hơn so với việc viết mã từ đầu.

Có phải ChatGPT đang tiêm nhiễm hoặc phối lại mã đào tạo vào cơ sở mã của bạn không? Mối đe dọa ngấm ngầm hơn là đôi khi các bot AI như GitHub Copilot tạo ra mã nguồn sao chép hoàn hảo các khối mã từ dữ liệu đào tạo của nó. Các công cụ chống đạo văn sẽ cần thiết để đảm bảo quản lý rủi ro về bản quyền.

Bot lấy dữ liệu đào tạo ở đâu? Một mô hình AI sẽ chỉ tốt khi dữ liệu của nó được đào tạo. Nếu bot được đào tạo trên mã cũ hoặc mã không chính xác, nó sẽ tạo ra kết quả cũ và không chính xác.

Lưu trữ ở đâu? Một lần nữa, AI bot phân tích mã nguồn, như vậy cần phải mang mã nguồn đến cơ sở xử lý của nó. Hãy suy nghĩ thêm về cách dữ liệu được bảo mật, sử dụng và xử lý sau khi dữ liệu rời khỏi ranh giới của công ty bạn.

Việc công bố ChatGPT vào tháng 12/2022 báo trước một thời đại mới trong ngành phát triển phần mềm, nhưng chúng ta cần phải hiểu đúng cách AI có thể trao quyền cho tổ chức để có thể khai thác, sử dụng AI cho công việc một cách hiệu quả./.

Bài liên quan
  • G7 kêu gọi xây dựng tiêu chuẩn kỹ thuật toàn cầu cho AI
    Các nhà lãnh đạo của Nhóm 7 quốc gia (G7) đã kêu gọi phát triển và áp dụng các tiêu chuẩn kỹ thuật để đảm bảo trí tuệ nhân tạo (AI) "tin cậy", đồng thời cho rằng việc quản lý công nghệ này đã không theo kịp tốc độ phát triển của nó.
Nổi bật Tạp chí Thông tin & Truyền thông
Đừng bỏ lỡ
  • Bốn giải pháp trọng tâm để giải bài toán an toàn dữ liệu quốc gia
    Theo Thứ trưởng Bộ TT&TT Bùi Hoàng Phương, năm 2024 đánh dấu bước tiến vượt bậc của Việt Nam trong lĩnh vực an toàn thông tin. Tuy nhiên, còn rất nhiều thách thức cần vượt qua để đảm bảo an toàn dữ liệu quốc gia.
  • Việt Nam tăng cường hợp tác phát triển công nghệ số với Burundi và NIPA
    Trong khuôn khổ sự kiện Tuần lễ Số quốc tế 2024, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng đã tiếp và làm việc với Bộ trưởng Bộ Truyền thông, Công nghệ Thông tin và Đa phương tiện Burundi Léocadie Ndacayisaba và ông Hur Sung Wook, Chủ tịch Cục Xúc tiến Công nghiệp CNTT quốc gia Hàn Quốc (NIPA).
  • Chính thức ra mắt Nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin
    Nền tảng hướng tới nâng cao chất lượng và điều phối hiệu quả các hoạt động diễn tập trên toàn quốc thông qua nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin.
  • Chuyển đổi số thành công không thể thiếu “niềm tin số”
    Muốn triển khai hiệu quả chiến lược số hóa quốc gia cần triển khai theo hướng tiếp cận từ trên xuống dưới và phải phù hợp với thực tế, đảm bảo có tầm nhìn rộng trong tương lai.
  • Việt Nam - Hàn Quốc đồng hành trong kỷ nguyên AI
    Thứ trưởng Bộ TT&TT Phan Tâm hy vọng, Việt Nam có thể học tập nhiều hơn từ Hàn Quốc về các bài học kinh nghiệm, cách làm hay để phát huy tối đa vai trò công nghệ số nói chung và trợ lý ảo nói riêng trong hoạt động của cơ quan nhà nước, thúc đẩy phát triển kinh tế, tạo lập xã hội số nhân văn và thu hẹp khoảng cách số.
  • Robot Delta hữu dụng trong nhiều ngành
    Nhờ vào thiết kế độc đáo và khả năng hoạt động với tốc độ và độ chính xác cao, robot Delta là một giải pháp tối ưu trong nhiều ngành công nghiệp hiện đại.
  • Cà Mau ứng dụng các phần mềm chuyển đổi số trong ngành nông nghiệp
    Ngành nông nghiệp tỉnh Cà Mau đã không ngừng triển khai các giải pháp chuyển đổi số thông qua việc sử dụng các phần mềm, xây dựng cơ sở dữ liệu chuyên ngành phục vụ quản lý, điều hành. Trong tương lai không xa, các phần mềm này sẽ hoàn thiện và bắt kịp xu hướng công nghệ để hỗ trợ người nông dân nhiều hơn trong việc tăng gia sản xuất.
  • Bảo vệ các hệ thống mạng trọng yếu là cấp thiết
    Song song với tiến trình chuyển đổi số, các chiến dịch tấn công mạng, gián điệp và khủng bố mạng nhằm vào hệ thống công nghệ thông tin (IT) và công nghệ vận hành (OT) trọng yếu ngày càng gia tăng, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu của các quốc gia.
  • ‏OPPO Find X8 Series sẽ chính thức lên kệ ngày 7/12‏
    Ngày 21/11, OPPO chính thức ra mắt Find X8 Series‏‏ tại Việt Nam và sẽ lên kệ ngày 7/12 tới. Đây là lần đầu tiên người dùng Việt Nam được trải nghiệm dòng flagship cao cấp nhất của OPPO cùng lúc với toàn cầu. ‏
  • Chuyển đổi số từ thực tiễn Báo Hải Dương
    Báo Hải Dương có nhiều thuận lợi khi thực hiện chuyển đổi số. Đó là Ban Biên tập có quyết tâm cao. Đội ngũ cán bộ, phóng viên, nhân viên của báo nhanh nhạy với cái mới, ham học hỏi...
Cần làm gì khi sử dụng công cụ AI cho nhu cầu của tổ chức?
POWERED BY ONECMS - A PRODUCT OF NEKO