An toàn thông tin

Tạo niềm tin cho người dùng vào các sản phẩm AI tạo sinh

Hạnh Tâm 09:59 21/05/2024

Để tăng niềm tin của người dùng vào công nghệ AI tạo sinh cần giảm thiểu nội dung không chính xác hoặc gây hiểu lầm do các mô hình ngôn ngữ lớn tạo ra.

AI tạo sinh ngày càng trở nên phổ biến, làm thay đổi cách sống và làm việc của con người. Theo một nghiên cứu do công ty PwC thực hiện, AI có thể đóng góp tới 15,7 nghìn tỷ USD cho nền kinh tế toàn cầu vào năm 2030. Báo cáo của Forbes Advisor cho thấy 97% chủ doanh nghiệp tin rằng ChatGPT sẽ giúp ích cho hoạt động kinh doanh của họ.

a1.png

Tuy nhiên, người dùng cũng có những cảm nhận khác nhau về “cuộc cách mạng” AI tạo sinh. Ví dụ, chỉ 46% người Mỹ quan tâm và hào hứng với AI. Khi người dùng có sự nghi ngờ thì sẽ gây cản trở việc áp dụng AI. Để tăng niềm tin của người dùng vào công nghệ này cần một số cách để giảm thiểu nội dung không chính xác hoặc gây hiểu lầm do những mô hình ngôn ngữ lớn (LLM) tạo ra. Vậy những cách này là gì? Làm thế nào các công ty có thể tạo ra những sản phẩm mà người dùng không chỉ yêu thích mà còn tin tưởng?

Ảo giác

Các mô hình ngôn ngữ lớn (LLM) có thể đưa ra những câu trả lời có vẻ thuyết phục, nhưng thực tế, chúng không thể hiểu ý nghĩa của những câu trả lời đó được như con người. Các LLM được đào tạo thông qua lượng dữ liệu khổng lồ từ nhiều nguồn khác nhau nhưng chúng không thể tự thực hiện bất kỳ tra cứu hay tham khảo nào từ các nguồn thông tin bên ngoài những thứ được "đào tạo".

Điều này nghĩa là một LLM có thể đưa ra những đáp án lại không chính xác hoặc không có căn cứ so với bối cảnh đầu vào. Những câu trả lời như vậy được gọi là "ảo giác".

Ở một mức độ nào đó, "ảo giác" trong các LLM là điều không thể tránh khỏi. Tuy nhiên, con người vẫn cần các LLM có được những phản hồi đúng và phù hợp với thực tế.

Dù rằng, việc giải quyết những vấn đề như vậy trong các sản phẩm GenAI là một thách thức chưa có hồi kết. Tuy nhiên vẫn có nhiều cách để đảm bảo niềm tin cho người dùng trong khi vẫn khai thác tính sáng tạo và tiềm năng của AI.

Bổ sung nguồn thông tin thực tế

Cách giúp giảm thiểu "ảo giác" là đào tạo LLM bằng những kiến thức có cơ sở thực tế, đặt LLM vào bối những cảnh cụ thể. Đây gọi là quá trình Grounding.

Về mặt triển khai, tạo tăng cường truy xuất (Retrieval Augmented Generation – RAG) là cách phổ biến nhất được sử dụng hiện nay để grounding các LLM. Hiện nay, trên thị trường có sẵn rất nhiều giải pháp RAG sử dụng kho dữ liệu tùy chỉnh.

Grounding sẽ rất hữu ích cho việc đánh giá và xác thực chất lượng phản hồi của LLM. Đây cũng điều quan trọng trong thử nghiệm các ứng dụng AI tạo sinh trước khi triển khai . Trong trường hợp không có tập dữ liệu nền tảng thì sẽ không có cách nào để “so sánh” các phản hồi của LLM xem liệu chúng có dựa trên thực tế hay không. Vì vậy, việc lựa chọn RAG phù hợp và tập dữ liệu nền tảng phù hợp là rất quan trọng để cải thiện tính thực tế của ứng dụng GenAI.

Cần cung cấp đa dạng bối cảnh cho AI

Để khai thác tiềm năng của AI tạo sinh cần một lượng dữ liệu rất lớn, đa dạng và phù hợp cho quá trình đào tạo mô hình. Đây là một thách thức đối với các nhà phát triển cũng như lãnh đạo doanh nghiệp, bởi việc thu thập và chuẩn bị dữ liệu thường khó khăn và tốn nhiều nguồn lực.

Trước đây, các ứng dụng máy tính không thể thực hiện một tác vụ trừ khi con người cung cấp hướng dẫn rõ ràng về cách hoàn thành tác vụ đó. Những hướng dẫn đó được gọi là “lập trình”.

Các hệ thống AI tạo sinh linh hoạt hơn vì chúng dựa vào công nghệ học máy, không yêu cầu lập trình rõ ràng. Thay vào đó, con người cung cấp cho máy tính quyền truy cập vào lượng lớn dữ liệu. Các máy móc tự đào tạo để nhận ra các mẫu trong dữ liệu đó và quan trọng nhất là đưa ra kết luận từ những thông tin chúng đã học hỏi được. AI chỉ hữu ích khi có dữ liệu mà AI được đào tạo.

Sử dụng các giới hạn

Để giảm "ảo giác" cho AI tạo sinh, ngoài grounding còn có nhiều kỹ thuật khác như sử dụng kết hợp với các mô hình được tinh chỉnh với RAG; yêu cầu LLM tự đánh giá kết quả đầu ra của chính mình...

Tuy nhiên, không có phương pháp nào là tuyệt đối không có sai lầm. Do đó, việc giám sát và đánh giá các hệ thống AI tạo sinh là rất quan trọng để giảm thiểu các những tác động về mặt đạo đức cũng như thực tiễn. Ví dụ, những dự đoán không chính xác có thể tiềm ẩn những nguy cơ đe dọa đến tính mạng trong các lĩnh vực như khoa học y tế, dược học, thiết kế xe tự hành, thực thi pháp luật hoặc quản lý thảm họa.

Những nỗ lực giảm ảo giác bằng cách cải thiện tính xác thực và minh bạch sẽ giúp gia tăng niềm tin của người dùng vào các sản phẩm AI. Mặc dù AI có thể là một công cụ tuyệt vời để cách mạng hóa cách tất cả chúng ta sống và làm việc nhưng cuối cùng, nó vẫn không thể thay thế khả năng phán đoán của con người.

Tài liệu tham khảo

1. hackernoon.com

2. adobe.com

Bài liên quan
Nổi bật Tạp chí Thông tin & Truyền thông
  • Việt Nam - Malaysia nâng cấp quan hệ Đối tác chiến lược toàn diện
    Phát biểu tại họp báo, Tổng Bí thư Tô Lâm cho biết, Việt Nam-Malaysia tăng cường hợp tác trên các lĩnh vực mới (như kinh tế xanh, đổi mới sáng tạo, khoa học công nghệ, chuyển đổi số, năng lượng xanh...).
  • Chìa khóa giải quyết thách thức trong bảo vệ trẻ em trên không gian mạng
    Trẻ em - đối tượng dễ bị tổn thương nhất, đang phải đối mặt với nhiều nguy cơ. Đây không chỉ là bài toán của riêng Việt Nam mà còn là thách thức toàn cầu đòi hỏi sự chung tay hợp tác từ nhiều phía.
  • Việt Nam đang đối mặt 3 thách thức an toàn thông tin
    Các cuộc tấn công mạng hiện nay ngày càng tinh vi và phức tạp hơn, đặc biệt khi có sự hỗ trợ của trí tuệ nhân tạo. Tuy nhiên, việc kết hợp công nghệ này với trí tuệ của con người đã giúp phát hiện và phòng, chống tấn công mạng hiệu quả hơn.
  • Chuyển đổi số thành công không thể thiếu “niềm tin số”
    Muốn triển khai hiệu quả chiến lược số hóa quốc gia cần triển khai theo hướng tiếp cận từ trên xuống dưới và phải phù hợp với thực tế, đảm bảo có tầm nhìn rộng trong tương lai.
  • Việt Nam - Hàn Quốc đồng hành trong kỷ nguyên AI
    Thứ trưởng Bộ TT&TT Phan Tâm hy vọng, Việt Nam có thể học tập nhiều hơn từ Hàn Quốc về các bài học kinh nghiệm, cách làm hay để phát huy tối đa vai trò công nghệ số nói chung và trợ lý ảo nói riêng trong hoạt động của cơ quan nhà nước, thúc đẩy phát triển kinh tế, tạo lập xã hội số nhân văn và thu hẹp khoảng cách số.
Đừng bỏ lỡ
  • Bốn giải pháp trọng tâm để giải bài toán an toàn dữ liệu quốc gia
    Theo Thứ trưởng Bộ TT&TT Bùi Hoàng Phương, năm 2024 đánh dấu bước tiến vượt bậc của Việt Nam trong lĩnh vực an toàn thông tin. Tuy nhiên, còn rất nhiều thách thức cần vượt qua để đảm bảo an toàn dữ liệu quốc gia.
  • Việt Nam tăng cường hợp tác phát triển công nghệ số với Burundi và NIPA
    Trong khuôn khổ sự kiện Tuần lễ Số quốc tế 2024, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng đã tiếp và làm việc với Bộ trưởng Bộ Truyền thông, Công nghệ Thông tin và Đa phương tiện Burundi Léocadie Ndacayisaba và ông Hur Sung Wook, Chủ tịch Cục Xúc tiến Công nghiệp CNTT quốc gia Hàn Quốc (NIPA).
  • Chính thức ra mắt Nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin
    Nền tảng hướng tới nâng cao chất lượng và điều phối hiệu quả các hoạt động diễn tập trên toàn quốc thông qua nền tảng hỗ trợ diễn tập thực chiến an toàn thông tin.
  • Robot Delta hữu dụng trong nhiều ngành
    Nhờ vào thiết kế độc đáo và khả năng hoạt động với tốc độ và độ chính xác cao, robot Delta là một giải pháp tối ưu trong nhiều ngành công nghiệp hiện đại.
  • Cà Mau ứng dụng các phần mềm chuyển đổi số trong ngành nông nghiệp
    Ngành nông nghiệp tỉnh Cà Mau đã không ngừng triển khai các giải pháp chuyển đổi số thông qua việc sử dụng các phần mềm, xây dựng cơ sở dữ liệu chuyên ngành phục vụ quản lý, điều hành. Trong tương lai không xa, các phần mềm này sẽ hoàn thiện và bắt kịp xu hướng công nghệ để hỗ trợ người nông dân nhiều hơn trong việc tăng gia sản xuất.
  • Bảo vệ các hệ thống mạng trọng yếu là cấp thiết
    Song song với tiến trình chuyển đổi số, các chiến dịch tấn công mạng, gián điệp và khủng bố mạng nhằm vào hệ thống công nghệ thông tin (IT) và công nghệ vận hành (OT) trọng yếu ngày càng gia tăng, việc đảm bảo an ninh mạng trở thành ưu tiên hàng đầu của các quốc gia.
  • ‏OPPO Find X8 Series sẽ chính thức lên kệ ngày 7/12‏
    Ngày 21/11, OPPO chính thức ra mắt Find X8 Series‏‏ tại Việt Nam và sẽ lên kệ ngày 7/12 tới. Đây là lần đầu tiên người dùng Việt Nam được trải nghiệm dòng flagship cao cấp nhất của OPPO cùng lúc với toàn cầu. ‏
  • Chuyển đổi số từ thực tiễn Báo Hải Dương
    Báo Hải Dương có nhiều thuận lợi khi thực hiện chuyển đổi số. Đó là Ban Biên tập có quyết tâm cao. Đội ngũ cán bộ, phóng viên, nhân viên của báo nhanh nhạy với cái mới, ham học hỏi...
  • Đưa siêu ứng dụng "Công dân Thủ đô số - iHanoi" vào cuộc sống
    “Công dân Thủ đô số” - iHaNoi là kênh tương tác trực tuyến trên môi trường số giữa người dân, doanh nghiệp với các cấp chính quyền thành phố Hà Nội. Qua ứng dụng này, người dân và doanh nghiệp có thể phản ánh các vấn đề đời sống, từ đó giúp chính quyền tiếp nhận và giải quyết kịp thời.
  • Sự gia tăng của ứng dụng AI tạo sinh: Những rủi ro tiềm ẩn cho xã hội và con người
    AI tạo sinh là một trong những thành tựu công nghệ mới nhất của con người trong thập niên 20 của thế kỷ XXI. Cho đến nay, sự ứng dụng của AI tạo sinh đã tạo ra nhiều cuộc tranh luận quan trọng trong các nghiên cứu xã hội, đặc biệt là trong lĩnh vực triết học. AI tạo sinh đã thách thức nhiều khái niệm và định kiến của chúng ta về bản thân mình, đặc biệt là về cách chúng ta hiểu về tư duy và bản chất của tư duy con người.
Tạo niềm tin cho người dùng vào các sản phẩm AI tạo sinh
POWERED BY ONECMS - A PRODUCT OF NEKO