An toàn thông tin

Chatbot AI có thể mang đến những rủi ro mạng

Hạnh Tâm 18:16 01/09/2023

Anh đang cảnh báo các tổ chức về việc tích hợp các chatbot dựa trên trí tuệ nhân tạo (AI) vào hoạt động kinh doanh của họ. Nghiên cứu ngày càng chỉ ra rằng họ có thể bị lừa vào những tác vụ có hại.

Trung tâm an ninh mạng của Anh (NCSC) cho biết, các chuyên gia vẫn chưa nắm bắt được những vấn đề bảo mật tiềm ẩn gắn liền với các thuật toán có thể tạo ra những tương tác giống con người.

Các chatbot AI, được gọi là nhưng mô hình ngôn ngữ lớn (LLM) đang ngày càng được sử dụng nhiều như là các công cụ cho các mục đích khác nhau, bao gồm cuộc gọi bán hàng và dịch vụ khách hàng.

1.png

NCSC nhấn mạnh rằng việc kết nối các mô hình như vậy với các yếu tố khác trong quy trình kinh doanh của tổ chức có thể mang lại những rủi ro đáng kể. Chẳng hạn, tin tặc có thể thao túng một chatbot hỗ trợ AI do ngân hàng triển khai để thực hiện giao dịch trái phép nếu cấu trúc truy vấn chính xác.

NCSC cho biết: “Các tổ chức xây dựng dịch vụ sử dụng LLM cần phải cẩn thận, giống như khi họ đang sử dụng một sản phẩm hoặc thư viện mã đang ở giai đoạn thử nghiệm. Họ có thể không để sản phẩm đó tham gia thực hiện các giao dịch thay mặt khách hàng và sẽ không hoàn toàn tin tưởng vào sản phẩm đó. Cần thận trọng tương tự đối với LLM."

Các nhà chức trách trên toàn thế giới cũng đang vật lộn với sự gia tăng của LLM như ChatGPT của OpenAI mà các doanh nghiệp đang tích hợp vào một loạt dịch vụ, bao gồm cả bán hàng và chăm sóc khách hàng trong khi các nhà chức trách ở Mỹ và Canada cho biết họ đã chứng kiến các tin tặc nắm bắt công nghệ này.

Các quan chức an ninh mạng hàng đầu của Canada cho biết, tin tặc đang sử dụng AI để tạo ra phần mềm độc hại, soạn thảo email lừa đảo thuyết phục và truyền bá thông tin sai lệch trực tuyến.

Hồi tháng 3, tổ chức cảnh sát châu Âu (Europol) đã công bố một báo cáo nói rằng các mô hình như ChatGPT của OpenAI đã có thể “mạo danh một tổ chức hoặc cá nhân theo cách rất thực tế ngay cả khi chỉ có kiến thức cơ bản về tiếng Anh”.

Cùng tháng đó, trung tâm an ninh mạng quốc gia của Anh cho biết, nguy cơ bọn tội phạm “có thể sử dụng LLM để hỗ trợ các cuộc tấn công mạng vượt quá khả năng hiện tại của chúng”.

Các nhà nghiên cứu an ninh mạng đã chứng minh nhiều nguy cơ tiềm ẩn và một số người hiện cho biết họ đang bắt đầu thấy nội dung bị nghi ngờ do AI tạo ra.

Một cuộc thăm dò gần đây của Reuters/Ipsos cũng cho thấy nhiều nhân viên công ty đang sử dụng các công cụ như ChatGPT để trợ giúp các công việc cơ bản như soạn thảo email, tóm tắt tài liệu và thực hiện nghiên cứu sơ bộ.

Khoảng 10% số người được hỏi cho biết ông chủ của họ đã cấm các công cụ AI bên ngoài, trong khi 1/4 không biết liệu công ty của họ có cho phép sử dụng công nghệ này hay không.

Ông Oseloka Obiora, Giám đốc công nghệ của công ty an ninh mạng RiverSafe cho biết, cuộc đua tích hợp AI vào hoạt động kinh doanh sẽ gây ra “hậu quả thảm khốc” nếu lãnh đạo doanh nghiệp không đưa ra các biện pháp kiểm tra cần thiết.

Cũng theo ông Oseloka Obiora: “Thay vì chạy theo những xu hướng AI mới nhất, các giám đốc điều hành cấp cao nên suy nghĩ lại, đánh giá lợi ích và rủi ro cũng như thực hiện biện pháp bảo vệ mạng cần thiết để đảm bảo tổ chức không bị tổn hại"./.

Bài liên quan
Nổi bật Tạp chí Thông tin & Truyền thông
  • Bộ TT&TT: Bổ nhiệm Tổng Biên tập Tạp chí TT&TT và hai Phó Cục trưởng
    Bộ Thông tin và Truyền thông công bố các quyết định bổ nhiệm Tổng Biên tập Tạp chí TT&TT, các Phó Cục trưởng Cục Công nghiệp Công nghệ thông tin và Truyền thông và Cục Thông tin cơ sở.
  • 5 việc làm mới được tạo ra ở châu Âu nhờ AI
    Bạn đang muốn xây dựng sự nghiệp trong lĩnh vực công nghệ phát triển nhanh nhất thế giới? Theo Đạo luật AI của Liên minh châu Âu (EU), có 5 lĩnh vực công việc tiềm năng mới mà AI mang đến cho châu Âu.
  • Ứng dụng nền tảng công nghệ cao tại Lễ khai mạc Ngày Sách và Văn hóa đọc Việt Nam 2024
    “Với nền tảng công nghệ cao để trình diễn Mapping tại Lễ Khai mạc và trưng bày sách 3D sẽ mang đến cho bạn đọc những trải nghiệm thú vị và độc đáo trong Ngày Sách và Văn hóa đọc Việt Nam lần thứ ba - năm 2024 tại Văn Miếu Quốc Tử Giám”
  • Tri ân khách hàng: Bí quyết khéo léo từ VPBank
    Trong thời đại chuyển đổi số, người tiêu dùng đặt ra nhiều yêu cầu hơn cho một ứng dụng ngân hàng. Ngoài việc cung cấp các dịch vụ tài chính an toàn, họ còn mong muốn được trải nghiệm những ưu đãi độc đáo. Và VPBank là ngân hàng có cách tri ân, dành tặng khách hàng những ưu đãi theo cách rất thú vị, tinh tế và khéo léo.
  • Báo động tấn công mã hóa dữ liệu tống tiền
    Trước các vụ tấn công mã độc tống tiền (ransomware) vào các hệ thống của công ty cổ phần chứng khoán VNDirect, PV Oil được dư luận quan tâm, tại họp báo thường kỳ tháng 4/2024 của Bộ TT&TT vừa qua, đại diện Cục An toàn thông tin cho biết, nhiều chiến dịch tấn công mã hoá dữ liệu tống tiền gần đây vào Việt Nam, tập trung vào các doanh nghiệp lớn ở các lĩnh vực như chứng khoán, tài chính ngân hàng, điện lực...
Đừng bỏ lỡ
Chatbot AI có thể mang đến những rủi ro mạng
POWERED BY ONECMS - A PRODUCT OF NEKO