CyberPurify và các giải pháp lọc nội dung online

CyberPurify là một trong 5 công ty khởi nghiệp chiến thắng tại chương trình "Thử thách sáng tạo cùng công nghệ trí tuệ nhân tạo - AI Accelerator Challenge 2021" (AAC 2021) do VSV Foundation tổ chức dưới sự bảo trợ của Bộ Khoa học và Công nghệ và Đại sứ quán Australia tại Việt Nam.

CyberPurify hoạt động trong lĩnh vực sử dụng trí tuệ nhân tạo (AI) để phát triển các giải pháp lọc nội dung có hại trực tuyến, giúp tạo ra một Internet an toàn hơn cho các DN, gia đình và trẻ em. Đặc biệt, ứng dụng CyberPurify Kids của CyberPurify đã đạt 5.000 lượt tải xuống trong 2 tháng (kể từ tháng 7), và sản phẩm CyberPurify Egg đã nhận được 500 đơn đặt hàng trước kể từ tháng 8/2021. 

Theo ông Bình Nguyễn, sáng lập và là giám đốc điều hành của CyberPurify, "Trong khi những người khác tập trung vào AI, hướng tới các công ty toàn cầu về AI, chúng tôi lại tập trung vào trẻ em. CyberPurify sử dụng công nghệ để giải quyết một trong những thách thức lớn nhất đối với trẻ em, giúp chúng sử dụng Internet một cách an toàn và tự do. Quan hệ đối tác (với các tổ chức chính phủ, phi lợi nhuận) và tiếp thị nội dung là nền tảng cho vị thế giá trị của chúng tôi, điều này sẽ giúp chúng tôi phát triển nhận thức, xây dựng và nâng cao lòng tin của chúng tôi, khiến chúng tôi trở nên nổi bật".

Lý do để CyberPurify phát triển các giải pháp lọc nội dung

Theo CyberPurify, sự gia tăng khả năng truy cập Internet và sự thâm nhập của điện thoại thông minh đã đẩy số lượng trang web và dữ liệu được tạo trực tuyến (hiện có khoảng 1,8 tỷ trang web, 3,2 tỷ hình ảnh và 720.000 giờ video được chia sẻ hàng ngày), nội dung có hại chiếm 40% số lượng nội dung đã được tạo ra, chúng bao gồm các nội dung như: khiêu dâm, khủng bố, giết người, hành quyết… Điều này gây hại cho cả trẻ em và các doanh nghiệp. Đối với trẻ em, chúng rất dễ tiếp xúc với nội dung trực tuyến có hại. Vấn đề càng trở nên tồi tệ hơn khi nhiều người phải ở nhà trong thời gian dài diễn ra đại dịch COVID-19. 

Chính vì thế, nhu cầu lọc các nội dung độc hại, và cần được kiểm duyệt trước khi chúng đến với đa số người dùng trong đó có trẻ em đang ngày càng trở nên cấp thiết. 

Theo ông Bình Nguyễn: "Chúng tôi phát triển CyberPurify Kids (B2C) và CyberPurify Egg để lọc nội dung có hại, giúp cha mẹ tạo môi trường trực tuyến an toàn hơn cho trẻ em". 

Đối với các DN, một lượng khổng lồ dữ liệu dường như đã khiến cho việc kiểm duyệt nội dung theo cách thủ công trở nên chậm chạp, không chính xác và kém hiệu quả. Trong khi điều này đòi hỏi cần có sự điều tiết nhanh hơn, chính xác hơn và do AI điều khiển. Các giải pháp này đặc biệt cần thiết đối với các công ty khởi nghiệp, DN vừa và nhỏ vì họ không có đủ nguồn lực để duy trì một nhóm kiểm duyệt nội dung thủ công hoặc phát triển công nghệ của riêng họ. 

"Chúng tôi phát triển B2B Moderation để cung cấp cho các công ty khởi nghiệp, DN vừa và nhỏ kiểm duyệt nội dung AI, giúp họ tiết kiệm thời gian, tiền bạc và tăng hiệu quả", ông Bình Nguyễn cho biết.

Xây dựng mô hình AI để tăng cường nhận dạng và phân loại nội dung có hại

CyberPurify hiện đang có nhiều giải pháp lọc nội dung độc hại, bao gồm: B2B Moderation API - giải pháp AI giúp phát hiện hình ảnh/video chứa nội dung có hại hoặc bất kỳ yêu cầu nào khác. B2B Moderation được ra mắt vào tháng 3/2021, giúp người dùng tiết kiệm chi phí, nhanh chóng (kết quả được tạo ra trong thời gian ngắn hơn 2 phút/video 30 phút), chính xác (tỷ lệ chính xác là 98%) và có thể mở rộng (lọc hình ảnh/video không giới hạn). B2B Moderation hiện đang xử lý hơn 10 triệu hình ảnh và nội dung video mỗi ngày, tương đương với 20.000 công nhân.

CyberPurify cũng cho biết, công ty đang thử nghiệm nguyên mẫu một sản phẩm phần cứng có tên CyberPurify Egg - một thiết bị Wi-Fi chặn các trang web độc hại (khiêu dâm, bạo lực, thù hận v.v...) và quảng cáo 24/7, để bảo vệ các thiết bị kết nối Internet tại nhà. Thiết bị này có giá 99,99 USD. 

Sản phẩm đặc biệt và nổi tiếng nhất của CyberPurify chính là giải pháp CyberPurify Kids - tiện ích mở rộng lọc 15 loại nội dung có hại (hình ảnh/video) cho các trình duyệt (Edge/Safari/Chrome/Firefox). CyberPurify Kids  được ra mắt vào ngày 1/6/2021.

Theo CyberPurify, đối với trẻ em, kinh nghiệm cho thấy, phụ huynh không nên và không cần giám sát quá mức những gì trẻ làm trên mạng. Xâm phạm quyền riêng tư của trẻ bằng cách theo dõi những gì chúng làm, những gì chúng nhìn thấy sẽ gây ảnh hưởng tiêu cực đến tính cách của chúng và mối quan hệ gia đình. Trước đây, các bậc cha mẹ phải đối mặt với tình thế tiến thoái lưỡng nan khi để con mình bị xâm hại bởi các mối nguy hiểm trên mạng hoặc xâm phạm nghiêm trọng không gian riêng tư của chúng bằng các phần mềm ngăn ngừa nội dung độc hại theo cách truyền thống.

Trong khi các giải pháp lọc nội dung trực tuyến theo thời gian thực của CyberPurify hoạt động với mô hình học sâu (deep learning) trên trình duyệt để xác định và làm mờ 15 loại nội dung có hại, bao gồm nội dung khiêu dâm, kinh dị, ma túy và rượu, ngôn ngữ hận thù v.v... CyberPurify tập trung vào việc xây dựng mô hình AI giúp tăng cường nhận dạng và phân loại nội dung có hại, định nghĩa lại khái niệm an toàn bằng cách sử dụng AI trong nhận dạng thời gian thực ngay cả khi nội dung không hiển thị. Như thế sẽ tránh được những phán xét hay soi mói đời tư người khác. 

Người dùng chỉ cần cài đặt CyberPurify Kids, từ đó mỗi khi trẻ em truy cập Internet, CyberPurify sẽ tự động phân tích nội dung hiển thị, làm mờ nội dung nếu nó có hại hoặc gửi thông báo cho phụ huynh khi phát hiện trẻ truy cập vào các nội dung độc hại hoặc cố gắng xóa bộ lọc. Đặc biệt, CyberPurify Kids giống như một đứa trẻ, không ngừng học hỏi thêm những nội dung độc hại mà nó phát hiện ra mỗi ngày để trở nên thông minh hơn, ngăn chặn những nội dung trong tương lai. Đây là sản phẩm đầu tiên trên thế giới chạy trên trình duyệt có thể nhận dạng hầu hết mọi loại của những nội dung độc hại tồn tại trên Internet.

Cuối cùng, theo CyberPurify: "Công ty dành thời gian, năng lượng và không gian tâm trí cho sứ mệnh của mình - cung cấp giải pháp công nghệ mạnh và chính xác cho phép các doanh nghiệp thu được giá trị từ nội dung hình ảnh mà DN quản lý. Quy trình làm việc nội bộ và tự động hóa tốt hơn, thông tin chi tiết tốt hơn, trải nghiệm người dùng tốt hơn cho người dùng cuối. Đó không chỉ là động lực, mà còn là cam kết, mục đích, tầm nhìn không ngừng nhắc nhở chúng ta trong hành trình tương lai"./.