CyberPurify: Ứng dụng AI giúp bảo vệ trẻ em trên Internet

Ngăn chặn các nội dung độc hại với trẻ em

Sản phẩm chạy một mô hình deep learning trên trình duyệt để nhận dạng và ngăn chặn hiển thị 15 loại nội dung độc hại đối với trẻ em, bao gồm cả pornography, ma tuý và bạo lực đẫm máu. Sản phẩm được cung cấp dưới dạng extension/add-on trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari.

Theo BBFC, cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại dung, phim, game đáng tin cậy ở Vương quốc Anh, 7 - 8 tuổi là độ tuổi mà một số trẻ đã tình cờ nhìn thấy nội dung khiêu dâm, hơn 60% trẻ em 11 - 13 tuổi và 53% trẻ từ 14 đến 15 tuổi vô tình tiếp xúc với nội dung khiêu dâm trên mạng.

Hầu hết chúng mô tả cảm giác là "kinh khủng" và "bối rối", gây cảm giác tiêu cực nhất, đặc biệt là những đứa trẻ dưới 10 tuổi. Giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi các tác nhân tiêu cực. Các nội dung không phù hợp như hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực và nhất là nội dung khiêu dâm có thể khiến trẻ khó chịu, bối rối, ám ảnh về sau.

Ông Bình Nguyễn, CEO CyberPurify: Đây là sản phẩm đầu tiên trên thế giới chạy trên trình duyệt có thể nhận dạng được hầu hết các loại nội dung độc hại trên Internet.

Bình Nguyễn, founder & CEO, cũng là phụ huynh có hai con nhỏ, cho rằng, việc xâm phạm quyền riêng tư của trẻ em bằng cách theo dõi chúng làm gì, xem gì, cũng sẽ gián tiếp ảnh hưởng đến tính cách, tinh thần và khả năng phát triển của chúng. Trước đây, phụ huynh đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng, hoặc xâm phạm nghiêm trọng không gian cá nhân riêng tư của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống.

"Chúng tôi tập trung vào việc xây dựng mô hình AI cho phép nhận dạng và phân loại những nội dung độc hại, định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị. Việc này giống như bạn đã trao cho mỗi đứa trẻ một người bảo vệ trung thành tận tụy, lại không phán xét hay soi mói đời tư. Sản phẩm này sẽ là một người bạn đồng hành thật sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet", ông Bình chia sẻ.

Có thể nhận dạng được hầu hết các loại nội dung độc hại trên Internet

Việc sử dụng sản phẩm cũng hết sức đơn giản, với phương châm "cài đặt và quên nó đi" (install and forget it), phụ huynh chỉ cần nhấn nút install CyberPurify Kids trong store chứa extension/add-on của các tình duyệt, mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại, hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma tuý, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc mạnh mẽ này, phụ huynh cũng sẽ nhận được thông báo.

Trước đây, CyberPurify cung cấp dịch vụ B2B dưới dạng phần cứng và phần mềm chuyên dụng với khách hàng là những doanh nghiệp cung cấp nội dung số hoặc nền tảng (platform) sử dụng như một công cụ thay thế con người để kiểm duyệt tự động những nội dung do người dùng tạo ra, hiện xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày, tương đương với sức lao động của 20.000 người. 

Với sự phát triển của 5G, smartphone và các mạng xã hội, thế giới hiện có 4.66 tỷ người dùng Internet, trung bình mỗi người tạo ra tới 1,7 GB dữ liệu mỗi ngày, tương đương 2000 bức ảnh hoặc 150 video và ngày càng tăng cao hơn nữa trong tương lai, dẫn đến lượng nội dung đồ sộ cần được kiểm duyệt trước khi tiếp cận trẻ em ngày càng khổng lồ, đây là cơ hội để CyberPurify lấn sân sang cung cấp sản phẩm đến người dùng cuối bắt đầu với phiên bản Kids trên trình duyệt.

Theo phát ngôn của người đại diện, bên cạnh nhận dạng 15 loại nội dung bao gồm cả nội dung khiêu dâm, bạo lực, ám ảnh, và ma tuý, CyberPurify Kids còn ngăn chặn các trang lừa đảo, malware và phát tán virus.

"Điều đặc biệt của CyberPurify Kids là bản thân nó cũng như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn về sau. Đây là sản phẩm đầu tiên trên thế giới chạy trên trình duyệt có thể nhận dạng được hầu hết các loại nội dung độc hại tồn tại trên Internet", ông Bình cho biết thêm

Song song với việc điều hành CyberPurify, ông Bình từng là sáng lập và CEO của Applancer TopDev được đầu tư bởi SaraminHR, công ty niêm yết trên sàn KOSDAQ tại Hàn Quốc.

"Đầu năm 2021, tôi rời Applancer TopDev để tập trung toàn bộ quỹ thời gian cho việc phát triển CyberPurify Kids, đây là thời điểm hoàn hảo để chúng tôi đưa khả năng nhận dạng mạnh mẽ trên máy chủ xuống trình duyệt, phục vụ cho nhiều gia đình có trẻ nhỏ" Ông Bình nói.

Ông Bình còn từng được biết là người tiên phong ứng dụng AI để nhận dạng nội dung khiêu dâm có tên là KillPorn, được sử dụng rộng rãi trong các phòng net và gia đình thời điểm từ năm 2007, sau khi đạt được giải thưởng Nhân Tài Đất Việt, ông đã trao giấy phép (license) cho VNPT để cung cấp đến các thuê bao Internet của nhà mạng này dưới tên gọi MegaKillPorn.

CyberPurify cũng là một trong 5 startup thắng giải "Thử thách sáng tạo cùng công nghệ trí tuệ nhân tạo - AI Accelerator Challenge 2021 (AAC 2021)" do Bộ Khoa học và Công nghệ bảo trợ và Đại sứ quán Úc tài trợ.

CyberPurify Kids được cung cấp miễn phí cho các trường học, phòng lab, Internet cafe hoặc những nơi có máy tính công cộng. Tính năng nâng cao bao gồm gửi báo cáo thống kê cho phụ huynh với giá 9$/tháng, và 99$/năm