Ra mắt thử nghiệm công cụ kiểm tra website an toàn cho trẻ em

Cảnh báo các trang web không phù hợp với trẻ em

Bên cạnh nguy cơ mất ATTT chung như lộ lọt thông tin cá nhân, lừa đảo, bị mã độc tấn công…, các em học sinh trong quá trình tương tác trên không gian mạng còn gặp phải những nguy cơ đặc thù của riêng lứa tuổi như nội dung không phù hợp (hình ảnh khiêu dâm, bạo lực, phân biệt chủng tộc, thù địch, cực đoan và các tài liệu kích động các hành vi nguy hiểm như tự kỷ, tự hủy hoại, tự tử).

Theo BBFC, cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại dung, phim, game đáng tin cậy ở Vương quốc Anh, 7 - 8 tuổi là độ tuổi mà một số trẻ đã tình cờ nhìn thấy nội dung khiêu dâm, hơn 60% trẻ em 11 - 13 tuổi và 53% trẻ từ 14 đến 15 tuổi vô tình tiếp xúc với nội dung khiêu dâm trên mạng.

Hầu hết chúng mô tả cảm giác là "kinh khủng" và "bối rối", gây cảm giác tiêu cực nhất, đặc biệt là những trẻ dưới 10 tuổi. Giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi các tác nhân tiêu cực. Các nội dung không phù hợp như hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực và nhất là nội dung khiêu dâm có thể khiến trẻ khó chịu, bối rối, ám ảnh về sau.

Trên cơ sở đó, "Kiểm tra website an toàn cho trẻ em" là công cụ nhận diện, phân tích và cảnh báo một trang web có chứa những nội dung không phù hợp đối với trẻ em, hỗ trợ phụ huynh, trẻ em chủ động đánh giá mức độ phù hợp website trước khi sử dụng nhằm bảo vệ trẻ trước nguy cơ tiếp xúc với những nội dung độc hại, nội dung không phù hợp.

Ngoài ra, hệ thống cho phép các doanh nghiệp kết nối nhận danh sách các website độc hại nhằm cập nhật, triển khai các giải pháp kỹ thuật để chặn lọc kịp thời.

Kiểm tra website an toàn cho trẻ em bao gồm hệ thống cơ sở dữ liệu tập trung, tự động cập nhật và sử dụng công nghệ trí tuệ nhân tạo (AI) để đánh giá, nhận dạng 5 nội dung bao gồm: nội dung khiêu dâm; nội dung bạo lực; nội dung về chất kích thích (chất cấm); nội dung về vũ khí nguy hiểm; nội dung cờ bạc.

Người bạn đồng hành với trẻ em trên Internet

Công cụ kiểm tra websie an toàn cho trẻ em được xây dựng dựa trên sự phối hợp giữa Trung tâm VNCERT/CC và Công ty TNHH CYBERAPPLY VIETNAM (CyberPurify). Đây là một trong số 5 startup tiềm năng nhất vừa được lựa chọn vào vòng đào tạo của Chương trình "Thử thách sáng tạo cùng công nghệ trí tuệ nhân tạo - AI Accelerator Challenge 2021".

Tại Chương trình, công ty CyberPurify sử dụng AI để cung cấp giải pháp bảo vệ trẻ em khỏi những nội dung độc hại trên Internet như khiêu dâm, vũ khí, hình ảnh bạo lực, chiến tranh, kinh dị, với mong muốn thúc đẩy nhận thức phụ huynh về các tác nhân gây hại cho con và chủ động bảo vệ kịp thời hơn. Sản phẩm cũng định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị. Việc này giống như trao cho mỗi đứa trẻ một người bảo vệ trung thành tận tụy, lại không phán xét hay soi mói đời tư. Sản phẩm được kỳ vọng sẽ là một người bạn đồng hành thật sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet.

Việc sử dụng sản phẩm cũng hết sức đơn giản, với phương châm "cài đặt và quên nó đi" (install and forget it), phụ huynh chỉ cần nhấn nút install CyberPurify Kids trong store chứa extension/add-on của các trình duyệt, mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại, hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma tuý, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc mạnh mẽ này, phụ huynh cũng sẽ nhận được thông báo.

Theo đại diện CyberPurify, điều đặc biệt của sản phẩm là bản thân nó cũng như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn về sau./.