Phát triển công cụ AI để bảo vệ trẻ em trên Internet

Ứng dụng AI để hỗ trợ, đào tạo trẻ em an toàn trên Internet

Việc tiếp cận Internet mang lại nhiều khả năng cho trẻ em và thanh thiếu niên, thúc đẩy học tập, phát triển kỹ năng cá nhân và chuyên môn, sự sáng tạo và tham gia vào xã hội. Nhưng Internet cũng có thể mang lại một số rủi ro như nạn bắt nạt trực tuyến hoặc dụ dỗ vì mục đích tình dục. Các nhà nghiên cứu của Viện Virginia Tech (Hoa Kỳ) đã nỗ lực xây dựng và đào tạo các chatbot được hỗ trợ bởi trí tuệ nhân tạo (AI) để giúp trẻ em và thanh thiếu niên xác định và tránh những kẻ săn mồi trên mạng.

"Theo truyền thống, an ninh mạng thường tập trung vào việc bảo vệ mạng khỏi sự gián đoạn và bảo vệ thiết bị không để kẻ xấu tìm cách đánh cắp dữ liệu", Jin-Hee Cho, Phó giáo sư khoa học máy tính và là nhà nghiên cứu chính của dự án cho biết.

"Nhưng ngày nay, mọi người ngày càng quan tâm hơn đến cái gọi là an ninh mạng xã hội. Chúng tôi đã xem xét cách công nghệ và con người tương tác với nhau và cách con người tương tác thông qua mạng lưới và thiết bị".

Nhiều công trình phòng chống lạm dụng trẻ em trực tuyến tập trung vào việc phát hiện thủ phạm. Bà Cho cho biết mặc dù hữu ích, nhưng phương pháp này vẫn còn hạn chế. Trong nhiều năm, bà đã nỗ lực phát triển một dự án có thể tiến xa hơn và cung cấp cho trẻ em các công cụ cũng như đào tạo để giúp các em tự bảo vệ mình khỏi những kẻ lạm dụng sử dụng Internet để dụ dỗ trẻ em và thanh thiếu niên vào mục đích khai thác tình dục.

Bà cho biết đây là một thách thức vì có rất nhiều vấn đề đạo đức liên quan đến việc dạy trẻ em về những kẻ lạm dụng và các chiến thuật mà chúng sử dụng.

Dự án của bà tập trung vào việc phát triển các chatbot mô phỏng tương tác giữa kẻ săn mồi và trẻ em trực tuyến. Những mô phỏng này sau đó có thể được sử dụng để phát triển chương trình giáo dục chủ yếu dành cho trẻ em từ 11 - 15 tuổi.

Quỹ khoa học quốc gia là nhà tài trợ cho dự án này với kinh phí 855.127 USD và thực hiện trong khung thời gian từ năm 2024 -2027.

Hiện nay, các tổ chức bảo vệ trẻ em trên thế giới cũng triển khai và giới thiệu nhiều công cụ tích hợp AI để bảo vệ trẻ em. “Ask Save the Children” của tổ chức Save the Children là một công cụ AI có mục đích hỗ trợ nhưng đồng thời cũng trang bị cho giáo viên, nhà lãnh đạo cộng đồng, chuyên gia bảo vệ trẻ em và viên chức nhà nước ứng phó hiệu quả với những rủi ro trên mạng Internet.

Công cụ sử dụng máy học để phân tích lượng lớn tài nguyên bảo vệ trẻ em và tạo ra lời khuyên ngay lập tức, theo ngữ cảnh cụ thể cho những người cần vào bất cứ khi nào. Save the Children là tổ chức Cứu trợ trẻ em, một tổ chức phi chính phủ quốc tế lớn nhất hoạt động vì trẻ em trên thế giới.

UNICRI (United Nations Interregional Crime and Justice Research Institute), Viện Nghiên cứu Tội phạm và Tư pháp Liên vùng của Liên hợp quốc, cũng đã khởi động sáng kiến ​​"AI vì Trẻ em An toàn hơn" (AI for Safer Children). Sáng kiến ​​này nhằm mục đích xây dựng năng lực thực thi pháp luật trên toàn thế giới để tận dụng tiềm năng tích cực của AI và công nghệ liên quan, chống lại nạn bóc lột và lạm dụng tình dục trẻ em.

Một số công dụng bảo vệ trẻ em trên Internet mà AI có thể mang lại như sau:

Phát hiện và lọc nội dung có hại

Một trong những ứng dụng đơn giản nhưng có tác động nhất của AI trong việc bảo vệ trẻ em là phát hiện và lọc nội dung trực tuyến có hại. Các công ty như Google và Facebook sử dụng thuật toán AI tinh vi quét hàng triệu bài đăng, hình ảnh và video hàng ngày, đánh dấu và xóa nội dung có thể gây hại cho trẻ em.

Các hệ thống này được đào tạo trên các tập dữ liệu lớn để nhận dạng tài liệu không phù hợp, đảm bảo không gian số mà trẻ em sử dụng không bị bóc lột và lạm dụng.

Chống bắt nạt trên mạng bằng AI

Bắt nạt trên mạng là một vấn đề phổ biến trong thế giới trực tuyến, ảnh hưởng đến vô số trẻ em và thanh thiếu niên. Công nghệ AI cung cấp giải pháp chủ động, xác định hành vi bắt nạt trong tin nhắn, email và tương tác trên mạng xã hội.

Các nền tảng như Instagram đã triển khai các công cụ AI phát hiện các bình luận có khả năng gây khó chịu trước khi chúng được đăng, nhắc nhở người dùng xem xét lại. Ứng dụng AI này không chỉ ngăn chặn bắt nạt trên mạng ngay từ đầu mà còn thúc đẩy văn hóa ứng xử tử tế và suy ngẫm trong số những người dùng internet trẻ tuổi.

AI và cuộc chiến chống bóc lột trẻ em

Trong cuộc chiến quan trọng chống bóc lột trẻ em, AI đã trở thành đồng minh vô giá. Các tổ chức như Thorn và Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC)- một tổ chức tư nhân, phi lợi nhuận được Quốc hội Hoa Kỳ thành lập vào năm 1984) tận dụng AI để xác định và giải cứu nạn nhân của nạn buôn bán trẻ em và bóc lột tình dục.

Thorn là một tổ chức phi lợi nhuận chuyên xây dựng công nghệ bảo vệ trẻ em khỏi bị lạm dụng tình dục, được thành lập năm 2012. Tháng 7/2024, hợp tác cùng với NCMEC, Thorn đã công bố ra mắt Safer Predict, giúp các công ty công nghệ xác định và xóa nội dung lạm dụng tình dục trẻ em khỏi nền tảng của họ. Bằng cách phân tích hình ảnh và video ở quy mô lớn, các hệ thống AI này hỗ trợ xác định nhanh chóng nạn nhân, dẫn đến việc giải cứu và bắt giữ thủ phạm.

AI giáo dục: Nuôi dưỡng thói quen trực tuyến an toàn

Vai trò của AI trong việc bảo vệ trẻ em mở rộng sang giáo dục, nơi AI đóng vai trò hướng dẫn nuôi dưỡng thói quen trực tuyến an toàn. Các nền tảng như Interland, một trò chơi hỗ trợ AI do Google phát triển, dạy trẻ em về an toàn trên Internet theo cách hấp dẫn và tương tác.

Thông qua trò chơi, trẻ em học cách nhận biết lừa đảo, bảo mật thông tin cá nhân và điều hướng Internet một cách có trách nhiệm, trang bị cho trẻ kiến ​​thức để tự bảo vệ mình khi trực tuyến.

AI hỗ trợ phụ huynh giám sát trẻ

Các ứng dụng giám sát của phụ huynh đã tích hợp AI giúp người giám hộ giữ an toàn cho con mình khi trực tuyến mà không xâm phạm quyền riêng tư của trẻ. Các ứng dụng này cảnh báo phụ huynh về những rủi ro tiềm ẩn, chẳng hạn như bắt nạt trên mạng hoặc tiếp xúc với người lạ, đồng thời tôn trọng quyền tự chủ và quyền riêng tư của trẻ.

Bằng cách phân tích các mẫu giao tiếp và nội dung, AI mang đến cho cha mẹ sự an tâm, biết rằng họ có các công cụ để bảo vệ con cái mình trong thời đại số.

Sử dụng AI có đạo đức trong bảo vệ trẻ em

Điều cần lưu ý là khi ứng dụng AI để bảo vệ trẻ em, chúng ta cần lưu ý mặt đạo đức về quyền riêng tư, sự đồng ý và bảo mật dữ liệu là tối quan trọng. Việc phát triển và triển khai AI trong lĩnh vực này phải tuân theo các tiêu chuẩn đạo đức nghiêm ngặt, đảm bảo công nghệ phục vụ lợi ích tốt nhất của trẻ em mà không ảnh hưởng đến quyền hoặc quyền tự chủ của trẻ.

Ngoài ra, để giữ an toàn cho trẻ em, cần có một hệ sinh thái gồm gia đình, trẻ em, giáo viên, cơ quan quản lý và nhà lập pháp ban hành các biện pháp bảo vệ để chúng ta có thể tối đa hóa việc bảo vệ trẻ em.

Tương lai bảo vệ trẻ em với AI

Nhìn về phía trước, việc tích hợp AI để bảo vệ trẻ em có tiềm năng vô hạn. Khi công nghệ AI phát triển, khả năng hiểu bối cảnh, nhận ra sắc thái trong hành vi và dự đoán rủi ro của AI sẽ được cải thiện, mang lại khả năng bảo vệ trẻ em mạnh mẽ hơn. Sự hợp tác giữa các công ty công nghệ, tổ chức phi lợi nhuận, chính phủ và cộng đồng là điều cần thiết để thúc đẩy tiến trình này, đảm bảo rằng khi bối cảnh kỹ thuật số phát triển, trẻ em vẫn được an toàn và hỗ trợ.

Do đó, AI là minh chứng cho sức mạnh của công nghệ trong việc làm điều tốt, bảo vệ và nâng cao vị thế của những thành viên dễ bị tổn thương nhất trong xã hội. Thông qua khả năng giám sát, giáo dục và can thiệp, AI đang định hình lại bối cảnh bảo vệ trẻ em, mang lại hy vọng và sự an toàn trong một thế giới số đầy rẫy rủi ro.

Trong bài viết về ứng dụng AI bảo vệ trẻ em trên môi trường mạng của Tạp chí Forbes, Neil Sahota, diễn giả và cố vấn kinh doanh toàn cầu, cho biết khi khai thác AI vì lợi ích của trẻ em, hãy luôn nhớ trách nhiệm chung là bảo vệ sự ngây thơ của trẻ em và đảm bảo trải nghiệm số của trẻ luôn bổ ích chứ không phải gây nguy hiểm. Tương lai bảo vệ trẻ em nằm ở sự cân bằng giữa công nghệ và nhân loại, một tương lai mà mọi trẻ em đều có thể khám phá, học hỏi và phát triển với thế giới số như sân chơi của mình, được bảo vệ bởi đôi mắt cảnh giác và chu đáo của AI./.