Bảo vệ trẻ an toàn trực tuyến khi tiếp xúc với đồ chơi thông minh

Đồ chơi thông minh hỗ trợ AI ngày càng phát triển đa dạng theo cấp số nhân. Hãng nghiên cứu thị trường Market Research Future dự đoán thị phần toàn cầu của đồ chơi thông minh sẽ tăng 26% và đạt trị giá 107,02 tỷ USD vào năm 2030. Các nhà nghiên cứu cho rằng thông qua sự tương tác ngày càng tăng của đồ chơi thông minh với trẻ em, loại đồ chơi AI này sẽ ngày càng tác động đến thế hệ trẻ, thậm chí theo những cách vô thức nhất.

Xét về nhóm tuổi, phân khúc trẻ từ 13 - 18 tuổi được dự đoán sẽ chiếm tỷ trọng người dùng lớn trong thị trường này. Các nhà cung cấp đồ chơi thông minh đang ngày càng tích hợp nhiều tính năng cải tiến vào sản phẩm. Với sự xuất hiện của nhiều hãng sản xuất đồ chơi thông minh với nhiều tiện ích cho người dùng cuối, thị trường đồ chơi thông minh được dự đoán sẽ tiếp tục bùng nổ.

Trẻ “phơi nhiễm” với rủi ro trực tuyến khi tiếp xúc đồ chơi thông minh

Theo Generation AI Initiative (Sáng kiến thế hệ AI) của Diễn đàn Kinh tế thế giới (WEF), đồ chơi thông minh có thể tạo ra những tác động tích cực đến sự phát triển của trẻ khi đồ chơi được các nhà sản xuất thiết kế một cách có trách nhiệm. Tuy nhiên, những khiếu nại mà Ủy ban Thương mại Liên bang (FTC) Mỹ nhận được cũng như kết quả cuộc điều tra của Tổ chức người tiêu dùng Na Uy và các nghiên cứu khác đã cho thấy đồ chơi thông minh có thể gây ra những tác động nghiêm trọng đối với sự phát triển của trẻ em.

Một số loại đồ chơi thông minh có các cách thức trao đổi dữ liệu “không minh bạch” để phân tích thuật toán với các thiết bị hỗ trợ AI khác, cho thấy các tính năng bảo mật an toàn thông tin mạng yếu kém có thể vi phạm quyền riêng tư của trẻ em và gây ra mối nguy hiểm đến sự an toàn của trẻ.

Đồ chơi thông minh có thể khiến trẻ gia tăng tiếp xúc với các rủi ro an toàn trực tuyến như các rủi ro về những "nội dung không phù hợp”, tiếp xúc với tài liệu có hại hoặc không phù hợp với lứa tuổi; hoặc rủi ro trong “tiếp xúc”, như tiếp xúc với những người không mong muốn; hoặc rủi ro về “hành vi”, như bị đe dọa trực tuyến; và những rủi ro liên quan đến thu thập dữ liệu, những lời rủ rê đánh bạc …

Thế giới đã có các cơ chế pháp lý để quản lý sự gia tăng của loại đồ chơi hỗ trợ AI và giúp giảm thiểu các rủi ro. Đạo luật An ninh mạng của Liên minh châu Âu (EU) đã đặt ra những yêu cầu tối thiểu đối với các nhà phát triển đồ chơi thông minh như họ phải thiết kế đồ chơi thể hiện các tính năng an toàn an ninh mạng mạnh mẽ khi sản phẩm được bán trên thị trường EU.

Đạo luật AI của châu Âu, dự kiến sẽ có hiệu lực vào năm 2024, đưa ra khung rủi ro 4 cấp để đánh giá các công nghệ AI và cũng yêu cầu các nhà đổi mới đồ chơi thông minh đánh giá tác động của hệ thống AI chống lại nạn lạm dụng trực tuyến có thể dự đoán trước. Đồ chơi thông minh tích hợp công nghệ AI có tính chất bóc lột trẻ em hoàn toàn bị cấm theo quy định. Đạo luật dịch vụ số (Digital Services Act) của EU cũng bảo vệ thanh thiếu niên bằng cách cấm quảng cáo nhắm mục tiêu có hỗ trợ AI đến trẻ em.

Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em (COPPA) của Mỹ đặt ra các tiêu chuẩn về độ tuổi được phép tiếp xúc với đồ chơi thông minh cũng như độ tuổi được phép tiếp xúc với các nội dung trên mạng Internet. FTC gần đây đã giới thiệu một chương trình dán nhãn an ninh mạng để bảo vệ người tiêu dùng khỏi các hệ thống AI vi phạm pháp luật.

Bảo vệ quyền lợi của trẻ em và thanh thiếu niên trên môi trường mạng

Ngoài luật, các tiêu chuẩn và khuôn khổ chính sách cũng phát huy hiệu quả tích cực đến các nhà phát triển đồ chơi thông minh. Tiêu chuẩn IEEE về Khung dịch vụ kỹ thuật số phù hợp với lứa tuổi đóng vai trò như một phương tiện quốc tế mạnh mẽ để các công ty đồ chơi thông minh tuân thủ.

Các hướng dẫn về chính sách AI cho trẻ em của Quỹ Nhi đồng Liên Hợp Quốc (UNICEF) đưa ra các khuyến nghị xây dựng chính sách và hệ thống AI nhằm duy trì quyền trẻ em. Bộ công cụ AI dành cho trẻ em của WEF là một phương tiện khác khuyến khích các công ty đổi mới đồ chơi sử dụng AI có trách nhiệm, bằng cách bảo vệ tốt hơn lợi ích của trẻ em và thanh thiếu niên.

Vấn đề là, đồ chơi thông minh rõ ràng không chỉ hoàn toàn xấu. Vì vậy, dù có nhiều luật và biện pháp quản lý đồ chơi thông minh, nhưng những luật này có thể không khuyến khích đổi mới của các sản phẩm theo định hướng phát triển trẻ em.

UNICEF đã cung cấp một số nghiên cứu điển hình về đồ chơi thông minh có thể mang lại các tác động hay nhất hiện nay. Ví dụ, Mattel đã hợp tác với ToyTalk đưa ra những hướng dẫn giải quyết mối quan tâm về quyền riêng tư của phụ huynh. Theo đó, cha mẹ được phép truy cập mọi dữ liệu đã ghi trên tài khoản đám mây của ToyTalk và cũng có thể xóa mọi thông tin để bảo vệ trẻ em. ToyTalk cũng tham gia vào Chương trình KidSafe Seal của FTC, một chương trình tuân thủ các dịch vụ trực tuyến hướng đến trẻ em.

Hiện tại, những đồ chơi đổi mới đa dạng hỗ trợ AI cũng đã chứng minh cách hệ thống AI có thể tác động tích cực đến sự phát triển của trẻ em. NAO, một robot giáo dục, là một ví dụ về đồ chơi thông minh đã dạy trẻ em bằng cách cho phép trẻ phát hiện và sửa chữa những sai lầm trong quá trình tương tác và các hình thức học tập.

PlayShifu, một công ty khởi nghiệp đến từ Ấn Độ đã phát triển kể từ khi thành lập vào năm 2016 thành một công ty toàn cầu về đồ chơi thông minh đa dạng, tương tác, phù hợp với nghiên cứu giáo dục, sự phát triển của trẻ em và nhu cầu của cha mẹ. Robot ROYBI là người bạn đồng hành thông minh giúp trẻ làm quen với công nghệ, toán học, khoa học và các ngôn ngữ như tiếng Anh, tiếng Trung và tiếng Tây Ban Nha.

Đáp ứng nhu cầu phát triển và phúc lợi của trẻ em khi thiết kế đồ chơi thông minh

Giải thưởng đồ chơi thông minh (The Smart Toy Awards), do WEF và Quỹ Tương lai Dubai đồng tổ chức vào năm 2022, thể hiện một phương tiện tích cực để khuyến khích các nhà phát triển đồ chơi thông minh ưu tiên nhu cầu phát triển của trẻ em, khi thiết kế đồ chơi hỗ trợ AI trên toàn cầu.

Giải thưởng mang đến cho những người chiến thắng một lợi thế cạnh tranh độc đáo, giới thiệu cách các nhà sản xuất đồ chơi thông minh có thể vừa tuân thủ pháp luật vừa mang đến cho trẻ em và cha mẹ những trải nghiệm an toàn, được nuôi dưỡng và vui chơi.

Ngoài các quy định liên quan, tiêu chí đánh giá của giải thưởng cũng dựa trên các nguyên tắc của Bộ công cụ AI cho trẻ em. Bộ công cụ khuyến khích các công ty chứng minh cách đồ chơi của họ thể hiện các đặc điểm công bằng, hòa nhập, có trách nhiệm, an toàn và minh bạch, đồng thời cung cấp hướng dẫn hữu ích cho các công ty, phụ huynh và lãnh đạo tổ chức nắm bắt tốt hơn những lợi ích và rủi ro của đồ chơi hỗ trợ AI.

Bên cạnh việc đánh giá tác động đến quyền trẻ em, các nguyên tắc này yêu cầu các công ty tham gia cuộc thi thể hiện cách có thể kích hoạt những đổi mới sáng tạo về đồ chơi thông minh thân thiện với trẻ em. Những người chiến thắng giải thưởng sẽ nhận được huy hiệu danh dự có thể được sử dụng trên các sản phẩm của họ, điều này có thể giúp cha mẹ hiểu rõ hơn về những gì một món đồ chơi cần có và cho thấy các nhà sản xuất đã rất có trách nhiệm khi ứng dụng công nghệ AI trong đồ chơi tương tác với trẻ em.

Khi tầm ảnh hưởng của đồ chơi thông minh hỗ trợ AI đối với thế hệ trẻ tiếp tục mở rộng, thì việc đổi mới đồ chơi thông minh phải được kích hoạt vì nhu cầu phát triển của trẻ em. Các công ty cam kết áp dụng các mô hình quản trị lấy trẻ em làm trung tâm trên cơ sở tự nguyện, sẽ chiến thắng và giành được trái tim của các thành viên thuộc thế hệ trẻ nhất cũng như các bậc cha mẹ./.