Thực trạng lạm dụng AI ở trẻ

Với khả năng trò chuyện tự nhiên, đồng hành và đưa ra lời khuyên, các chatbot AI đang nhanh chóng được giới trẻ đón nhận. Nghiên cứu gần đây nhất từ ​​CyberSafeKids cho thấy hơn 1/4 học sinh tiểu học và hơn 1/3 học sinh trung học trên thế giới hiện đang sử dụng chatbot được hỗ trợ bởi trí tuệ nhân tạo (AI).

Đối với trẻ em, chatbot AI có thể giúp trẻ tương tác tốt hơn trong học tập như làm bài tập về nhà hoặc tìm kiếm thông tin. Tuy nhiên, bên cạnh những lợi ích mang lại, các công cụ này cũng tiềm ẩn nhiều nguy cơ, đặc biệt là khi trẻ em hình thành sự gắn bó cảm xúc với một hệ thống không có ý thức, không có trách nhiệm.

Giới trẻ hiện nay có xu hướng tin tưởng vào AI vì các em cảm thấy an toàn, không bị phán xét và có thể trò chuyện bất cứ lúc nào; không có khoảng cách thế hệ, không lo ngại bị lộ thông tin cá nhân cho người quen. Đồng thời, AI phản hồi ngay lập tức, phù hợp với thói quen tương tác nhanh và liên tục của thế hệ trẻ, sẵn sàng trò chuyện 24/7.

Các chatbot này ngày càng được tích hợp vào các nền tảng phổ biến mà trẻ em thường xuyên sử dụng như My AI của Snapchat và Meta AI của WhatsApp. Khi Snapchat triển khai chatbot My AI, được tiếp thị như một người bạn đồng hành thú vị và được cá nhân hóa, các báo cáo đã chỉ ra rằng trong một số trường hợp, chatbot đã đưa ra lời khuyên mang tính chất tình dục cho trẻ em.

Gần đây hơn, chatbot AI của Meta đã bị giám sát chặt chẽ sau một bài báo của Reuters về việc một số nội dung do AI tạo ra thậm chí còn mang tính chất lãng mạn khiêu gợi.

Andy Stone, người phát ngôn Meta Platforms, nói với Reuters rằng công cụ AI của công ty “đáng lẽ không được phép” tạo ra những hình ảnh thân mật như vậy, đặc biệt là liên quan đến trẻ vị thành niên. Ông đổ lỗi cho “lỗ hổng trong việc thực thi chính sách của Meta Platforms" - vốn cấm nội dung khiêu dâm hoặc gợi dục.

Một báo cáo khác từ tổ chức Internet Matters (Anh) cho thấy 64% trẻ em đang sử dụng chatbot AI để làm bài tập, ôn luyện, xin lời khuyên và thậm chí là tâm sự. Trong đó, gần 25% trẻ từng hỏi chatbot về các vấn đề cá nhân như cách ăn mặc, trò chuyện với bạn bè hoặc sức khỏe tâm thần.

Đặc biệt, khoảng 15% trẻ em thừa nhận thích trò chuyện với AI hơn là với con người, và có em cho biết sử dụng chatbot vì cảm thấy cô đơn. Trong số đó có em thậm chí nói rằng “trò chuyện với chatbot giống như đang nói với một người bạn”.

Tuy nhiên, các chuyên gia cảnh báo rằng việc trẻ quá phụ thuộc vào chatbot có thể gây hệ lụy lâu dài, bởi AI không được thiết kế để đóng vai trò hỗ trợ tâm lý hoặc giáo dục cảm xúc. Tuy nhiên, các chuyên gia cảnh báo rằng việc trẻ quá phụ thuộc vào chatbot có thể gây hệ lụy lâu dài, bởi AI không được thiết kế để đóng vai trò hỗ trợ tâm lý hoặc giáo dục cảm xúc.

Tiếp xúc với chatbot AI từ khi còn quá nhỏ, trẻ sẽ lầm tưởng đây là người bạn thật sự và hành động theo lời khuyên của chatbot. Trong khi đó, những lời khuyên này có thể bao gồm nội dung thiên vị, thiếu chính xác, không phù hợp hoặc thậm chí có hại hoặc gây hiểu nhầm.

Điều này đặc biệt trở nên nguy hiểm vì thanh thiếu niên có thể cảm thấy thoải mái hơn khi chia sẻ thông tin cá nhân, cuộc sống riêng tư với chatbot hơn là phụ huynh, những người thực sự có thể giúp đỡ trẻ.

Theo tờ Straits Times ngày 26/8, bố mẹ của Adam Raine - một học sinh trung học 16 tuổi ở California, Mỹ - đã nộp đơn kiện công ty công nghệ OpenAI và Giám đốc điều hành Sam Altman, cáo buộc ChatGPT đã cô lập Adam khỏi gia đình và giúp cậu lên kế hoạch cho vụ tự tử của mình.

Theo đơn kiện, ban đầu Adam sử dụng ChatGPT để hỗ trợ làm bài tập, nhưng dần phát triển sự phụ thuộc không lành mạnh: ChatGPT được cho là đã nhắc đến từ "tự tử" nhiều hơn 6 lần trong các cuộc trò chuyện với Adam, thậm chí còn khuyên cậu bé giữ bí mật cuộc trò chuyện với gia đình.

Trong cuộc trò chuyện cuối cùng ngày 11/4, ChatGPT bị cáo buộc đã hướng dẫn Adam cách lấy rượu của cha mẹ, phân tích kỹ thuật chiếc thòng lọng mà cậu bé thắt và xác nhận "có thể treo được một người". Adam được tìm thấy đã tử vong vài giờ sau đó.

Trước đó một phụ huynh ở bang Florida, Mỹ cũng kiện Công ty Character.AI, cho rằng nền tảng này liên quan đến cái chết của cậu con trai 14 tuổi. Florida.

Khuyến cáo từ cơ quan giám sát Úc

Theo Cơ quan quản lý an toàn trực tuyến của Úc, các chatbot AI khuyến khích tự tử hoặc trò chuyện khiêu dâm gây ra "mối nguy hiểm rõ ràng và hiện hữu" cho trẻ em.

Để giảm thiểu rủi ro này, Cơ quan này đã đưa ra những quy tắc mới quản lý các dịch vụ chatbot. Đây là biện pháp mới nhất trong một loạt các hạn chế kỹ thuật số nghiêm ngặt tại Úc, bao gồm lệnh cấm mạng xã hội đầu tiên trên thế giới đối với trẻ em dưới 16 tuổi. Luật có hiệu lực vào tháng 12 và áp dụng cho một loạt các dịch vụ bao gồm Facebook và Instagram, cả hai đều thuộc sở hữu của Meta Platforms, và YouTube.

Trong một tuyên bố vào ngày 9/9, Julie Inman Grant, Ủy viên An toàn Điện tử của Úc cho biết trẻ em đang phải tiếp xúc với nội dung "khủng khiếp" không phù hợp với lứa tuổi ngay từ khi còn nhỏ. Bà Inman Grant cho biết bà đã nghe nói về những trường hợp đứa trẻ 10 tuổi quan hệ tình dục với các chatbot này, phần lớn không được kiểm soát

Theo các quy định mới, các trang web hiển thị hoặc phân phối nội dung khiêu dâm hoặc "nội dung có tác động mạnh" khác sẽ phải áp dụng công nghệ xác minh độ tuổi để ngăn trẻ em truy cập vào các nội dung này. Các cửa hàng ứng dụng phải đảm bảo các ứng dụng được xếp hạng phù hợp và áp dụng các biện pháp đảm bảo độ tuổi cho mọi lượt tải xuống.

Các quy định này áp dụng cho một loạt các dịch vụ trực tuyến, bao gồm nền tảng mạng xã hội, trang web trò chơi và dịch vụ AI. Vi phạm có thể bị phạt tới 50 triệu đô la Úc.

Bà Inman Grant phát biểu: "Tôi không muốn trẻ em và thanh thiếu niên Úc trở thành nạn nhân của những công nghệ mạnh mẽ được đưa vào thị trường mà không có rào cản"./.

TH