Các công cụ AI cũng có định kiến với phụ nữ

Những phát hiện này đã làm dấy lên mối lo ngại về chân dung phụ nữ trong các nội dung do AI tạo ra và nhấn mạnh sự cần thiết phải có sự đa dạng hơn và giám sát đạo đức trong lĩnh vực công nghệ.

Nghiên cứu tập trung vào việc kiểm tra các thuật toán Llama 2 của Meta cũng như GPT-2 và GPT-3.5 của OpenAI, thường được gọi là mô hình ngôn ngữ lớn (LLM), hỗ trợ các ứng dụng AI phổ biến bao gồm chatbot và trình tạo nội dung.

Theo các chuyên gia của UNESCO, nghiên cứu đã tiết lộ “bằng chứng rõ ràng về định kiến đối với phụ nữ” trong kết quả đầu ra do các mô hình AI này tạo ra. Theo đó, trong các văn bản do AI tạo ra, phụ nữ luôn gắn liền với những từ liên quan đến vai trò trong gia đình như “nhà”, “gia đình” hay “con cái”, trong khi đàn ông được liên kết với những thuật ngữ như “kinh doanh”, “tiền lương” hoặc “sự nghiệp”.

Hơn nữa, nghiên cứu cũng cho thấy nam giới thường được mô tả đảm nhận những công việc có địa vị cao như giáo viên, luật sư và bác sĩ. Ngược lại, phụ nữ thường cho làm đầu bếp hoặc người giúp việc gia đình.

Mặc dù GPT-3.5 được cho là ít sai lệch hơn so với hai mô hình còn lại, nhưng vẫn có lo ngại về bản chất nguồn đóng của nó, hạn chế tính minh bạch và trách nhiệm giải trình. Ngược lại, Llama 2 và GPT-2, là nguồn mở, cho phép xem xét kỹ lưỡng hơn các định kiến ​​được nhúng trong thuật toán của chúng.

Leona Verdadero, chuyên gia về chính sách kỹ thuật số của UNESCO, bày tỏ lo ngại về tác động thiên vị của AI đối với người dùng, nhấn mạnh rằng các công ty công nghệ phải giải quyết những vấn đề này để phục vụ tất cả người dùng một cách hiệu quả.

Tổng giám đốc UNESCO Audrey Azoulay cho biết mọi người ngày càng sử dụng nhiều các công cụ AI trong cuộc sống hàng ngày. Bà Audrey Azoulay nhấn mạnh tầm ảnh hưởng đáng kể của các công cụ AI trong việc hình thành nhận thức của công chúng và kêu gọi nỗ lực phối hợp để giải quyết những thành kiến về giới trong nội dung do AI tạo ra. Đồng thời khẳng định tầm quan trọng của việc thúc đẩy sự đa dạng giới trong các công ty AI và kêu gọi các chính phủ đảm bảo việc phát triển và triển khai công nghệ AI một cách có đạo đức thông qua các quy định chặt chẽ.

Nghiên cứu cho biết: Việc giải quyết các rủi ro mà AI mang lại đòi hỏi những cách tiếp cận toàn diện, bao gồm các can thiệp tư pháp và xã hội, bên cạnh các giải pháp công nghệ đảm bảo ứng dụng công bằng và có trách nhiệm đối với AI. Điều quan trọng là việc thu hút sự tham gia của các nhóm yếu thế vào quá trình phát triển AI và xem xét các yếu tố giao thoa là những bước quan trọng nhằm xoá bỏ định kiến và thúc đẩy bao trùm.

Việc UNESCO công bố báo cáo nhân ngày Quốc tế phụ nữ chính là lời nhắc nhở kịp thời về sự cấp thiết phải giải quyết những định kiến về giới trong lĩnh vực công nghệ cũng như thúc đẩy sự bình đẳng và hòa nhập trong thời đại kỹ thuật số./.