3 bài học từ IBM về thiết kế AI có trách nhiệm và đạo đức

Theo đó, dự án này đã xác định mục tiêu làm nổi bật và chia sẻ các thực tiễn tốt nhất trong việc thiết kế, phát triển, triển khai và sử dụng công nghệ một cách có trách nhiệm.

Để đạt được mục tiêu này, nhóm nghiên cứu đã đưa ra một loạt nghiên cứu điển hình về các tổ chức, doanh nghiệp (DN) đã có những đóng góp ý nghĩa và tiến bộ trong đạo đức công nghệ. Và mới đây, báo cáo "Sử dụng công nghệ có trách nhiệm: Nghiên cứu điển hình của IBM" (Responsible Use of Technology: The IBM Case Study), được đồng xuất bản bởi WEF và Trung tâm Đạo đức ứng dụng Markkula (the Markkula Center for Applied Ethics) tại Đại học Santa Clara đã chia sẻ về những bài học chính được rút ra từ nghiên cứu của IBM đối với đạo đức công nghệ.

Tin tưởng nhân viên

Khi Francesca Rossi - Nhà lãnh đạo toàn cầu về đạo đức AI của IBM, gia nhập IBM vào năm 2015 với nhiệm vụ làm việc về đạo đức AI, cô đã tập hợp 40 đồng nghiệp để cùng nghiên cứu và khám phá chủ đề này. Công việc của nhóm nhân viên này thiết lập một chương quan trọng trong hành trình công nghệ AI có đạo đức của IBM.

Ban đầu, nhóm đã nghiên cứu và xuất bản một bài viết với tiêu đề: "Học cách tin tưởng vào các hệ thống AI" (Learning to trust AI systems), trong đó đưa ra một loạt các cam kết nhằm nâng cao hiểu biết và thực hiện việc phát triển đạo đức AI. Một trong những cam kết này là thành lập một "Ban đạo đức AI" nội bộ, để thảo luận, tư vấn và hướng dẫn sự phát triển và triển khai đạo đức của các hệ thống AI.

Phát triển công nghệ AI có trách nhiệm và đạo đức tại IBM giai đoạn 2015-2021.

Dưới sự lãnh đạo của TS. Rossi và Giám đốc quyền riêng tư của IBM Christina Montgomery, Ban đạo đức AI này chịu trách nhiệm quản lý các nỗ lực đạo đức công nghệ của công ty trên toàn cầu. Tuy nhiên, một Ban quản trị là không đủ để giám sát hơn 345.000 nhân viên làm việc tại hơn 175 quốc gia. Do đó, Ban đạo đức AI dựa vào một nhóm nhân viên được gọi là "đầu mối" có vai trò chính thức hỗ trợ các đơn vị kinh doanh của họ về các vấn đề liên quan đến đạo đức.

Ngoài ra, IBM còn thiết lập một mạng lưới tình nguyện viên của công ty được gọi là "mạng lưới vận động chính sách", có vai trò thúc đẩy văn hóa công nghệ có đạo đức, trách nhiệm và đáng tin cậy trong DN.

Trao quyền cho nhân viên chính là một phần quan trọng trong việc đẩy mạnh đạo đức công nghệ trong hoạt động tại IBM.

Vận hành các giá trị và nguyên tắc về đạo đức AI

Để vận hành đạo đức trong một cơ sở tổ chức, trước tiên phải có các cam kết thực hiện đối với các giá trị. Để đạt được mục tiêu này, IBM đã phát triển một bộ "nguyên tắc và trụ cột" để hướng các nghiên cứu và hoạt động kinh doanh của công ty theo hướng hỗ trợ các giá trị quan trọng trong AI.

Việc thực hiện các nguyên tắc và trụ cột này đã dẫn đến sự phát triển của các bộ công cụ kỹ thuật để giúp đạo đức công nghệ có thể trở thành những quy tắc nhất định.

Theo đó, IBM Research đã tạo ra 5 bộ công cụ mã nguồn mở, có sẵn miễn phí cho tất cả mọi người. Bao gồm:

AI Explainability 360: Bộ công cụ này có tám thuật toán để làm cho các mô hình học máy (ML) trở nên minh bạch và dễ hiểu hơn.

AI Fairness 360: Bộ công cụ bao gồm hơn 70 chỉ số công bằng và 10 thuật toán giảm thiểu thiên vị để nâng cao tính công bằng trong ML. Ngoài ra, nó còn chứa các số liệu để đánh giá xem các cá nhân và nhóm có được đối xử công bằng trong việc triển khai AI hay không.

Adversarial Robustness Toolbox: Bộ công cụ lớn cho phép các nhà phát triển ML bảo vệ chống lại các cuộc tấn công của đối thủ. Hộp công cụ bao gồm bản demo về các cuộc tấn công và phương pháp phòng thủ cho các mô hình ML để các nhà phát triển có thể đánh giá cách mô hình của họ sẽ hoạt động như thế nào khi bị các cuộc tấn công như vậy, nhằm điều chỉnh mô hình và làm cho chúng mạnh mẽ hơn.

AI FactSheets 360: Mô hình thúc đẩy niềm tin vào AI bằng cách tăng tính minh bạch và cho phép quản trị.

Uncertainty Quantification 360: Bộ công cụ để kiểm tra mức độ tin cậy của các dự đoán AI, giúp đặt ranh giới về độ tin cậy của mô hình.

Bất kỳ tổ chức nào cũng có thể đưa ra các nguyên tắc hoặc các cam kết đạo đức khác, nhưng chúng phải được vận hành để trở thành hiện thực. Các bộ công cụ này giúp IBM thực hiện các cam kết đạo đức của riêng mình và bằng cách biến chúng thành mã nguồn mở, IBM hy vọng sẽ giúp các công ty công nghệ khác và cộng đồng công nghệ nói chung có thể tiếp cận một cách rộng rãi hơn.

Thúc đẩy ứng dụng rộng rãi AI có đạo đức

Một trong những cách mà IBM đã và đang cố gắng thúc đẩy những tác động tích cực rộng rãi của công nghệ là thông qua quan hệ đối tác với các tổ chức giáo dục và nghiên cứu cũng như các tổ chức đa bên.

Trong lĩnh vực giáo dục, vào năm 2011, IBM đã tung ra P-TECH, một chương trình thúc đẩy việc xây dựng kỹ năng có thể ứng dụng trong nghề nghiệp cho học sinh trung học trong khi làm việc với một cố vấn của IBM. Sau đó, họ có thể tham gia chương trình thực tập mùa hè có trả lương tại IBM và đăng ký vào chương trình cấp bằng cao đẳng miễn phí.

Ở cấp đại học, IBM có một số quan hệ đối tác với các trường học, chẳng hạn như Notre Dame - Phòng thí nghiệm Đạo đức công nghệ của IBM, để hỗ trợ các cộng đồng có trình độ thấp trong các môn học STEM (Khoa học, Công nghệ, Kỹ thuật và Toán học) và giáo viên của họ nhằm cải thiện các chương trình giảng dạy có liên quan.

Bằng cách hợp tác với các tổ chức nghiên cứu, IBM đang giúp đào tạo thế hệ tiếp theo của các chuyên gia công nghệ và tạo ra các kênh liên lạc giữa giới học thuật và ngành công nghiệp, bao gồm thúc đẩy thảo luận về các mối quan tâm đạo đức từ cả hai phía.

Bên cạnh đó, IBM còn là thành viên sáng lập của một số tổ chức đa bên liên quan như Đối tác về AI để mang lại lợi ích cho con người và xã hội (Partnership on AI to Benefit People and Society (2017)). IBM cũng làm việc với nhiều sáng kiến của WEF liên quan đến đạo đức AI gồm Hội đồng Tương lai toàn cầu về AI cho nhân loại (Global Future Council on AI for Humanity), Hội đồng AI toàn cầu (Global AI Council) và Liên minh Hành động AI toàn cầu (Global AI Action Alliance).

Trong nhiều thập kỷ, IBM đã tham gia vào đổi mới công nghệ có trách nhiệm và chuyển đổi số. Những cam kết mà công ty đưa ra nhằm nâng cao hiểu biết và hiệu quả phát triển đạo đức của AI, cũng như tạo tiền đề cho cách công ty cung cấp các giải pháp công nghệ cho thế kỷ 21.

Đầu tiên, IBM cam kết giáo dục mọi người và xã hội về cách thức hoạt động của công nghệ và AI. Vì theo IBM, một xã hội được giáo dục tốt và đặc biệt là những người ra quyết định được giáo dục tốt sẽ có thể đưa ra các quyết định tốt hơn về vai trò của AI trong xã hội tương lai.

Thứ hai, IBM muốn thu thập ý kiến đóng góp từ xã hội về những cách mà AI đang ảnh hưởng đến thế giới. Bằng cách này, IBM có thể phản ứng nhanh hơn đối với tác động xã hội của AI và hành động nhanh hơn để ngăn chặn với các tác hại có thể xảy ra. Điều này sẽ giúp đảm bảo rằng AI thực sự là một công nghệ có lợi.

Thứ ba, IBM và các nhân viên của mình cam kết phát triển, triển khai và sử dụng AI để mang lại lợi ích cho thế giới. Bằng cách đảm bảo rằng xã hội được giáo dục về AI và các công ty công nghệ biết về những tác động tức thời của AI đối với xã hội, AI sẽ có nhiều khả năng hướng đến những mục đích sử dụng tốt. Tất cả những nỗ lực này góp phần làm cho AI trở thành công nghệ tốt hơn và đáng tin cậy hơn.

Ngày càng có nhiều người nhìn nhận sâu sắc hơn về đạo đức công nghệ và sự đổi mới có trách nhiệm. Trong nhiều trường hợp, các tổ chức, DN cũng đang biến những ý tưởng này trở thành một phần không thể thiếu trong văn hóa DN của họ. Quy mô và phạm vi của những tác động sẽ khác nhau tùy theo tổ chức, nhưng mục tiêu chung phải là hướng tới cải thiện tình trạng xã hội tốt đẹp hơn.

Thông qua nghiên cứu điển hình này, WEF và các đối tác dự án hy vọng có thể khuyến khích các tổ chức trên thế giới áp dụng và vận hành đạo đức công nghệ trong các hoạt động của họ, đồng thời chia sẻ những kinh nghiệm của họ với cộng đồng toàn cầu. Bởi mục đích chung của công nghệ có trách nhiệm là mang lại những tác động tích cực cho toàn xã hội./.