Trí tuệ nhân tạo muốn an toàn phải đòi hỏi văn hóa thông minh

Các nhà nghiên cứu, những người tập trung vào một vấn đề được gọi là an toàn AI hoặc sự liên kết AI, định nghĩa trí thông minh nhân tạo là các máy có thể đáp ứng hoặc đánh bại hiệu suất của con người trong một nhiệm vụ nhận thức cụ thể. Những chiếc xe tự lái và thuật toán nhận dạng khuôn mặt ngày nay là ví dụ của loại AI này.

Một số nhà nghiên cứu khác đang làm việc để phát triển trí thông minh nhân tạo chung (artificial general intelligence-AGI) - những cỗ máy có thể vượt trội hơn con người ở bất kỳ nhiệm vụ nhận thức nào. Chúng ta chưa biết khi nào hoặc thậm chí là liệu AGI sẽ đạt được hay không, nhưng rõ ràng là con đường nghiên cứu này đang dẫn đến những hệ thống AI mạnh mẽ và tự trị hơn bao giờ hết, thực hiện ngày càng nhiều công việc hơn trong nền kinh tế và xã hội của chúng ta.

Xây dựng các máy móc có thể thực hiện bất kỳ nhiệm vụ nhận thức nào có nghĩa là tìm ra cách xây dựng AI không chỉ có hiểu biết về những thứ như đặc tính sinh học của cà chua mà còn về các hệ thống quy tắc đa dạng và biến đổi của chúng ta về những thứ như chúng ta làm gì với cà chua.

Con người sống cuộc sống với vô số các quy tắc, từ cách ăn, mặc và nói đến cách chúng ta chia sẻ thông tin, cư xử và theo đuổi mục tiêu.

AI thực sự mạnh mẽ sẽ cần phải nhận thức được các quy tắc, những thứ có thể thay đổi rất nhiều từ nhóm này sang nhóm khác khiến cho chúng có vẻ không cần thiết, nhưng việc tuân theo chúng là điều rất quan trọng trong một cộng đồng nhất định.

Cà chua trong salad trái cây có thể có vẻ kỳ lạ với người Anh như Kington đã viết, nhưng sẽ hoàn toàn ổn nếu bạn nấu ăn cho người Hàn Quốc hoặc một người tiên phong ẩm thực. Và mặc dù nó có vẻ rất nhỏ nhưng phục vụ sai cách cho một vị khách cụ thể có thể gây nhầm lẫn, ghê tởm, thậm chí tức giận. Đó không phải là công thức cho các mối quan hệ lành mạnh trong tương lai.

Các quy định liên quan đến những thứ không chỉ là việc kết hợp những loại thực phẩm mà còn là những thứ mà cộng đồng xem xét một cách nghiêm trọng như: ai có thể kết hôn với ai, cách con cái được đối xử, ai được quyền nắm giữ quyền lực, cách thức doanh nghiệp tạo ra và định giá hàng hóa và dịch vụ, phê bình có thể được chia sẻ công khai như thế nào và khi nào.

Một AI thành công và an toàn có thể đạt được mục tiêu của chúng ta trong giới hạn các tiêu chuẩn được xã hội chấp nhận đòi hỏi sự hiểu biết không chỉ về cách các hệ thống vật lý của chúng ta hoạt động, mà còn cách hoạt động của các hệ thống quy tắc của con người. Quy tắc không chỉ là các đặc tính cố định của môi trường, như sinh học của cây. Chúng là những cấu trúc năng động và đáp ứng mà chúng ta tạo ra và đổi mới hàng ngày.

Những hệ thống quy tắc này là các hệ thống mà chúng ta dựa vào để đảm bảo rằng mọi người cư xử theo cách chúng ta muốn trong cộng đồng, nơi làm việc và môi trường xã hội của chúng ta. Chỉ khi tự tin biết về cách mọi người xung quanh chúng ta có khả năng cư xử như thế nào thì tất cả chúng ta mới sẵn lòng tin tưởng và sống và đầu tư với nhau.

Đảm bảo các AI sẽ hành xử theo cách chúng ta muốn cũng không quá khác biệt. Cũng giống như việc chúng ta cần nuôi dạy con cái của mình để chúng trở thành những người có đủ năng lực tham gia các hệ thống quy tắc, chúng ta sẽ cần huấn luyện các cỗ máy để chúng có khả năng tương tự. Hiểu biết sâu sắc về các sự kiện của vũ trụ là không đủ, khả năng này còn đòi hỏi một trí tuệ đủ để biết rằng có một quy tắc ở đây, trong nhóm này nhưng không phải trong nhóm kia. Và việc bỏ qua quy tắc đó có thể không chỉ làm phiền nhóm mà nó có thể khiến họ sợ hãi hoặc từ chối sự xuất hiện của máy móc ở giữa họ.

Cuối cùng, sự thành công của Life 3.0 phụ thuộc vào khả năng của chúng ta để hiểu Life 1.0. Và đó là nơi chúng ta đối mặt với thử thách lớn nhất trong nghiên cứu AI.