Đó là nỗi sợ hãi, hoặc chính xác hơn là việc nhận thức, được chia sẻ bởi các thành viên hàng đầu trong các công ty công nghệ hiện đang nghiên cứu trong trí thông minh nhân tạo thông minh hơn. Giám đốc kỹ thuật của Google, Ray Kurzweil, gần đây đã cho thấy một số lo ngại về việc robot nhanh chóng học hỏi từ con người để ngụy trang như một trong số họ. Ông cho biết trong một cuộc phỏng vấn “2029 là số ngày mà tôi đã dự đoán khi một trí thông minh nhân tạo sẽ vượt qua bài kiểm tra Turing hợp lệ và do đó đạt được mức độ thông minh của con người. Tôi đã thiết lập ngày 2045 cho ‘Singularity’, đó là khi chúng ta nâng cấp trí thông minh hiệu quả của chúng ta lên một tỷ lần bằng cách kết hợp với trí thông minh mà chúng ta đã tạo ra”
Singularity là một giả thiết, cho rằng đến một lúc nào đó máy móc sẽ phát triển hơn con người và chúng ta khi đó phải tự thay đổi chính mình.
Cho dù có thực hay không, những dự đoán của Kurzweil về “Singularity” sẽ trở thành hiện thực mang theo một nỗi sợ hãi về một công nghệ được cho là thay đổi thế giới - và nó thực sự đang làm như vậy. Tuy nhiên, chúng ta vẫn đang đứng tại một thời điểm của lịch sử khi tương lai vẫn có thể được kiểm soát, hoặc ít nhất chúng ta có thể thử. Tính toán lượng tử chưa sẵn sàng để hoạt động và máy móc đang ở giai đoạn phát triển ban đầu, chúng có thể đọc dữ liệu và đưa ra dự đoán, nhưng chỉ như thế, không còn gì khác, không có sự sáng tạo nào tham gia vào quá trình.
Đó là lý do tại sao các nhà ra quyết định, các tổ chức quốc tế, các công ty công nghệ và các nhà nghiên cứu cần phải vẽ một ranh giới và đảm bảo rằng lực lượng công nghệ này sẽ không bao giờ vượt khỏi tầm kiểm soát. Có một số tổ chức đã bắt đầu thiết lập những giới hạn trong đó nhân loại sẽ được hỗ trợ bởi trí thông minh nhân tạo thay vì cảm thấy bị đe dọa bởi nó.
Một trong những người tiên phong hành động về vấn đề này là Tổng thư ký LHQ Antonio Guterres, người đã chỉ ra rằng mặc dù ông thấy “tiềm năng của các công nghệ mới sẽ mang lại sự thay đổi tích cực nhưng cũng có thể gây tổn hại nghiêm trọng”. Và để tránh sự tổn hại này, ông sẽ phát hành một cuốn sách chiến lược mới để kiểm soát các công nghệ mới nổi của Cuộc Cách mạng Công nghiệp lần thứ 4.
Antonio Guterres hiểu rõ cách thức các công nghệ này với trí thông minh nhân tạo nằm ở trung tâm, đóng vai trò chính trong hoạt động hàng ngày của con người. Chính vì vật, tại Diễn đàn kinh tế thế giới ông kêu gọi mở rộng cơ sở tri thức của các tổ chức về các công nghệ mới, đặc biệt khi chúng liên quan đến các lĩnh vực cốt lõi: hòa bình quốc tế và an ninh, phát triển và nhân quyền.
Liên Hợp Quốc là cơ quan giám sát chính trên thế giới, muốn đảm bảo rằng Cuộc Cách mạng Công nghiệp lần thứ 4 đi theo cách sẽ duy trì hòa bình và thịnh vượng hơn là xung đột và nghèo đói. Tổng thư ký đã tìm cách đạt được các mục tiêu phát triển bền vững dựa vào sự giúp đỡ của cuộc cách mạng này.
Trong chiến lược mới của mình, ông muốn "mở rộng quy mô của LHQ và hiểu biết về các công nghệ mới". Antonio Guterres cũng muốn "nắm bắt các quy trình quy định, quy định và hợp tác hiện có và mới nổi để khai thác các cơ hội và giảm bớt rủi ro do các công nghệ mới tạo ra" trong cuốn sách chiến lược mới của ông.
Và cuối cùng, Liên Hợp Quốc sẽ khuyến khích các thành viên và các tổ chức tư nhân khác "làm sâu sắc thêm sự hiểu biết về tác động của các công nghệ mới đối với phát triển bền vững và nhân quyền." Như họ thấy, công nghệ là để thúc đẩy nhân loại tiến lên, không phải để đe dọa con người, và nó chỉ là công cụ của các mô hình kinh tế mới.
Tuy nhiên, LHQ đã hạn chế ảnh hưởng đến sức mạnh tổng hợp của thế giới, họ làm những gì họ có thể với các nguồn lực mà họ được cung cấp. Tuy nhiên, đưa chủ đề này ra bàn luận cũng là chiến lược tốt nhất mà họ có thể làm, để làm cho những người được thúc đẩy bởi chính công nghệ hoặc bởi lợi nhuận sẽ suy nghĩ lại. Singularity được cho là một kịch bản không bao giờ xảy ra, hãy tiếp tục chiến đấu vì điều đó.
