Tranh luận xung quanh AI là một điều tốt

02:06 PM 02/12/2018 In bài viết

Kết quả hình ảnh cho Arguments Between AI Is a Good Thing

Mọi người (hoặc máy tính) tham gia vào một cuộc tranh luận có thể được coi là đối thủ của nhau. Và hầu hết chúng ta đã nghe về hệ thống AI đối lập. Nhưng tranh luận không phải là chiến đấu, một cuộc tranh luận không phải được thiết lập để chỉ ra người chiến thắng và kẻ thua cuộc. Nhiều lập luận của con người thực sự giống như chia sẻ niềm tin hơn.

Và khi có hơn hai người tham gia, tương tác sẽ trở thành trải nghiệm học tập mạnh mẽ và đáng tin cậy cho tất cả những người tham gia. Khi cuộc thảo luận chuyển sang một chủ đề mà một người tham gia không có chuyên môn (hoặc nắm giữ một quan điểm sai lầm), nó cung cấp cho họ cơ hội để thu thập kiến ​​thức mới đó từ (những) người tham gia khác. Sự sai lầm về một quan điểm, khái niệm được tổng hợp cho thấy đó là dấu hiệu tối thiểu để thấy cần phải nghiên cứu thêm về vấn đề đó.

Trong trường hợp của con người, đây là điểm mà tại đó mọi người tiếp cận với điện thoại thông minh của họ. Khi có ba hoặc nhiều người tham gia và phần lớn trong số họ đồng ý về một quan điểm phổ biến thì có vẻ rằng ý niệm đó là chính xác hơn.

Hãy chuyển bối cảnh của chúng ta sang thế giới kỹ thuật, gồm có máy tính và AI.

Trong suốt lịch sử công nghệ, con người đã giao nhiệm vụ cho các thiết bị. Và không ngạc nhiên, mối quan tâm của chúng tôi về tính chính xác của những hành động đó có mối tương quan trực tiếp với tầm quan trọng của những hậu quả của những hành động đó. Những thứ đơn giản như nồi áp suất thấp đã phát triển để có nhiều cơ chế an toàn hơn để bảo vệ chúng ta khỏi các nguy cơ phát sinh trong một ngày nhà bếp trở nên nguy hiểm. Nếu bất kỳ một trong những cơ chế "quyết định" rằng áp lực trong nồi đang quá cao thì nó sẽ làm giảm áp lực ngay lập tức. Một ví dụ về cơ khí rất đơn giản khác là công tắc an toàn trên máy bay thường được sử dụng để kích hoạt và vô hiệu hóa máy bay tự động.

Nhưng tất nhiên, vì sự phức tạp hành vi của các thiết bị tăng lên và nếu hậu quả của một quyết định tồi tệ trở nên đe dọa đến tính mạng, chúng ta không thể quản lý hành vi đó trong một cấu trúc nhị phân đơn giản như vậy nữa. Một ví dụ tuyệt vời của một hệ thống liên quan đến sự phức tạp đáng kinh ngạc kết hợp với những yếu tố kỹ thuật số cực kỳ cao là tàu con thoi.

Khi nó được thiết kế, tàu con thoi có lẽ là thiết bị phức tạp nhất từng được tạo ra. Nó bao trọn nhiều sức mạnh hơn và có nhiều bộ phận hơn bất kỳ thiết bị nào trước đây. Nó yêu cầu việc điều khiển chức năng hoạt động với độ chính xác theo từng mili giây. Nó cũng đặt ra một nguy cơ cực lớn cho phi hành đoàn, tại bước khởi động. Do vậy, rất nhiều kỹ thuật công nghệ cao và mạnh mẽ đã được tích hợp vào thiết kế của hệ thống khởi động và điều hướng. Phần lớn sức mạnh này được cung cấp thông qua nhiều hệ thống máy móc siêu cấp hoạt động song song.

Trong thực tế, tàu con thoi được thiết kế để có năm máy tính giống hệt nhau kết nối, tất cả đều hoạt động trên nhiệm vụ quản trị khởi chạy song song. Cùng nhau, chúng sẽ so sánh các lệnh đầu ra ở mức độ cao (cho mục đích điều chỉnh động cơ và gimballing, điều khiển chuyến bay, v.v.) để xác minh rằng chúng cùng đồng ý trong một số lỗi được xác định trước có thể chấp nhận được.

Nó hoạt động như thế này: kết quả đầu ra của ba máy tính được so sánh liên tục và đánh giá và nếu một trong những máy tính đó báo cáo một kết quả khác biệt đáng kể so với hai máy tính còn lại, kết quả không nhất quán sẽ ngay lập tức được gửi tới cho máy tính thứ tư. Nếu kết quả từ máy tính thứ tư này phù hợp với kết quả từ phần nhiều máy tính trước đó thì mọi thứ vẫn diễn ra tốt đẹp và chuyến bay vẫn tiếp tục bình thường. Nếu sau khi máy tính hoán đổi và một sự bất đồng vẫn được phát hiện thì máy tính có câu trả lời khác nhau nhất sẽ bị bỏ qua.

Thiết kế phần mềm ban đầu được cho là bao gồm tất cả năm máy tính trong một chương trình dự phòng phức tạp hơn nhưng vào thời điểm xây dựng hệ thống thực tế và tích hợp phần mềm, nó đã được quyết định rằng hệ thống máy tính ở dạng gộp "3 + 1" dễ phát triển và thử nghiệm hơn. Mô phỏng cho rằng nó sẽ thất bại chỉ ba lần trong 1 triệu lần thử nghiệm. Và khi được xem xét chống lại nguy cơ cao hơn của tất cả các hệ thống khác, nó đã được quyết định rằng tỷ lệ thất bại này là vừa đủ.

Lưu ý: Máy tính thứ năm được dự phòng như là một bản sao lưu phần cứng vì nó sẽ gây ra nhiều khó khăn hơn để thiết kế nó tích hợp với các máy tính khác một cách hoàn hảo! Mặc dù việc đưa ra quyết định thuật toán của các máy tính điều khiển tàu con thoi không phức tạp và bí ẩn như hệ thống xe tự lái tích hợp AI của chúng ta ngày nay nhưng sự thừa được coi là quan trọng đối với sự thành công của tàu con thoi.

Điều này đưa chúng ta đối mặt với tình trạng khó khăn mà chúng ta đang phải chịu đựng với những chiếc xe tự lái dựa trên AI. Các tin tức thường nhật hiện nay đưa nhiều tin về những chiếc xe tự lái có thể gây ra một số hoạt động sai. AI có thể khiến một chiếc xe tải màu xanh nhạt được coi như là bầu trời và lái xe qua nó. Do vậy, nó có thể hoàn toàn hiểu lầm liệu một người đi bộ có băng qua đường hay không. Nó có thể giải thích sai dấu vết trên vỉa hè là đường quản lý giao thông và đưa ra những chỉ đạo không thích hợp. Vì hầu hết các bộ não tự động lái xe dựa trên AI này đều dựa trên mạng thần kinh, chúng phải xử lý hai vấn đề:

  1. Chúng chỉ tìm hiểu về những gì chúng đã trải qua (nhiều lần) trong dữ liệu đào tạo của chúng trước đó.
  2. Chúng là "hộp đen" và không thể giải thích lý do tại sao chúng đã làm những việc như thế.

Một điều tốt về tình trạng xe tự lái ngày nay là ngày càng có nhiều người làm việc độc lập trên cùng một vấn đề. Toàn bộ lĩnh vực xe tự lái có khởi đầu từ DARPA Grand Challenge vào năm 2004. Nỗ lực bắt đầu chủ yếu ở các trường đại học, theo sau là các nhóm R & D của các doanh nghiệp công nghệ lớn (ví dụ: Google). Sau đó, nó tiến tới các công ty ô tô và cuối cùng là các công ty vận tải (ví dụ: Uber). Có hàng chục nhóm có thẩm quyền làm việc trên hầu như chính xác cùng một vấn đề: Lái xe an toàn qua các thành phố, trên đường cao tốc, vào và ra khỏi bãi đậu xe, vv, mỗi một trong những hệ thống độc lập này chiếm một lượng lớn dữ liệu cảm biến và giảm nó đầu ra đơn giản:

  1. Tiến lên (hoặc lùi lại)
  2. Đặt tốc độ thành X kph
  3. Xoay trục lái sang trái (hoặc phải)
  4. Phanh ở mức Z phần trăm

Bất kể mỗi hệ thống độc lập này phân tích và xử lý đầu vào tạo ra cảm giác của nó như thế nào, các kết quả đầu ra rất ít và rất cơ bản. Các đầu ra của bất kỳ một trong các hệ thống có thể dễ dàng được so sánh với đầu ra của bất kỳ hệ thống nào khác.

Hãy tưởng tượng một chiếc xe được nghiên cứu với nhiều (thậm chí có thể hàng chục) trình điều khiển AI được phát triển độc lập hoạt động song song. Tất cả các đầu ra lệnh được điều khiển cơ bản có thể được so sánh song song. Giống như hệ thống máy tính điều khiển chuyến bay đưa đón không gian, các đầu ra này có thể được so sánh dựa trên tính nhất quán. Nhưng chúng ta có thể sử dụng thông tin này để thu thập nhiều hơn một thỏa thuận đơn giản. Độ kín (độ lệch chuẩn) của các đầu ra cung cấp một dấu hiệu cho thấy tình huống lái xe cụ thể được hiểu rõ như thế nào. Hãy nhớ tất cả các trình điều khiển AI khác nhau. Chúng được phát triển bởi các nhà nghiên cứu khác nhau. Chúng có kinh nghiệm đào tạo dữ liệu khác nhau (sống cuộc sống khác nhau). Chúng từng có một quan điểm khác nhau về nhiệm vụ.

Những gì tôi nghĩ là hấp dẫn nhất trong kịch bản này là một chiếc xe được điều khiển bởi một tập hợp của các trình điều khiển AI thực sự có thể dạy chính nó làm thế nào để lái xe tốt hơn. Một người lái xe AI đã đề xuất một hành động mà nhóm được coi là không phù hợp sẽ có thể nhớ được tình huống đó cũng như những gì cần làm. Nó có thể tự tin thu thập thêm dữ liệu đào tạo đã được xác minh vào bộ sưu tập cá nhân của riêng mình. Sau khi tích đủ trên dữ liệu này (trở lại máy chủ cá nhân của riêng nó) nó sẽ có thể làm tốt hơn với tình huống cụ thể này trong tương lai. Các tình huống mà nhiều đầu ra điều khiển ít phù hợp hơn sẽ tạo ra một yêu cầu cho các nhà nghiên cứu để có nhiều ví dụ dữ liệu huấn luyện (kinh nghiệm) như tình huống này (AI có thể cho các nhà phát triển của chúng xem video về tình huống khó hiểu).

Tôi nghĩ phương pháp này có rất nhiều công nghệ. Mặc dù, về chính trị, tôi mong đợi một số vấn đề chia sẻ độc quyền giữa các nhóm độc lập khác nhau liên quan đến khả năng cạnh tranh. Nhưng tôi dự đoán rằng các phòng thí nghiệm lái xe tự động sẽ nhận ra rằng nếu một chiếc xe tự lái chạy trên một chiếc xe buggy hoặc tránh một con mèo đi lạc chỉ để đâm vào một trạm xe buýt đông đúc thì tất cả các công ty lái xe tự trị sẽ bị công khai xấu. Tất cả các hệ thống AI sớm hơn có thể được tin cậy là an toàn trên đường càng sớm thì họ sẽ có thể bán được số lượng lớn các hệ thống này. Và sau khi tất cả, họ chỉ chia sẻ sự khôn ngoan về kết quả của họ, chứ không phải công nghệ độc quyền thực sự của họ.

Tại thời điểm này một số người đang nghĩ rằng đây chỉ là một ý tưởng crackpot từ tương lai. Nhưng những nỗ lực nghiên cứu đang được thực hiện theo hướng này. Công việc ban đầu đang được thực hiện bằng cách sử dụng phương pháp này ngay từ ngày hôm nay để phát hiện các lỗi AI có thể xảy ra khi lái xe và cảnh báo con người.

Tôi nghĩ phương pháp này rất thú vị đối với các phương tiện tự động, và tôi hy vọng nó sẽ được áp dụng rộng rãi hơn trong tương lai. Nó chắc chắn có thể được áp dụng cho robot nói chung, và có rất nhiều cách tôi có thể tưởng tượng nó phù hợp với các ứng dụng ngành y tế và thậm chí cả ngành tài chính.

Khôi Linh