Từ bộ não đến điện toán biết nhận thức (P1)

GIỚI THIỆU

Điện toán biết nhận thức là sự tìm cách xấp xỉ hóa chức năng giống như suy nghĩ, năng lượng thấp, khối lượng nhỏ và hiệu suất thời gian thực của bộ não con người. Về phương diện này, chúng ta đã có khoa học thần kinh, công nghệ nano và các siêu máy tính. Dựa vào những hiểu biết này, chúng ta đang tiến về phía trước để phát triển và chứng minh một kiến trúc điện toán biết nhận thức, không dựa trên kiến trúc von-Neuman, có công suất cực thấp, nhỏ gọn, mang tính mô-đun - ở đây là TrueNorth. Để phát triển TrueNorth, các nhà nghiên cứu của IBM đã nghiên cứu và thiết kế một thiết bị mô phỏng đa luồng, có khả năng xử lý song song lớn là Compass, có chức năng tương đương với TrueNorth. Đây là kết quả của một số sáng tạo trong lĩnh vực truyền thông, tính toán và bộ nhớ, Compass chứng tỏ quy mô chưa từng có với số lượng các tế bào thần kinh của nó sánh được với vỏ não của con người và số lượng khớp thần kinh tương đương với vỏ não khỉ. Compass đa năng hỗ trợ tất cả các khía cạnh, từ kiến trúc, đến thuật toán và ứng dụng. TrueNorth và Compass đại diện cho một kiến trúc phân tán và xử lý song song quy mô lớn dành cho hoạt động tính toán, bổ sung cho kiến trúc von-Neumann hiện đại.

TrueNorth bao gồm một mạng lưới lõi nơ-ron tiếp hợp (neurosynaptic) có khả năng mở rộng, trong đó mỗi lõi có chứa các thiết bị tương ứng với tế bào thần kinh, nhánh, các khớp thần kinh và sợi trục thần kinh. Để đưa TrueNorth vào sử dụng, nhóm nghiên cứu đã phát triển Compass, một thiết bị mô phỏng chức năng song song đa luồng ở mức độ cao kiêm một trình biên dịch song song để tương quan một mạng lưới của các tuyến đường dài trong bộ não loài khỉ đuôi ngắn với TrueNorth. Các nhà khoa học đã trình diễn khả năng mở rộng quy mô nhỏ gần như hoàn hảo trên 16 tủ rack máy tính IBM® Blue Gene®/Q (262.144 CPU, 256 TB bộ nhớ), đạt được khả năng mở rộng chưa từng có với 256 triệu nhân nơ-ron tiếp hợp có chứa 65 tỷ tế bào thần kinh và 16 nghìn tỷ khớp thần kinh và chỉ chạy chậm hơn 388 lần so với thời gian thực với tốc độ xung nhịp trung bình là 8,1 Hz. Bằng cách sử dụng gốc truyền thông PGAS mới, nhóm nghiên cứu cũng trình diễn hiệu năng tốt hơn 2 lần so với thời gian thực so với các gốc MPI trên một máy tính Blue Gene/P 4 rack (16.384 CPU, 16 TB bộ nhớ).

Nghiên cứu, thử nghiệm này đã được nhóm các nhà khoa học của IBM tổng kết trong một báo cáo: "Compass: A scalable simulator foran architecture for Cognitive Computing". Tạp chí CNTT&TT lần lượt trích dẫn nghiên cứu này chuyển tải tới quý đọc giả.

KIẾN TRÚC HOÀN TOÀN MỚI MÔ PHỎNG BỘ NÃO

Bộ não và máy tính hiện đại có kiến trúc hoàn toàn khác nhau phù hợp với các ứng dụng khác nhau. Máy tính hiện đại dựa trên một mô hình chương trình lưu trữ, từ trước đến nay thường được thực hiện bằng các mạch kỹ thuật số, đồng bộ, nối tiếp, tập trung, nhanh chóng, đa mục đích và được kết nối cứng, với mô hình đánh địa chỉ bộ nhớ rõ ràng dẫn đến sự phân tách giữa tính toán và dữ liệu. Ngược lại, não bộ sử dụng các đơn vị tính toán có thể nhân rộng của các tế bào thần kinh và khớp thần kinh được thực hiện trong chế độ kết hợp giữa analog-kỹ thuật số, không đồng bộ, song song, phân tán, chậm, có thể cấu hình lại, chuyên dụng và nhiều chất sinh học có khả năng chống chịu lỗi, cùng với đánh địa chỉ bộ nhớ tiềm ẩn, làm mờ đi ranh giới giữa tính toán và dữ liệu. Dễ thấy, chúng ta không thể mô phỏng các chức năng, sức mạnh, khối lượng, hiệu năng thời gian thực của bộ não trong một kiến trúc máy tính hiện đại. Nhiệm vụ này đòi hỏi phải có một kiến trúc hoàn toàn mới lạ. Hiện nay, chúng ta vẫn phải xây dựng những kiến trúc mới lạ bằng công nghệ CMOS, vốn đã phát triển trong nửa thế kỷ qua để phục vụ các máy tính hiện đại và không được tối ưu hóa cho việc cung cấp các chức năng giống như của bộ não trong một thiết bị nhỏ gọn, có điện năng siêu thấp. Ví dụ, sự phong phú về mặt sinh học của các tế bào thần kinh và kết nối 3D vật lý không phải là một câu hỏi được đặt ra từ đầu. Chúng ta cần phải thay đổi sự chú ý từ sự phong phú của khoa học thần kinh học vốn đã đủ cho những gốc toán học cần thiết. Một câu hỏi liên quan sâu sắc đến khoa học, công nghệ, kinh doanh, chính phủ và xã hội là chúng ta có thể xấp xỉ hóa gần đúng đến mức độ nào các chức năng, sức mạnh, khối lượng và hiệu suất thời gian thực của bộ não trong những giới hạn của công nghệ hiện đại. 

Dưới sự bảo trợ của DARPA SyNAPSE, các nhà nghiên cứu của IBM đang phát triển một kiến trúc mô-đun mới, điện năng cực thấp, mạnh mẽ, nhỏ gọn được gọi là TrueNorth, trong đó bao gồm một mạng truyền thông được liên kết với nhau của một số lượng cực lớn các lõi nơ-ron tiếp hợp. Mỗi lõi tích hợp phần tính toán (các tế bào thần kinh), bộ nhớ (khớp thần kinh) trong truyền thông liên lõi (sợi trục) để phá vỡ các nút cổ chai trong kiến trúc máy tính von Neumann. Mỗi lõi đều mang tính hướng sự kiện (khác với mô hình được quyết định bởi xung nhịp thời gian), có thể cấu hình lại và tiêu thụ điện năng cực thấp. Các lõi đó hoạt động song song và truyền các thông điệp đa chiều với nhau. Điều đó có nghĩa là, các tế bào thần kinh trên một lõi nguồn gửi các xung điện đến các sợi trục trên một lõi mục tiêu. Chúng ta có thể coi các lõi là chất xám trong vi mạch vỏ não kinh điển và kết nối liên lõi như là chất trắng đường dài. Cũng giống như vỏ não, TrueNorth có khả năng mở rộng rất cao về số lượng lõi. Do đó, TrueNorth là một kiến trúc phi von Neumann. Kiến trúc mới này nắm bắt được bản chất của khoa học thần kinh trong giới hạn của công nghệ CMOS hiện tại.

Đóng góp chính của nhóm nghiên cứu là đã sáng tạo một thiết bị mô phỏng kiến trúc được gọi là Compass dành cho TrueNorth, trình diễn được hiệu năng mở rộng yếu và mạnh gần như hoàn hảo của nó trong khi vẫn khai thác được ưu thế của bản chất đa luồng trên các nút tính toán IBM® Blue Gene®/Q. Compass có một sự tương đương một- một với chức năng của TrueNorth. Compass là giải pháp đa luồng, có mức độ xử lý song song cao và khả năng mở rộng lớn, trong đó kết hợp một số sáng tạo về truyền thông, tính toán và bộ nhớ. Trên một chiếc siêu máy tính 16-rack IBM Blue Gene/Q siêu máy tính với 262.144 bộ vi xử lý và 256 TB bộ nhớ chính, Compass đã mô phỏng một số lượng lớn chưa từng có với 256 triệu lõi TrueNorth có chứa 65 tỷ tế bào thần kinh và 16 nghìn tỷ khớp thần kinh. Những kết quả này cao hơn 3 lần so với số lượng tế bào thần kinh ước tính trong vỏ não con người, tương đương với số lượng khớp thần kinh trong vỏ não khỉ và bằng 0,08 lần số lượng khớp thần kinh trong vỏ não con người 1. Tại một tốc độ thực. Ngoài ra, các nhà nghiên cứu còn xác định số lượng lõi TrueNorth mà Compass có thể mô phỏng trong một hạn chế thời gian thực co dãn. Họ so sánh các phương pháp thông qua sử dụng cả gốc truyền thông PGAS và MPI để xác định xem đâu là gốc hiệu quả nhất về phương diện độ trễ và băng thông.

Truyền thông liên lõi một mặt từ một tế bào thần kinh trên một lõi đến một sợi trục trên một lõi khác nằm trên một nút tính toán khác sẽ tương quan một cách tự nhiên vào mô hình PGAS. Compass cho phép thực hiện những mô phỏng quy mô lớn cung cấp chức năng giống như của bộ não và như là một tiền thân để thể hiện chức năng tương tự trên phần cứng TrueNorth. Mục tiêu của các nhà khoa học là không sử dụng Compass để mô hình hóa não bộ, mà là xấp xỉ hóa chức năng giống như não bộ để tích hợp nhiều phương thức cảm giác vận động. Nhóm nghiên cứu tin rằng chức năng đó tuân thủ mẫu.

Mẫu này sử dụng sơ đồ kết nối lớn nhất từ trước tới nay trong não khỉ, bao gồm cả vỏ não, đồ thị và hạch nền. Cụ thể, nhóm nghiên cứu sử dụng sơ đồ kết nối của não khỉ để nhanh chóng xây dựng một mẫu kết nối liên lõi. Sự phong phú của sơ đồ kết nối gây nhiều thách thức đối với những năng lực truyền thông và tính toán của Compass theo một cách thức phù hợp với việc hỗ trợ những mạng lưới giống như não bộ. Về phương diện này, các nhà khoa học đã xây dựng một trình biên dịch song song mới trong đó sử dụng phần mô tả tổng quan về sơ đồ kết nối não khỉ và biến nó trở thành các thông số cần thiết để cấu hình một mạng của các lõi TrueNorth. Trình biên dịch của này đủ để hỗ trợ các mạng hướng ứng dụng khác. Compass là giải pháp thiết yếu đối với việc xác minh tính đúng đắn của TrueNorth thông qua kiểm tra hồi quy; nghiên cứu các động lực của TrueNorth; đánh giá các cấu trúc truyền thông liên lõi; trình diễn các ứng dụng về tầm nhìn, khả năng nghe, điều khiển động cơ thời gian thực và tích hợp cảm biến; tính toán điện năng tiêu thụ; kiểm chứng, thẩm định và hồi quy giả thuyết liên quan đến mã và chức năng thần kinh.

Các nhà khoa học đã sử dụng Compass để chứng minh nhiều ứng dụng của Kiến trúc TrueNorth, như là luồng ánh sáng, cơ chế chú ý, phân loại hình ảnh và âm thanh, phân loại hình ảnh âm thanh đa phương thức, nhận dạng ký tự, định vị robot và khai thác tính năng không gian - thời gian. Compass hoàn toàn khác so với các thiết bị mô phỏng trước đó. Đầu tiên, cấu trúc dữ liệu cơ bản là một lõi nơ- ron tiếp hợp thay vì một khớp thần kinh; khớp thần kinh được đơn giản hóa trở thành một bit, giúp giảm được yêu cầu lưu trữ cần thiết đi 32 lần cho cấu trúc dữ liệu của khớp thần kinh so với C2 (1). Thứ hai, kết nối giải phẫu cục bộ và đường dài trong Compass để mô phỏng tương ứng những hạn chế trong và liên lõi của TrueNorth hoàn toàn không có chức năng tương tự trong C2 (2). Thứ ba, các phương trình về động lực của tế bào thần kinh trong Compass đều tuân theo chuẩn phần cứng hiệu quả, trong khi C2 chỉ tập trung vào những mô hình tế bào thần kinh động mang tính hiện tượng trong một ngăn duy nhất. Thứ tư, Compass sử dụng một mô hình lập trình đa luồng đầy đủ trong khi C2 sử dụng một mô hình lập trình MPI phẳng, làm cho nó không có khả năng khai thác tối đa tiềm năng của siêu máy tính Blue Gene/Q. Cuối cùng, Compass kết hợp một trình biên dịch tại chỗ để tạo ra một mô hình TrueNorth hoàn chỉnh từ một file mô tả CoreObject nhỏ gọn, qua đó rút ngắn thời gian thiết lập mô phỏng tới ba lần. Như là kết quả của những sáng tạo này, Compass thể hiện khả năng mở rộng yếu chưa từng có vượt ra ngoài quy mô bộ não mèo đã đạt được bằng C2. Kiến trúc của Compass trái ngược với các thiết bị mô phỏng tính toán khoa học thần kinh khác.

Compass là một biểu hiện về những ứng dụng mới của những chiếc siêu máy tính hiện đại nhằm hỗ trợ các bộ xử lý theo ứng dụng thế hệ mới đang ngày càng trở nên phổ biến, để đáp ứng một thế giới đang khao khát nâng cao hiệu suất và hạ thấp mức tiêu thụ điện năng trong khi vẫn phải đối mặt với đạt ngưỡng giới hạn mở rộng theo dự báo của CMOS và những trở ngại ngày càng tăng trong việc nâng cao tốc độ đồng hồ.

Minh Thiện

(còn nữa)

(TCTTTT Kỳ 1/11/2014)