Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu

Intel vừa chính thức giới thiệu bộ xử lý Intel Xeon Scalable thế hệ thứ 3, bổ sung vào danh mục phần cứng và phần mềm trí tuệ nhân tạo (AI), giúp các tổ chức, doanh nghiệp (DN) tăng tốc phát triển, sử dụng các tải AI và phân tích chạy trong trung tâm dữ liệu, mạng cũng như các môi trường mạng biên thông minh.

Là bộ xử lý chủ đạo đầu tiên trong ngành được tích hợp hỗ trợ bfloat16, bộ xử lý Intel Xeon Scalable thế hệ thứ 3 mới của Intel giúp AI suy luận và đào tạo có thể triển khai rộng rãi hơn trên các bộ xử lý trung tâm (CPU) dành cho các ứng dụng bao gồm phân loại hình ảnh, nhận diện giọng nói và xây dựng mô hình ngôn ngữ.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 1.

Những cải tiến trong bộ xử lý Intel Xeon Scalable thế hệ thứ 3

Bà Lisa Spelman, Phó Chủ tịch Intel kiêm Tổng giám đốc Nhóm Xeon và Bộ nhớ, khẳng định: "Khả năng triển khai nhanh chóng AI và phân tích dữ liệu là việc cần thiết cho DN hiện nay. Chúng tôi vẫn cam kết nâng cao hơn việc tăng tốc AI tích hợp và tối ưu hóa phần mềm dành cho bộ xử lý vốn đang cung cấp sức mạnh trong các trung tâm dữ liệu của thế giới và các giải pháp điện toán biên, cũng như mang lại một nền tảng silicon độc đáo nhằm giải phóng những hiểu biết sâu sắc từ dữ liệu".

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 2.

Bà Lisa Spelman, Phó chủ tịch Intel kiêm Tổng giám đốc Nhóm Xeon và Bộ nhớ, phát biểu tại buổi họp báo online giới thiệu những tiến bộ mới nhất trên dông chip Xeon mới

AI và phân tích mở ra nhiều cơ hội mới cho khách hàng trong nhiều ngành công nghiệp, bao gồm tài chính, y tế, công nghiệp, viễn thông và vận tải. IDC dự báo rằng đến năm 2021, 75% các ứng dụng DN sẽ tích hợp AI. Đến năm 2025, IDC ước tính rằng khoảng 1/4 lượng dữ liệu sẽ được tạo ra trong thời gian thực, với nhiều loại thiết bị liên mạng (IoT) đa dạng sẽ tạo ra 95% lượng tăng trưởng này.

Hệ thống danh mục phần cứng đầy đủ hỗ trợ hệ sinh thái cho AI và phân tích

Những nền tảng dữ liệu mới của Intel, đi cùng hệ sinh thái đối tác đang phát triển không ngừng sử dụng công nghệ AI của Intel, được tối ưu hóa cho các DN nhằm kiếm được tiền từ việc triển khai các dịch vụ AI và và phân tích thông minh.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 3.

Bộ xử lý Intel Xeon Scalable thế hệ thứ 3

Bộ xử lý Intel Xeon Scalable thế hệ thứ 3: Intel đang tiếp tục mở rộng đầu tư vào khả năng tăng tốc AI tích hợp trong các bộ xử lý Intel Xeon Scalable thế hệ 3 mới thông qua việc tích hợp hỗ trợ bfloat16 vào công nghệ Intel DL Boost độc đáo.

Bfloat16 là một định dạng số nhỏ gọn mà chỉ cần sử dụng một nửa lượng bit của định dạng FP32 nhưng đạt được độ chính xác mô hình tương đương với mức thay đổi phần mềm tối thiểu (nếu có).

Những bổ sung bfloat16 hỗ trợ tăng tốc cả hiệu năng suy luận và đào tạo AI trong bộ xử lý. Các bản phân phối được Intel tối ưu hóa dành cho các khung học sâu hàng đầu (bao gồm TensorFlow và Pytorch) hỗ trợ bfloat16 và có sẵn thông qua bộ công cụ Intel AI Analytic. Intel cũng đưa bfloat16 được tối ưu hóa vào bộ công cụ OpenVINO và môi trường ONNX Runtime giúp triển khai suy luận dễ hơn.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 4.

Hiệu năng của bfloat16

Bộ xử lý Intel Xeon Scalable thế hệ 3 (tên mã "Cooper Lake") là bước tiến hóa của nền tảng gắn 4 và 8 bộ xử lý của Intel. Các bộ xử lý này được thiết kế dành cho học sâu, có mật độ máy ảo (VM), cơ sở dữ liệu trong bộ nhớ, các ứng dụng tối quan trọng và các tải công việc chuyên sâu về phân tích. Khách hàng đang có ý định đổi mới hạ tầng cũ kỹ có thể mong đợi mức tăng ước tính trung bình đạt 1,92 lần trên khối lượng công việc phổ và VMs nhiều hơn đến 2,2 lần khi so sánh với nền tảng tương đương 4 khoang cắm CPU cách đây 5 năm.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 5.

Bộ nhớ Intel Optane Persistent mới

Bộ nhớ Intel Optane Persistent mới cho AI và phân tích: Là một phần của nền tảng Intel Xeon Scalable thế hệ thứ 3, Intel cũng giới thiệu một loạt bộ nhớ dài hạn (Intel Optane persistent memory 200 series) cung cấp cho khách hàng bộ nhớ lên đến 4,5 TB trên một khe cắm CPU để quản lý các tải công việc chuyên sâu về dữ liệu, như các cơ sở dữ liệu trong bộ nhớ, ảo hóa mật độ cao, phân tích và điện toán hiệu năng cao.

Ổ SSD Intel 3D NAND mới: Đối với các hệ thống lưu trữ dữ liệu trong các mảng bộ nhớ hoàn toàn bằng loại flash, Intel thông báo sự sẵn sàng của các ổ SSD dung lượng cao Intel 3D NAND thế hệ kế tiếp, cụ thể là Intel SSD D7-P5500 and P5600.

Các ổ SSD 3D NAND này được tích hợp công nghệ tế bào 3 khoang (triple-level cell TLC) 3D NAND mới nhất của Intel và một bộ điều khiển PCIe hoàn toàn mới có độ trễ thấp nhằm đáp ứng nhu cầu xuất nhập dữ liệu (IO) cao của các tải công việc AI và phân tích cùng các tính năng tiên tiến để cải thiện hiệu suất CNTT và an ninh bảo mật dữ liệu.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 6.

Ổ SSD Intel 3D NAND mới

Tại buổi họp báo, đại diện cho nhóm chịu trách nhiệm về Intel FPGA và cấu trúc ASIC, ông David Moore, Phó Chủ tịch Tập đoàn kiêm Tổng Giám đốc của Nhóm giải pháp lập trình (PSG), Tập đoàn Intel, cho biết: Lần này Intel cho ra mắt FPGA đầu tiên được tối ưu hóa cho AI. Dòng Stratix® 10 NX FPGAs nhắm đến các tác vụ băng thông cao, độ trễ thấp để tăng tốc AI.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 7.

Ông David Moore giới thiệu các FPGA mới của Intel

Các FPGA này sẽ mang lại cho người dùng khả năng tùy biến, tinh chỉnh và mở rộng qui mô việc tăng tốc AI cho các ứng dụng đòi hỏi sức mạnh điện toán như xử lý ngôn ngữ tự nhiên và phát hiện gian lận. Các FPGA Intel Stratix 10 NX bao gồm bộ nhớ băng thông cao tích hợp (HBM), khả năng kết nối mạng hiệu năng cao và các khối số học được tối ưu hóa AI mới được gọi là AI Tensor Blocks, chứa các miền hệ số nhân có độ chính xác thấp hơn thường được dùng trong mô hình số học AI.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 8.

Cấu trúc và hiệu năng Stratix® 10 NX FPGAs

Phát triển kiến trúc chéo OneAPI để đổi mới liên tục AI

Khi Intel mở rộng danh mục sản phẩm AI tiên tiến nhằm đáp ứng nhu cầu đa dạng của khách hàng, Tập đoàn cũng đang mở đường để đơn giản hóa lập trình không đồng nhất cho các nhà phát triển với danh mục các công cụ kiến trúc chéo oneAPI để tăng tốc hiệu năng và tăng năng suất.

Với các công cụ tiên tiến này, các nhà phát triển có thể tăng tốc các tải công việc AI trên CPU, GPU, và FPGA, bảo vệ giá trị đầu tư trong tương lai của các sản phẩm lập trình cho ngày nay cũng như các thế hệ tiếp theo của các bộ xử lý và tăng tốc của Intel.

Nền tảng phần cứng đồng bộ tối ưu hóa cho AI và phân tích dữ liệu - Ảnh 9.

Kế hoạch phát triển các thế hệ bộ xử lý Intel Xeon Scalable

Danh mục các giải pháp chọn lọc của Intel được bổ sung đầy đủ, tiếp sức cho yêu cầu cấp bách đổi mới hệ thống CNTT của các tổ chức, DN. Intel vẫn nâng cao danh mục Select Solutions để tăng tốc triển khai các yêu cầu cấp bách nhất của CNTT, nhấn mạnh vào giá trị của của các kết quả giải pháp được xét duyệt trước trong môi trường kinh doanh phát triển nhanh chóng ngày nay.

Thực tế cho thấy, giải pháp cải tiến Intel Select Solution cho phân tích gen Genomics Analytics được sử dụng trên toàn thế giới giúp tìm ra vắc-xin cho COVID-19 và giải pháp Intel Select Solution mới cho cho Vmware Horizon VDI trên vSCAN đang được sử dụng để thúc đẩy việc học từ xa.

Đại diện Intel cho biết, bộ xử lý Intel Xeon Scalable thế hệ thứ 3 và Intel Optane 200 series đã được bán ra cho khách hàng vào giữa tháng 6 năm nay. Vào tháng 5, Facebook đã thông báo rằng các bộ xử lý Xeon Scalable thế hệ thứ 3 là nền tảng của các máy chủ OCP (Open Compute Platform) mới nhất và các nhà cung cấp dịch vụ đám mây (CSP) đứng đầu khác bao gồm Alibaba, Baidu and Tencent, đã tuyên bố họ sẽ sử dụng các bộ xử lý thế hệ kế tiếp.

Các hệ thống OEM phổ thông dự kiến sẽ sẵn sàng cung ứng vào nửa cuối năm 2020. Các ổ SSD Intel D7-P5500 và P5600 3D NAND hiện tại đã có sẵn. Dòng FPGA Intel Stratix 10 NX dự kiến cung cấp vào nửa cuối năm 2020.