Định hình tương lai AI với Dell AI Factory

Dell Technologies đã công bố những cải tiến của Dell AI Factory, bao gồm cơ sở hạ tầng AI mạnh và tiết kiệm năng lượng, giải pháp tích hợp từ hệ sinh thái đối tác, và dịch vụ chuyên nghiệp nhằm đơn giản hóa và đẩy nhanh việc triển khai AI.

AI hiện là yếu tố thiết yếu đối với các DN, với 75% tổ chức cho rằng AI là chìa khóa cho chiến lược của họ và 65% thành công đưa các dự án AI vào vận hành. Tuy nhiên, những thách thức như chất lượng dữ liệu, lo ngại về bảo mật và chi phí cao có thể làm chậm tiến độ.

Phương pháp tiếp cận Dell AI Factory có thể tiết kiệm chi phí tới 62% cho việc suy luận mô hình ngôn ngữ lớn (LLM) tại chỗ (on-premises) so với đám mây công cộng, và giúp các DN triển khai ứng dụng AI an toàn ở nhiều quy mô. Dell cung cấp danh mục AI toàn diện, phục vụ cho việc triển khai trên các trung tâm dữ liệu (TTDL), thiết bị vùng biên, và đám mây.

Dell cũng đã giới thiệu cơ sở hạ tầng AI đầu cuối (end-to-end) để hỗ trợ từ suy luận ở vùng biên đến quản lý ứng dụng AI DN khổng lồ trong TTDL.

Trong khi đó Dell PowerCool Enclosed Rear Door Heat Exchanger (eRDHx, Bộ trao đổi nhiệt cửa sau khép kín Dell PowerCool) đầu tiên trong ngành là một giải pháp được Dell thiết kế để thay thế các bộ trao đổi nhiệt cửa sau tiêu chuẩn. Được thiết kế để thu 100% lượng nhiệt được tạo ra với hệ thống luồng khí khép kín riêng, eRDHx có thể giảm chi phí năng lượng làm mát tới 60% so với các giải pháp hiện hành.

Với các rack IR7000 của Dell tích hợp tại nhà máy được trang bị công nghệ eRDHx sẵn sàng cho tương lai, các DN có thể:

Giảm đáng kể chi phí và loại bỏ sự phụ thuộc vào các thiết bị làm lạnh (chiller) đắt tiền, tối đa hóa dung lượng TTDL bằng cách triển khai thêm tới 16% rack điện toán mật độ cao, mà không tăng mức tiêu thụ điện năng, giúp công suất làm mát bằng khí lên tới 80 kW mỗi rack phục vụ việc triển khai AI và điện toán hiệu năng cao (HPC) mật độ cao, giảm thiểu rủi ro với tính năng phát hiện rò rỉ tiên tiến...

Dell cũng cho biết, các máy chủ Dell PowerEdge XE9785 và XE9785L sẽ hỗ trợ dòng GPU AMD Instinct MI350 với 288 GB bộ nhớ HBM3e trên mỗi GPU và hiệu suất suy luận cao hơn tới 35 lần. Có sẵn trong cả cấu hình làm mát bằng chất lỏng và làm mát bằng khí, các máy chủ này sẽ giảm chi phí năng lượng làm mát.

Sức mạnh của AI phụ thuộc lớn vào lượng dữ liệu nuôi dưỡng nó, vì vậy, các DN cần một nền tảng đảm bảo hiệu suất và khả năng mở rộng. Các bản cập nhật của Dell AI Data Platform (Nền tảng Dữ liệu AI) cải thiện khả năng truy cập vào dữ liệu chất lượng cao có cấu trúc, bán cấu trúc, và phi cấu trúc trong suốt vòng đời AI.

Dell Project Lightning là hệ thống tệp song song mang lại thông lượng cao hơn gấp đôi so với các hệ thống tệp song song cạnh tranh. Project Lightning sẽ tăng tốc thời gian đào tạo cho các quy trình làm việc AI quy mô lớn và phức tạp.

Những cải tiến của Dell Data Lakehouse đơn giản hóa quy trình làm việc AI và tăng tốc ứng dụng thực tiễn, như công cụ đề xuất, tìm kiếm ngữ nghĩa và phát hiện ý định khách hàng, bằng cách tạo và truy vấn các tập dữ liệu sẵn sàng cho AI.

Với những cải tiến mới nói trên, các DN có thể: Giảm điện năng tiêu thụ, giảm độ trễ và tăng tiết kiệm chi phí cho HPC và mạng AI (AI fabric) với Dell Linear Pluggable Optics (mô đun quang cắm rút do Dell cung cấp).

Tăng cường niềm tin vào hệ thống bảo mật của cơ sở hạ tầng và giải pháp AI với Dell AI Security and Resilience Services, giải pháp cung cấp bảo vệ toàn diện trên cơ sở hạ tầng, dữ liệu, ứng dụng, và mô hình AI.

Dell cũng đang hợp tác với đối tác trong hệ sinh thái AI để cung cấp giải pháp tùy chỉnh, tích hợp đơn giản và nhanh chóng vào môi trường IT hiện có của DN...

Dell AI Factory cũng bao gồm: Những cải tiến của Dell AI Platform hợp tác với AMD bổ sung 200G mạng lưu trữ và bộ phần mềm mở AMD ROCm được nâng cấp để các DN đơn giản hóa quy trình làm việc, hỗ trợ LLM và quản lý ứng dụng nặng hiệu quả. Dell và AMD đang hợp tác để cung cấp hỗ trợ Day 0 và các container tối ưu hóa hiệu năng cho các mô hình AI như Llama 4;

Dell AI Platform mới hợp tác với Intel giúp các DN triển khai một ngăn xếp đầy đủ cơ sở hạ tầng AI hiệu suất cao, có thể mở rộng với bộ tăng tốc AI Intel Gaudi 3.

Dell cũng công bố những cải tiến của Dell AI Factory hợp tác với NVIDIA và các bản cập nhật cho Dell NativeEdge để hỗ trợ triển khai và suy luận AI ở biên./.