Công ty NVIDIA (Mỹ) ngày 20-11-2023 thông báo rằng Dell Technologies, Hewlett Packard Enterprise và Lenovo sẽ là những công ty đầu tiên tích hợp công nghệ mạng Ethernet NVIDIA Spectrum-X dành cho trí tuệ nhân tạo (AI) vào dòng sản phẩm máy chủ của họ để giúp khách hàng doanh nghiệp tăng tốc khối lượng công việc trí tuệ nhân tạo tạo sinh (generative AI).

Với thiết kế dành riêng cho trí tuệ nhân tạo tạo sinh, Spectrum-X mang đến cho các doanh nghiệp một lớp mạng Ethernet mới có thể đạt được hiệu năng mạng cao gấp 1,6 lần cho giao tiếp trí tuệ nhân tạo (AI communication) so với các sản phẩm Ethernet truyền thống.

Các hệ thống mới từ ba trong số những nhà sản xuất hệ thống hàng đầu này kết hợp Spectrum-X với GPU NVIDIA Tensor Core, phần mềm NVIDIA AI Enterprise và phần mềm NVIDIA AI Workbench để mang đến cho doanh nghiệp công cụ cần thiết cho việc chuyển đổi các hoạt động kinh doanh của họ với trí tuệ nhân tạo tạo sinh.

• Ông Jensen Huang, người sáng lập và CEO của NVIDIA, nói rằng: “Trí tuệ nhân tạo tạo sinh và điện toán tăng tốc đang thúc đẩy sự chuyển đổi theo thế hệ mới khi các doanh nghiệp nâng cấp trung tâm dữ liệu của họ để phục vụ các khối công việc này. Mạng kết nối tăng tốc là yếu tố kích thích cho một làn sóng mới của các hệ thống từ các đối tác sản xuất máy chủ hàng đầu của NVIDIA để tăng tốc sự chuyển đổi vào kỷ nguyên của trí tuệ nhân tạo tạo sinh.”
• Ông Michael Dell, Chủ tịch và CEO của Dell Technologies, cho biết: “Điện toán tăng tốc và mạng kết nối tăng tốc là yếu tố quan trọng trong việc xây dựng các hệ thống để đáp ứng yêu cầu của các mô hình ngôn ngữ lớn (LLM) và các ứng dụng trí tuệ nhân tạo. Qua sự hợp tác này, Dell Technologies và NVIDIA đang cung cấp cho khách hàng cơ sở hạ tầng và phần mềm cần thiết để trích xuất thông tin từ dữ liệu của họ một cách nhanh chóng và an toàn.”
• Ông Antonio Neri, Tổng Giám đốc và CEO của HPE, nói: “Không thể phủ nhận rằng trí tuệ nhân tạo tạo sinh sẽ thúc đẩy sự đổi mới trong nhiều ngành. Những ứng dụng mạnh mẽ mới này sẽ đòi hỏi một kiến trúc cơ bản khác nhau để hỗ trợ nhiều tác vụ. Để giúp khách hàng khai thác hết tiềm năng của trí tuệ nhân tạo tạo sinh, HPE đang hợp tác với NVIDIA để xây dựng các hệ thống với sức mạnh, hiệu quả và khả năng mở rộng cần thiết nhằm hỗ trợ các ứng dụng này.”
• Ông Yuanqing Yang, Chủ tịch và CEO của Lenovo, cho biết: “Trí tuệ nhân tạo tạo ra khả năng biến đổi không giới hạn nhưng đặt ra các yêu cầu không giới hạn đối với cơ sở hạ tầng doanh nghiệp. Hợp tác chặt chẽ với NVIDIA, Lenovo đang xây dựng các hệ thống hiệu năng cao với mạng, tính toán và phần mềm cần thiết để cung cấp năng lực cho các ứng dụng trí tuệ nhân tạo hiện đại.”

Mạng lưới được xây dựng đặc biệt cho tăng tốc trí tuệ nhân tạo

Để đạt được hiệu suất tối đa cho công việc tải trọng trí tuệ nhân tạo, Spectrum-X kết hợp hiệu năng cực cao của Ethernet switch (bộ chuyển mạch) Spectrum-4, NVIDIA BlueField-3 SuperNIC, một lớp thiết bị tăng tốc mạng mới cho việc tăng cường hiệu suất công việc trí tuệ nhân tạo quy mô lớn; cùng với phần mềm tăng tốc. Spectrum-X bổ sung cho BlueField-3 DPU, nền tảng điện toán cơ sở hạ tầng tiên tiến nhất trên thế giới hiện nay.

Spectrum-4 là Ethernet swicth 51Tb/s đầu tiên trên thế giới dành cho trí tuệ nhân tạo, cung cấp thông lượng dữ liệu hiệu quả cao ở quy mô lớn và trong tình trạng tải (load), đồng thời giảm thiểu tắc nghẽn mạng cho các khối lượng công việc trên đám mây trí tuệ nhân tạo có nhiều người sử dụng cùng một lúc. Công nghệ định tuyến thông minh, được tinh chỉnh tỉ mỉ (intelligent, fine-tuned routing technology), cho phép tận dụng tối đa cơ sở hạ tầng mạng vào bất kỳ thời điểm nào.

BlueField-3 SuperNIC được thiết kế cho tính toán song song (parallel computing) quy mô lớn đòi hỏi kết nối mạng 400Gb/s RDMA qua Ethernet hội tụ (RoCE) giữa các máy chủ GPU và tăng hiệu năng cho lưu lượng đào tạo và suy luận trí tuệ nhân tạo trên mạng nội bộ của cụm. Chúng cũng cho phép môi trường trung tâm dữ liệu đa người dùng an toàn, bảo đảm hiệu năng xác định và cách ly giữa các công việc của người dùng. Với kích thước PCIe hiệu quả về năng lượng, BlueField-3 SuperNIC lý tưởng cho các máy chủ lớp doanh nghiệp.

Phần mềm tăng tốc cung cấp công cụ phát triển phần mềm NVIDIA như Cumulus Linux, Pure SONiC và NetQ – cùng nhau thúc đẩy hiệu năng đột phá của nền tảng – và khung phần mềm NVIDIA DOCA, là công cụ chính yếu của BlueField.

NVIDIA AI Enterprise cung cấp các khung, mô hình được đào tạo trước và công cụ phát triển cho trí tuệ nhân tạo sản xuất (production AI) an toàn, ổn định và được hỗ trợ. NVIDIA AI Workbench cho phép nhà phát triển nhanh chóng tạo ra, thử nghiệm và tùy chỉnh mô hình trí tuệ nhân tạo được đào tạo trước trên máy tính cá nhân hoặc máy trạm – sau đó mở rộng chúng lên hầu hết các trung tâm dữ liệu hoặc đám mây.

Siêu máy tính NVIDIA Israel-1 Spectrum-X

Spectrum-X cũng cho phép siêu máy tính Israel-1 của NVIDIA, một kiến trúc tham khảo (reference architecture) cho hệ thống trí tuệ nhân tạo thế hệ tiếp theo. Israel-1 là một dự án hợp tác với Dell Technologies, sử dụng máy chủ Dell PowerEdge XE9680 được cung cấp sức mạnh bởi nền tảng NVIDIA HGX H100 tám GPU và các BlueField-3 DPU và các SuperNIC với Spectrum- 4.

Trên thị trường

NVIDIA cho biết: Các hệ thống mới từ Dell, HPE và Lenovo có đầy đủ bộ công cụ AI của NVIDIA dự kiến sẽ có mặt trên thị trường trong quý đầu tiên của năm 2024.

• Tham khảo: NVIDIA’s New Ethernet Networking Platform for AI Available Soon From Dell Technologies, Hewlett Packard Enterprise, Lenovo.

I.L.N.

Nguồn do NVIDIA cung cấp.