Thứ Năm ngày 21 tháng 11 năm 2024

Siêu chip NVIDIA Grace Hopper được thiết kế để tang tốc AI tạo sinh

Ngày 29-5-2023, mở đầu loạt keynote chính của các nhà lãnh đạo doanh nghiệp công nghệ lớn toàn cầu tại Triển lãm công nghệ máy tính thương niên lớn nhất thê giới COMPUTEX Taipei 2023 (diễn ra tại Taipei từ 30-5 đến 2-6-2023), ông Jensen Huang, nhà sáng lập và CEO của NVIDIA, đã có bài phát biểu dài 2 tiếng đồng hồ có nhiều công bố mới về lĩnh vực AI và data center.

Ông Jensen Huang trình bày keynote tại COMPUTEX Taipei 2023 ngày 29-5-2023. (Ảnh: MediaOnline)

Ông Jensen Huang cho biết siêu chip NVIDIA GH200 Grace Hopper Superchip đang được sản xuất chính thức, cung cấp sức mạnh cho các hệ thống online trên toàn thế giới để chạy các công việc trí tuệ nhân tạo (AI) và điện toán hiệu năng cao (High Performance Computing, HPC).

Siêu chip NVIDIA GH200 Grace Hopper.

Các hệ thống trang bị chip GH200 gia nhập hơn 400 cấu hình hệ thống đang sử dụng các sự kết hợp khác nhau của các kiến trức CPU, GPU và DPU mới nhất của NVIDIA, bao gồm NVIDIA Grace, NVIDIA Hopper, NVIDIA Ada LovelaceNVIDIA BlueField – được tạo ra để đáp ứng nhu cầu đang tăng vọt cho trí tuệ nhân tạo tạo sinh

Tại COMPUTEX, ông Jensen Huang đã công bố các hệ thống, đối tác mới và các chi tiết bổ sung xung quanh Siêu chip GH200 Grace Hopper, kết hợp kiến trúc CPU NVIDIA Grace dựa trên Arm và kiến trúc Hopper GPU bằng công nghệ kết nối NVIDIA NVLink-C2C. Điều này mang lại tổng băng thông lên tới 900GB/giây – băng thông cao hơn 7 lần so với các làn PCIe Gen5 tiêu chuẩn có trong các hệ thống tăng tốc truyền thống, cung cấp khả năng điện toán đáng kinh ngạc để xử lý các ứng dụng AI và HPC phức tạp đòi hỏi khắt khe nhất.

Ông Ian Buck, Phó Chủ tịch mảng Điện toán tăng tốc của NVIDIA, cho biết: “AI tạo sinh đang chuyển đổi nhanh chóng các doanh nghiệp, mở ra những cơ hội mới và tăng tốc khám phá trong lĩnh vực chăm sóc sức khỏe, tài chính, dịch vụ kinh doanh và nhiều ngành khác. Với Siêu chip Grace Hopper được sản xuất đầy đủ, các nhà sản xuất trên toàn thế giới sẽ sớm cung cấp cơ sở hạ tầng tăng tốc mà các doanh nghiệp cần để xây dựng và triển khai các ứng dụng AI tổng quát tận dụng dữ liệu độc quyền duy nhất của họ.”

Các trung tâm siêu điện toán (supercomputing centers và siêu máy tính toàn cầu (global hyperscalers) ở Châu Âu và Hoa Kỳ nằm trong số nhiều khách hàng sẽ có quyền truy cập vào các hệ thống được hỗ trợ bởi GH200.

Các nhà sản xuất Đài Loan nằm trong số nhiều nhà sản xuất hệ thống trên toàn thế giới mang đến thị trường nhiều loại hệ thống được hỗ trợ bởi các tổ hợp khác nhau giữa bộ tăng tốc (accelerator) và bộ xử lý (processor) NVIDIA. Đ là AAEON, Advantech, Aetina, ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Tyan, Wistron và Wiwynn — tất cả đều được ông Huang nhắc đến trong bài keynote tại COMPUTEX 2023 với tư cách là những đối tác chính.

Ngoài ra, các nhà sản xuất máy chủ toàn cầu như Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo, Supermicro và Eviden, một công ty Atos, cũng cung cấp dải rộng rãi các hệ thống được tang góc bằng chip của NVIDIA.

Trong khi đó, các đối tác đám mây của NVIDIA H100 có Amazon Web Services (AWS), Cirrascale, CoreWeave, Google Cloud, Lambda, Microsoft Azure, Oracle Cloud Infrastructure, Paperspace và Vultr.

Các GPU NVIDIA L4 được sử dụng trên Google Cloud.

Danh mục hệ thống sắp tới được tăng tốc bởi kiến trúc NVIDIA Grace, Hopper và Ada Lovelace cung cấp khả năng hỗ trợ rộng rãi cho ngăn xếp phần mềm (software stack) NVIDIA, bao gồm NVIDIA AI, nền tảng NVIDIA Omniverse và công nghệ NVIDIA RTX.

NVIDIA AI Enterprise, lớp phần mềm của nền tảng NVIDIA AI, cung cấp hơn 100 khung, mô hình được đào tạo trước và công cụ phát triển để hợp lý hóa quá trình phát triển và triển khai AI sản xuất (production AI), bao gồm AI tạo sinh, thị giác máy tính (computer vision) và AI lời nói (speech AI).

Nền tảng phát triển NVIDIA Omniverse để xây dựng và vận hành các ứng dụng metaverse cho phép các cá nhân và nhóm làm việc trên nhiều bộ phần mềm và cộng tác theo thời gian thực trong một môi trường dùng chung. Nền tảng này dựa trên khung Mô tả cảnh phổ quát (Universal Scene Description framework), một ngôn ngữ 3D mở, có thể mở rộng cho thế giới ảo.

Nền tảng NVIDIA RTX platform kết hợp tính năng dò tia (ray tracing), học sâu (Deep learning) và quét điểm ảnh (rasterization) để chuyển đổi cơ bản quy trình sáng tạo cho người sáng tạo nội dung và nhà phát triển với sự hỗ trợ cho các công cụ và API hàng đầu trong ngành. Các ứng dụng được xây dựng trên nền tảng RTX mang đến sức mạnh của khả năng hiển thị ảnh chân thực trong thời gian thực và xử lý đồ họa, video và hình ảnh được tăng cường bởi AI để cho phép hàng triệu nhà thiết kế và nghệ sĩ tạo ra tác phẩm tốt nhất có thể được  của họ.

Theo NVIDIA, các hệ thống với siêu chip GH200 Grace Hopper dự kiến sẽ có mặt trên thị trường vào cuối năm 2023

I.L.N.

Nguồn do NVIDIA cung cấp.