VGA NVIDIA H100 80GB PCIe 5.0

Mô tả

NVIDIA H100 Tensor Core GPU Hiệu suất, khả năng mở rộng và bảo mật chưa từng có cho mọi trung tâm dữ liệu.

Thực hiện bước nhảy vọt bậc nhất để tăng tốc điện toán GPU NVIDIA H100 Tensor Core mang lại hiệu suất, khả năng mở rộng và bảo mật chưa từng có cho mọi khối lượng công việc. Với Hệ thống chuyển mạch NVIDIA® NVLink®, có thể kết nối tối đa 256 GPU H100 để tăng tốc khối lượng công việc theo tỷ lệ exa, trong khi Công cụ biến áp chuyên dụng hỗ trợ các mô hình ngôn ngữ nghìn tỷ tham số.

H100 sử dụng những cải tiến mang tính đột phá trong kiến trúc NVIDIA Hopper™ để cung cấp AI đàm thoại hàng đầu trong ngành, tăng tốc các mô hình ngôn ngữ lớn gấp 30 lần so với thế hệ trước.

Sẵn sàng cho Enterprise AI?

GPU NVIDIA H100 dành cho máy chủ phổ thông đi kèm với đăng ký phần mềm 5 năm, bao gồm hỗ trợ doanh nghiệp, cho bộ phần mềm NVIDIA AI Enterprise, đơn giản hóa việc áp dụng AI với hiệu suất cao nhất. Điều này đảm bảo các tổ chức có quyền truy cập vào các khuôn khổ và công cụ AI mà họ cần để xây dựng quy trình công việc AI được tăng tốc H100 như chatbot AI, công cụ đề xuất, AI tầm nhìn, v.v.

NVIDIA AI Enterprise và các lợi ích hỗ trợ liên quan cho NVIDIA H100

Tăng tốc an toàn khối lượng công việc từ Doanh nghiệp đến Exascale GPU NVIDIA H100 có Lõi Tensor thế hệ thứ tư và Công cụ biến áp với độ chính xác FP8, mở rộng hơn nữa vị trí dẫn đầu về AI dẫn đầu thị trường của NVIDIA với đào tạo nhanh hơn tới 4 lần và tốc độ suy luận 30X đáng kinh ngạc trên các mô hình ngôn ngữ lớn. Đối với các ứng dụng điện toán hiệu năng cao (HPC), H100 tăng gấp ba lần hoạt động dấu chấm động mỗi giây (FLOPS) của FP64 và thêm các lệnh lập trình động (DPX) để mang lại hiệu suất cao hơn tới 7 lần.

Với GPU đa phiên bản (MIG) thế hệ thứ hai, điện toán bảo mật NVIDIA tích hợp và Hệ thống chuyển mạch NVIDIA NVLink, H100 tăng tốc an toàn mọi khối lượng công việc cho mọi trung tâm dữ liệu từ doanh nghiệp đến exascale. Bảng dữ liệu Tăng tốc mọi khối lượng công việc, ở mọi nơi NVIDIA H100 là một phần không thể thiếu của nền tảng trung tâm dữ liệu NVIDIA. Được xây dựng cho AI, HPC và phân tích dữ liệu, nền tảng này tăng tốc hơn 3.000 ứng dụng và có sẵn ở mọi nơi từ trung tâm dữ liệu đến biên, mang lại cả hiệu suất tăng đáng kể và cơ hội tiết kiệm chi phí.