Описание графического ускорителя вычислений NVIDIA H200 NVL 141GB

Графический процессор для генеративного ИИ и HPC

Графический процессор NVIDIA H200 с тензорными ядрами обеспечивает непревзойденную производительность и возможности памяти для задач генеративного ИИ и высокопроизводительных вычислений (HPC). Будучи первым графическим процессором с поддержкой HBM3e, H200 обладает более объёмной и быстрой памятью, что способствует ускорению задач генеративного ИИ и больших языковых моделей (LLM), одновременно продвигая научные вычисления для задач HPC.

Более высокая производительность с большей и более быстрой памятью

NVIDIA H200, основанный на архитектуре NVIDIA Hopper , — первый графический процессор, предлагающий 141 гигабайт (ГБ) памяти HBM3e со скоростью 4,8 терабайт в секунду (ТБ/с). Это почти вдвое больше, чем у графического процессора NVIDIA H100 с тензорными ядрами и в 1,4 раза большей пропускной способностью памяти. Более объёмная и быстрая память H200 ускоряет генеративный ИИ и LLM, одновременно продвигая научные вычисления для рабочих нагрузок HPC с более высокой энергоэффективностью и более низкой совокупной стоимостью владения.

Supercharge высокопроизводительных вычислений

Пропускная способность памяти критически важна для высокопроизводительных вычислений (HPC), поскольку она обеспечивает более быструю передачу данных, устраняя узкие места в сложных вычислительных процессах. Для ресурсоёмких HPC-приложений, таких как моделирование, научные исследования и искусственный интеллект, более высокая пропускная способность памяти H200 обеспечивает эффективный доступ к данным и их обработку, что позволяет сократить время получения результатов до 110 раз по сравнению с центральными процессорами.

Сокращение энергопотребления и совокупной стоимости владения

С появлением H200 энергоэффективность и совокупная стоимость владения (TCO) достигают новых высот. Эта передовая технология обеспечивает непревзойденную производительность, сохраняя при этом тот же профиль энергопотребления, что и у H100. Фабрики искусственного интеллекта и суперкомпьютерные системы, которые не только быстрее, но и экологичнее, обеспечивают экономическое преимущество, способствующее развитию ИИ и научного сообщества.

Готово к использованию на предприятии: программное обеспечение на основе ИИ оптимизирует разработку и развертывание.

NVIDIA H200 NVL поставляется с пятилетней подпиской NVIDIA AI Enterprise и упрощает создание корпоративной платформы с поддержкой ИИ. H200 ускоряет разработку и внедрение ИИ для готовых к использованию в производственных условиях решений на основе генеративного ИИ, включая компьютерное зрение, речевой ИИ, дополненную генерацию (RAG) и другие. NVIDIA AI Enterprise включает NVIDIA NIM — набор простых в использовании микросервисов, разработанных для ускорения развертывания корпоративных решений на основе генеративного ИИ. В совокупности эти решения обеспечивают безопасность, управляемость, стабильность и поддержку корпоративного уровня. В результате создаются оптимизированные по производительности решения на основе ИИ.