Azure оголосив про доступність інстансів ND A100 v4 на базі прискорювачів NVIDIA A100
Azure оголошує про доступність екземплярів ND A100 v4 на базі прискорювачів NVIDIA A100
Microsoft Azure оголосила про доступність екземплярів ND A100 v4, своїх найпотужніших віртуальних машин на базі прискорювачів NVIDIA A100 для AI і високопродуктивного обчислювального (HPC) класу суперкомп'ютерів. ND A100 v4 має вісім NVIDIA A100 (40 ГБ), 96 ядер процесора (AMD EPYC), 900 ГБ оперативної пам'яті, 6,5 ТБ локальної пам'яті NVMe та з'єднання HDR InfiniBand, яке забезпечує 200 Гбіт/с пропускної здатності на прискорювач, тобто загалом 1,6 Тб/с.
Вартість оренди базового екземпляра Standard_ND96asr_v4 вищевказаної конфігурації починається від $27,2/год. Для найвимогливіших робочих навантажень можна створити кластери ND A100 v4, які об'єднують тисячі прискорювачів за допомогою InfiniBand.
Для спрощення та прискорення розробки каталог NVIDIA NGC пропонує готові до використання платформи додатків, оптимізовані для графічного процесора, контейнери, попередньо навчені моделі, бібліотеки, SDK та пакети Helm. Віртуальні машини ND A100 v4 також підтримуються Azure Machine Learning, сервісом для інтерактивної розробки штучного інтелекту, розподіленого навчання, виведення та автоматизації ml Ops.
Розгортання систем машинного навчання на базі ND A100 v4 спрощується за допомогою NVIDIA Triton Inference Server, відкритого рішення, інтегрованого з Azure ML і здатного максимізувати продуктивність і використання як графічного процесора, так і процесора, а також мінімізувати операційні витрати на розгортання. Крім того, незабаром ви зможете використовувати службу Azure Kubernetes для розгортання та управління контейнерними програмами на ND A100 v4.
