AWS (Amazon Web Services) анонсировал запуск инстансов на базе ИИ-процессоров NVIDIA последнего поколения
AWS (Amazon Web Services) анонсировал запуск инстансов на базе ИИ-процессоров NVIDIA последнего поколения
AWS (Amazon Web Services) анонсировал запуск инстансов на базе ИИ-процессоров NVIDIA последнего поколения, предназначенных для рабочих нагрузок с высокой интенсивностью или связанных с машинным обучением.
Эти задачи требуют применения значительных вычислительных ресурсов и только дополнительные мощности позволят ускорить их решение.
С запуском P3 в 2017 году AWS стал первым, кто представил инстансы, оптимизированные для треннинга машинному обучению в облаке, с мощными акселераторами NVIDIA V100 Tensor Core, что позволило клиентам сократить обучение сетей с нескольких дней до нескольких часов.
Новые инстансы G4 оснащены картами NVIDIA T4 последнего поколения, кастомными процессорами Intel Xeon Scalacble второго поколения (Cascade Lake), имеют пропускную способность сети до 100 Гбит/с и локальное хранилище NVMe ёмкостью до 1,8 Тбайт, что позволяет обеспечить наиболее экономически эффективные GPU-инстансы для процесса машинного обучения.
С вычислительной производительностью 65 Тфлопс со смешанной точностью инстансы G4 не только обеспечивают отличное сочетание цены и производительности для выполнения вычислительных задач, но также могут использоваться с минимальными затратами для небольших начальных учебных курсов по машинному обучению.
Для рабочих нагрузок машинного обучения можно запускать инстансы G4 с помощью Amazon SageMaker или AWS Deep Learning AMI, которые включают в себя такие среды машинного обучения, как TensorFlow, TensorRT, MXNet, PyTorch, Caffe2, CNTK и Chainer.
Инстансы G4 также будут поддерживать сервис Amazon Elastic Inference в ближайшие недели.
Для выполнения графических и потоковых приложений можно запускать инстансы G4 с Windows, Linux или AWS Marketplace AMI от NVIDIA с предустановленным программным обеспечением NVIDIA Quadro Virtual Workstation.
Инстансы G4 доступны в Восточном регионе США (Северная Вирджиния, Огайо), Западном регионе США (Орегон, Северная Калифорния), Европе (Франкфурт, Ирландия, Лондон) и Азиатско-Тихоокеанском регионе (Сеул и Токио). В других регионах это решение будет доступно в ближайшие месяцы. G4 доступны в виде инстансов по требованию, зарезервированных или спотовых.
