NVIDIA анонсировала NVIDIA AI Workbench для ускорения внедрения генеративного ИИ
NVIDIA анонсировала NVIDIA AI Workbench для ускорения внедрения генеративного ИИ
Новый набор инструментов для разработчиков упрощает настройку и развертывание моделей на платформах искусственного интеллекта NVIDIA — от ПК и рабочих станций до корпоративных центров обработки данных, публичных облаков и облака NVIDIA DGX
NVIDIA анонсировала NVIDIA AI Workbench , унифицированный, простой в использовании набор инструментов, который позволяет разработчикам быстро создавать, тестировать и настраивать предварительно обученные модели генеративного ИИ на ПК или рабочей станции, а затем масштабировать их практически для любого центра обработки данных, общедоступного облака или Облако NVIDIA DGX™ .
AI Workbench упрощает начало работы с корпоративным проектом ИИ. Доступ через упрощенный интерфейс, работающий в локальной системе, позволяет разработчикам настраивать модели из популярных репозиториев, таких как Hugging Face, GitHub и NVIDIA NGC ™, используя пользовательские данные. Затем модели можно легко использовать на нескольких платформах.
«Предприятия по всему миру стремятся найти подходящую инфраструктуру и создавать модели и приложения для генеративного ИИ, — сказал Манувир Дас, вице-президент по корпоративным вычислениям в NVIDIA. «NVIDIA AI Workbench предоставляет кросс-организационным командам упрощенный способ создания приложений на основе ИИ, которые становятся все более важными в современном бизнесе».
Хотя сейчас доступны сотни тысяч предварительно обученных моделей, их настройка с помощью множества инструментов с открытым исходным кодом может потребовать поиска в нескольких онлайн-репозиториях нужной инфраструктуры, инструментов и контейнеров, а также использования правильных навыков для настройки модели. модель для конкретного варианта использования.
С помощью NVIDIA AI Workbench разработчики могут настраивать и запускать генеративный ИИ всего за несколько кликов. Это позволяет им объединить все необходимые модели корпоративного уровня, фреймворки, наборы для разработки программного обеспечения и библиотеки из репозиториев с открытым исходным кодом и платформы искусственного интеллекта NVIDIA в единый набор инструментов для разработчиков.
Ведущие поставщики инфраструктуры искусственного интеллекта, в том числе Dell Technologies, Hewlett Packard Enterprise, HP Inc., Lambda, Lenovo и Supermicro, используют AI Workbench за его способность дополнять свои настольные рабочие станции последнего поколения с несколькими графическими процессорами, мобильные рабочие станции высокого класса и виртуальные рабочие места.
Разработчики с ПК или рабочей станцией NVIDIA RTX™ на базе Windows или Linux также смогут инициировать, тестировать и настраивать проекты генеративного искусственного интеллекта корпоративного уровня на своих локальных системах RTX, а также легко получать доступ к ресурсам центра обработки данных и облачных вычислений для масштабирования по мере необходимости. нужный.
Новое программное обеспечение NVIDIA AI Enterprise 4.0 ускоряет развертывание ИИ
Чтобы еще больше ускорить внедрение генеративного ИИ, NVIDIA анонсировала последнюю версию своей корпоративной программной платформы NVIDIA AI Enterprise 4.0 . Он предоставляет предприятиям инструменты, необходимые для внедрения генеративного ИИ, а также обеспечивает безопасность и стабильность API, необходимые для надежного развертывания в производственной среде.
Новое поддерживаемое программное обеспечение и инструменты в NVIDIA AI Enterprise, которые помогают упростить развертывание генеративного ИИ, включают:
- NVIDIA NeMo ™ — облачная платформа для создания, настройки и развертывания больших языковых моделей. Благодаря NeMo NVIDIA AI Enterprise обеспечивает комплексную поддержку для создания и настройки приложений LLM.
- Служба управления NVIDIA Triton™ , помогающая автоматизировать и оптимизировать производственное развертывание. Это позволяет предприятиям автоматически развертывать несколько экземпляров NVIDIA Triton Inference Server в Kubernetes с оркестровкой моделей для эффективной работы масштабируемого ИИ.
- Программное обеспечение для управления кластерами NVIDIA Base Command Manager Essentials , которое помогает предприятиям максимизировать производительность и использование серверов ИИ в центрах обработки данных, мультиоблачных и гибридных облачных средах.
Программное обеспечение NVIDIA AI Enterprise, которое позволяет пользователям создавать и запускать решения с поддержкой ИИ NVIDIA в облаке, центре обработки данных и на периферии, сертифицировано для работы на основных сертифицированных системах NVIDIA™, системах NVIDIA DGX, всех основных облачных платформах и недавно анонсированной NVIDIA RTX. рабочие станции.
Ведущие компании-разработчики программного обеспечения ServiceNow и Snowflake , а также поставщик инфраструктуры Dell Technologies, предлагающий решения Dell для генеративного ИИ , недавно объявили о сотрудничестве с NVIDIA для реализации новых генеративных ИИ-решений и сервисов на своих платформах. Интеграция NVIDIA AI Enterprise 4.0 и NVIDIA NeMo обеспечивает основу для готового к производству генеративного ИИ для клиентов.
NVIDIA AI Enterprise 4.0 будет интегрирована в торговые площадки партнеров, включая AWS Marketplace , Google Cloud и Microsoft Azure , а также через облачную инфраструктуру партнера NVIDIA — Oracle Cloud Infrastructure.
Кроме того, поставщики MLOps, в том числе Azure Machine Learning, ClearML, Domino Data Lab , Run:AI и Weights & Biases, добавляют бесшовную интеграцию с платформой искусственного интеллекта NVIDIA, чтобы упростить разработку генеративной модели искусственного интеллекта производственного уровня.
«Dell Technologies и NVIDIA стремятся помочь предприятиям создавать специализированные модели ИИ, чтобы получить доступ к огромным возможностям генеративного ИИ. С помощью NVIDIA AI Workbench разработчики могут воспользоваться преимуществами всего портфолио генеративных решений Dell для ИИ, чтобы настраивать модели на ПК, рабочих станциях и в инфраструктуре центров обработки данных». — Мегана Патвардхан, вице-президент по коммерческим клиентским продуктам Dell Technologies.
«Большинство предприятий не имеют опыта, бюджета и ресурсов центров обработки данных для управления сложным программным обеспечением и системами ИИ. Мы с нетерпением ожидаем возможности NVIDIA AI Workbench для упрощения создания проектов генеративного ИИ с обучением и развертыванием одним щелчком мыши на платформе HPE GreenLake, работающей от края до облака». — Эван Спаркс, директор по продуктам ИИ в HPE.
«Как лидер рынка рабочих станций, предлагающий производительность и эффективность, необходимые для самых требовательных моделей обработки данных и искусственного интеллекта, мы давно сотрудничаем с NVIDIA. HP использует высокопроизводительные системы следующего поколения в сочетании с графическими процессорами NVIDIA RTX поколения Ada и NVIDIA AI Workbench, предоставляя нашим корпоративным клиентам возможности генеративного ИИ и помогая перемещать рабочие нагрузки ИИ между облаком и локально». — Джим Ноттингем, старший вице-президент по передовым вычислительным решениям в HP Inc.
«Lenovo и NVIDIA помогают клиентам преодолеть сложности развертывания и упростить внедрение генеративного искусственного интеллекта для предоставления революционных услуг и продуктов на рынке. NVIDIA AI Workbench и портфолио продуктов Lenovo с поддержкой ИИ позволяют разработчикам использовать возможности своих интеллектуальных устройств и масштабировать инфраструктуру от границы до облака». — Роб Херман, вице-президент и генеральный менеджер Lenovo Workstation & Client AI.
«Многолетнее партнерство VMware и NVIDIA помогло раскрыть потенциал ИИ для каждого бизнеса, предоставив комплексную корпоративную платформу, оптимизированную для рабочих нагрузок ИИ. Вместе мы делаем генеративный ИИ более доступным и простым для внедрения на предприятии. С помощью AI Workbench NVIDIA предоставляет разработчикам набор мощных инструментов, помогающих предприятиям ускорить внедрение искусственного интеллекта поколения. С новым NVIDIA AI Workbench команды разработчиков могут беспрепятственно переносить рабочие нагрузки ИИ с настольных компьютеров на рабочие». — Крис Вольф, вице-президент VMware AI Labs
