NVIDIA анонсувала NVIDIA AI Workbench для прискорення впровадження генеративного ІІ
NVIDIA анонсувала NVIDIA AI Workbench для прискорення впровадження генеративного ІІ
Новий набір інструментів для розробників спрощує налаштування та розгортання моделей на платформах штучного інтелекту NVIDIA — від ПК та робочих станцій до корпоративних центрів обробки даних, публічних хмар та хмар NVIDIA DGX
NVIDIA анонсувала NVIDIA AI Workbench , уніфікований, простий у використанні набір інструментів, який дозволяє розробникам швидко створювати, тестувати та налаштовувати попередньо навчені моделі генеративного ІІ на ПК або робочій станції, а потім масштабувати їх практично для будь-якого центру обробки даних, загальнодоступної хмари або Хмари DGX™ .
AI Workbench спрощує початок роботи з корпоративним проектом ІІ. Доступ через спрощений інтерфейс, що працює в локальній системі, дозволяє розробникам налаштовувати моделі з популярних репозиторіїв, таких як Hugging Face, GitHub та NVIDIA NGC ™, використовуючи дані користувача. Потім моделі можна легко використовувати на кількох платформах.
«Підприємства по всьому світу прагнуть знайти відповідну інфраструктуру та створювати моделі та додатки для генеративного ІІ, — сказав Манувір Дас, віце-президент з корпоративних обчислень у NVIDIA. "NVIDIA AI Workbench надає крос-організаційним командам спрощений спосіб створення додатків на основі ІІ, які стають все більш важливими в сучасному бізнесі".
Хоча зараз доступні сотні тисяч попередньо вивчених моделей, їх налаштування за допомогою безлічі інструментів з відкритим вихідним кодом може вимагати пошуку в декількох онлайн-репозиторіях потрібної інфраструктури, інструментів і контейнерів, а також використання правильних навичок для налаштування моделі. модель для конкретного варіанта використання.
За допомогою NVIDIA AI Workbench розробники можуть налаштовувати та запускати генеративний ІІ всього за кілька кліків. Це дозволяє їм об'єднати всі необхідні моделі корпоративного рівня, фреймворки, набори для розробки програмного забезпечення та бібліотеки з репозиторіїв з відкритим вихідним кодом та платформи штучного інтелекту NVIDIA у єдиний набір інструментів для розробників.
Провідні постачальники інфраструктури штучного інтелекту, у тому числі Dell Technologies, Hewlett Packard Enterprise, HP Inc., Lambda, Lenovo та Supermicro, використовують AI Workbench за його здатність доповнювати свої настільні робочі станції останнього покоління з кількома графічними процесорами, мобільні робочі станції. віртуальні робочі місця.
Розробники з ПК або робочою станцією NVIDIA RTX™ на базі Windows або Linux також зможуть ініціювати, тестувати та налаштовувати проекти генеративного штучного інтелекту корпоративного рівня на своїх локальних системах RTX, а також легко отримувати доступ до ресурсів центру обробки даних та хмарних обчислень для масштабування у міру необхідності. потрібний.
Нове програмне забезпечення NVIDIA AI Enterprise 4.0 прискорює розгортання ІІ
Щоб ще більше прискорити впровадження генеративного ІІ, NVIDIA анонсувала останню версію своєї корпоративної програмної платформи NVIDIA AI Enterprise 4.0 . Він надає підприємствам інструменти, необхідні для впровадження генеративного ІІ, а також забезпечує безпеку та стабільність API, необхідні для надійного розгортання у виробничому середовищі.
Нове підтримуване програмне забезпечення та інструменти NVIDIA AI Enterprise, які допомагають спростити розгортання генеративного ІІ, включають:
- NVIDIA NeMo ™ — хмарна платформа для створення, налаштування та розгортання великих мовних моделей. Завдяки NeMo NVIDIA AI Enterprise забезпечує комплексну підтримку для створення та налаштування програм LLM.
- Служба управління NVIDIA Triton™ , що допомагає автоматизувати та оптимізувати виробниче розгортання. Це дозволяє підприємствам автоматично розгортати кілька екземплярів NVIDIA Triton Inference Server у Kubernetes з оркеструванням моделей для ефективної роботи ІІ, що масштабується.
- Програмне забезпечення для управління кластерами NVIDIA Base Command Manager Essentials , яке допомагає підприємствам максимізувати продуктивність та використання серверів ІІ в центрах обробки даних, мультихмарних та гібридних хмарних середовищах.
Програмне забезпечення NVIDIA AI Enterprise, яке дозволяє користувачам створювати та запускати рішення з підтримкою ІІ NVIDIA у хмарі, центрі обробки даних та на периферії, сертифіковано для роботи на основних сертифікованих системах NVIDIA™, системах NVIDIA DGX, всіх основних хмарних платформах та нещодавно анонсованої NVID . робочі станції.
Провідні компанії-розробники програмного забезпечення ServiceNow і Snowflake , а також постачальник інфраструктури Dell Technologies, що пропонує рішення Dell для генеративного ІІ , нещодавно оголосили про співпрацю з NVIDIA для реалізації нових генеративних ІІ-рішень та сервісів на своїх платформах. Інтеграція NVIDIA AI Enterprise 4.0 та NVIDIA NeMo забезпечує основу для готового до виробництва генеративного ІІ для клієнтів.
NVIDIA AI Enterprise 4.0 буде інтегрована в торгові майданчики партнерів, включаючи AWS Marketplace , Google Cloud та Microsoft Azure , а також через хмарну інфраструктуру партнера NVIDIA – Oracle Cloud Infrastructure.
Крім того, постачальники MLOps, зокрема Azure Machine Learning, ClearML, Domino Data Lab , Run:AI та Weights & Biases, додають безшовну інтеграцію з платформою штучного інтелекту NVIDIA, щоб спростити розробку генеративної моделі штучного інтелекту виробничого рівня.
«Dell Technologies та NVIDIA прагнуть допомогти підприємствам створювати спеціалізовані моделі ІІ, щоб отримати доступ до величезних можливостей генеративного ІІ. За допомогою NVIDIA AI Workbench розробники можуть скористатися перевагами всього портфоліо генеративних рішень Dell для ІІ, щоб налаштовувати моделі на ПК, робочих станціях та в інфраструктурі центрів обробки даних». — Мегана Патвардхан, віце-президент із комерційних клієнтських продуктів Dell Technologies.
«Більшість підприємств не мають досвіду, бюджету та ресурсів центрів обробки даних для управління складним програмним забезпеченням та системами ІІ. Ми з нетерпінням очікуємо на можливість NVIDIA AI Workbench для спрощення створення проектів генеративного ІІ з навчанням і розгортанням одним клацанням миші на платформі HPE GreenLake, що працює від краю до хмари». — Еван Спаркс, директор з продуктів ІІ в HPE.
«Як лідер ринку робочих станцій, що пропонує продуктивність та ефективність, необхідні для найвибагливіших моделей обробки даних та штучного інтелекту, ми давно співпрацюємо з NVIDIA. HP використовує високопродуктивні системи наступного покоління у поєднанні з графічними процесорами NVIDIA RTX покоління Ada та NVIDIA AI Workbench, надаючи нашим корпоративним клієнтам можливості генеративного ІІ та допомагаючи переміщати робочі навантаження ІІ між хмарою та локально». — Джим Ноттінгем, старший віце-президент із передових обчислювальних рішень у HP Inc.
«Lenovo та NVIDIA допомагають клієнтам подолати складності розгортання та спростити впровадження генеративного штучного інтелекту для надання революційних послуг та продуктів на ринку. NVIDIA AI Workbench та портфоліо продуктів Lenovo з підтримкою ІІ дозволяють розробникам використовувати можливості своїх інтелектуальних пристроїв та масштабувати інфраструктуру від кордону до хмари». - Роб Херман, віце-президент та генеральний менеджер Lenovo Workstation & Client AI.
«Багатолітнє партнерство VMware та NVIDIA допомогло розкрити потенціал ІІ для кожного бізнесу, надавши комплексну корпоративну платформу, оптимізовану для робочих навантажень ІІ. Разом ми робимо генеративний ІІ більш доступним та простим для впровадження на підприємстві. За допомогою AI Workbench NVIDIA надає розробникам набір потужних інструментів, які допомагають підприємствам прискорити використання штучного інтелекту покоління. З новим NVIDIA AI Workbench команди розробників можуть без перешкод переносити робочі навантаження ІІ з настільних комп'ютерів на робітники». - Кріс Вольф, віце-президент VMware AI Labs
