Meta вибрала технології Nvidia, щоб створити найпотужнішу обчислювальну систему для задач штучного інтелекту
Мета обрала технології Nvidia для створення найпотужнішої обчислювальної системи для завдань штучного інтелекту
Оголошений кластер AI Research SuperCluster (RSC) вже навчає нові моделі, продовжуючи вдосконалювати алгоритми ШІ.
Після повного розгортання очікується, що RSC стане найбільшою клієнтською системою на базі Nvidia DGX A100.
"Ми сподіваємося, що кластер RSC допоможе нам створити абсолютно нові системи штучного інтелекту, які зможуть, наприклад, забезпечити голосовий переклад в режимі реального часу для великих груп людей, які розмовляють різними мовами, щоб вони могли співпрацювати над дослідницькими проектами або грати в ігри з доповненою реальністю", - йдеться в повідомленні компанії в блозі.
Коли RSC буде повністю побудований — пізніше цього року — Meta планує використовувати його для навчання моделей ШІ з більш ніж трильйонними параметрами. Це може покращити такі сфери, як обробка природної мови для таких завдань, як виявлення шкідливого вмісту в режимі реального часу.
На додаток до масштабованої продуктивності, Meta назвала виняткову надійність, безпеку, конфіденційність та гнучкість для роботи з «широким спектром моделей штучного інтелекту» як ключові критерії RSC.
Кластер RSC Meta побудований на основі сотень систем Nvidia DGX, об'єднаних в мережу з використанням перемикачів Nvidia Quantum InfiniBand для прискорення роботи дослідницьких груп.
В якості обчислювальних вузлів в новому суперкомп'ютері для ШІ використовується 760 систем Nvidia DGX A100. Всього вони містять 6080 графічних процесорів Nvidia A100, підключених в мережу з використанням nvidia Quantum 200 Гбіт / с InfiniBand, що забезпечує продуктивність TF32 в 1895 році в петафлопсах.
Незважаючи на проблеми, викликані COVID-19, знадобилося всього 18 місяців, щоб перейти від ідеї на папері до робочого суперкомп'ютера для ШІ, в тому числі завдяки технології Nvidia DGX A100.
Це вже другий випадок, коли Meta обрала технології Nvidia основою для дослідницької інфраструктури компанії. У 2017р. Meta побудувала перше покоління цієї інфраструктури для досліджень штучного інтелекту на основі 22 000 графічних процесорів Nvidia V100 з тензорними ядрами, які щодня виконують близько 35 000 навчальних завдань зі штучним інтелектом.
Попередні тести Meta показали, що rsC може тренувати великі моделі НЛП в 3 рази швидше і виконувати завдання з комп'ютерного зору в 20 разів швидше, ніж система 2017 року.
На другому етапі RSC розшириться до 16 000 графічних процесорів, які, на думку Meta, забезпечать продуктивність у завданнях ШІ з 5 екзаскалів у змішано-точних операціях. Meta також планує розширити систему зберігання RSC до екзабайту зі швидкістю 16 ТБ в секунду.
Технології штучного інтелекту Nvidia доступні компаніям будь-якого розміру.
Система Nvidia DGX, яка включає повний стек програмного забезпечення Nvidia для штучного інтелекту, масштабується від однієї системи до рівня кластера DGX SuperPOD, що працює локально або через провайдерів. Клієнти також можуть орендувати системи DGX через ливарний цех Nvidia DGX.
