Microsoft Azure починає використання ІІ-прискорювачів Graphcore

Graphcore оголосила про подальше розширення співпраці з Microsoft. Йдеться про впровадження розробленого цими компаніями інтелектуального співпроцесора (IPU, Intelligence Processing Unit) та використання його на серверах хмарного сервісу Microsoft Azure.

Проведене партнерами спільне тестування зразка сервера, укомплектованого вісьмома акселераторами на базі пари чіпів Graphcore C2, показало вражаючі результати.

При використанні мовної моделі BERT для попереднього навчання нейромереж протягом 56 годин продуктивність машини з прискорювачами Graphcore виявилася втричі вищою порівняно зі звичайною системою. Також спостерігалося покращення латентності. Прискорення обробки природних мов дуже важливо для Microsoft, що не дивно, враховуючи зростаючу популярність хмарних платформ та різного роду голосових та мовних сервісів.

Graphcore позиціонує свою розробку як конкурент GPU, заявляючи про 100-кратну перевагу чіпа C2 над класичними графічними процесорами в ряді специфічних завдань. Крім самого процесора, компанія розробила і спеціальну шину IPU-Link, що дозволяє кільком платам-прискорювачам спілкуватися без затримок.

Вже існує домовленість з Dell Technologies та система DSS8440, оснащена прискорювачами Graphcore демонструватиметься на конференції SC19.

Архітектура у Graphcore C2 досить цікава. Він містить 1216 про тайлів, кожен із яких, своєю чергою, складається з обчислювального ядра і невеликої кількості пам'яті (In-Processor Memory). Цієї пам'яті небагато, всього 300 Мбайт на весь чіп, але сукупна швидкість роботи з нею складає 45 Тбайт/с.

Усього процесор може виконувати 7296 потоків коду паралельно. Швидкість роботи міжпроцесорної шини IPU-Link – 320 Гбайт/с.

Компанія розробила для свого дітища та відповідний програмний стек ‒ Poplar, який легко інтегрується з такими популярними засобами розробки, як TensorFlow або Open Neural Network Exchange (ONNX). Найближчим часом планується впровадження початкової підтримки PyTorch, а повна підтримка очікується вже на початку 2020 року.

Інші новини