Нові системи машинного навчання від Facebook та Google

Опубліковано декілька нових відкритих проектів у галузі машинного навчання:

• DeOldify - проект, який використовує напрацювання в галузі глибинного машинного навчання для автоматичного розфарбовування чорно-білих фотографій та відновлення якості старих зображень. Основний системи є генеративно-змагальна мережа (GAN), що включає дві нейронні мережі - одна генерує зразки, а друга відбраковує недостатньо реалістичні результати.

  У розробці використовуються бібліотеки Fast.AI, PyTorch і Tensorboard (надбудова над Tensorflow для PyTorch). Модель навчається на структурованій колекції зображень ImageNet. Для підвищення якості фотографій використовується та ж модель, що і для розмальовки, яка розширена елементами для коригування яскравості та контрасту та навчена з використанням симуляції вицвілих фотографій та фотографій знятих на старі або погані фотоапарати. Код проекту опублікований під ліцензією MIT.

• Компанія Facebook відкрила вихідні тексти платформи Horizon, яка подається як перша платформа навчання з підкріпленням (RL), яку можна використовувати для оптимізації систем у великих промислових оточеннях. Horizon вже більше року використовується в різних додатках Facebook для вирішення таких завдань, як персоналізація рекомендацій у месенджері, прийняття рішень про частоту та доставку повідомлень (користувач отримує тільки найбільш релевантні повідомлення про нові публікації та коментарі) та оптимізація якості потокового відео (вибір бітрейту та коригування) параметрів на льоту під час відтворення відео в режимі 360 градусів на основі оцінки якості каналу зв'язку та стану буферизації).

  Horizon надає готові компоненти для навчання з використанням популярних алгоритмів навчання з підкріпленням, обробки та перетворення даних, розподіленого навчання, вибору оптимальних стратегій та оптимізації. Платформа розрахована рішення прикладних завдань, у яких фігурують масиви даних у мільйони і мільярди спостережень і досить повільний цикл зворотний зв'язок (проти симулятором). На відміну від інших платформ, які насамперед розраховані на проведення експериментів та створення дослідницьких прототипів, Horizon спочатку розвивається як готове рішення, придатне для впровадження на підприємствах.

  Платформа використовує PyTorch 1.0 для моделювання та навчання, і застосовує Caffe2 для зберігання та обробки моделей. Підтримуються алгоритми Q-навчання (DQN, Deep Q-Network) Discrete-Action DQN, Parametric-Action DQN, Double DQN, Dueling DQN і Dueling Double DQN, а також алгоритми DDPG (Deep Deterministic Policy Gradient) та SAC(Soft Actor-Cri). Код платформи написаний мовою Python і опублікований під ліцензією BSD.

• Компанія Google опублікувала реалізацію методу машинного навчання BERT (Bidirectional Encoder Representations from Transformers) і готові натреновані моделі до нього. BERT дозволяє створювати системи обробки інформації природною мовою (NLP, Natural Language Processing). Наприклад, BERT може застосовуватися для побудови автовідповідачів, ботів і різних діалогових систем, що відповідають на запитання і визначальних сенс фраз.

  У тесті SQuAD F1 рішення на базі BERT продемонструвало рівень точності відповідей на запитання у 93.2%, що на 2% краще ніж результат, отриманий при проходженні даного тесту людиною. У тесті GLUE система BERT показала рівень точності в 80.4% (на 7.6% краще за минулий рекорд), у тесті MultiNLI - 86.7% (на 5.6% краще). Система побудована на базі фреймворку TensorFlow і постачається під ліцензією Apache 2.0. Для завантаження також є кілька натренованих моделей, які також поширюються під ліцензією Apache 2.0.

• dbclf - відкритий код мобільного додатка Identify Dog Breeds для ідентифікації порід собак по картинці за допомогою нейромережі. Програма використовує платформу TensorFlow. Для навчання моделі використано базу даних зображень собак ImageNetDogs. Код розповсюджується під ліцензією Apache 2.0.

Інші новини