Facebook розкрила вихідні коди інструменту LASER (Language-Agnostic Sentence Representations), призначеного для розуміння будь-якої природної мови
Facebook розкрила вихідні коди інструменту LASER (Language-Agnostic Sentence Representations), призначеного для розуміння будь-якої природної мови
Facebook розкрила вихідні коди інструменту LASER (Language-Agnostic Sentence Representations), призначеного для розуміння будь-якої природної мови. Цим кроком найбільша у світі соціальна мережа зробила черговий ключовий внесок у те, щоб прискорити переклад додатків, що займаються обробкою природно-мовних текстів та голосових повідомлень, на більшу кількість мов.
За повідомленням видання SiliconANGLE, система LASER, що базується на бібліотеці глибокого навчання PyTorch, застосовується Facebook для створення певної математичної моделі, яка може інкапсулювати і розуміти всі природні мови, хоч би якими унікальними вони були.
Вихідники цього інструменту були викладені у відкритий доступ через місяць після виходу дослідження Facebook, у якому фахівці розповіли про навчання єдиної моделі нейронної мережі, яка може моделювати структуру з 93 мов у 34 окремих алфавітах.
Зрештою Facebook отримала, як сама компанія називає це, «єдине уявлення» або математичне перетворення пропозицій у формі векторів, що включає структурну подібність усіх 93 мов.
Це єдине уявлення потім використовувалося для навчання алгоритмів з кількох завдань, що передбачали зіставлення речень між парами мов, які програма ніколи раніше не бачила. Наприклад, було реалізовано переклад зі шведської на суахілі та метод, що дозволяє вивчати мови «з нуля».
Дослідник Facebook Хольгер Швенк (Holger Schwenk) каже, завдяки LASER мови з «обмеженими ресурсами», як очікується, можна буде вивчати спільно з популярнішими мовами, щоб можна було побудувати моделі обробки природної мови для їх розуміння
