LASER (Language-Agnostic Sentence Representations)

2019: Раскрытие исходных кодов

В январе 2019 года Facebook раскрыла исходные коды инструмента LASER (Language-Agnostic Sentence Representations), предназначенного для понимания любой естественной речи. Этим шагом крупнейшая в мире социальная сеть внесла очередной ключевой вклад в то, чтобы ускорить перевод приложений, занимающихся обработкой естественно-языковых текстов и голосовых сообщений, на большее количество языков.

По сообщению издания SiliconANGLE, система LASER, базирующаяся на библиотеке глубокого обучения PyTorch, применяется Facebook для создания некой математической модели, которая может инкапсулировать и понимать все естественные языки, какими бы уникальными они ни были.

Facebook раскрыла исходники инструмента для понимания любой естественной речи

Исходники этого инструменты были выложены в открытый доступ спустя месяц после выхода исследования Facebook, в котором специалисты рассказали об обучении единой модели нейронной сети, которая может моделировать структуру из 93 языков в 34 отдельных алфавитах.

В конечном итоге Facebook получила, как сама компания называет это, «единое представление» или математическое преобразование предложений в форме векторов, которая включает в себя структурное сходство всех 93 языков.

Это единственное представление затем использовалось для обучения алгоритмов по нескольким задачам, предполагавшим сопоставление предложений между парами языков, которые программа никогда раньше не видела. Например, был реализован перевод со шведского языка на суахили и метод, позволяющий изучать языки «с нуля».

Исследователь Facebook Хольгер Швенк (Holger Schwenk) говорит, благодаря LASER языки с «ограниченными ресурсами», как ожидается, можно будет изучать совместно с более популярными языками, чтобы можно было построить модели обработки естественного языка для их понимания.^[1]

Примечания