ReBased (архитектура языковых моделей)

Основная статья: Обучение искусственного интеллекта

2024: Анонс продукта

Российские ученые из лаборатории T-Bank AI Research разработали новую технологию ReBased для ускоренной обработки длинных текстов искусственным интеллектом. Эта инновация позволит значительно сократить расходы на использование ИИ в обработке текстов практически без потерь в качестве, сообщили в августе 2024 года в пресс-службе Т-Банка.

ReBased представляет собой новую архитектуру языковых моделей, которая оптимизирует механизм извлечения информации из текста. Технология добавляет новые обучаемые параметры, отвечающие за оптимальный поиск взаимосвязей между частями текста, что улучшает процесс его обработки и позволяет получать более точные ответы.

Примечательно, что параллельно с выходом нашей статьи группа исследователей из Стэнфорда выпустила исследование на эту же тему, но с другим подходом к решению. Сейчас это одна из наиболее интересных областей исследований в NLP по всему миру, – отметил исследователь обработки естественного языка в T-Bank AI Research Ярослав Аксенов в августе 2024 года.

ReBased способна снизить издержки на использование искусственного интеллекта для специализированных задач с конкретной областью применения. Например, в медицине такой задачей может считаться классификация текстов на основе симптомов и диагнозов.

Эксперименты показали, что новая технология улучшает понимание взаимосвязей в тексте в среднем на 10%. При этом ReBased позволяет генерировать тексты с более низкими требованиями к ресурсам практически без потери качества.

Разработка российских ученых имеет большое значение для бизнеса, так как сейчас использование языковых моделей ограничивают высокие затраты на вычислительные мощности. Кроме того, снижение потребления энергии в области вычислений, особенно в больших центрах обработки данных, поможет уменьшить негативное влияние на окружающую среду и сократить выбросы парниковых газов.