Как создать нейропомощников для множества бизнес-задач. Возможности российской ИИ-платформы «ПРИИСК»

Нейропомощник, как полноценный член команды

Есть интересная фраза: «Искусственный интеллект не заменит человека, но человек, который умеет с ним работать, заменит того, кто не умеет». Это касается и организаций. Те из них, которые научатся эффективно использовать ИИ, получат значимые конкурентные преимущества.

Нейросетевые решения (или нейропомощники) — это особые ИТ-системы, которые построены на вероятностных принципах, а не на строгих алгоритмах. Поэтому в работе, ответах на вопросы, взаимодействии они похожи на «живых» экспертов. Как и люди, нейропомощники требуют обучения и адаптации. Важно правильно ставить им задачи и корректировать их работу по мере необходимости.

Нейропомощники могут отвечать на запросы пользователя, когда тот задает вопрос, или действовать самостоятельно, например, по расписанию, календарю или при возникновении определенного события (триггера). Активные нейропомощники (копилоты) могут, например, генерировать уведомления о проблемах в проекте и предлагать рекомендации.

Зачем нужен «ПРИИСК», если на рынке есть «сотни нейросетевых решений за $10 в месяц»?

Большие языковые модели (Large Language Models, LLM) создаются и обучаются на основе больших массивов открытых данных и хорошо справляются с вопросами, тематика которых соотносится с такими данными.

В отличие от многих технологических новаций, генеративные модели уже на старте получили удобный пользовательский интерфейс. С каждым днем появляется все больше сервисов, как правило, облачных, предлагающих различные интерфейсы доступа и оптимизирующих взаимодействие с LLM — тех самых «нейросетевых решений за 10$».

Это привело к тому, что сейчас десятки-сотни миллионов людей, в том числе, и в России, получили пользовательский опыт работы с LLM. И опыт этот, как правило, вдохновляющий.

Организации начинают использовать опыт своих сотрудников по работе с LLM для решения корпоративных задач и сталкиваются с трудностями.

Нейропомощники, предназначенные для решения корпоративных задач, должны учитывать, например, такие аспекты, как: Возможность совместного использования десятками-сотнями-тысячами сотрудников, включая мониторинг их работы и службу поддержки пользователей.

Обучение/дообучение на корпоративных данных, включая возможность дополнения и обновления данных по мере необходимости. Обеспечение информационной безопасности при использовании нейропомощников. Например, далеко не все компании готовы отдавать в облако свои документы и данные, зато многие предъявляют требования к разграничению доступа сотрудников к информации.

Возможность интеграции с корпоративными информационными системами и информационными ресурсами. Она позволяет «вписать» нейропомощников в корпоративную ИТ-инфраструктуру, сделать их внедрение и сопровождение менее затратным. Многим российским компаниям, особенно в корпоративном секторе и госсекторе, ближе построение ИИ-решений в своем внутреннем контуре и их интеграция в корпоративную инфраструктуру. В таких случаях практически безальтернативным вариантом становится создание контролируемых приложений на собственной инфраструктуре.

Платформа «ПРИИСК» от российской компании «Адаптивные технологии развития» как раз и решает эти задачи в контексте конкретной организации.

ГК «Проектная ПРАКТИКА» создает и развивает библиотеку нейропомощников для различных задач проектного управления на российской платформе «ПРИИСК» от «Адаптивных технологий развития», партнерами которых мы являемся. Выбирая платформу для решений на базе искусственного интеллекта, мы ориентировались на важные для нас и наших заказчиков параметры. Во-первых, мы хотели сократить затраты на создание и внедрение решений на основе искусственного интеллекта. Во-вторых, наши заказчики предъявляли требования к информационной безопасности и разграничению доступа. В-третьих, для нас была важна интеграция ИИ-решений с используемыми в организациях информационными системами, — сказал руководитель проектного офиса ГК «Проектная ПРАКТИКА» Иван Филимошкин.

Что такое платформа для решений с искусственным интеллектом, и почему она полезна на уровне организации.

Платформа для решений с искусственным интеллектом «ПРИИСК» предназначена для ускоренной разработки нейропомощников и копилотов на основе генеративного искусственного интеллекта для самых различных бизнес-задач, а также поддержки функционирования, администрирования, мониторинга и дообучения созданных решений в ходе их эксплуатации. 

В состав «ПРИИСК» входят компоненты (модули), которые позволяют говорить с пользователем на естественном языке, готовить информацию к загрузке и обучению, индексировать и хранить ее, а также взаимодействовать с LLM.

Рис. 1 «Модель «ПРИИСК»

Задача №1: уменьшить время и снизить затраты на создание, внедрение и эксплуатацию нейропомощников

При успешном внедрении искусственного интеллекта нейропомощников в организации неизбежно будет много. Единая платформа позволяет повторно переиспользовать уже сделанное, а не решать одни и те же задачи для каждого отдельного нейропомощника.

Во-вторых, использование заложенных в платформу шаблонов ускоряет создание новых ИИ-решений и позволяет при желании большую часть задач решать своими силами.

Если говорить о технических работах, то «ПРИИСК», например, позволяет: Использовать в качестве пользовательского интерфейса для нейропомощника страницы портала или сайта встроенный в корпоративную информационную систему фрейм или мессенджер «Телеграм».

Быстро подключать внешние LLM из широкого перечня, а также использовать в работе LLM, развернутые в контуре организации.

Обеспечить гибкие возможности по загрузке материалов в разных форматах, применять различные механизмы предобработки документов.

Рис. 2 «Как выглядит нейропомощник на уровне администратора платформы»

Некоторые работы, например, подбор документов нормативно-регламентной, отраслевой, методической базы организации, релевантных задаче, учитывают специфику конкретной организации и их невозможно на 100% унифицировать. Но и здесь единая платформа обеспечивает существенные выгоды:

• Документ, загруженный в базу знаний один раз, может использоваться во всех нейропомощниках, где он нужен. Если его потребуется обновить, то сделать это нужно будет также один раз. При применении независимых нейропомощников, каждый из которых пользуется своей базой знаний, такие процедуры придется делать несколько раз.
• В составе «ПРИИСК» есть специальный нейропомощник для проверки качества работы нейропомощников. Контроль качества работы — это непростая и значимая задача и на этапе внедрения, и на этапе эксплуатации. Альтернативой использованию такого инструмента будет ручная проверка с привлечением дорогостоящих экспертов.

Рис. 3 «Система мониторинга платформы «ПРИИСК»

Система мониторинга платформы позволяет централизовано отслеживать работоспособность нейропомощников и своевременно предпринимать меры, если «что-то пошло не так», а система BI — отслеживать и оценивать такие важные параметры как, например, статистику использования нейропомощников целевыми группами или удовлетворенность пользователей ответами.

Задача №2: обеспечить требования по информационной безопасности и разграничению прав доступа

«ПРИИСК» может работать на разных операционных системах семейства Linux. Есть опыт работы платформы на Astra Linux, Debian, Ubuntu, «Ред ОС». Все компоненты — как платформы, так и LLM — могут быть развернуты в контуре организации и не требовать выхода в интернет.

При этом опыт показывает, что для разных нейропомощников может быть эффективным использование разных LLM. Так, для работы с чувствительной информацией можно ориентироваться на локальные модели, например, серии Llama, Mixtral, Qwen. Для решения широкого круга задач подойдут публичные российские модели от «Яндекса» и Сбера, а для отработки гипотез и решения отдельных задач — ChatGPT от OpenAI. Платформа позволяет использовать любую из них по отдельности или комбинировать.

В «ПРИИСК» реализован модуль аутентификации и идентификации собственной разработки. Но, так как в корпоративном контуре этот сервис, как правило, унифицируется, отработаны решения по использованию профильных сервисов, принятых в конкретной организации. Еще одна важная задача — это разграничение прав доступа пользователей к самим нейропомощникам и используемой ими информации.

Задача №3: обеспечить интеграцию с используемыми в организации информационными системами

«ПРИИСК» может использоваться разными способами:

• Как самостоятельная платформа для развертывания нейропомощников. Это основной способ ее применения.
• В форме библиотеки, что позволяет встроить решение в целевую информационную систему, например, в качестве специализированного модуля по работе с ИИ. Как правило, тематика нейропомощников в таком случае соотносится с функциями родительской системы.

При использовании «ПРИИСК» как самостоятельной информационной системы, ограничений на тематику нейропомощников нет. Архитектура позволяет встраивать нейропомощников на базе платформы «ПРИИСК» в разных вариантах: через прямые интеграции, API или в виде фрейма.

Рис. 4 «Нейропомощник технической поддержки, встроенный в информационную систему управления проектами «ПМ Форсайт»

Интересной задачей интеграции в корпоративную ИТ-среду является оптимизация использования информационных ресурсов организации, которые могут быть в форме файловых систем, порталов, баз знаний и т.п. Например, сейчас популярна задача интеллектуального поиска в корпоративных информационных ресурсах с применением возможностей ИИ.

Отечественное программное обеспечение

В июне 2024 года платформа «ПРИИСК» была включена в реестр российского программного обеспечения. Условием для попадания в него является возможность работы решения на импортонезависимом системном программном обеспечении, что актуально для многих заказчиков.

«ПРИИСК» может работать на разных ОС семейства Linux. Есть опыт работы платформы на AstraLinux, Debian, Ubuntu, РЕД ОС и других», — отмечает Андрей Комлев, главный архитектор «ПРИИСК».

Примеры нейропомощников на платформе «ПРИИСК»

Пока нельзя сказать, что примеров практического применения ИИ для решения бизнес-задач много, но для части российских компаний нейропомощники уже сегодня стали полноценными членами команды. Они работают 24/7 и, обученные один раз, выдают стабильно высокое качество.

У «Проектной ПРАКТИКИ», как ведущей российской команды по проектному управлению, есть собственная активно пополняемая библиотека типовых нейропомощников для этой категории задач: по использованию методологии, рискам, оценке здоровья проектов, проверке качества документов, календарному планированию, поддержке контрактной работы и др. Но на платформе «ПРИИСК» можно создавать и других специализированных помощников на заказ.

Например, копилот «Администратор проекта» может интегрироваться с информационной системой управления проектами (ИСУП) и выполнять такие рутинные задачи по контролю проведения встреч, как:

• расшифровка текста встречи и добавление резюме в базу знаний, чтобы потом по нему предоставлять ответы;
• проверка того, что на встрече были выполнены обязательные шаги (приветствие, ознакомление с вопросами встречи, подведение итогов и т.д.);
• подведение итогов встречи и формирование протокола;

назначение задач команде и периодический контроль их выполнения.

Рис. 5 «Аудит протокола встречи через нейропомощника «Администратор проекта»

Не каждая проектная команда находит в себе силы выполнять перечисленные выше действия на постоянной основе, а один раз внедренный нейропомощник будет следовать процедуре автоматически, быстро и для всех. Это позволяет упорядочить работу, значительно сократить время, обогатить других нейропомощников данными для поиска информации и улучшить информированность команды.

Другой пример — когда нейропомощник-консультант может аккумулировать в себе различную экспертизу на основе базы внутрикорпоративных знаний и лучших практик по отдельным направлениям бизнеса, становясь экспертом в заданной области. С ним сможет взаимодействовать и консультироваться большое количество людей одновременно, что позволяет не зависеть от конкретных уникальных экспертов и создавать переиспользуемый корпоративный актив.

Рис. 6 «Пример работ по формированию базы знаний нейропомощника по проектной деятельности»

А нейропомощник-консультант технической поддержки, задача которого — снимать нагрузку с первой линии технической поддержки и помогать пользователям работать с системой, был положительно принят заказчиками «Проектной ПРАКТИКИ» и уже с апреля 2024 г. дополняет информационные системы управления проектами «ПМ Форсайт» и «АСУ-Инвест».

В числе недавних кейсов:

• «Тренер курса обучения», который консультирует слушателей дистанционных или очных курсов по теме обучения, проверяет и оценивает домашние задания. Он, в частности, активно используется в одном из курсов учебно-консультационного центра «Проектной ПРАКТИКИ» — «Эффективный запуск проекта».
• «Методолог по управлению проектами», который позволяет ввести нового сотрудника «в курс дела» по принятым в организации процедурам, умеет отвечать на вопросы по утвержденным нормативно-регламентным документам, оценивает качество документов и их соответствие утвержденным шаблонам и типовым примерам.

Рис. 7 «Нейропомощник курса «Эффективный запуск проекта» консультирует слушателей в Телеграм-группах»

В одном из заказных проектов «Проектной ПРАКТИКОЙ» создан нейропомощник, который из видеоматериалов интервью формирует карту-отчет компетенций респондента.

Важно отметить, что в создании зрелых решений техническая составляющая занимает только 30-50% от общего объема работ, а методическая часть — от 50 до 70%. Поэтому успешных нейропомощников создают методологи, которые понимают, как должен работать тот или иной процесс.

Обучение нейропомощников на корпоративных данных

Организация, которая внедряет ИИ-решение, неизбежно должна будет дополнительно обучить LLM на внутренних корпоративных данных. К дообучению LLM есть несколько подходов, таких как RAG и fine-tuning, каждый из которых имеет свои плюсы и минусы.

В «ПРИИСК» используется RAG-подход (Retrieval-Augmented Generation), который предполагает, что к контексту запроса пользователя присоединяется наиболее релевантная информация из фрагмента документа, чтобы LLM могла сформировать правильный ответ.

RAG сочетает в себе методы извлечения информации и генерации текста. Дообучение через RAG подход занимает существенно меньше времени, не требует специалистов со специальными компетенциями и менее требовательно к вычислительной инфраструктуре.

Рис. 8 «Как работает RAG»

Нейропомощники на платформе «ПРИИСК» можно разделить на три класса:

• Первый — без использования RAG-технологий, для которых не требуется контекст или дополнительная база знаний. Они занимаются суммаризацией текста, генерацией картинок и выполнением задач по заранее заданным критериям.
• Второй и третий классы используют RAG-модели: одни взаимодействуют с базами знаний организации и выполняют роль экспертов-консультантов, а другие — с информационными системами для построения более сложных процессов, где новые возможности ИИ и LLM становятся доступными для таких процессов, как анализ данных или документов, проверка качества прохождения совещаний и автоформирование протоколов и т.п.

Рис. 9 «Каких нейропомощников можно создавать на платформе «ПРИИСК»

Кроме работы с базой знаний для ответов важна настройка самого нейропомощника, связанная с правильным промптом, со степенью юмора, точности, с тем, насколько он будет релевантно отвечать людям разных проектных ролей. Если я руководитель проекта, то ответ может быть одним, если я администратор — вторым, методолог проектного офиса — третьим и т.д. И все это надо настроить, — говорит Андрей Комлев, архитектор ИИ-платформы «ПРИИСК».

Платформа «ПРИИСК» не ограничена какой-то одной предметной областью и может работать с любыми данными. Главное, чтобы были данные на вход (аудио, текстовой контент, фото и проч.) и вопросы, которые можно формулировать применительно к этому контенту. Этого достаточно.

Системный подход к внедрению искусственного интеллекта

Внедрение и эксплуатация систем с ИИ требуют достаточно глубокого вовлечения организации на этапе разработки и внедрения. Массовый опыт здесь только нарабатывается, поэтому организации часто сталкиваются с отсутствием стандартной практики и/или нуждаются в создании новых структур и процессов.

Важно понимать, что генеративной ИИ и LLM — это не волшебная технология или таблетка для решения всех проблем. Эти технологии нам дают новые инструменты, новые возможности и помогают по-новому решать большое число задач, существенно снижая трудоемкость, уменьшая рутину, ускоряя и повышая эффективность. Но это происходит только тогда, когда вы понимаете образ конечного результата. Тогда ИИ и LLM в оболочке платформы «ПРИИСК» помогают к этому результату прийти, — отмечает Иван Филимошкин, руководитель проектного офиса ГК «Проектная ПРАКТИКА».

Для того, чтобы общаться с нейропомощниками, тоже требуются определенные знания и навыки. От того, как, какими словами вы сформулируете вопрос в интернет-поисковике, зависит результат выдачи. Для получения полного, развернутого ответа при общении с нейропомощниками важно уметь правильно задавать вопросы и уточнять их при необходимости. Вместе с тем, наличие специальных знаний по LLM или техническим аспектам платформы «ПРИИСК» пользователю может и не требоваться, если он сам не захочет создавать и настраивать новые собственные ИИ-решения.

И в целом работы по созданию нейропомощников можно условно разделить на технические и контекстные. Технические работы связаны с разработкой, доработкой, настройкой специализированного программного обеспечения нейропомощника, включая т.н. промптинг. А контекстные работы связаны дообучением нейропомощников: подбором, преобразованием, иногда доработкой тех материалов, на основе которых он будет функционировать.

Например, для внедрения «Методолога по управлению проектами» требуется подобрать документы, которые будут загружены в базу знаний и позволят сотрудникам получать ответы, ориентированные на принятые в компании нормы, правила, процедуры. А для нейропомощника по оценке качества проектных документов необходимо сформулировать критерии проверки, ориентируясь на корпоративные, отраслевые и другие нормы.

Перспективы развития платформы «ПРИИСК»

На сегодня разработчики выделяют для себя следующие направления развития платформы «ПРИИСК»:

• Включение в «ПРИИСК» новаций в сфере ИИ по мере их появления.
• Расширение возможностей «ПРИИСК» по NoCODE настройкам нейропомощников.
• Формирование SaaS — облачного решения «ПРИИСК».
• Развитие API «ПРИИСК» для расширения возможностей по взаимодействию и встраиванию «ПРИИСК» с информационными системами и информационными ресурсами компании.
• Маркетплейс решений на «ПРИИСК».
• Развитие услуг, снижающих риски клиента при внедрении ИИ.

Область генеративных моделей и инструментов работы с ними активно развивается. Мы внимательно следим за этим, пробуем различные новые модели, тестируем появляющиеся решения и включаем их сильные стороны в «ПРИИСК» так, чтобы или новации были встроены в платформу или «ПРИИСК» мог с ними взаимодействовать. Например, в платформу уже встроена возможность работы с моделями, генерирующими изображения, и реализована возможность транскрибации аудио- и видеоданных, — объясняет Андрей Комлев, главный архитектор «ПРИИСК».

В ближайшее время появится возможность за несколько минут развернуть «ПРИИСК» в облачной инфраструктуре «Яндекса» или «Сбера» и работать по подписке, используя все сильные стороны платформы и созданных на ней нейропомощников в контролируемой облачной среде.

По нашему опыту, многие новые интересные решения рождаются на стыке компетенций, требований конкретного заказчика и усилий исполнителя. Нередко заказчик готов или хотел бы поделиться с рынком созданным решением. Мы планируем создать организационные и технические возможности для этого, — говорит Андрей Комлев.

Некоторые крупные компании уже создали у себя специализированные центры компетенций/лаборатории/рабочие группы по внедрению возможностей генеративных моделей в процессы компании, сформировали дорожные карты внедрения, разработали процесс формирования и апробации гипотез применения ИИ и т.д.

В «Проектной ПРАКТИКЕ» уверены: только системный подход к внедрению ИИ (люди/структуры/процессы/инструменты) позволит получить максимальные выгоды при контролируемых затратах.