Роскомнадзор внедряет ИИ в реестр запрещенной информации

Окулус (система поиска запрещённой информации в фото и видео)

Основная статья:Проект:Окулус (система поиска запрещённой информации в фото и видео)

2024: Внедрение ИИ в реестр запрещенной информации

10 апреля 2024 года стало известно о том, что Роскомнадзор в рамках программы цифровой трансформации внедряет средства искусственного интеллекта в реестр запрещенной информации. Предполагается, что это позволит повысить эффективность работы системы и сократить издержки.

Как сообщает газета «Коммерсантъ», модернизация затронет единую информационную систему Роскомнадзора (ЕИС), а также информационную систему мониторинга интернет-ресурсов (ИС МИР). Последняя предназначена для выявления текстов с запрещенной информацией, их классификации по характеру (нейтральное, негативное или позитивное мнение автора) и поиска перепечаток.

𝓲

Unsplash

Отмечается, что в 2023 году реестр запрещенных сайтов велся без применения ИИ. При этом Роскомнадзор выявлял незаконный контент в интернете в течение приблизительно трех часов после публикации. С 2024-го ведомство начинает использовать ИИ-алгоритмы. Эксперты отмечают, что такие средства дадут возможность выявлять сложные контекстуальные связи между текстовыми фрагментами, находить скрытые закономерности и ассоциации. В результате, система сможет работать с минимальным участием человека, а скорость обнаружения запрещенных материалов повысится. В частности, в 2024 году Роскомнадзор рассчитывает сократить время выявления незаконного контента с трех до двух часов, а по итогам 2026 года — до одного часа.

Кроме того, в 2026 году Роскомнадзор намерен задействовать технологии ИИ при ведении реестра операторов персональных данных. Однако гендиректор разработчика систем анализа данных «Социальная лаборатория» Наталия Тылевич считает, что выявление операторов посредством ИИ сопряжено с определенными трудностями. Поэтому высока вероятность ложных срабатываний.

«Даже если оператор опубликовал юридические документы в виде, удобном для автоматического извлечения, их «чтение» требует глубокого семантического анализа, — подчеркивает Тылевич.[1]

2023: Разработка защиты для системы мониторинга интернет-ресурсов за миллионы рублей

20 июля 2023 года Федеральное государственное унитарное предприятие «Главный радиочастотный центр» (ФГУП «ГРЧЦ»), находящееся в ведении Роскомнадзора, объявило тендер на разработку защиты для информационной системы мониторинга интернет-ресурсов (ИС МИР).

Начальная цена контракта составляет 4,99 млн рублей. Речь идет о выполнении требований Федеральной службы по техническому и экспортному контролю (ФСТЭК), которая обеспечивает безопасность критической информационной инфраструктуры России.

Роскомнадзор создает защиту системы мониторинга интернет-ресурсов за миллионы рублей

В тендерной документации говорится, что ИС МИР создана и функционирует на основании приказа ФГУП «ГРЧЦ» от 22 февраля 2023 года. Компоненты платформы выполнены на основе сервисной архитектуры с автономным исполнением, позволяющим осуществлять эффективное горизонтальное масштабирование, и используют технологии виртуализации на уровне операционной системы (контейнеризации). Серверные модули выполнены на базе GNU/Linux. В работе системы задействованы СУБД с открытым исходным кодом PostgreSQL, MariaDB и MongoDB. Защита контейнерной виртуализации и проверка на отсутствие угроз безопасности информации при запуске наборов контейнеров реализована СПО Polaris Dashboard.

Защиту ИС МИР планируется развернуть на двух объектах — в здании ФГУП «ГРЧЦ» на Дербеневской набережной и в неназванном московском дата-центре. Говорится, что система предназначена «для обеспечения защиты информации, обрабатываемой в ИС МИР, от неправомерных доступа, уничтожения, модифицирования, блокирования, копирования, предоставления, распространения и иных неправомерных действий». Заявки на участие в конкурсе принимаются до 1 августа 2023 года. Исполнителю предстоит разработать модели угроз безопасности информации ИС МИР, а также сформировать требования к системе защиты. Все работы должны быть выполнены до 15 марта 2024 года.^[2]

2021: Структура Роскомнадзора создает систему автопоиска запрещенного контента

В середине сентября 2021 года стало известно о создании Роскомнадзором системы автоматического поиска запрещенной информации в СМИ, соцсетях и мессенджерах. Соответствующий тендер объявило подведомственное Роскомнадзору предприятие Главный радиочастотный центр (ГРЧЦ).

Система, которая получила название «Мониторинг информационных ресурсов» (ИС МИР), должна будет делать следующее:

• отслеживать публикации с «запрещенной» информацией;
• собирать ссылки на источники данных;
• отслеживать зеркала заблокированных сайтов и «неточные смысловые копии» материалов;
• группировать тексты по упоминаемым людям, организациям и локациям;
• анализировать мнение автора публикации и классифицировать оценку по трем категориям: негативной, нейтральной и позитивной;
• предсказывать, каких пользователей интернета может заинтересовать текст с «запрещенной» информацией на основе социально-демографических факторов: пола, возраста, образования и дохода.

Структура Роскомнадзора разрабатывает систему автопоиска запрещенного контента за 59 млн рублей

Основная цель ИС МИР состоит в осуществлении автоматизированного мониторинга информационных ресурсов и выявления информации, распространение которой в Российской Федерации ограничено или запрещено, — сказано в материалах госзакупки.

Там же говорится, что система «Мониторинг информационных ресурсов» будет создаваться в два этапа. Цена за первый — 58,5 млн рублей. Выбрать подрядчика должны до 17 сентября 2021 года.

Серверные компоненты ИС МИР должны быть представлены на основе одной из бесплатных операционных систем с открытым исходным кодом на базе GNU/Linux (Arch, CentOS, Ubuntu и др.). В работе должны применяться бесплатные СУБД с открытым исходным кодом (например PostgreSQL, MySQL, ClickHouse, MongoDB и др.). АРМ пользователей должны быть реализованы на принципе кроссплатформенности в части основных операционных систем (Microsoft Windows, Linux) и обеспечивать русскоязычный интерфейс.^[3][4]

Примечания