МТУСИ: ИИ-система для обнаружения и предотвращения кибербуллинга в социальных сетях

Продукт

Название базовой системы (платформы):	Искусственный интеллект (ИИ, Artificial intelligence, AI)
Разработчики:	Московский технический университет связи и информатики (МТУСИ)
Дата премьеры системы:	2025/10/27
Технологии:	Data Mining, Речевые технологии

Основные статьи:

2025: Создание системы автоматического обнаружения кибербуллинга

В Московском техническом университете связи и информатики (МТУСИ) под руководством доцента кафедры «Информационная безопасность» Александра Большакова разработана система на базе искусственного интеллекта, способная автоматически обнаруживать и предотвращать кибербуллинг в социальных сетях. Технология использует машинное обучение для анализа текстов и распознает агрессивный контент с высокой точностью.

Кибербуллинг становится одной из главных угроз цифрового пространства. Скрываясь за анонимностью социальных сетей, злоумышленники атакуют других пользователей оскорблениями и угрозами, что может привести к серьезным психологическим последствиям для жертв.Международный конгресс по anti-age и эстетической медицине — ENTERESTET 2026

Традиционные методы борьбы с кибербуллингом — «черные» и «белые» списки запрещенных слов — работают неэффективно. Они либо пропускают завуалированные оскорбления, либо блокируют безобидные сообщения, создавая массу ложных срабатываний.

Ученые МТУСИ предложили принципиально другой подход: использовать машинное обучение для анализа контекста и смысла сообщений, а не просто поиска «плохих» слов.

Система обучалась на датасете из 248 290 реальных комментариев из социальных сетей, которые были размечены на четыре категории:

Нейтральный контент
Оскорбления
Угрозы
Оскорбления и угрозы вместе

Алгоритм научился распознавать сложные паттерны агрессивного поведения и способен адаптироваться к новым формам кибербуллинга при появлении свежих данных.

Разработанная система показала высокую точность распознавания:

Нейтральный контент — 99% точность
Оскорбления — 84% точность
Угрозы — 75% точность
Оскорбления и угрозы вместе — 78% точность

Это означает, что система способна выявлять и блокировать подавляющее большинство случаев кибербуллинга, при этом практически не затрагивая безобидные сообщения. Контекстный анализ: в отличие от простых фильтров, система анализирует смысл и контекст сообщений, что позволяет распознавать завуалированные оскорбления и угрозы. Самообучение: алгоритм адаптируется к новым формам кибербуллинга, обновляясь при появлении новых данных.

Минимум ошибок: высокая точность распознавания снижает количество ложных срабатываний и не ограничивает свободу обычных пользователей.

Кибербуллинг — серьезная социальная проблема, которая затрагивает миллионы людей, особенно молодежь. Разработка наших ученых предлагает эффективное технологическое решение для защиты пользователей социальных сетей от травли и агрессии. Это важный шаг на пути создания безопасного цифрового пространства для российских пользователей,

прокомментировал Сергей Дмитриевич Ерохин, ректор МТУСИ.

Разработанная система может быть интегрирована в социальные сети и мессенджеры для автоматической модерации контента. Технология способна работать в режиме реального времени, выявляя и блокируя агрессивные сообщения до того, как они будут прочитаны жертвой.

Источник — «https://zdrav.expert/index.php/%D0%9F%D1%80%D0%BE%D0%B4%D1%83%D0%BA%D1%82:%D0%9C%D0%A2%D0%A3%D0%A1%D0%98:_%D0%98%D0%98-%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B0_%D0%B4%D0%BB%D1%8F_%D0%BE%D0%B1%D0%BD%D0%B0%D1%80%D1%83%D0%B6%D0%B5%D0%BD%D0%B8%D1%8F_%D0%B8_%D0%BF%D1%80%D0%B5%D0%B4%D0%BE%D1%82%D0%B2%D1%80%D0%B0%D1%89%D0%B5%D0%BD%D0%B8%D1%8F_%D0%BA%D0%B8%D0%B1%D0%B5%D1%80%D0%B1%D1%83%D0%BB%D0%BB%D0%B8%D0%BD%D0%B3%D0%B0_%D0%B2_%D1%81%D0%BE%D1%86%D0%B8%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D1%85_%D1%81%D0%B5%D1%82%D1%8F%D1%85»