| Разработчики: | Meta Platforms |
| Отрасли: | Интернет-сервисы |
Содержание |
2019: Блокировка 6,6 млрд фейковых аккаунтов в Facebook
В начале марта 2020 года Facebook рассказала о результатах работы своей ИИ-системы Deep Entity Classification, позволяющей распознавать и блокировать фейковые аккаунты. Благодаря этой технологии только в 2019 году из соцсети убрали 6,6 млрд поддельных учётных записей.
Deep Entity Classification анализирует поведение пользователей по множеству параметров и собирает по каждому около 20 тыс. метрик. Кроме того, по словам разработчиков, система самостоятельно обучается и автоматически адаптируется к новым инструментам спамеров, которые постоянно придумывают всё более сложные способы обойти искусственный интеллект.
Алгоритм изучает активность не только самого аккаунта, но и пользователей, группу и страниц, с которым он связан. Анализируются такие детали, как количество администраторов в группе, в которую входит пользователь, и распределение друзей по полу. Система связывает различные точки данных, чтобы найти закономерности, которые могут указывать на злонамеренную деятельность.
В Facebook утверждают, что система учитывает настолько много разных деталей, что её можно считать гораздо более сложной по сравнению с традиционными инструментами для обнаружения мошенничества с использованием искусственного интеллекта. Обычно такие решения учитывают небольшое число факторов, в результате чего киберпреступники начинают понимать, как обмануть компьютер.
После запуска Deep Entity Classification доля фейковых аккаунтов в Facebook сократилась на 27% — с 5,3% от общего количество активных пользователей до 3,8% к началу марта 2020 года.
Несмотря на это, Facebook сомневается в том, что удастся полностью избавиться от поддельных аккаунтов, поскольку спамеры быстро адаптируются к нововведениям и стараются находить обходные пути, позволяющие использовать фальшивые учётные записи.[1]
Смотрите также
Примечания
