Безопасность и проблемы социальных сетей

Основная статья: Социальные сети

Утечки данных в соцсетях

Основная статья: Утечки данных в соцсетях

2023

Впервые в США приняли закон, запрещающий родителям отбирать доходы детей-блогеров. Деньги будут храниться на спецсчете

В августе 2023 года американском штате Иллинойс впервые в США приняли первый закон о защите денег детей-инфлюенсеров. Их доходы в социальных сетях будут перечисляться на специальный трастовый счёт, где они будут хранится до совершеннолетия ребёнка. Мера направлена против родителей, которые зарабатывают на контенте с детьми. При этом они будут иметь право на определенный процент от дохода. В случае отказа переводить им часть доходов дети-инфлюенсеры могут подать в суд. Подробнее здесь.

Губернатор Техаса запретил детям без согласия родителей пользоваться соцсетями

13 июня 2023 года губернатор Техаса Грег Эбботт подписал законопроект, запрещающий детям до 18 лет регистрироваться на большинстве социальных сетей без согласия родителей. Подробнее здесь.

В США детям для входа в соцсети теперь нужно согласие родителей

В марте 2023 года впервые в США детям запретили заходить в социальные сети без согласия родителей. Первым штатом, принявшим такой закон, стала Юта.

Речь идет сразу о двух законах, подписанных губернатором Юты Спенсером Коксом, - SB152 и HB311. Первый документ требует от социальных сетей проверять, что те, кто создает аккаунты в Юте, старше 18 лет, подросткам младше этого возраста необходимо предоставить согласие родителей. Второй закон запрещает социальным сетям использовать дизайн или функции, вызывающие у несовершеннолетних зависимость, и упрощает процедуру подачи исков к компаниям за причинение вреда.

В Юте детям запретили пользоваться соцсетями без согласия родителей

Как поясняется на сайта штата Юты, законы позволяют родителям несовершеннолетних детей получить полный доступ к учетной записи их ребенка, настроить параметры «комендантского часа», когда социальные сети будут заблокированы (по умолчанию это время с 22:30 до 6:30), запретить переписку со всеми, кто не в друзьях у ребенка, а также скрывать учетные записи несовершеннолетних в результатах поиска.

Кроме того, социальным сетям запрещено собирать персональные данные несовершеннолетних и запускать рекламные кампании, нацеленные на детей и подростков. Аккаунты пользователей моложе 18 лет должны быть удалены из всех результатов поиска. Помимо этого, ограничат возможность присылать личные сообщения ребенку с аккаунтов, которых нет в списке его друзей.

Как власти будут контролировать исполнение закона, к 24 марта 2023 года не уточняется. Движения по защите гражданских свобод выразили обеспокоенность законопроектом. По их мнению, для закона властям придется создавать сервисы для сбора информации о подростках и их родственных связях, а это создает дополнительную опасность взлома личных данных.^[1]

2022: Модель ИИ выявляет психические расстройства на основе сообщений в Интернете

Исследователи из Дартмута создали модель искусственного интеллекта для выявления психических расстройств на основе обсуждений на Reddit.

Отличительной чертой данной модели является акцент на эмоциях, а не на конкретном содержании анализируемых текстов социальных сетей. Исследователи рассказали, что данный подход работает независимо от тем обсуждаемых сообщений.

Есть множество причин, по которым люди не обращаются за помощью в связи с психическими расстройствами: стигматизация, высокая стоимость и отсутствие доступа к услугам терапевтов. Существует также тенденция сводить к минимуму признаки психических расстройств или смешивать их со стрессом, говорит Сяобо Го, соавтор статьи. По его словам подобные технологии цифрового скриминга могут дать дополнительную мотивацию для обращения к врачу.

В исследовании ученые обучили искусственный интеллект обнаруживать три типа психических расстройств по сообщениям, написанным пользователями социальных сетей. Это обычные эмоциональные расстройства: глубокая депрессия, биполярное аффективное расстройство и тревожное расстройство - которые характеризуются отчетливыми эмоциональными паттернами. Они изучили данные пользователей, которые сообщили о наличии у себя одного из этих расстройств, и пользователей без каких-либо известных психических расстройств.

Ученые обучали ИИ анализируя сообщения в социальной сети Reddit по нескольким причинам. Во-первых, потому что это сеть, где люди могут обмениваться информацией, и у нее много активных пользователей (более 430 миллионов, согласно исследованию), обсуждающих широкий круг тем. Посты и комментарии находятся в открытом доступе, и исследователи могут собирать данные, начиная с 2011 года.

Различные эмоциональные расстройства имеют свои характерные модели эмоциональных переходов. Создавая эмоциональный «отпечаток пальца» пользователя и сравнивая его с установленными признаками эмоциональных расстройств, модель может обнаружить отклонения. Чтобы подтвердить свои результаты, они проверили ее на сообщениях, которые не использовались во время обучения, и показали, что модель точно предсказывает, у каких пользователей может быть одно из этих расстройств, а у каких нет.

"обучение" проходило в несколько этапов. Исследователи не первые, кто заинтересовался анализом эмоций в социальных сетях. Поэтому они начали с использования существующих наборов данных, прежде чем "скормить" свой ИИ публикациями из Reddit. Для каждой категории расстройств они нашли 1997 пользователей, которые утверждали что у них существует психическое отклонение. Также они нашли 1997 пользователей для тестовой группы, которые отвергали отсутствие психических проблем. 70% публикаций этих пользователей были использованы для обучения ИИ, 15% - для процедуры валидации, и 15% - для реального тестирования модели. Исследователи обучили свою модель маркировать эмоции, выраженные в сообщениях пользователей, и отображать эмоциональные переходы между разными сообщениями, чтобы сообщение могло быть помечено как «радость», «гнев», «грусть», «страх», «отсутствие эмоций» или их комбинация. Карта представляет собой матрицу, показывающую, насколько вероятно, что пользователь перейдет из одного состояния в другое, например, из гнева в нейтральное состояние отсутствия эмоций.

Поэтому разработанная ими модель фокусируется на переходах, создавая "эмоциональный отпечаток", связанный с пользователем, который можно сравнить с "типичными" подписями, соответствующими эмоциональным расстройствам. Протестировав эту модель на публикациях, которые ранее не использовались для обучения ИИ, исследователи обнаружили, что ИИ смог точно определить наличие или отсутствие эмоционального расстройства личности.

Исследователи надеются, что представленная работа может использоваться для профилактики психических расстройств. В своей статье они приводят веские доводы в пользу более вдумчивого изучения моделей, основанных на анализе данных социальных сетей^[2].

2021: Правительство РФ будет анализировать личности россиян по соцсетям при помощи ИИ-системы

В конце ноября 2021 года стало известно о том, что Институт системного программирования им. В. П. Иванникова получил от Аналитического центра при правительстве РФ (АЦ) грант на проведение исследования о возможностях использования искусственного интеллекта для психологической диагностики личности по социальным сетям. Подробнее здесь.

2020

Турция оштрафовала ряд социальных сетей за отказ открыть представительства в стране

4 ноября 2020 года стало известно, что власти Турции оштрафовали в среду на 10 млн турецких лир ($1,175 млн) социальные сети Facebook, Instagram, Twitter, Periscope, Youtube и TikTok (социальная сеть) из-за нарушения законопроекта, предусматривающего открытие представительств перечисленных компаний в республике. Подробнее здесь.

В России могут ввести штрафы для соцсетей за незаконный контент

Рабочая группа комитета Совета федерации по науке, образованию и культуре по инициативе Лиги безопасного интернета (ЛБИ) разрабатывает законопроект о штрафах для соцсетей и интернет-площадок за публикацию противоправного контента. Об этом стало известно 10 марта 2020 года. Подробнее здесь.

2019

Выжить в интернете: киберугрозы, которые подстерегают ребенка в сети

29 июля 2019 года ДИТ Москвы сообщил как выжить в интернете и какие киберугрозы подстерегают ребенка в сети.

Выросло несколько поколений, которые ориентируются в интернете лучше, чем их родители. Интернет, мессенджеры и закрытые группы для них — такие же экстремальные места для общения и игр, как для поколения 80-х были стройки, гаражи и лесопарки.

По данным Google, 98% школьников и студентов в возрасте от 13 до 24 лет пользуются интернетом каждый день. А согласно исследованию рынка Childwise, дети в возрасте от 5 до 16 лет проводят перед экраном в среднем шесть с половиной часов в день, по сравнению с примерно тремя часами, зафиксированными в 1995 году.

Вместе с резким ростом числа пользователей увеличился и уровень агрессии в сети. Слова обладают огромной силой. Они могут вдохновлять и исцелять, но могут ранить, стать оружием для манипуляций, разжигания конфликтов и травли. Особенно это актуально, когда речь идет о детях.

Почти половина опрошенных российских детей и подростков в возрасте от 8 до 17 лет призналась, что становились объектами травли в интернете, говорилось в исследовании Microsoft. И с годами уровень агрессии в интернете не снижается. По этому показателю Россия входит в пятерку стран, где в наивысшей степени распространен кибербуллинг — травля, бесчисленные нападки и преследования в интернете.

Главное отличие кибербуллинга от травли в обычной жизни — маска анонимности, за которой скрывается обидчик. Его сложно вычислить и нейтрализовать. Дети очень редко рассказывают родителям и даже друзьям о том, что над ними издеваются. Молчание и переживание этого в одиночестве может стать причиной появления огромного количества психических проблем, трудностей в общении с одноклассниками. Люди, которые становились жертвами кибербуллинга помнят об этом всю свою жизнь.

Родители, учителя или школьные психологи должны объяснить ребенку, что если он столкнулся с кибербуллингом в интернете, не нужно сразу отвечать обидчику на эмоциях, оскорблять его в ответ или наоборот умолять о пощаде, платить выкуп. Сначала надо успокоится взять себя в руки и лишь потом принять решение, желательно посоветовавшись со взрослыми. Они помогут правильно оценить ситуацию, не принимать действия обидчика слишком близко к сердцу.

Для киберпреступников, сетевых троллей или хейтеров не важно, кто находится по другую сторону экрана. На своем опыте мы в Group-IB неоднократно сталкивались с кейсами, когда жизнь детей висела на волоске (например, история суицидальных групп типа `Синий кит`). Кибербуллинг, троллинг, скрытая съемка через веб-камеры и впоследствии шантаж могут разрушить жизнь ребенка или серьезно подорвать его психическое здоровье.

У сетевых хулиганов довольно большой арсенал различных техник и методик, как испортить жизнь своей жертве.

Хейтинг (hate) — это негативные комментарии и сообщения, необоснованная критика в адрес конкретного человека, часто без обоснования своей позиции.

Киберсталкинг (cyberstalking; to stalk — преследовать, выслеживать) — использование гаджетов для преследования жертвы, постоянные угрозы в адрес жертвы и членов ее семьи.

Троллинг (cyber trolls) — публикация агрессивной информации на веб-сайтах, страницах социальных сетей, даже на мемориальных страницах, посвященных умершим людям.

Грифинг (griefers) — преследование других игроков в многопользовательских онлайн-играх. Их цель не победить в игре, а лишить удовольствия от игры других. Они активно используют брань, блокируют отдельные области игры и открыто мошенничают в игре.

Секстинг (sexting) — это процесс рассылки или публикация фото- и видеоматериалов с обнаженными и полуобнаженными людьми. Используется для шантажа, вымогательства или мести бывшему партнеру за болезненный разрыв отношений.

Чем раньше ребенок овладеет базовыми правилами пребывания в сети, тем меньше вероятность вышеупомянутых происшествий.

Как не стать жертвой в интернете:

• Возьми за правило публиковать как можно меньше личной информации (телефоны, адреса) и фотографий. Не хвались крупными дорогими покупками. Никогда не рассказывай в соцсетях о том, что вся семья уезжает, например, в отпуск. Помни, все, что попало в интернет, осталось там навсегда и доступно всем!
• Не доверяй виртуальным друзьям. Лицо на аватарке, имя и возраст твоего виртуального друга — может быть вымышленным, а за дружелюбным собеседником может скрываться преступник. Не встречайся с незнакомцами из сети, не предупредив своих родителей.
• Следи за своим поведением в сети, возможно, своими словами ты можешь кого-то сильно задеть или обидеть. Прежде, чем написать какой-либо комментарий, сообщение, постик в инстаграме, подумай, что за этим последует.
• Наткнувшись на `тролля` в интернете, прекрати диалог, не вступай в ссору или выяснение отношений.
• Блокируй отправителей неприятных для тебя сообщений. Не стесняйся репортить (жаловаться) на оскорбительные или провокационные посты, комментарии и тд — функция есть почти во всех известных соцсетях.
• Не забывай про цифровую гигиену: установи приватность в настройках профиля в соцсетях. Используй сложные пароли, разные для каждых аккаунтов. Закрывай камеру на компьютере и не отправляй `виртуальным друзьям` свои фотографии и видео.

Касперская: 7 млн подростков подвергаются деструктивному воздействию в соцсетях

Президент ГК InfoWatch Наталья Касперская рассказала о группах деструктивного воздействия на детей и подростков в социальных сетях, сообщили 1 апреля 2019 года в InfoWatch. В частности, она привела данные статистики системы мониторинга и анализа социальных медиа «Крибрум»: деструктивному воздействию подвергаются в Интернете семь миллионов подростков, а прирост вовлеченности, например, по теме наркотиков, убийств, травли и суицида, составляет два миллиона пользователей в год. Эксперт подчеркнула, что система считает вовлеченными участниками групп тех, кто поставил лайк, сделал репост или прокомментировал опасный контент.

Наталья Касперская отметила, что так называемая «воронка вовлечения» устроена таким образом, на ее верхнем уровне отсутствует запрещенный контент, вместо этого, как правило, привлекательные фото, видео или призывы общего характера. Затем создатели групп, исходя из того, что заинтересовало подростка (наркотики, насилие и пр.), вовлекают его в дальнейшие действия, закрытые чаты, после этого действия переходят в офлайн. Глава InfoWatch отметила, что блокировка подобных групп крайне затруднена, а социальные сети, в которых они зарегистрированы, не несут ответственности за их деятельность.

Заместитель руководителя Администрации Президента РФ Сергей Кириенко, обратил внимание на актуальность проблемы деструктивного воздействия на молодежь в сети и необходимость координации усилий государства, бизнеса и общества для ее решения.

2018

Путин поручил активизировать борьбу с деструктивными движениями в соцсетях

В марте 2018 года президент России Владимир Путин поручил активизировать действия государственных органов, бизнеса и общественности по борьбе с негативным воздействием деструктивных движений в социальных сетях.

Выявление 20 тыс. потенциальных самоубийц в Китае

Искусственный интеллект помог китайским ученым выявить 20 тысяч потенциальных самоубийц и оказать им психологическую помощь, сообщило в январе 2018 года ТАСС со ссылкой на агентство "Синьхуа".^[3]

ИИ в Китае помог оказать психологическую помощь 20 тыс. потенциальных самоубийц

Под пресловутым «искусственным интеллектом» понимается система автоматизированного мониторинга социальных сетей, которая сама способна определить суицидальные тенденции и «профилактическим» порядком отправлять им письма со словами поддержки и координатами психологов, готовых помочь.

Как отметил один из кураторов проекта, сотрудник Академии наук Китая Чжу Тиншао, только 20% нуждающихся в помощи готовы за ней обратиться самостоятельно, хотя вполне охотно делятся своими мыслями в онлайне.

Информационную базу для выявления потенциальных самоубийц составили результаты исследования 2016 года. Тогда, проанализировав более 4000 публикаций в социальных сетях, прямо или косвенно посвящённых суициду, учёные вычислили наиболее часто встречающиеся лингвистические конструкции, которые теперь и служат маркерами, вызывающими срабатывание «антисуицидального» ИИ.

По утверждению Чжу Тиншао, сервис самостоятельно отправляет сообщения со словами поддержки и советами, сохраняя анонимность получателей. В особо тяжёлых случаях программа также информирует интернет-пользователей о горячих линиях и центрах оказания помощи.

В конце ноября 2017 года аналогичную систему запустила социальная сеть Facebook: её «искусственный интеллект» проверяет публикации пользователей на предмет наличия «суицидальных» признаков, и, если таковые выявляются, направляет рекомендации по получению психологической помощи либо самому пользователю, либо его/её друзьям, либо тем, кто первыми прокомментировал «суицидальное» сообщение, при условии, что они проживают в той же местности.^[4] Сервис уже развёрнут по всему миру, кроме Европейского союза, где законодательство о защите частной информации создаёт серьёзные трудности для использования этой технологии.

Помимо «искусственного интеллекта», впрочем, у Facebook есть целый ряд партнёрских организаций по всему миру, которые специально занимаются профилактикой суицидов и готовы оказывать помощь пользователям. Когда стало известно о запуске системы Facebook, реакция у сетевой общественности была неоднозначной: ожидаемым образом возникли опасения, что инвазивный «искусственный интеллект» может быть использован отнюдь не ради благих целей. Руководители Facebook поспешили выступить в защиту технологии.

Директор по безопасности Алекс Стеймос (Alex Stamos), в частности, написал:

Пугающий/неблаговидный/вредоносный способ использовать ИИ — это риск, который будет существовать всегда. И именно поэтому сейчас необходимо установить адекватные нормативы, обеспечивая баланс между использованием данных и практической пользой, и постоянно иметь в виду возможные перекосы.

Со своей стороны, Марк Цукерберг (Mark Zuckerberg) заявил, что эта технология — первый шаг к углублённому пониманию искусственным интеллектом языковых нюансов, что со временем позволит идентифицировать не только потенциальный суицид, но и проявления кибербуллинга и хейтерство.

Любые средства, позволяющие предотвращать трагедии, хороши, но, с другой стороны, и опасения по неправомерному использованию ИИ выглядят оправданными, — считает Роман Гинятуллин, эксперт по информационной безопасности компании SEQ (ранее SEC Consult Services). — На данный момент ИИ, к счастью, представляет собой лишь инструмент, который люди могут использовать по своему усмотрению. По сути только от операторов ИИ и зависит, для чего он будет использован — для спасения людей или, например, для вторжения в их частную жизнь. Может оказаться, что дальнейшее развитие ИИ потребует пересмотра существующих законов о приватности.

2016: Из 60 лет жизни 20 уходит на гаджеты и цифровые технологии

Современный человек проводит в состоянии бодрствования около 17 часов в сутки, при этом около 50% этого времени составляет общение с различными цифровыми приборами. Таким образом, из 60 лет жизни 20 уходит на «гаджеты», цифровые технологии и «переваривание» терабайт информации.

Проникновение информационных технологий в реальный мир произошло настолько глубоко, что сегодня можно говорить о почти равном соотношении населения планеты с количеством мобильных устройств. В 2005 году объемы данных составляли около 130 эксабайт (1018 байт), в 2010 – 1,2 зеттабайт (1021 байт), а в конце 2015 года показатели достигли 0.8 иоттабайт (1024байт). Мы практически ежесекундно получаем информацию по электронной почте, из микроблогов, социальных сетей, push-уведомлений и прочих информационных каналов (данные NeuroNation).

Подобное постоянное увеличение объемов данных приводит к информационной перегрузке, что, в свою очередь, влияет как на бизнес-процессы целых корпораций, так и на работоспособность каждого отдельно взятого специалиста. Избыток получаемой информации и достаточно низкий уровень ее достоверности и качества приводят к рассеиванию внимания, падению скорости мыслительных реакций, что, в итоге, серьезно влияет на уровень работоспособности человека и даже его самочувствие.

2015: Опасности социальных сетей: опрос граждан РОЦИТ

Социальные сети «лишают» нас одиночества и скуки – там всегда есть с кем поговорить, можно обсудить только что вышедший фильм, похвастаться подарком, купить практически все, что угодно…, но иногда и попасть в беду.

По данным всероссийского исследования `Индекс цифровой грамотности граждан РФ`, проведенного РОЦИТ в 2015 г. около 20% пользователей заявляют о том, что сталкивались с проблемами безопасности данных в социальных сетях. Чаще всего, это проблемы кражи пароля (26%) и взлома аккаунта (69,2%). При этом, чуть более 23% опрошенных отметили, что при взломе мошенник выдавал себя за них и пытался выманить деньги у их друзей. Однако имеют место и другие проблемы, например, кража пароля от электронной почты, к которой привязан аккаунт в социальной сети (15,6%), и кража денежных средств с банковской карты, также привязанной к аккаунту (3,5%).

Несмотря на то, что продажа товаров и услуг в социальных сетях является несанкционированной, более половины опрошенных заявили о том, что делают там покупки регулярно или периодически, и лишь 18% пользователей считают это небезопасным.

По законодательству РФ любая, будь то онлайн или офлайн, покупка должна сопровождаться выдачей кассового чека или публичной офертой. Однако более 40% респондентов отметили, что чек при покупке товара в социальных сетях им выдан не был.

По данным опроса около 4% пользователей сталкивались с мошенничеством при осуществлении покупок в соц. сетях лично, чуть менее 37% заявили, что такие проблемы возникали у их знакомых.

2013: Соцсети лишают экономику России 10 миллиардов долларов в год

От чрезмерной активности граждан в социальных сетях экономика России теряет от 281,7 млрд до 311,5 млрд руб. в год. Такую цифру назвали в Институте стратегического анализа ФБК, пишет «Российская газета» (июнь 2013 года). Подсчеты строились следующим образом: к концу 2012 года число россиян — пользователей социальных сетей — достигло 51,8 млн человек. По данным исследования СomScore, в 2012 году россияне проводили в социальных сетях в среднем 25,6 минуты в день (или 12,8 часа в месяц), в том числе и на работе.

Исходя из этого, аналитики подсчитали, что в 2012 году каждым активным в соцсетях работником было потеряно 3187,2 минуты, или 53,1 часа рабочего времени. Аналитики установили нижнюю и верхнюю границы возможных потерь — исходя из структуры пользования соцсетями работниками разных отраслей и по средним значениям для экономики в целом. В нижней границе размер экономического ущерба составил 281,7 млрд руб., в верхней — 311,5 млрд руб.

Если исходить из структуры использования соцсетей работниками разных отраслей, то наибольший экономический ущерб, по расчетам Института стратегического анализа ФБК, причинили работники финансовой сферы и операций с недвижимым имуществом, аренды и предоставления услуг (67,9 млрд руб.), на втором месте — работники образования (39,8 млрд руб.), на третьем — государственного управления и обеспечения военной безопасности и социального страхования (36,6 млрд руб.). Самые незначительные экономические потери от активных в соцсетях россиян, занятых сельским и лесным хозяйством (0,9 млрд руб.).

2012: Запрет соцсетей на рабочем месте. Инфографика

Источник: Kelly, июль 2012

Примечания