Введение
С началом войны в Украине в социальных сетях разворачивается активная дискуссия вокруг целей так называемой «спецоперации» (такой термин российские власти используют для обозначения вторжения). В этих дискуссиях значительная часть пользователей зачастую оперирует одними и теми же тезисами или показывает однотипное поведение, что позволяет идентифицировать их как ботов.
Чаще всего высказывания сводятся к нескольким обобщенным тезисам:
- «А где вы были восемь лет».
Этот тезис, обращенный к тем пользователям, которые выступают против войны, призван сосредоточить их внимание на ситуации в самопровозглашенных ДНР и ЛНР, где украинские войска, начиная с 2014 года, якобы постоянно обстреливали мирное население. Таким образом внимание пользователей переключается с актуальных событий, дискуссия уводится в сторону, а людям внушается чувство вины за их мнимое бездействие. - «Иначе украинцы напали бы первыми»
Эта риторика используется для объяснения целей «спецоперации» в дискуссиях с сомневающимися пользователями и призвана убедить тех, кто не выражал однозначного мнения о войне, что в противном случае могли пострадать мирные россияне. - «В Украине ущемляют русских»
Термином «освобождение» активно оперирует российская власть, объясняя необходимость «спецоперации», и вслед за ней эту риторику повторяют и боты. Основная мысль этого тезиса сводится к тому, что на украинских территориях проживает много русскоязычного населения, которое якобы подвергается дискриминации из-за своей национальности. - «Нацисты прикрываются мирными жителями»
Таким образом чаще всего объясняют разрушение гражданской инфраструктуры и гибель мирных украинских жителей в ходе войны, убеждая пользователей, что российские войска нацелены только на военные объекты, а все остальное — провокация самих украинцев.
Это только наиболее характерные примеры той риторики, которая направлена на поддержку российской «спецоперации». По результатам мониторинга соцсетей и интернет-ресурсов можно выделить несколько «направлений», которые обслуживают боты.
Участие в дискуссиях в российских соцсетях
Цель ботов в этом случае сводится к тому, чтобы убедить пользователей в необходимости «спецоперации», внушить им коллективное чувство вины и ощущение того, что любое сопротивление бесполезно или просто привести необходимые тезисы.
Характерный пример можно найти в реплаях к твиту аккаунта «Минута в минуту» — исторического проекта, восстанавливающего хронологию важнейших событий с привязкой к датам, когда эти события произошли. 22 июня в твиттере проекта был опубликован пост, напоминающий о нападении Германии на Россию в 1941 году. «Подлый диктатор напал среди ночи, без объявления войны — поначалу он вообще запрещал использовать слово „война“. Но в народной памяти навсегда запечатлелись слова: „Киев бомбили, нам объявили, что началася война“», — говорится в посте. В ответах к этому посту пользователи начали комментировать войну в Украине. «Так и нет войны, это Украина там устроила войну причем против себя самих же», «Что за бред наш президент предупредил о начале военной операции так что Украина была предупреждена», «О господи, какую херню вы несете) Вас пришли освобождать, а подобные издания просто пытаются спасти своего фюрера», — писали в реплаях (здесь и далее орфография комментариев и реплаев сохранена). Большинство оставивших эти комментарии были зарегистрированы совсем недавно, а аккаунты у них были пустыми.
Триггером для ботов могут послужить даже отдельные ключевые слова. Как выяснили подписчики издания TJ, если написать в комментариях слова «нацизм» или «санкции», можно вызвать длинные посты, в которых боты объясняют, почему необходимо провести «денацификацию» в Украине и оправдывают проведение «военной операции».
Зачастую боты отвечают невпопад, реагируя на ключевые слова. В комментариях к посту журналистки Анны Монгайт, написавшей пост об инциденте с патриархом Кириллом, который упал во время службы «как доллар», пришли боты, начавшие объяснять, что рубль укрепляется.
Призывы к использованию альтернативных платформ
После блокировки сайтов большинства независимых СМИ, а затем признания экстремистской компании Meta, владеющей Facebook и Instagram, практически единственным источником объективных новостей в России остался YouTube. Вместе с этим российские власти начали кампанию по его замещению российским аналогом под названием Rutube — и как видно из наблюдений, привлекли к этому процессу ботов.
В середине апреля популярный российский блогер Сыендук обратил внимание, что в комментариях к его последнему видео пользователи стали призывать его создавать канал в Rutube, писала «Русская служба Би-би-си». «И почему тебя на рутуб до сих пор нет( классные ролики же делаешь», «Обожаю твои видео, но перехожу на рутуб последний месяц. Может заведешь себе там канал?», «Вот многие мои знакомые принципиально перестают сидеть на ютубе! да и заблокируют его скоро!! почему ты так и не начал выкладывать ролики на рутуб?», — писали под видео. Комментарии были очень похожи, а у пользователей, писавших их, были пустые аккаунты, из чего блогер сделал вывод, что многие из них были ботами.
Взаимодействие с украинскими пользователями
Украинские СМИ неоднократно отмечали активизацию ботов, целью которых было убедить украинских пользователей выдать информацию или посеять панику.
Как отмечал координатор украинской группы «Информационное сопротивление» Константин Машовец, боты под видом украинских пользователей сообщают о взятии российскими войсками населенных пунктов, а пользователи, которые начинают опровергать эти сообщения, невольно «выдают достаточно ценную для врага, оперирующего в этом районе, информацию».
Управление государственной охраны Украины также просило граждан воздержаться от публикаций в соцсетях после взрывов, предупреждая, что любая информация может быть использована российскими войсками для корректировки огня.
***
Рассматривая эти случаи, стоит помнить о том, что рынок ботов существует в России давно, а работа «фабрики троллей» неоднократно была описана в различных исследованиях. ОЗИ в прошлом исследовании подробно изучило рынок и анатомию ботов и показало, что боты представлены во всех соцсетях и практически на любых уровнях, а стоимость раскрутки аккаунтов крайне невысока и доступна практически любому человеку с минимумом технических навыков.
Все это позволяет предположить, что после начала войны мощности существующих ботофабрик были брошены на выполнение задач, связанных с поддержкой «спецоперации» — с учетом изменившихся реалий интернет-пространства в России.
Косвенно об этом может свидетельствовать эксперимент, проведенный корреспонденткой петербургского издания «Фонтанка», которая, попытавшись устроиться по объявлению о наборе людей в «кибервойска», описала один рабочий день в офисе ботов.
Как следует из репортажа, перед бойцами «кибервойск» ставилась задача писать по 200 комментариев ежедневно. В смене работали 100 человек. Корреспондентка «Фонтанки» устроилась в отдел YouTube, где сотрудникам выдавали пустые аккаунты и предлагали писать комментарии под трендовыми видео и в категории «политика и новости». Как пишет «Фонтанка», юрлица, под которыми работали «кибервойска», были связаны с «фабрикой троллей» основателя «ЧВК Вагнера» Евгения Пригожина.
Цель настоящего исследования — выявить изменения, произошедшие на этом рынке и показать, как отразилась на активности ботов блокировка двух крупных соцсетей и независимых СМИ.
Методика и результаты
Мониторинг цен
Мы предположили, что с началом войны структура рынка ботов и стоимость услуг на нем могли измениться из-за ряда факторов — в том числе, признания экстремистской компании Meta. Для проверки этой гипотезы мы отобрали несколько площадок продажи ботов, чтобы отследить цены на услуги в динамике.
При отборе площадок мы руководствовались результатами прошлого исследования, а к площадкам, участвовавшим в предыдущем эксперименте, добавили новые, используя возможности ресурса Similarweb, который позволяет посмотреть посещаемость конкретного сайта и подбирает похожие на него ресурсы.
Из площадок, изученных в прошлом исследовании, две оказались недоступными. Проверяя посещаемость оставшихся доступными площадок через Similarweb, мы нашли 60 аналогичных сайтов, предоставляющих услуги по покупке ботов.
Мы исключили ресурсы с нулевым индексом посещаемости, после чего осталось 24 площадки. Затем мы отобрали площадки с ежемесячной посещаемостью (общее количество визитов) не менее 500 тысяч. Таких оказалось восемь. Из них мы исключили одну площадку, интерфейс которой не позволял замерить цены.
Итого в пуле для измерений цены оказалось семь площадок: четыре из них фигурировали в прошлом отчете, три были новыми (это значит, что к моменту прошлого исследования их либо не существовало, либо их посещаемость была ниже заданных критериев).
Посещаемость площадок
Посещаемость трех площадок, фигурировавших в прошлом отчете, заметно упала. Самым значительным падение оказалось у ресурса w******. Однако, при подготовке прошлого исследования зарегистрироваться на ней мы не смогли и в мониторинге цен она не участвовала. Из тех же площадок, на которых удалось зарегистрироваться в прошлый раз, сильнее всего посещаемость упала у ресурса w**. Выросла посещаемость у ресурса i**** (по результатам прошлого исследования эта площадка оказалась самой удобной для измерений).
Из этических соображений мы не публикуем полные названия площадок.
Изменение цен
По результатам мониторинга мы выяснили, что значительного изменения цен не произошло. Это означает, что рынок ботов быстро перестраивается, приспосабливаясь к изменившимся условиям, а также что баланс предложения и спроса, скорее всего, остался на прежнем уровне.
Эксперимент по привлечению ботов
Мы разделили эксперимент на три этапа — создание и раскрутка аккаунтов в соцсетях, организация «нашествия» ботов и изучение площадки для покупки ботов.
Создание аккаунтов в соцсетях и раскрутка их при помощи ботов
В ходе этого эксперимента мы хотели подтвердить выводы прошлого отчета и показать, что практически любой пользователь соцсети может за небольшую сумму стать обладателем достаточно популярного аккаунта.
Мы создали с нуля аккаунты в фейсбуке, инстаграме, твиттере и телеграме и придумали легенду. Согласно ей, аккаунты принадлежали 32-летнему жителю Пскова по имени Иван Кузнецов, работающему мастером по ремонту ноутбуков. В своих соцсетях Иван Кузнецов публикует короткие посты, связанные с работой и лишенные какого-либо политического подтекста.
Для создания аккаунтов мы использовали одноразовые имейлы и сгенерированные нейросетями картинки профилей. Наполнив профили, мы приступили к раскрутке при помощи ботов и поставили задачу на нескольких платформах подписаться на аккаунты.
Результаты
На раскрутку созданных нами аккаунтов до 1500–2000 подписчиков ушло приблизительно два дня (с 3 по 5 июля 2022 года) и менее 1000 рублей на каждый аккаунт.
Итоговое число подписчиков по окончании раскрутки:
— фейсбук: 1463 подписчика
— инстаграм: 1840 подписчиков до 1495
— твиттер: 1840 подписчиков до 1200
— телеграм: 1835 подписчиков до 700
Однако вскоре после окончания раскрутки Фейсбук потребовал подтвердить созданный аккаунт с фотографией паспорта, и от дальнейшего эксперимента в этой соцсети мы отказались.
В течение последовавших за раскруткой недель число подписчиков начало сокращаться. Сильнее всего оно упало в Telegram.
География ботов оказалась довольно разнообразна, но явными лидерами, откуда пришло более трети всех ботов, стали беднейшие страны Азии — Бангладеш, Пакистан и Сирия. Мы предполагаем, что фактор VPN в данном случае можно не учитывать — едва ли пользователи, которые обращаются к технологии смены IP-адреса для обхода блокировок и приватности, целенаправленно выбирают для этих целей Бангладеш или Сирию.
Организация «нашествия» ботов
На этом этапе эксперимента мы планировали организовать нашествие ботов на заранее выбранные посты в созданных нами аккаунтах и добиться блокировки этих аккаунтов. Таким образом мы хотели доказать, что дискуссии в соцсетях и последующие блокировки, связанные с идеологической позицией, на которые часто жалуются пользователи, могут быть полностью срежиссированны.
Мы опубликовали в аккаунтах «Ивана Кузнецова» несколько постов разной степени политизированности, в которых он осуждал войну в Украине — вначале неявно, затем все более радикально. На площадках мы ставили задачи ботам оставлять сначала комментарии, а потом и жалобы на эти посты.
Мы оставляли одинаковые посты на всех платформах — как правило, это была фотография, сопровождавшаяся короткой подписью. Результаты в трех соцсетях (инстаграм, твиттер и телеграм) были сравнимы, поэтому мы подробно опишем содержание постов для одной из соцсетей, а для остальных укажем число комментариев и итог — удалось ли добиться блокировки.
Стоит отметить, что в инстаграме и твиттере комментарии были в основном англоязычными, а в телеграме — русскоязычными. Вероятно, это объясняется тем, что телеграм более специфичен для России.
Результаты
1. В инстаграме мы опубликовали пост с фотографией со значком в цветах флага Украины и поставили задачу ботам оставить 100 уникальных комментариев. В итоге мы получили 122 комментария, потратив на это задание 300 рублей. Мы не задавали тематику комментариев, рассчитывая на то, что на российских биржах в основном лояльные власти исполнители, но большинство комментариев, которые получил Иван Кузнецов, оказались поддерживающими в отношении Украины.
— В твиттере: получили ровно 100 комментариев, как и было указано в задании.
— В телеграме: получили комментарии, в которых боты начали контактировать друг с другом.
2. В следующей записи мы опубликовали разрушенное после обстрелов в Украине здание и поставили на площадке для ботов задачу пожаловаться на этот пост. Мы получили 169 комментариев (хотя не оставляли задания комментировать) и 554 жалобы, однако блокировки не последовало.
— В твиттере: получили 74 комментария, а также незапланированные ретвиты, на которые не оставляли заданий. На пост оставили 296 жалоб, однако блокировки не добились.
— В телеграме: получили 388 жалоб, пост не был заблокирован.
3. Затем мы разместили нейтральный пост с записью о работе и оставили задание: написать комментарий, чтобы автор не занимался политикой, и отправить жалобу. Мы получили 84 комментария и 336 жалоб, но блокировки не добились.
— В твиттере: получили 45 комментариев на заданную тему и 162 жалобы.
— В телеграме: получили 176 жалоб.
4. После этого мы повысили градус радикальности высказываний и опубликовали два поста с сенситивным контентом (1, 2), один из которых был заблокирован и удален в личном аккаунте автора эксперимента. Мы поставили ботам ту же задачу — оставлять жалобы, однако и в этот раз блокировки не добились.
Изучение площадки для покупки ботов
На этом этапе мы ставили целью показать, как работает площадка и вычислить процент «политического» контента.
Площадка для торговли ботами представляет собой средство коммуникации для заказчиков и исполнителей.
Как это выглядит для заказчика: Заказчики могут размещать свои задания и в какой-то степени контролировать их исполнение. При размещении заказчик сам назначает цену, а его задание проходит модерацию.
Как это выглядит для бота. Для тех, кто готов стать ботом, площадка выглядит как аукцион, в котором можно выбирать задачи для выполнения. Лента заданий кастомизируется (при этом в ней несколько раз может показываться одно и то же задание). Боты могут жаловаться на задания — одну такую жалобу (на розжиг межнациональной розни в заданиях) получили и мы.
Результаты
Мы изучили массив заданий на трех разных площадках и выяснили, что доля «политических постов» составляет около 1% от общего числа.
Выводы
- Эксперимент по раскрутке аккаунта до нескольких тысяч подписчиков можно повторить вне зависимости от тематики публикуемого контента. Стоимость и сложность привлечения подписчиков осталась практически неизменной.
- Не все площадки оказались одинаково удобными для организации «нашествия» ботов. Затребованное фейсбуком в нашем эксперименте подтверждение личности позволяет сделать вывод, что это наиболее сложная для ботов площадка с наиболее высоким порогом входа. При этом, исходя из динамики падения числа подписчиков по окончании эксперимента, можно сделать вывод, что лучше всего система чистки подписчиков от ботов настроена в телеграме.
- В реальности блокировка из-за жалоб, в которых многие пользователи, особенно медийные, подозревают ботов, очевидно, организована как минимум не через простые платформы — или с привлечением гораздо более внушительных ресурсов.
- На площадках, торгующих ботами, вероятнее всего зарабатывают обычные люди, не состоящие в каких-либо группах. Исходя из того, что мы получили несколько жалоб на нас как на заказчиков из-за того, что мы используем площадку в политических целях, можно сказать, что исполнители заданий на биржах часто обычные люди, которым не все равно, что делать.
- Кампании, направленные против конкретных пользователей и постов (те же блокировки из-за жалоб, которые действительно наблюдаются), требуют работы живых людей, а не плохо мотивированных исполнителей на коммерческих биржах. Вероятнее всего, такие кампании организованы с привлечением «фабрик троллей» и являются результатом скоординированной атаки.
