ТРАГЕДИЯ СОВРЕМЕННЫХ КОММУНИКАЦИЙ

автор: Георгий Почепцов

Под коммуникацией мы обычно понимаем передачу реальной информации, которая была нам неизвестна до этого. Более того, эта информация и важна, и нужна нам, поскольку она несет новое знание. Назовем эту информацию уникальной, поскольку она соответствует нашим интересам. Без нее невозможна ни индивидуальная, ни социальная жизнь.

Однако, чем больше усложняется и развивается система коммуникации, тем меньше уникальной информации в ней функционирует. В основном, мы имеем дело с ненужной нам информацией. Она составляет преобладающий объем потребляемого информационного продукта. Она тоже может быть новой, но не имеет великого смысла.

По этой причине медиа пошли по производству массового продукта, который должен заинтересовать многих. Заранее известно, что новость о женитьбе или разводе голливудского актера привлечет большее внимание, чем такой же эпизод биографии вашего соседа. Что такое раскрученный человек? Это человек, о котором уже существует шлейф массмедийных историй. Это массмедийные новости о человеке, как бы уже живущем в массмедиа. Никому не интересны новости о неизвестном человеке, поэтому он обречен прозябать в своей неизвестности, “питаясь” рассказами о жизни знаменитостей.

Трагедия коммуникации состоит в ее переориентации на массовую аудиторию, в результате чего пропадает уникальный характер передаваемой информации. В результате мы знаем то, что знают все. Мы читаем то, что читают все. Мы смотрим то, что смотрят все. Вся система школы, образования, медиа направлена на создание одинакового человека. Такой человек хорош для бизнеса, поскольку упрощается реклама, для политики, так как известно – чего хочет избиратель, и ему дают этот тип политика. На работе это человек “винтик”, которого обучили нужным операциям и поставили в нужное место.

Это был долгий процесс уничтожения индивидуальности. Индивидуальность уже в былые времена разрешалась только на высших уровнях иерархии. Все остальные были интересны одинаковостью своего поведения. У них было право “солдата” умереть за вышестоящего начальника или государство.

На физическом и информационном уровне человек был един, на виртуальном возникает иерархия и сакральность. Даже кровь разделялась – красная для тех, кто внизу, голубая – якобы вверху. И уже тогда “людям внизу” была более интересна информация не о себе, а о “людях вверху”.

Коронавирус сегодня уничтожил личную коммуникацию переводом ее в онлайн. Если эта тенденция серьезно будет и в дальнейшем реализовываться в образовании, мы потеряем и образование. Функция профессора не только в передаче информации, он способен четко отделить главное от второстепенного самим своим общением, в онлайне этого не будет. Играет роль как то, кто слушает, так и то, кто говорит. 

Лекция – это не получение текста, а получение душевного импульса для дальнейшей самостоятельной работы. Это не информация, это “очеловеченная” информация. Это как бы перевод научного текста в художественную форму. Уберем этого “переводчика”, и образование “сломается”. Реагирование студентов порождает обратную связь как для студентов, так и для лектора.

Мы живем в мире странных новостей, повествующих о неважном, например, о шоу-бизнесе, более подробно и детально, чем о важном. На все это накладывается еще и фактор коронавируса, где также отсутствует или не ясна информация о самом важном.

Ф. Говард, возглавляющий Оксфордский интернет институт, подчеркивает, что коронавирус дал всплеск дезинформации от иностранных государственных медиа: “Фактически 92% дезинформации от государственных агентств мира приходят из России и Китая”. Тут также звучит цифра, что 45% твитов об ограничениях из-за коронавируса порождены автоматическими ботами, повторяющими сообщениями России и Китая, а также дающими ссылки на вебсайты с дезинформацией [1]

И еще одна интересная интерпретация происходящего от С. Кервин из Карлтонского университета: пандемия “движется от войны за выживание к войне идей и войне идеологий”. И поскольку нет понимания появления вируса, то это создает хорошие условия для любой дезинформации. Кервин говорит: “Поскольку нет ясной истории и поскольку Китай скорее всего не даст нам возможности узнать, как реально это произошло, то мы будем находится в дезинформации десятилетиями” (там же).

К пониманию современной войны как войны идеологий/идей уже давно обратились военные, зафиксировав, то все долгие войны именно такие. Холодная война как пример могла продолжаться так долго только потому, что за ней стояли конкурирующие идеи.

Мир должен быть понятным, иметь причины и следствия. Особенно это касается мира, внушающего страх, ведь тогда надо обезопасить себя. Если этого нет, то массовое сознание само впишет страхи в свою картину мир. Так, 15% канадцев верят, что эпидемия коронавируса – это заговор фармацевтической индустрии [2]. 10% верят в одну из шести предложенных им социологами конспирологических теорий. Вот эти теории: правительство скрывает важную информацию о коронавирусе, коронавирус специально создан в лаборатории, коронавирус создан в лаборатории по ошибке, фармацевтическая индустрия участвует в распространении коронавируса, лекарство от коронавируса уже существует, есть связь между коронавирусом и технологией 5G.

Как это ни странно, но все эти теории вполне разумны, поскольку дают хоть какую-то вразумительную причину тому, что происходит. Человеку столь же неприятно жить в непонятном мире, как и в мире с коронавирусом. И тот, и другой мир страшны для него.

Фейки и конспирологи и интересны тем, что они расширяют поле возможного, поскольку находятся не в реальности, а в воображаемом. Границы реальности здесь явно расширяются. И в этом еще одно объяснение интереса к ним массового сознания. Это словно сказки, но очень страшные. Но человек, получающий персонализацию своих врагов, ощущает себя увереннее, чем тогда, когда они ему неизвестны. То есть действует не принцип “мы рождены, чтоб сказку сделать былью”, а принцип “мы рождены, чтоб быль сделать сказкой”.

И. Яблоков подчеркивает: “Мы все живем в очень комплексном, сложном мире. Мы включены в огромное количество информационных потоков, нам естественно одну из интерпретаций того или иного глобального события или события масштабов одного государства трактовать именно с точки зрения подозрительности. Поэтому, когда вы себя ловите на мысли, что, может быть, это чей-то заговор, что произошедшее кому-то выгодно политически или экономически, это во многом естественно” [3].

Это как бы теория, но есть и практика, когда явственно проступает обман и его цели, активно продвигаемые в онлайне. С одной стороны, это обвиняемые Западом Китай, Россия и Иран, вносящие сумятицу в головы граждан Запада, преследуя свои понятные цели. Но, как оказалось, в такие же процессы, к примеру, включены американские правые, о чем написали в Politico: “По информации издания, последние несколько лет активисты, придерживающиеся правых взглядов, ведут деятельность, направленную на участие в онлайн-дебатах, подделке фотографий политиков, и написании сообщений по вопросам миграции и изменения климата для разжигания острых дискуссий и паники. Как сообщает Politico, для достижения своей задачи активисты создают новостные сайты, а также вирусные посты в социальных сетях, дезинформируя остальных пользователей по самым различным вопросам, том числе и по теме коронавируса. В качестве примера Politico приводит сразу несколько избирательных кампаний в Европе: Brexit, выборы президента Франции, парламентские выборы в Италии и Швеции. Работа активистов направлена на проведение информационной кампании в преддверии выборов в США, то есть их аудиторией являются американские избиратели. Таким путем, считает издание, американские активисты пытаются повысить шансы Дональда Трампа на выборах” [4].

Бен Ниммо говорит об этом как о парадоксе: “Американские ультра-правые, националистическое и расистское движение, стараются выйти на глобальный уровень” [5]. Акцентируется российский стиль вмешательства в британский Брекзит [6]. Фейсбук видит российские и иранские операции влияния [7]. Китай активен в обвинениях других в коронавирусе [8].

Во всех этих случаях атакуемую страну накрывает поток часто противоречащих друг другу сообщений, чтобы вызвать напряжение в ее политической жизни, которое население воспринимает как “неуправляемость”, порожденную неправильно работающей властью.

В чем отличие этого подхода от традиционной  информационной войны? Информационная война решает в первую очередь кратковременную проблему, например, вводя в заблуждение противника в этой точке пространства и времени. По этой причине здесь важны совпадающие с реальностью детали, которые будут подсказывать противнику, что перед ним правда. Конспирология (и фейк как ее менее долго живущий “коллега”) работают на вечность, а не на данную точку пространства и времени. Они объединяются с массовым сознанием в едином порыве в борьбе с общим врагов. Они сами являются частью массового сознания, входя в него как вирус. По этой причине массовое сознание не может их отбросить, поскольку это значит отбросить самое себя. Это эмоциональный вброс, а не рациональный, как это бывает в случае информационной войны. Эмоциональное не победить рациональным инструментарием. Хотя рациональное информационной войны можно оценить рациональным же инструментарием. 

В результате получается, что основой различия становится рациональная или эмоциональная база. Перед нами воздействие на разные участки мозга. На моментальный или долговременный процесс принятия решения по Канеману. Поэтому в одном случае действуют эмоции, в другом рацио, рассуждения. 

Трагедия коммуникации состоит в том, что сегодня эмоциональные сообщения (фейковые и конспирологические) получили с помощью соцмедиа средства доставки, и даже не просто к человечеству, а целево к конкретному человеку, зная его возможные реакции на тот или иной тип сообщения.

При этом операторы стараются не оставлять технических следов, чтобы возникала большая достоверность сообщениям как пришедшим из открытых источников [9]. Поэтому ищется след этих источников в прошлом. В принципе подсказку также дают ориентация нарративов, на кого именно они ведут атаку, а также геополитические  интересы и участие в прошлых подобных атаках

Другая сеть исходила из Ирана [10]. Она атаковала США и Великобританию фейковыми аккаунтами, мемами и карикатурами уже в 2012 – 2014 гг. Она не пользовалась успехом и интересна как исторический  пример, демонстрирующий, что атаки начались с 2012 г. 

       Фейсбук действует самостоятельно. Так, в феврале 2020 он удалил 78 аккаунтов, 11 страниц, 29 групп и 4 аккаунта в Инстаграме за нарушение политики иностранного вмешательства [11]. В данном случае эта активность шла из России и фокусировалась на Украине и соседних странах.

В апреле 2020 Фейсбук раскрыл свое понимание операций влияния как “координируемые усилия по манипуляции публичным обсуждением ради стратегической цели, где фейковые аккаунты являются центральными для операции” [12]. При этом разграничивается два вида кампаний: внутренние и внешние. Последние ведутся в пользу иностранного государства.

В апреле 2020 Фейсбук восемь сетей аккаунтов, страниц и групп. Две из них (Россия и Иран) работали на иностранную аудиторию, а шесть (США, Грузия, Мьянма и Мавритания) на домашние аудитории. Этой информацией Фейсбук также поделился с правоохранительными органами, политическими структурами и партнерами по индустрии.

Подобное функционирование того, что можно обозначить, как  “боевые фейки”, является частью политики государств, ведущих активную политику. По этой причине список таких государств хорошо известен заранее. Можно сформулировать три причины нахождения их в таком списке:

Во-первых, хорошо развитый уровень кибербезопасности, что предполагает и высокий уровень “киберопасности”, который стоит за ними. 

Во-вторых, активное участие в подобном противостоянии  в прошлом. 

В-третьих, наличие в данный момент сильного современного события, который может активировать подобные атаки, повышая их актуальность и значимость (например, ситуация со сбитым малайзийским авиалайнером или коронавирусом). Подобные события обычно запускают новые кампании по распространению “боевых фейков”.

И они пользуются успехом. Испаноязычная RT попала 12 наиболее популярных источников информации среди пользователей соцмедиа [13]. Все это связано с тем, что коронавирус активирует старые обиды, врагами становятся те, с кем страна  ссорилась до этого. Иран, например, пишет о коронавирусе, как об американском биооружии, как о болезни, которую Израиль сделал оружием, чтобы атаковать Иран. Кстати, это удачный вариант атаки, поскольку виновником всех проблем становится старый враг.

Опасны последствия и слухов, которые также никто не может контролировать. Онлайновые слухи привели к столкновениям на улицах Индии, массовым отравлениям в Иране [14]. В Британии атаковали телекоммуникационных инженеров и подожгли вышки связи 5G из-за конспирологических теорий. Все это связано с тем, что люди хотят действовать в свое спасение, но не знают как именно.

Хрупкий мир массового сознания сразу стал рушиться повсюду. Люди почувствовали свою уязвимость и незащищенность. Государства ничего не смогли этому противопоставить, и это еще больше пугает граждан. 

Р. Дейберт, являющийся директором Citizen Lab в Торонтском университете, где анализируются дигитальные угрозы гражданскому обществу, считает, что наблюдается шторм дезинформации: “Трудно подсчитать, как он распространен, но группа анализа угроз, отслеживающая 12 стран и другие организации, сообщает о существенном увеличении” [15].

 И еще он говорит в объяснение ситуации: “Это глобальное событие, которое прямо затрагивает каждого. Повышенный уровень тревожности означает, что люди зависят от получения доступа к информации о здоровье, часто работая дома. Эта тревога означает, что люди более вероятно будут кликать на нечто зловредное. Мы отслеживаем это достаточно внимательно и видим несколько разных потоков, соединенных между собой. Есть разные цели и разные технологии. Но можно сказать, что все они работают в коммуникативной экосистеме, которая по своему дизайну создала среду, которая не может сопротивляться злонамеренным планам, которые направлены на манипуляцию, внесение сомнений и распространение дезинформации. Здесь каждый пытается двигаться к своим стратегическим целям”.

По сути, подобный мир без контроля может реагировать только постфактум. Но часто такое реагирование не имеет смысла, поскольку фейки уже двинулись дальше в массовое сознание. 

Соцмедиа несут не только фейки, но и правду, реагирование на которую резко ускоряется, поскольку эту информацию получают все. Беспорядки в Индии начались с фото в соцмедиа, где группа индусов избивала палками мусульманина, а полиция не вмешивалась. В Индии 80% индусов и 14 % мусульман [16]. Демонстрации и межнациональные стычки происходят в  Индии после принятия закона о гражданстве, который дискриминирует мусульман [17]. При этом сторонниками ислама в стране являются 172 миллиона человек. Тренды предсказывают, что будущие волнения будут происходить в районах, где мусульмане живут богато. Там целями нападений станет их бизнес [18]. Соцмедиа позволят легко поднимать людей на защиту и на нападение с помощью реальных и надуманных обид.Украина не стоит в стороне от технологических новацией. Эксперты считают, что 30% всех комментариев на социальные и политические темы в украинском Facebook’е написали боты [19 – 20]. Боты определялись по таким восьми параметрам:

• боты пишут свои комментарии в 15 раз быстрее, что определяется разницей во времени между соседними комментариями,
• больше половины ботов имеют своих “коллег”, комментирующих тот же пост,
• боты в четыре раза чаще пишут под политическими постами,
• у ботов четыре раза меньше друзей на странице,
• только 4% ботов имеют отсылку на географическую точку пребывания, у людей – 44 %,
• только половина ботов имеют аватарку с лицом, у людей – 80%,
• только 3% людей не имеют реакций под аватарками, у ботов – 43%.

Все эти характеристики отражают псевдоличности, за которыми стоят боты. Но именно они несут в мир вал фейковых сообщений, создавая нужный негативный или позитивный тон.

Украина также погружена в результаты работы своих ботов:

• у В. Зеленского – 27 926 ботов,
• у П. Порошенко – 20 065 ботов,
• у С. Вакарчука – 823 бота, 
• у Ю. Тимошенко – 821 бот, 
• у В. Гройсмана – 717 ботов  [20].

Так создается активное информационное пространство, моделирующее живую жизнь, которой на самом деле нет. Боты не люди, но за ними стоят конкретные люди и четкие политические интересы.

Пока мы читали газеты, мир был одним. Когда мы стали читать соцмедиа, это кардинально поменяло наш мир. Хорошее и плохое перестали быть таковыми.

Раньше человечество жило на берегу более-менее спокойного информационного океана, небо которого лишь иногда разрезали молнии конспирологических страхов. По этому океану плавали огромные корабли, олицетворяющие медиа. С них вниз лилась музыка и спокойствие. Но вскоре в океан ворвались пираты наподобие сомалийских. Их маленькие лодчонки  постепенно стали главными. Теперь все мы живем среди постоянно бушующих волн фейков, конспирологии, слухов, когда никто уже не знает, что есть правда, а что есть ложь. А соцмедиа становятся основным генератором возбуждающих историй. И даже справедливые обиды могут вести к несправедливым наказаниям.

Точка зрения британских военных такова: “При планировании стратегии влияния против противника у британской армии есть несколько возможных решений. От известного фокуса на сердцах и умах до специфичных и морально неоднозначных техник, которые использовали Штази и ЦРУ. Есть также много технологий, с помощью которых влияние можно увеличивать. Мы должны понимать и  использовать эти средства, когда это необходимо. Разум противника должен рассматриваться в качестве жизненной основы, как это было во все столетия войны” [21]. 

По этой причине британская армия обращается также и к социальным медиа, хотя они несут определенные проблемы. Многие высшие офицеры относятся к ним плохо, поскольку это неконтролируемый ими альтернативный канал, где их могут там критиковать, смеяться над ними с анонимных аккаунтов. Поэтому решение по реагированию на это носит двойственный характер [22]. Конструктивная критика – это нормально, и несогласие нельзя путать с неуважением. А вот тролли должны блокироваться

В принципе сложность проблемы армия и медиа вытекает из их диаметрально противоположных позиций [23]. Медиа действует по принципу “каждый должен знать”, а армия по принципу каждый знает только то, что “нужно знать”. Армия пока не адаптировалась к интернету, рассматривая его как “угрозу, место для фейков и троллей”. При этом траты на соцмедиа у армии за год выросли на 47 процентов [24]. Но это связано с кампаниями по рекрутированию в армию. Для террористов интернет также стал инструментов рекрутирования [25]. Вспомним известный пример с террористом, который выехал на Вестминстерский мост, направив свою машину на пешеходов. Он убил 6 и ранил 50 человек. Но радикализация у него произошла после чтения в онлайне от ИГИЛ. Его вдохновило то, что и как они делают, поэтому он тоже решил включиться в месть Западу как врагу ислама.

Соцмедиа стали такими важными игроками, что их даже используют активно и политики. Трамп говорил, что он победил благодаря Твиттеру, поскольку исчезла цензура журналистов. Когда в мае 2020 Твиттер отметил его два его высказывания как требующих проверки, белый дом заговорил о введении борьбы против “избирательной цензуры” [26].

С президентами ссориться не так легко. Трамп сказал по поводу решения о контроле над соцмедиа: “Небольшое число монополий соцмедиа контролируют большое количество населения и приватных коммуникаций в США. У них есть неконтролируемое право цензурировать, ограничивать, редактировать, формировать, прятать, изменять практически любой вид коммуникации между частными гражданами и большими публичными аудиториями” [27]. Этот указ президента направлен на предотвращение онлайновой цензуры и здесь говорится: “Twitter, Facebook, Instagram и YouTube имеют в руках огромную, если не беспрецедентную силу формировать интерпретацию публичных событий; цензурировать,удалять или не допускать информации; контролируя то, что люди видят или не видят” [28]. Технические компании в ответ, что это просто шоу [29]. 

Британский исследователь К. Миллер формулирует суть этой проблемы так: “Большой конфликт содержится в противопоставлении идей свободы слова и онлайнового вреда. Сторонники Трампа будут продолжать подчеркивать важность свободы слова. В целом левые – и техгиганты – будут акцентировать угрозу вреда в онлайне ” [30]. 

Карл Миллер является директором центра исследований соцмедиа в британском think tank’е Demos ([31], его сайт https://www.carlmiller.co/). Он один из авторов исследования информационных операций в дигитальное время [32]. 

Миллер считает, что частные компании созданы для бизнеса, поэтому они неспособны выполнять государственные задачи. Его мнение таково: “Мы просим их стать специалистами по контр-радикализму. Экспертами по социальной сплоченности. Тренерами дигитальной грамотности. Полицией киберпреступности. Защитниками свободной журналистики. В некоторых случаях арбитрами самой правды. Это просто не то, для чего созданы частные компании. У них нет открытости, демократического надзора, публичной прозрачности, чтобы делать морально опасные различия типа определения фейковых новостей. Особенно, если эти различия могут трансформировать глобальные новости. Нам надо напомнить себе, что технологические компании нацелены на увеличение прибыли с обязанностями перед своими инвесторами. Им надо обеспечивать заработки. Они должны возвращать дивиденды. Они должны демонстрировать прирост капитала. То, что они предлагают, является как бизнесом, так и моральными решениями. В выборе решений они всегда выберут скорее рост, а не безопасность,  обязательства, а не любезность. Не потому, что они зло. Они им не являются. Они такие же компании, как и другие, пытающиеся зарабатывать деньги в рамках закона, именно в этом лежит их юридическая ответственность” [33]. 

       Перед нами достаточно четкая формулировка того, что такое хорошо и что такое плохо с точки зрения государства и бизнеса, что это не во всем совпадающие вещи. Выживание государства лежит в одном, выживание бизнеса в другом.

       Анализ освещения коронавируса в Фейсбуке привел Миллера к  мнению, что “инфодемия” – это как параллельный мир, где рассматривают цель локдауна не в безопасности, а в контроле, и от него следует освободиться [34]. Миллер считает широкое распространение такого мнения угрозой медицинскому и политическому консенсусу, на котором базируется локдаун. Это несколько спорный вывод, но определенная угроза в этом есть.

Реально речь идет о контроле негатива, поскольку контроль позитива никого не волнует, а негатив беспокоит всех, начиная с власти. Фейки и конспирология являются основными потоками негатива в информационном пространстве. И именно негатив любит читатель, что ведет к более сильному его распространению в соцсетях. 

Интересно, что близкие проблемы c негативом существует и в экономических новостях,а не только политических. А. Дамстра из Амстердамского университета обнаружила, что негативные экономические новости получают большее освещение в газетах, чем позитивные, и имеют большее влияние на общественное мнение. Она назвала этот феномен двойной асимметрией.

Это известно и по политике, но Дамстра увидела такие причины этого, идущие именно в сфере экономики: “Журналистам почти невозможно разорвать эту динамику негативности. Потребность в интерпретации и информации всегда больше в период экономического спада. К этому следует добавить, что позитивные тренды движутся постепенно, тогда как негативное развитие происходит внезапно. Вспомните банкротства и увольнения. Сообщая о негативном, журналисты ближе к циклу создания новостей, где неожиданное более заслуживает освещения” [35].

Это новые медиа-экономические аргументы, дополняющие известный факт, что фейки, как правило, несут негативную информацию, поэтому распространяются в несколько раз сильнее любых позитивных сообщений.

Мы теперь столь же спокойно читаем как правду, так и ложь. И ложь в виде фейка часто оказывается сильнее правды, поскольку она больше соответствует тому, что хочет услышать потребитель.

Информация, с приходом соцмедиа, получив большую аудиторию, стала несомненно сильнее. Став на ступеньку выше, она одновременно потеряла статус достоверной. То есть усиление одного, привело к потере другого. В результате мы одновременно стали жить как в эпоху правды, так и в эпоху лжи, кому как нравится.

Литература:

1. Thompson E. a.o. COVID-19 disinformation being spread by Russia, China, say experts https://www.cbc.ca/news/politics/covid-coronavirus-russia-china-1.5583961
2. Bellemare A. a.o. 1 in 10 Canadians believes a coronavirus conspiracy theory, survey suggests https://www.cbc.ca/news/technology/coronavirus-conspiracy-theories-popular-canada-1.5542890
3. Наринская А. “Боюсь, у нас будет глобальная пандемия теорий заговора”. Интервью с И. Яблоковым https://novayagazeta.ru/articles/2020/04/24/85083-boyus-u-nas-budet-globalnaya-pandemiya-teoriy-zagovora
4. Юранец А. «Это парадокс»: американские «тролли» вмешиваются в политику ЕС https://www.gazeta.ru/politics/2020/05/25_a_13095727.shtml
5. Scott M. American nationalists European vacations https://www.politico.com/news/2020/05/24/american-nationalists-european-vacation-278246
6. Sebenius A. Russia-Style Disinformation Tactics Used Ahead of U.K. Vote https://www.bloombergquint.com/politics/russia-style-disinformation-tactics-used-in-run-up-to-u-k-vote
7. Newcomer E. a.o. Facebook Identifies Iranian, Russian Influence Campaigns 
8. https://www.bloombergquint.com/technology/facebook-identifies-iranian-russian-foreign-influence-campaigns
9. Gallagher R. China’s Disinformation Effort Targets Virus, Researcher Sayshttps://www.bloombergquint.com/technology/china-s-disinformation-campaign-targets-virus-and-businessman
10. Nimmo B. a.o. From Russia With Blogs GRU Operators Leveraged Blogs, Social Media Accounts and Private Messaging to Reach Audiences Across Europe https://public-assets.graphika.com/reports/graphika_report_from_russia_with_blogs.pdf
11. Nimmo B. a.o. Iran’s Broadcaster: Inauthentic Behavior Facebook Takes Down Covert Assets Linked To State Broadcaster https://public-assets.graphika.com/reports/graphika_report_irib_takedown.pdf
12. Gleicher N. Removing Coordinated Inauthentic Behavior From Russia, Iran, Vietnam and Myanmar https://about.fb.com/news/2020/02/removing-coordinated-inauthentic-behavior/
13. April 2020 Coordinated Inauthentic Behavior Report https://about.fb.com/news/2020/05/april-cib-report/
14. Rankin J. Russian media ‘spreading Covid-19 disinformation’ https://www.theguardian.com/world/2020/mar/18/russian-media-spreading-covid-19-disinformation
15. Spring M. Coronavirus: The human cost of virus misinformation https://www.bbc.com/news/stories-52731624
16. Beaumont P. a.o. Malicious forces creating ‘perfect storm’ of coronavirus disinformation https://www.theguardian.com/world/2020/apr/24/coronavirus-sparks-perfect-storm-of-state-led-disinformation#maincontent
17. Gettleman J. a.o.  New Delhi Streets Turn Into Battleground, Hindus vs. Muslims
18. https://www.nytimes.com/2020/02/25/world/asia/new-delhi-hindu-muslim-violence.html
19. Gettleman J. a.o. A Blow to the Head Makes an Instant Hero in India https://www.nytimes.com/2020/01/17/world/asia/india-protests-aishe-ghosh.html
20. Jaaved A. Riots in India: Trends and issues https://moderndiplomacy.eu/2020/05/07/riots-in-india-trends-and-issues/
21. Lozovyi V. Big data в политике. Каких технологий стоит ожидать на ближайших выборах в Украине?
22. https://medium.com/@volodymyr.lozovyi/big-data-%D0%B2-%D0%BF%D0%BE%D0%BB%D0%B8%D1%82%D0%B8%D0%BA%D0%B5-%D0%BA%D0%B0%D0%BA%D0%B8%D1%85-%D1%82%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D0%B9-%D1%81%D1%82%D0%BE%D0%B8%D1%82-%D0%BE%D0%B6%D0%B8%D0%B4%D0%B0%D1%82%D1%8C-%D0%BD%D0%B0-%D0%B1%D0%BB%D0%B8%D0%B6%D0%B0%D0%B9%D1%88%D0%B8%D1%85-%D0%B2%D1%8B%D0%B1%D0%BE%D1%80%D0%B0%D1%85-%D0%B2-%D1%83%D0%BA%D1%80%D0%B0%D0%B8%D0%BD%D0%B5-e6c2416a46f4
23. Зітри це, якщо зможеш. Як живуть українські боти на сторінках українських політиків https://voxukraine.org/uk/zitri-tse-yakshho-zmozhesh-yak-zhivut-ukrayinski-boti-na-storinkah-ukrayinskih-politikiv/
24. H. T. Influencing the mind of an adversary https://wavellroom.com/2020/05/21/influencing-the-mind-of-an-adversary/
25. Crawford S. Military Struggles with Social Media – An analysis
26. https://ukdefencejournal.org.uk/military-struggles-with-social-media-an-analysis/
27. Crawford S. The British Army and the Media – The Longest War https://ukdefencejournal.org.uk/the-british-army-and-the-media-the-longest-war/
28. Allison G. MoD social media spend increases 46% over same period last year
29. https://ukdefencejournal.org.uk/mod-social-media-spend-increases-46-period-last-year/
30. Coletti G. Terrorism and Social Media – A Deeper Look https://ukdefencejournal.org.uk/terrorism-and-social-media-a-deeper-look/
31. Conger K. a.o. Defying Trump, Twitter Doubles Down on Labeling Tweets https://www.nytimes.com/2020/05/28/technology/trump-twitter-fact-check.html?action=click&module=Well&pgtype=Homepage&section=Technology
32. Fung B. a.o. Trump signs executive order targeting social media companies https://edition.cnn.com/2020/05/28/politics/trump-twitter-social-media-executive-order/index.html
33. Trump’s executive order targeting social media companies https://www.cnn.com/2020/05/28/politics/read-social-media-executive-order/index.html
34. Edelman G. Trump’s Social Media Executive Order Is Purely for Show https://www.wired.com/story/trump-social-media-executive-order/
35. Volpicelli G. Trump’s feud with Twitter might change the internet as we know it https://www.wired.co.uk/article/donald-trump-twitter
36. Carl Miller https://demos.co.uk/people/carl-miller/
37. Krasodomski-Jones A. a.o. Warring songs. Information operations in the digital age https://demos.co.uk/wp-content/uploads/2019/05/Warring-Songs-final-1.pdf
38. Miller C. Stop moralising the tech giants https://www.carlmiller.co/post/stop-moralising-the-tech-giants
39. Miller C. Coronavirus: Far-right spreads Covid-19 ‘infodemic’ on Facebook https://www.carlmiller.co/post/coronavirus-far-right-spreads-covid-19-infodemic-on-facebook
40. Economic news: caught in double asymmetry https://www.nwo.nl/en/news-and-events/news/2020/02/economic-news-caught-in-double-asymmetry.html