Вибуховий контент онлайн
Частина 1
Тема запеклих дискусій в ООН, Раді Європи, ЄС, інших міжнародних організаціях і національних урядах – тероризм онлайн. Хоча розвиток технологій значно полегшив відстежування осіб і спростив виявлення терористичних організацій, останні протиставили політиці переслідувань швидкість поширення інформації. Фактично, вони знайшли відповідь на питання: як встигнути зробити щось до того, як це виявлять органи правопорядку?

Відповідь на це питання надало стрімке зростання аудиторії онлайн-сервісів. Терористи вирішили проблему, мігрувавши в онлайн. Проте, Всесвітня мережа недовго лишалася неконтрольованою, змусивши нелегальні організації бути винахідливими: мати власні веб-сайти, зламувати популярні портали новин, створювати фейкові профілі медіа або відомих політиків, продукувати відеоігри або використовувати їх для комунікації (через анонімні чати та голосовий зв'язок) та багато іншого. Втім, практика показала, що все вищенаведене за продуктивністю не йде в жодне порівняння з використанням соцмереж.

Перед обранням інструментарію для боротьби з явищем тероризму у мережі слід встановити, чому його коріння так цупко тримається за ґрунт онлайн-платформ.


Лайк, підписка, репост – чому саме соцмережі?
Соцмережі є зручними в користуванні («user-friendly»), безкоштовними й надійними каналами комунікації. Відкриття необмеженої кількості нових профілів, публічних сторінок чи спільнот, тематичний пошук будь-якого контенту (аудіо, відео, тексти) — усе це значно полегшує діяльність терористичної організації порівняно зі створенням власного веб-сайту. Соцмережі фактично дозволяють «постукати у двері» цільової аудиторії, тоді як власний онлайн-ресурс потребує довгих днів, а іноді навіть і місяців очікування на читачів.
На відміну від інших онлайн-ресурсів, платформи значно спростили механізм соціальної взаємодії: легкий і швидкий режим коментування, поширення чужих дописів, відповідей на повідомлення, а також функція багатомовності, що дозволяє поширювати дописи на іноземні аудиторії. Такі особливості спрощують коригування інформаційного середовища залежно від мінімальних коливань у настроях аудиторії.
Не меншою перевагою стало й те, що аудиторія соцмереж у рази перевищує кількість читачів будь-якого одиночного медіа. Для порівняння: кількість читачів ВВС станом на 2019 рік становила 426 млн осіб, у той час як аудиторія самого лише Facebook у цей період сягнула 2,38 млрд користувачів. На додачу, у соцмережах способи розширення кола споживачів контенту й залучення аудиторії до конкретних спільнот, дописів чи сторінок є набагато варіативнішими, ніж на звичайних веб-сайтах – це й контекстна реклама, і поради релевантних груп та спільнот, і залучення аудиторії через вірусні зображення чи відео.
Однією з найсприятливіших особливостей є функція таргетингу (від англ. target – ціль) – спрямування контенту на певну цільову аудиторію, залежно від заданих параметрів.
Наприклад, сьогодні Facebook має близько 29 тисяч критеріїв для таргетингу аудиторії. Водночас, дослідження показують, що ця функція неодноразово була націлена на групи, які зацікавлені в темах «ненависники євреїв», «Гітлер був правий» та подібних, що демонструє відносну легкість зловживання алгоритмами таргетингу для поширення нелегальних закликів (до дискримінації, насилля, ненависті, тероризму тощо).

Такий функціонал, з одного боку, дозволяє терористичній тематиці бути достатньо фокусованою, а не поширюватися «між рядків», як це роблять на окремих веб-сайтах для уникнення миттєвого блокування. З іншого боку – терористичний контент у соцмережах губиться в масивних потоках інформації, що дозволяє йому перебувати у вільному доступі набагато довше, ніж на окремих тематичних ресурсах.
propublica.org
Функція таргетингу надає ще одну неоціненну перевагу – можливість вивчення аудиторії. Якщо при поширенні інформації на власних онлайн-ресурсах терористичні організації вимушені радше діяти наосліп, то соцмережі дозволяють відстежити тренди в комунікаціях і використовувати їх для пропаганди, рекрутингу чи залякувань. Так, у 2013 році поширення ідеї джихаду у соцмережах ґрунтувалося переважно на створенні окремих спільнот, залежно від віку, статі та місця проживання цільової аудиторії.

Тож онлайн-платформи стали ще одним полем боротьби терористичних організацій за визнання їхніх ідей. Проте, важливішою є відповідь на питання, яким чином їм вдається залишатися на плаву вже більш ніж 10 років і продовжувати свою діяльність із перемінним успіхом.


Фундамент для фундаменталістських ідей
Знаючи алгоритми діяльності соцмереж, можна встановити основні способи, у які терористи зловживають послугами платформ. Органи правопорядку багатьох країн уже здійснюють такі розрахунки. Однак, вони частіше шукають індикатори діяльності в межах однієї платформи, ігноруючи те, що ціль використання соцмережі напряму залежить від її функціонального призначення, а отже терористи навряд використовуватимуть лише одну платформу. До того ж, часто конкретна соцмережа є лише стартовим майданчиком, адже контент швидко перепощується іншими інформаційними ресурсами.
Для поширення терористичного контенту використовують три типи платформ: краудфандингові сервіси, месенджери та соціальні мережі.
Цей поділ є досить умовним, адже кожна платформа має особливий порядок роботи, а спосіб її використання залежить переважно від цілей терористів: психологічний тиск, публічність і пропаганда, отримання інформації, збір грошей, рекрутинг, обмін інформацією, планування та координування дій тощо.
Соцмережі
Зокрема, від популярності мережі залежить обширність аудиторії, а від місцезнаходження терористичної організації – вибір конкретної платформи. Наприклад, Sina Weibo (китайський сервіс мікроблогів) навряд використовуватиметься для пропаганди терористичних ідей у Європі, де кількість його користувачів зведена до мінімуму (незважаючи на велику популярність у Азійському регіоні).

Також соцмережі надають можливість взаємодіяти з молоддю, чим активно користуються терористи, через її вищу сприйнятливість до пропаганди. Ця логіка призводить до переважного використання Snapchat, TikTok, Instagram та Youtube – мереж, які є найпоширенішими серед молоді.
Краудфандингові сервіси
Для фандрейзингу найчастіше застосовують краудфандингові сервіси, адже ці платформи надають мінімальну кількість інформації про отримувачів грошових коштів та їх призначення в електронних трансферних звітах (на відміну від Facebook з його вимогливою політикою). Зокрема, уряд Індонезії тривалий час був занепокоєний можливістю терористів використовувати кошти, зібрані через краудфандингові сервіси для допомоги жертвам і родичам жертв терористичних актів. У Британії, у свою чергу, були розроблені керівні принципи щодо захисту пожертв від зловживань з екстремістською метою.
Мессенджери
Інформаційний обмін (внутрішні комунікації: повідомлення, плани дій тощо) здійснюється переважно через месенджери, адже вони є зашифрованими програмами для обміну повідомленнями. І хоча деякі з них (як-от Telegram) вже встигли розробити механізм відстежування публічних каналів із терористичним контентом, поширенню приватних повідомлень із такою інформацією досі неможливо перешкодити.
source: stock.adobe.com
Часто терористи використовують мережі, які ще не напрацювали підхід для боротьби з тероризмом, проте дуже швидко здобули популярність. Гарним прикладом слугує Snapchat, який у перші місяці своєї роботи навіть не мав чіткого визначення тероризму. Такі платформи зазвичай дуже активно використовують у короткостроковій перспективі, допоки мережа не віднайде ефективний механізм виявлення терористичного контенту. Згодом обсяги такої інформації на платформі дещо знижуються.
Терористи також користуються прогалинами в алгоритмах платформ. Так, тривалий час реклама на Youtube з'являлася в роликах з екстремістським та образливим змістом, що з одного боку вказувало на de facto визнання платформою правомірності поширеного контенту, а з іншого – сприяло його популяризації та іноді навіть монетизації.
Знаючи цілі, переслідувані терористами, можна встановити, які аспекти роботи платформи є вразливими та потребують доопрацювання для недопущення поширення нелегального контенту. Наведена таблиця містить універсальні критерії, задоволення більшості з яких вказує на високу ймовірність того, що платформою зацікавляться терористи (цілі визначаються її функціоналом).
Для того, щоби перевірити ефективність моделі, накладемо її на реальні приклади:
У Нідерландах було засуджено групу осіб за поширення закликів до тероризму та незаконний рекрутинг через платформи Facebook, Youtube та Twitter. Використання кожної з платформ мало свою мету: у Facebook відбувався рекрутинг осіб шляхом створення публічних і закритих спільнот, Twitter слугував платформою для закликів до вчинення терористичних актів, а на каналі Youtube поширювалася пропаганда.
На Аравійському півострові, зокрема у Ємені та Судані, терористи активно комунікують у Telegram, з огляду на можливість обмінюватися інформацією без відслідковування урядом.
В американській справі Klayman v. Zuckerberg суд встановив, що Facebook використовувався для терористичної пропаганди за допомогою публічної групи «Третя палестинська інтифада» через те, що аудиторія цієї мережі надзвичайно велика.
Також терористи неодноразово використовували функції «donate» у Instagram для отримання фінансування. Наприклад, у 2017 році терорист закликав аудиторію в 1,7 мільйона підписників фінансово підтримати його діяльність. Використання саме цієї платформи зумовлене здебільшого її великою аудиторією та можливістю ілюструвати висловлення.
Задаючи український контекст
Заборона поширення терористичного контенту передбачена Законами України «Про інформацію», «Про боротьбу з тероризмом», а також присутня в переліку контентних обмежень у проєкті Закону «Про медіа». Утім, чинні документи, на відміну від законопроекту, не вказують на можливість застосування таких обмежень до онлайн-платформ.

Отже, регулювання діяльності соцмереж як у Нідерландах, Франції чи Німеччині наразі не передбачено, а критерії вторинної відповідальності платформи, розроблені Європейським судом з прав людини у Delfi v Estonia – важкозастосовні (необхідне хоча б мінімальне законодавче визначення статусу суб'єкта, а платформи в нормативних актах не згадуються). Тому питання поширення контенту в соцмережах перебуває здебільшого на саморегулюванні платформ, а безпека користувачів напряму залежить від ефективності захисних механізмів мережі (якщо такі взагалі використовуються).
Які платформи найбільш вразливі до активностей терористичних організацій в українських реаліях?

Зважаючи на популярність у регіоні і функціональні особливості платформ, для поширення терористичного контенту найімовірніше підходить Facebook, Youtube, Instagram та Telegram, менш вірогідно – TikTok, Snapchat та Twitter. Краудфандингові сервіси в Україні наразі використовуються не так часто, аби до них було вигідно звертатися терористам.
~
І що тепер?
Основна проблема сьогодні полягає у фокусуванні на ключових акторах при відносному ігноруванні взаємозалежності різних сервісів (а також їхньою взаємозамінністю). Більше того, органи правопорядку при розслідуванні правопорушень, пов'язаних з поширенням терористичного контенту онлайн-платформами, часто не звертають уваги на використання соцмереж та месенджерів з урахуванням цілей і функціоналу кожної платформи. Відтак, блокування одного акаунту чи спільноти не є фатальним для діяльності терористів.

Саме тому, під час розроблення захисних механізмів платформи, важливим є аналіз сильних і слабких сторін конкретної мережі. Не менш вагомим є контекст і методики, що використовуються терористичними організаціями у їхній діяльності онлайн, але про них ми поговоримо трохи згодом.
Далі буде...
Тетяна Авдєєва
Молодший юрист Центру демократії та верховенства права
April 30, 2020