Актуальність. Останніми роками в українському сегменті Facebook стрімко зросла кількість маніпулятивного і шахрайського контенту. Цьому сприяли, зокрема: розгортання повномасштабної війни, що створило нові теми для маніпуляцій, і поширення інструментів штучного інтелекту, які зловмисники активно використовують для створення оманливих зображень і відео.
Проблематика. Для виявлення, аналізу і систематизації найпоширеніших типів маніпуляцій у Facebook, ЦЕДЕМ за підтримки Фонду ім. Гайнріха Бьолля провів дослідження два дослідження:
- “Небезпека в стрічці Facebook: клікбейт і таргетована реклама як знаряддя маніпуляцій та шахрайства”
- “Від лайків до «проповідей»: як китайська секта «Церква Всемогутнього Бога» вербує українців у Facebook”
У ході досліджень аналітики ЦЕДЕМ виявили два ключові напрями цифрових маніпуляцій:
- Клікбейт як інструмент впливу. Мережі сторінок публікують емоційний та/або “сенсаційний” контент. Часто він супроводжується зображеннями чи відео, згенерованими ШІ, на військову, релігійну чи сімейну тематику. Їхня мета – набрати охоплення, щоб потім, залежно від типу сторінки, просувати одну або декілька з таких прихованих цілей: публікація російської пропаганди та дезінформації, радянської ностальгії, мімікрування під популярні новинні видання для поширення політичного контенту, скерування трафіку на сумнівні сайти чи групи в Telegram/WhatsApp, або навіть вербування до китайської секти «Церква Всемогутнього Бога».
- Таргетована реклама як знаряддя шахрайства. Зловмисники використовують рекламні оголошення для створення дипфейків відомих осіб, які начебто рекомендують купити фейкові “диво-ліки” чи інвестувати гроші у “прибуткову” сферу. Окрім того, поширюють фальшиві пропозиції грошових виплат, оренди банківських карток чи Facebook-акаунтів, а також “легких заробітків” за перегляди і лайки. Всі ці обіцянки часто ведуть до втрати грошей та персональних даних.
Мета. Ми вітаємо ініціативи Meta, спрямовані на обмеження поширення проблемного контенту, зокрема клікбейту, боротьбу з шахрайством й оманливими діями, а також маркування ШІ-згенерованого контенту, який часто використовується як в клікбейтних, так і в шахрайських дописах. Та з метою покращення політик і механізмів боротьби з інформаційними маніпуляціями і створення безпечнішого цифрового середовища для українських користувачів, аналітики ЦЕДЕМ розробили рекомендації для Meta щодо ефективнішої протидії різним проявам клікбейтного контенту і шахрайської реклами у Facebook.
Рекомендації для ефективнішої протидії клікбейтним маніпуляціям
- Маркування ШІ-контенту. Покращити автоматичне виявлення ШІ-контенту, зокрема на чутливі теми (війна, релігія тощо). Додати опцію скарги на контент як “ШІ-маніпуляція”, швидше розглядати такі скарги.
- Політика щодо маніпулятивного візуального контенту. Відповідно позначати і обмежувати охоплення сторінок, які системно використовують клікбейт, щоб збільшити аудиторію, а потім поширювати маніпуляції.
- Співпраця з місцевими партнерами. Meta може звертатися до українських партнерів із запитом вивчити незвичні патерни мережевої поведінки, які видно з боку платформи, і приймати партнерські звіти про нові загрози.
- Прозорість сторінок. Розглянути технічну можливість заборонити сторінкам із великою аудиторією приховувати країну адміністрування, а також окремо позначати сторінки, що адмініструються із тимчасово окупованих територій України.
- Алгоритми рекомендацій. Навіть пасивна взаємодія з клікбейтним і шахрайським контентом призводить до появи ще більше подібного контенту у стрічці. Варто провести аудит алгоритмів рекомендацій.
Рекомендації для ефективнішої протидії шахрайській рекламі
- Підозрілі домени, слова-тригери. Посилено модерувати рекламні дописи, що скеровують на домени з “сірих зон”: .xyz, .fun, .space та ін. Особливо якщо вони містять слова-тригери на кшталт “ліки”, “виплати”, “терміново” тощо.
- Реклама медпрепаратів. Прирівняти рекламу дієтичних добавок до реклами ліків, дозволити їх розміщення лише виробнику чи офіційному представнику. Перевіряти відповідні документи у рекламодавця.
- Дипфейки. До врегулювання законодавчих обмежень на обробку біометрії розглянути альтернативні методи виявлення дипфейків, які не вимагають обробки біометричних даних. В розділі скарг додати опцію “використання публічних осіб у модифікованих відео (голос, ШІ тощо)”.
- Нові рекламні акаунти. Запровадити жорсткішу систему верифікації для першого запуску рекламних кампаній на чутливі теми (фінанси, ліки) з нових акаунтів.
- Інформаційні кампанії. Запровадити глобальні кампанії з інформування користувачів про схеми маніпуляцій і шахрайства. Наприклад, тиждень фінансової грамотності “Купуй безпечно з Meta”.
Більше рекомендацій доступні у дослідженнях про клікбейт і шахрайство в українському Facebook і про діяльність “ЦВБ” на платформах Meta.
Матеріал написано за фінансової підтримки Фонду ім. Гайнріха Бьолля, Бюро Київ – Україна. Думки, висновки та рекомендації належать авторам цього матеріалу і не обов’язково відображають погляди Фонду ім. Гайнріха Бьолля, Бюро Київ – Україна та уряду Німеччини.
