Матеріал опубліковано у виданні “Інтернет свобода”

“Ваш допис було видалено через порушення Стандартів спільноти”. Таке повідомлення можна отримати від Facebook за сатиричний допис, в якому висміюється російське тоталітарне керівництво.

Українці мають прекрасне почуття гумору, яке вправно допомагає впоратися зі стресом під час війни (хоча б частково). Тому мережею без кінця ширяться меми про “хороших росіян” та “смерть катам”.

Але поки українці висміюють окупантів у дописах, Facebook видаляє їх за “мову ворожнечі”, “розпалювання ненависті”, “насильство” та посилається на Стандарти спільноти. Зазвичай користувачі ці Стандарти не читають. Втім, щоб зрозуміти, як вони працюють на практиці, потрібно розтлумачити їх з точки зору Facebook, зрозуміти його логіку та мотиви, збагнути, чому він не любить сатиру та бачить у ній небезпеку.

Експерти Центру демократії та верховенства права не раз “розсекречували” логіку дій Facebook. Ми вже висвітлювали проблему блокування в Facebook та мови ворожнечі, аналізували умови використання соцмереж та справу про видалення допису з фото загиблого в Бучі.

В аналітиці Центру демократії та верховенства права ми відповідаємо на питання, чи дійсно Facebook не розуміє сатири, у чому закономірність видалення сатиричних дописів, як зменшити вірогідність санкцій та оскаржувати рішення Facebook.

Що таке сатира та в чому її цінність?

Зараз в голові виникають спогади зі школи та спроби вчительки пояснити різницю між сатирою, сарказмом, іронією та гумором. Facebook цього робити не буде. Він одразу видалятиме допис чи розмістить попереджувальний екран. Тому коротко пояснимо, чому Facebook так боїться сатири.

Серед “видів комічного жанру” сатира явно вирізняється тим, що вона має певні межі та висміює людей, суспільство, дійсність у соціально-політичному контексті. Тоді як, наприклад, сарказм не має меж, болісно висміює конкретного адресата і має явно негативне, злісне забарвлення.

Саме тому сатиричні дописи в Facebook – це не лише особиста думка автора, а ще й спосіб викрити суспільну проблему і привернути до неї увагу. Сатиру люблять журналісти, політики (особливо опозиціонери), громадські активісти та інші. Вона робить думку жвавішою та гострішою. Але часом там, де журналіст висміює політику тирана, Facebook бачить мову ворожнечі та заклик до насилля і відповідно реагує.

“Ви порушили Стандарти спільноти…” або як Facebook зберігає нейтралітет

У соціальних мережах розпізнати сатиру, а особливо зрозуміти її намір, коли не перебуваєш у контексті подій – важко. Тим часом Facebook чи не щодня видаляє десятки дописів та посилається на порушення Стандартів спільноти.

Постає питання: Facebook дійсно не розуміє сатиру в дописах чи він просто хоче залишитися нейтральною платформою? Пояснити логіку, за якою Facebook видаляє докази – складно, але спробуємо знайти певну закономірність на прикладах.

Так 16 вересня 2022 року Facebook видалив декілька зображень на гумористичній сторінці “Дурдом”.

На першому зображені лідери держав-агресорів – путін, лукашенко та медведєв. Вони тримають ядерну бомбу, а навколо їхніх голів – німби. Зображення є сатирою на промови тиранів про миролюбність, невинність, “правильну” релігію. Після оскарження до Facebook та надання контексту допис відновили.

На другому зображенні Гітлер звертається до Йосипа Сталіна з пропозицією проінспектувати радянські військові позиції під Сталінградом. Втім, автор не мав наміру пропагувати нацизм. Сарказм став відповіддю на деякі пропозиції офіційних представників рашистів.

Але цей допис після оскарження не відновили, бо Гітлера Facebook вже давно вніс у перелік небезпечних осіб і контент з ним видаляє за замовчуванням.

Іншим прикладом є видалений допис журналіста Вадима Карп’яка з гострою сатирою про кількість загиблих російських окупантів. Facebook помилково побачив в дописі схильність автора до суїциду. Тоді Ігор Розкладай, головний юрист з медійного права ЦЕДЕМ, оскаржив цю санкцію, і допис відновили.

“У скарзі необхідно було пояснити Facebook більше контексту та обставин, які передували допису. Автор опублікував гостру сатиру на кількість загиблих російських окупантів. При цьому він апелював до класичної п’єси Івана Карпенка-Карого “Сто тисяч” та жодним чином не звеличував і не заохочував самогубство”, – пояснив Ігор Розкладай.

Через високий ризик того, що Facebook не зрозуміє сатиру і видалить допис (що траплялося вже багато разів), створюється так званий “охолоджувальний ефект”. Тобто користувачі соцмереж, швидше за все, взагалі припинять публікувати свої думки, загорнуті в сатиру – а це загрожує свободі слова та вираженню поглядів, необхідним для розвитку демократичного суспільства та можливості вести важливі суспільні дискусії.

Європейський суд з прав людини (далі – ЄСПЛ) стає на захист сатири, навіть якщо вона дещо образлива. Ще в 2007 році ЄСПЛ розглядав справу Vereinigung Bildender Künstler v. Austria, яка не була пов’язана з соціальними мережами, але дала розуміння феномену сатири.

Справа стосувалася виставки картин, на яких були зображені оголені громадські діячі під час статевого акту. Зображення були карикатурою на цих діячів з використанням сатиричних елементів. Один з них звернувся до суду з позовом про заборону цієї та подальших виставок, а заразом і публікації картини. Австрійські суди позов задовольнили. Автор картин звернувся до ЄСПЛ.

А ЄСПЛ встановив, що “заборона на подальшу демонстрацію сатиричної картини становило втручання у право заявника на свободу вираження поглядів”. Крім цього, суд зробив такі висновки:

• Сатира – форма художнього вираження та соціального коментування.
• Оскільки сатира перебільшує та спотворює дійсність, цілком природно, що вона має на меті провокувати та агітувати.
• До сатири треба ставитися терпиміше, якщо вона не стосується будь-яких деталей приватного життя людини (якщо стосується, то це вже не сатира).
• Забороняючи вираження поглядів (у тому числі шляхом розміщення сатиричного зображення) треба дотримуватися принципу пропорційності. Чи дійсно дія є настільки небезпечною, що її потрібно заборонити? Чи можна досягти мети, не забороняючи?

Інша справа, Nikowitz and Verlagsgruppe News GmbH v. Austria, стосувалася статті про австрійського чемпіона з лижних перегонів Германа Майєра, який отримав травму ноги у ДТП. Стаття була задумана як сатиричний нарис про реакцію австрійського суспільства та медіа на цю подію та мала заголовок “Герман Майєр. Австрія кульгає…”. Її супроводжував портрет пана Майєра і заголовок “Нога героя Германа завдає болю мільйонам австрійців”. У статті автор використав вигадані цитати відомих людей про цю ситуацію. Наприклад нібито цитату конкурента Майєра, австрійського чемпіона з лижних перегонів Штефана Еберхартера: “Чудово, тепер я нарешті щось виграю. Сподіваюся, цей гнилий пес послизнеться на своїх милицях і зламає собі ще й другу ногу”.

Ця цитата створила негативний образ Еберхартера та загрожувала йому втратою репутації. Тому він і звернувся з позовом до австрійських судів. Автора статті звинуватили у наклепі, на нього був накладений штраф. За захистом своїх прав автор звернувся до ЄСПЛ.

ЄСПЛ прийшов до висновку, що право автора статті на свободу вираження поглядів порушене, адже:

• Втручання австрійських судів в право автора на свободу вираження поглядів було непотрібним та недоречним.
• ЄСПЛ вивчив контекст статті, її сатиричний характер та суспільне значення, а саме розвиток ставлення суспільства до зірок спорту.
• ЄСПЛ врахував, що журнал Profil був завжди присвячений висвітленню суспільних питань, а автор Райнер Ніковіц був відомий своїм сатиричним стилем колонок.
• Треба врахувати критерій “розумного читача”, який з контексту статті та стилю автора мав можливість зрозуміти, що стаття написана в сатиричному стилі, задумувалася як гумористичний коментар та має оціночне судження.

Застосувати ці висновки можна і потрібно сьогодні, коли справа стосується видалення сатиричних дописів в Facebook за порушення Стандартів спільноти. Зараз саме час їх проаналізувати і подивитися на ситуацію з боку соціальної мережі.

Стандарти спільноти та широта їх застосування

Мета Стандартів Facebook – створити безпечне середовище для самовираження та надати кожному, незалежно від його соціального стану чи світоглядної позиції, можливості висловити свою думку у формі письмових коментарів, світлин, музики чи інших творчих засобів. Навіть якщо інші можуть не поділяти цю думку або вважати її спірною.

Якщо ж зазирнути з боку Facebook (а точніше його компанії-власниці Meta) – то платформа хоче залишитися нейтральним, безпечним та мирним місцем, а не платформою для гострих політичних дискусій, які можуть перерости у мову ворожнечі, насилля та залякування. На сьогодні Facebook дещо послабив політику щодо видалення дописів та визнав легітимні винятки, коли допис не повністю відповідає Стандартам, але “вартий опублікування і відповідає суспільним інтересам”.

Політика “послаблення” була пов’язана з видаленням фото “Дівчина з напалмом”.

Фото було зроблено 1972 році у в’єтнамському селі Чангбанг, де авіація атакувала цивільних напалмовими бомбами. Серед мешканців була 9-річна дівчинка Кім Фук, яка від болю скинула з себе палаючий одяг на ходу. Фотокореспондент Нік Ут зафіксував момент одразу ж після атаки. Майже через 45 років після події фото опублікували в Facebook – а у жовтні 2016 року соцмережа видалила його через порушення Стандартів (за що отримала критику з усього світу). Після цього Facebook переглянув свою політику та запровадив систему оцінки значущості новини.

Для того, щоб оцінити, чи допис “вартий опублікування і відповідає суспільним інтересам”, необхідно провести ретельну перевірку. Спеціалісти Facebook зважують з одного боку суспільний інтерес, а з іншого – ризик заподіяти шкоду. Звісно, оцінка значущості може бути доволі суб’єктивною. Користувачі часто не погоджуються з тим чи іншим рішенням. Але щоб забезпечити безпеку спільноти та її відкритість для самовираження треба оцінити:

• чи несе допис безпосередню загрозу громадському здоров’ю або безпеці;
• чи висвітлює настрої, які наразі обговорюються в рамках політичного процесу;
• обставини в конкретній країні (наприклад, чи тривають вибори, чи країна перебуває у стані війни);
• політичний устрій держави, зокрема, чи є в ній вільна преса.

Тож, якщо допис може створити ризик шкоди (фізичної, емоційної та фінансової) або пряму загрозу громадській безпеці – його видалять, навіть якщо він має певний ступінь значущості.

В той же час, Facebook може дозволити “делікатний” та “тривожний” контент, але з попереджувальним екраном. Соцмережа дає пояснення на прикладі допису на сторінці Міністерства оборони України про кількість загиблих окупантів. У ньому є відео з невпізнаним обгорілим тілом.

Хоча Facebook зазвичай видаляє такий контент (відповідно до політики щодо насильства), це відео відповідає критеріям значущості новини, оскільки в ньому задокументований збройний конфлікт, що триває. Але відео закрите попереджувальним екраном, а доступ до нього обмежили для дорослих віком від 18 років через зміст.

Тож суспільна значущість допису – запорука його невидалення. Однак є інше питання: хто оцінює значущість та кому пояснювати, про що допис?

Виявлення контексту допису: процедура, якої не існує

Здається, що відповідь на поверхні: аби задовольнити інтереси користувачів та Facebook, достатньо зрозуміти контекст допису і мотиви автора. Тож щоб уникнути санкцій, потрібно “заслухати сторони”. Втім, важко уявити, на якому етапі це має статися та чи має платформа ресурси, аби розглядати контекст всіх сатиричних дописів?

Наглядова рада (Oversight Board) Facebook вказала, що систему покарань Meta потрібно реформувати, адже існує проблема: користувачам не завжди надається можливість пояснити контекст свого допису під час звернення до Meta.

Аналіз Наглядової ради показав, що майже 80% користувачів із невеликою кількістю попереджень не порушують політику Facebook протягом наступних 60 днів. Тобто більшість користувачів добре реагують на попередження та пояснення, бо не хочуть порушувати Стандарти.

Щоб контекст був зрозуміліший, Facebook запровадив специфічний інструмент: маркування сатиричних сторінок. Як пояснили в Meta, сатиричні сторінки – це можливість для людей ділитися соціальними коментарями з використанням гумору, перебільшення та абсурду, щоб довести свою точку зору.

Логіка Meta в тому, аби це маркування допомогло людям зрозуміти контекст сторінки, не дати сприйняти інформацію за чисту монету, одразу розуміти, що допис містить сатиру та не поширювати його як перевірену інформацію.

 Зображення сторінки Facebook запозичено з https://twitter.com/MetaNewsroom/status/1379887135998763014/photo/1

Тож Facebook всіляко намагається полегшити собі завдання з ідентифікації сатири, втім його алгоритми ще не навчені робити це досконало.

Вчені навчили штучний інтелект (далі – ШІ) визначати сарказм у текстах з соціальних мереж. Аналізуючи текстове повідомлення, ШІ ідентифікує ключові слова, притаманні саркастичним висловлюванням (як “просто”, “знову”, “абсолютно” тощо), а також зв’язок між ними. Після цього ШІ оцінює ймовірність того, чи було те чи інше повідомлення саркастичним.

Розробити таку систему надважко. Адже майже неможливо передбачити розвиток думки, причинно-наслідкові зв’язки, асоціативний ряд, контекст в конкретному соціумі і конкретних трендах – та й намір який виникає в голові конкретної людини. Самі вчені зауважили, що цей ШІ не є досконалим і не може зрозуміти сарказм у всіх випадках.

Хоча виявляти сатиру Facebook ще не вміє, він має алгоритми виявлення:

• “мови ворожнечі”, забороняючи публікувати, наприклад, принизливі висловлювання або зображення з безумовними твердженнями про поведінку жорстоких злочинців (зокрема терористів, вбивць, членів ненависницьких чи злочинних організацій);
• “звеличення чи пропаганду самогубства або самоушкодження”, забороняючи публікувати контент, що містить графічне зображення самоушкодження.

Тож, щоб зменшити ризик видалення допису, користувачам треба чітко вказувати свої наміри, аби контекст був зрозумілим.

Наприклад, аби ваш контент не позначили як “мову ворожнечі”, Facebook просить дати йому в дописі якомога більше контексту, пояснити чому публікація допису на часі, яку проблему він піднімає.

При цьому Facebook навіть акцентує на тому, що гумор та сатира дозволені. У той же час, які б ґрунтовні пояснення не були, Facebook однозначний щодо заборони публікації контенту, який прямо ображає людей за ознаками раси, етнічної, релігійної приналежності, національного походження, сексуальної орієнтації, статі, гендеру, гендерної ідентичності, серйозної інвалідності, захворювання або контенту в якому люди образливо порівнюються з тваринами.

Тож залишається питання: на підставі чиєї оцінки допису Facebook застосовує санкції? Та чи може ШІ вирішити проблему виявлення дійсних порушень та зчитування контексту?

Сьогодні модель виявлення порушень у Facebook спирається на 2 стовпи – технології та команду рецензентів.

Технології – важлива частиною того, як Facebook намагається віднайти баланс між інтересами автора допису та захистом Стандартів спільноти.

Наприклад, розробляється спеціальний фільтр, який допоможе виявляти токсичні висловлювання та не допускати такі дописи до публікації. Також Facebook використовує ШІ, аби виявляти зображення і тексти, які ідентичні вже видаленим за порушення контенту Стандартів спільноти.

ШІ продовжує навчатися та стає ефективнішим. Тож вірогідність того, що скоро він буде виявляти у дописах сатиру та аналізувати, чи порушує вона стандарти, дуже висока.

У своєму коментарі для ЦЕДЕМ Віталій Міняйло, CEO лабораторії прикладного машинного навчання EON+, пояснює:

“Щоб використати ШІ для виявлення сатири, Facebook повинен здійснити наступні кроки:

1. Збір даних: Необхідно зібрати велику кількість даних, що включають як сатиричні, так і не сатиричні повідомлення для тренування моделі. 2. Тренування моделі: На основі цих даних, модель GPT може бути навчена визначати сатиричний контент. 3. Перевірка та адаптація: Після тренування модель повинна бути перевірена на нових, раніше невідомих їй даних. 4. Впровадження: Якщо результати перевірки показують, що модель достатньо точно визначає сатиру, її можна впровадити для аналізу повідомлень на Facebook.

Важливо пам’ятати, що навіть найрозумніші моделі ШІ поки що можуть робити помилки, тому вони повинні слугувати допоміжним інструментом, а не остаточним суддею.”

Водночас зі штучним інтелектом, який виявляє порушення у автоматичному режимі, працюють рецензенти, які можуть виявити те, що пропустила технологія. Ці спеціалісти мають широку мовну та тематичну експертизу. Після того, як технологія пропускає порушення, тисячі рецензентів беруть на себе роль “наглядачів” за дотриманням Стандартів спільноти та досліджують контекст (специфіку відносин у тій чи іншій державі, політичну обстановку тощо).

Як довести Facebook право на сатиру?

Якщо ж користувач знає Стандарти спільноти, зрозумів їхню сутність та опублікував саркастичний допис з контекстом, але його все одно видалили, то варто скористатися правом на оскарження. Цю опцію додали не надто давно. Раніше ж можна було оскаржувати лише видалення облікових записів, груп та сторінок.

Спочатку Facebook повідомляє, що контент буде видалено, а користувач має можливість подати скаргу. У сповіщенні про первинне видалення є опція “Оскаржити”, після чого скарга потрапить до одного з рецензентів Facebook. Користувач має право на пояснення, чому допис ідентифікували як такий, що порушує Стандарти.

Хоча процес оскарження за участі рецензента зі сторони Facebook є позитивним кроком, не варто очікувати повноцінного слухання або широкого пояснення. Швидше за все, спеціаліст розгляне запит і повідомить, чи відповідає контент правилам спільноти, чи ні. Користувач може отримати різні відповіді, але приблизний їх зміст наступний:

1. “Вітаємо, Дякуємо, що звернули на це нашу увагу. Ми перевірили вміст публікації і з’ясували, що вона була видалена помилково. Наразі ми відновили матеріал. Не вагаючись, повідомте нам, якщо у вас виникнуть будь-які питання.

З повагою, команда Facebook”

2. Вітаємо, Дякуємо, що звернули нашу увагу на цей контент. Наша команда провела ретельне розслідування цього контенту і встановила, що він дійсно порушує наші Стандарти спільноти: www.facebook.com/communitystandards Якщо у вас є додаткова інформація або ви хочете, щоб ми перевірили окремі елементи контенту, будь ласка, надішліть відповідь на це повідомлення.

З повагою, команда Facebook”

Якщо команда рецензентів переглянула контент двічі, а користувач все ще не погоджується з рішенням, то його можна оскаржити до Наглядової ради. Лише вона може винести остаточний вердикт. Втім не весь контент і не всі рішення щодо контенту можна оскаржити до Наглядової ради. Вона сама обирає кейси, щодо яких вважає за необхідне дати свій вердикт. Тому хоча процедура оскарження існує, її процесуальні стадії та критерії оцінки кейсу не розкриваються.

Висновки

В живому спілкуванні сатиру розпізнати доволі легко. Але її використання у дописах в Facebook платформа може тлумачити як “мову ворожнечі”, “розпалювання ненависті”, “пропаганду самогубства” тощо. Тому видалення сатиричних дописів – поширене явище.

Втім питання безпеки мають гармонійно співіснувати з правом на самовираження. Самовираження у сатиричних дописах підпадає під особливий нагляд Facebook, адже він не завжди розпізнає контекст та надає перевагу видаленню таких дописів.

Facebook краще регулюватиме сатиричні дописи, якщо зможе:

• Аналізувати спірний допис в комплексі з іншими дописами на сторінці користувача. Це допоможе зрозуміти, чи то людина дійсно систематично порушує Стандарти спільноти, чи то не має схильності заподіювати шкоду собі чи іншим;
• Залучати до оцінки допису більше рецензентів, які розуміють певні специфічні політичні, соціальні, культурні передумови створення сатиричного допису;
• Продовжувати навчати штучний інтелект, який матиме змогу об’єктивно оцінювати передумови створення та загрози сатиричного допису;
• Давати користувачам можливість пояснити контекст допису перед його видаленням, а не лише в процесі оскарження.

Зі свого боку, щоб зменшити вірогідність видалення сатиричних дописів, користувачі мають:

• Знати Стандарти спільноти, їх обґрунтування та заборонені теми і намагатися уникнути їх порушення;
• У дописі намагатися дати Facebook більше контексту та обставин ситуації, яка описується у сатиричному стилі, пояснити, чому допис вартий опублікування і відповідає суспільним інтересам;
• Не нехтувати правом на оскарження та формувати практику, яка стане основою для перегляду Facebook своїх Стандартів та їх пом’якшення. Оскаржувати видалення можна самостійно або через ЦЕДЕМ. Звертайтесь на email sn@cedem.org.ua.

У повідомленні слід вказати таку інформацію:

• посилання на профіль, де сталося блокування
• скріншоти повідомлень від служби підтримки щодо проблемного контенту
• за можливості – повний текст посту/зображення

ЦЕДЕМ проаналізує обставини, і якщо виявить, що існує проблема, яка свідчить про вразливість алгоритму, неправильно ухвалене рішення або рішення, що може зачепити інших користувачів, то ваш кейс передадуть до Meta спеціальним каналом комунікації. Виконання цих порад допоможе налагодити ефективну комунікацію між платформою та користувачами та сприятиме встановленню балансу між свободою вираження думок та захистом Стандартів спільноти.