Замість слів: ненависть, булінг та домагання мовою емодзі

Основна тенденція сучасних інформаційних потоків – максимальне спрощення подання матеріалу. Навіть слова замінюють на набори символів чи дрібних картинок – емодзі. Останні дослідження показують, що у Фінляндії більше 60% iнтернет-користувачів використовують такі іконки, у Британії та Німеччині – близько 50%, Японії, Америці та Бразилії – трохи менше 40%.

Щороку кількість емодзі у спілкуванні збільшується, а самі картинки віддзеркалюють суспільно важливі теми. З 2014 року для уникнення дискримінації розробники надають користувачам можливість самостійно обирати тон шкіри емодзі. Іконки повсякчас з’являються у судових рішеннях. Так, британський суддя, встановлюючи наміри матері повернутися за сином, проаналізував значення “😄” і використав його у рішенні, щоб спростити розуміння справи для дитини. Ізраїльський суд нещодавно проінтерпретував повідомлення,[1] як згоду на договір оренди, а не пропозицію обговорення його умов, лише через наявність «іконок, що передавали великий оптимізм». Підхопивши тенденції, Facebook замінив звичайну кнопку “лайк” реакціями (“👍 ❤️ 😆 😮 😢 😡”), Instagram створив бігунок з емодзі для оцінки “сторіз”. Популярність іконок настільки велика, що Оксфордський словник визнав “😂” словом року, а 17 липня вся планета святкує Всесвітній день емодзі.

Проте, чи є все настільки райдужним, як здається на перший погляд? Відповідь сумна: ні, оскільки емодзі все частіше використовуються, щоб обійти обмеження на поширення неправомірного контенту. Як визначити неналежне використання емодзі, чи мають реагувати соцмережі і чи здатні вони це робити? Спробуємо розібратися.  

Онлайн-булінг 💣

Знущання та цькування є досить поширеними явищами для соцмереж. Втім, боротися з ними стає все важче, бо винахідливість порушників набирає обертів. Так, французький суд розглянув справу про використання “” у розмові з колишньою дівчиною і дійшов висновку, що емодзі є “прямою і реальною загрозою”. У іншому випадку, кримінальне провадження було відкрите щодо 12-річної дівчини через повідомлення “зустрінемося у бібліотеці  🔪 💣”.

Втім, популярні платформи не забарилися з відповіддю. З 2016 року Apple, Google, Microsoft та Facebook (згодом – Instagram і Twitter) вирішили замінити оригінальне зображення зброї “” іграшковою “🔫”. Навіть у оновленні до Олімпійських ігор соцмережі не дозволили додати емодзі гвинтівки, хоча стрільба зображалася винятково як вид спорту. Такі заходи частково знизили використання іконок зброї для онлайн-булінгу, однак не зупинили його.. Так, нещодавно бруклінський підліток поширював погрози поліцейським[2] і заміна справжнього пістолета іграшковим не змінила суті повідомлень. Більше того, список емодзі-погроз щодня поповнюється і вже включає “🔪,, 🔥”.

Поширеним є використання емодзі на позначення координованих ігор, метою яких є доведення до самогубства. Небезпека полягає у неможливості відстежити зображення через пошук у соцмережах (більшість платформ не має такої функції чи лише починає її розробку). В Україні, зокрема, значну популярність мала гра “синій кит”, яка поширювалася мережею за допомогою #blue_whale та “🐋”.[3] Якщо хештеги вдавалося вчасно відстежити, то ситуація із зображеннями була значно складнішою. Зрештою, проблема частково вирішилися блокуванням російських соцмереж, через які поширювалася гра. Однак, ефективного регулювання емодзі досі не знайдено.

Кампанія суспільного осуду також розгорнулася довкола “” у Facebook, що трактується як “почуваюся товстим”. Користувачі скаржилися, що зайва вага не є емоційним станом, а подібне зображення порушує права людей з харчовими розладами та надмірною вагою (цькування через зовнішність). Активісти зібрали 16 тис. підписів під петицією про видалення цього емодзі і Facebook прибрав іконку зі свого переліку емоційних реакцій.

Менш очевидним є використання безневинних зображень з метою онлайн-булінгу. Прикладом слугує американська справа щодо листів про звільнення, які містили “🙂🙂🙂”. Адвокат позивачки наголосив, що таким чином компанія висловлювала радість через звільнення жінки. Хоча суд і дійшов висновку, що подібні повідомлення є недоцільними та образливими, інтерпретація іронії чи іншого прихованого підтексту є непростим заняттям. Саме тому, поява емодзі лише ускладнює тлумачення контенту, в тому числі і для соцмереж.

Зрештою, онлайн-булінг крізь призму емодзі поступово сягає глобального рівня. Російський уряд неодноразово намагався вплинути на операторів з метою вилучення зображень ЛГБТ-спільноти, а Китай досі наполягає на виключенні іконки тайванського прапору. Проте розробники намагаються зберігати баланс між можливістю вести гострі дискусії і захистом прав людини.  

Домагання та контент сексуального вмісту 👄

Платформи не бажають перетворюватися на інструмент поширення непристойного контенту. Тож нова політика передових соцмереж забороняє такий вміст. Форма не має значення: тексти, зображення, відео чи будь-які інші матеріали. Стандарти спільноти Facebook передбачають блокування акаунтів через емодзі чи їх комбінації, поширені як пропозиції чи прохання непристойних дій. Заборона охоплює і спроби приховати оголені частини тіла за допомогою дрібних зображень.

Трьома іконками, які соцмережі прямо вказали у роз’ясненнях до нової політики, були “🍆, 🍑, 💦” через “загальне сприйняття сексуального підтексту [таких] емодзі”. Зокрема, їх використовують з метою отримати оголені фотографії, домовитися щодо інтимних стосунків або у ході секстингу. Незважаючи на позицію платформ, за статистикою більшість непристойних прохань чи пропозицій супроводжуються “😍”, “😚” або “💋”. Втім, перелік емодзі із сексуальними значеннями, не обмежується шістьма картинками. Залежно від контексту до них відносять:

  • 🍌, 🍆, 🐓, – позначення чоловічих статевих органів;
  • 🍑, – позначення сідниць чи жіночих статевих органів;
  • 🎞 – прохання надіслати оголені зображення;
  • 🎥, 📹 – прохання надіслати непристойні відео;
  • 💻, 🖥 – пропозиція непристойного “скайпінгу”.[4]


Також непристойні повідомлення та публікації створюють за допомогою комбінацій емодзі чи їх поєднання з іншими символами. До найпоширеніших прикладів належать:

  • 🐪ing, ♋ – позначення інтимних стосунків;
  • 🍑📞 – пропозиція непристойних розмов;
  • 👐🍅🍅 – прохання доторкнутися до грудей;
  • 👌👈, 👅🌮💦 – пропозиція інтимних стосунків;
  • 💃👀👙- прохання або пропозиція стриптизу.


Насправді, питання значно масштабніше за звичайне використання “🍑” у приватних переписках. Сьогодні емодзі застосовуються навіть у контексті секс-рабства та торгівлі людьми. Нещодавно американський суд відмовився розглянути як доказ повідомлення з “👑👠💰”. Проте адвокати наголосили, що це рішення лише надає простір для зміни формату спілкування (тексту на емодзі), а отже, допомагає приховувати злочини за допомогою дрібних зображень.

Водночас, емодзі часто дозволяють привернути увагу до суспільно важливих тем. Наприклад, у Weibo (китайський аналог Twitter) тривалий час відбувалося жорстке цензурування руху #MeToo.[5] Це змусило активістів змінити хештег на #RiceBunny, а згодом – взагалі використовувати “🍚🐇” (китайською вимовляється як “мі ту”). З одного боку, ця ситуація ілюструє потребу контекстуального аналізу будь-якої інформації, навіть якщо вона має сексуальний вміст. З іншого – феномен Weibo зайвий раз вказує на недієвість існуючих методів фільтрування контенту. Соцмережі не здатні, у разі необхідності, швидко зреагувати на хвилі заборонених матеріалів.

 

Мова ворожнечі, заклики до насилля 🔥

Заклики до насилля можуть мати різні форми та контексти – і емодзі тут не виняток. Наприклад, у 2016 році Америку, Канаду та Австралію сколихнула хвиля злочинів, вчинених порушниками у клоунському вбранні. Опісля, користувачі були вороже налаштовані щодо включення до переліку Apple емодзі Clown Face on Apple iOS 13.2, бо іконку вони асоціювали із публічним закликом до вчинення подібних злочинів. Однак, історія втратила резонанс, і зображення повернуло своє звичайне значення.

Небезпечнішою є ситуація із використанням символу “👌”. У США расистські організації використовують його у своїх дописах як знак “переваги білих”. Проте іконка настільки розповсюджена, що відстежити зловживання дуже складно, якщо взагалі можливо. Крім цього, віднедавна радикальні групи супроводжують власні ідеї “💯” для дискримінації осіб, що не належать до білої раси. Першопочатково емодзі був спортивним символом зі значенням: “зроблю все на користь команди”, проте його зміст спотворили і тепер навіть мирні публікації є предметом численних скарг.

Не менш поширеною була “🐸” (“жабка Пепе”), яку неонацисти використовували у своїх дописах і назвах акаунтів у Twitter. Відповідно, емодзі поступово почав асоціюватися винятково з діяльністю радикальних організацій. Це слугувало поштовхом до посилення обмежень на його використання у соцмережах. Втім, на цьому історія не завершилася. На заміну “🐸” прийшло досить неочікуване зображення – “Glass of Milk on Apple iOS 13.2”.  Ймовірно, використання цієї іконки пов’язане з кольоровими характеристиками та необхідністю обійти фільтри соцмереж, адаптовані до класичних дискримінаційних емодзі. Платформи досі не напрацювали механізму відслідковування цієї картинки.

Крім цього, негативним трендом тривалий час залишається дегуманізація (позбавлення людських характеристик). Прикладом слугує використання “🐷, 🐽” у дописах щодо представників мусульманських спільнот, публікація “🐁, 🐀, 🐵, 🐒, 🐏, 🐐, 🐷🐶” на позначення представників расових, етнічних чи національних груп. Реакцією на цю проблему з боку соцмереж є заборона поширення контенту, що ототожнює людину із певними тваринами чи предметами.

Часто емодзі отримують негативне забарвлення через використання їх у контексті ворожнечі. Так, бразильські протести проти ісламу, що носили назву “vomitaço”, супроводжувалися “🤢, 🤮” (англійською емодзі інтерпретується як “vomiting”, що є співзвучним із гаслом заворушень). Уряд неодноразово надсилав запити до Facebook щодо регіонального блокування цієї іконки, втім платформа відмовилася від таких практик. За відсутності заборон активісти почали масово поширювати зображення через публікації і коментарі, по суті, перетворюючи маленьку іконку на “зброю проти ісламізму”. Хоч наразі частота використання цього емодзі знизилася, це радше наслідок суспільних процесів, аніж боротьби платформи проти ворожнечі та дискримінації.

Та найбільшою проблемою є те, що алгоритми працюють проти соцмереж. Реакції “😡 і 😢” у Facebook, що показують невдоволення змістом, лише допомагають поширювати нелегальний контент (через них допис піднімається вище у стрічці новин, здобуваючи ще більше переглядів). Наприклад, у випадку поширення антиісламських настроїв у Бразилії саме негативні реакції сприяли швидкому та масштабному розповсюдженню мови ворожнечі.  

Як з цим бути❓

Наразі кількість проблем дещо перевищує кількість рішень. Так, актуальним питанням є підвищення популярності постів, що отримують негативні реакції і часто є забороненим контентом. Каменем спотикання залишається і відсутність уніфікованого тлумачення емодзі серед користувачів. Більше того, іноді користувачі тривалий час не оновлюють додатки соцмереж. Це спричиняє розбіжності у списках емодзі та численні непорозуміння, які сягають рівня мови ворожнечі чи булінгу. Зрештою, контекстуальна інтерпретація іноді є заскладною навіть для кваліфікованого персоналу соцмереж. До прикладу:

  • 🐊🔫👮‍- тлумачиться як “крокодил був застрелений поліцейським
  • 👮‍🔫🐊 – інтерпретується як “анонімна погроза поліції

Сьогодні платформи опинилися на роздоріжжі: через популярність емоджі соцмережі не можуть від них відмовитися, але повноцінно регулювати їх використання теж не здатні. Фільтри забороненого контенту не пристосовані до банального пошуку дописів за іконками, а якщо така функція вже існує – не здатні витлумачити контекст. Фактично, ситуація є схожою із інтерпретацією мови ворожнечі у текстовій формі – висловлювання, що є легальними в одному випадку, підпадають під заборону в іншому. Водночас, модератори не встигають оцінювати весь масив інформації.

Хоча великі надії покладаються на штучний інтелект, наповнення системи необхідними даними потребує досить багато часу і людських зусиль (спершу аналіз здійснюють модератори, надавши “вказівки” для розпізнавання неправильних використань). Наразі ж важко назвати ефективніший механізм.

Однак, не все так трагічно, як здалося на перший погляд. Instagram вже створив пошуковий механізм для емодзі та надав можливість поширювати іконки з хештегами, суттєво спростивши виявлення заборонених матеріалів. Боротьба з неправильним використанням емодзі не оминула і Snapchat. Тепер поширюючи відео користувачі не можуть використовувати іконки для погроз (“💣, 🔫, 🔪”) або дегуманізації (“🐷, 🐶”). Платформа попереджає, що у разі умисних порушень можливе блокування акаунту.

Facebook розробив систему тлумачень емодзі, що допоможе модераторам швидше і ефективніше виявляти неналежне використання іконок. Зображення згруповані за категоріями “булінг”, “атака, шкода, заклик до дії”, “мова ворожнечі” (куди належить популярний “💩”), “сексуальні домагання” та інші. Facebook підкреслює, що деякі символи навпаки позначають “захищені характеристики”:  та національні прапори. Неправильне використання може призвести до блокування публікацій чи навіть акаунту.

Передові соцмережі створили емодзі (“👁️‍🗨️, 👁, 👓, 🗨, 🔍”), які використовують як “маячок” у коментарях під дописами з онлайн-булінгом (кампаніяI Am A Witness”). В результаті, за кілька місяців було поширено більше 110,000 емодзі та 400,000 таких реакцій, що дозволило платформам ефективніше боротися із забороненим контентом. На додачу, за допомогою емодзі почали проводитися кампанії боротьби з поширенням наркотиків серед дітей, а також були створені іконки підтримки для потерпілих від онлайн-булінгу.

Наразі проводяться дослідження для встановлення емоційного забарвлення емодзі. Також існує ініціатива створення ресурсів, присвячених збиранню, інтерпретації іконок, історії їх використання, виокремленню загрозливих контекстів. Найпопулярнішими є: emojipedia, emojidictionary, emojisaurus і emojitranslate. Корисність розробок важко переоцінити, враховуючи можливість модераторів звертатися за тлумаченням до вже наявних матеріалів замість повторення помилок для виведення власного правила.

Як висновок, попередження емодзі-булінгу, домагань та закликів до насилля зрушило з мертвої точки. Незважаючи на складнощі у контекстуальній оцінці змісту дописів та повідомлень, соцмережі розробляють нові політики, адаптовані до розпізнавання регіональних значень іконок, прихованого підтексту тощо. Однак, це не означає, що перелік контраверсійних питань за участі емодзі вичерпано. Зокрема, з 2018 року актуальною є тема права власності на такі зображення, допустимості

гостросоціальних та гострополітичних іконок, а також появи додатків, через які використовують заборонені емодзі. Поле для дискусії зростає майже щодня, і єдине, що напевне врятує світ – емодзі “повага” та мільйони його поширень мережею.

[1] Текст повідомлення: “Доброго ранку😊 ми хочемо будинок💃🏻👯‍✌️☄️🐿️ необхідно лише обговорити деталі… Коли вам зручно?”.

[2] Текст одного з дописів: “Руки вгору 🔫🔥🔥🔥👮‍🔫🔫”.

[3] Координатори збирали приватну інформацію про залучених у гру, погрожували їм та їхнім рідним у разі невиконання завдань (фінальним завданням було вчинення самогубства).

[4] Мережа “Скайп” часто використовується для приватних комунікацій сексуальної тематики (хоча наразі така можливість існує і у Facebook).

[5] Рух, присвячений боротьбі з домаганнями через поширення таких історій через Інтернет.

Ми надаємо безоплатні консультації із юридичних питань у сфері інформаційного та медійного права. Будемо раді поділитися з вами своїм досвідом.

Листи з інших питань не розглядаються.

Докладніше про консультації

 

Для того, щоб отримати інформацію, яка вас цікавить, зверніться до нас за допомогою гарячої лінії: