Ольга Петрів, 

юристка у сфері штучного інтелекту напряму “Незалежні медіа”

Одні кажуть, що штучний інтелект (ШІ) допоможе оптимізувати роботу судової системи, інші – що він може породити несправедливість в судочинстві. Технологія ШІ має значний потенціал для трансформації багатьох процесів, зокрема і судових. Але що зараз відбувається із самою системою судочинства, коли в гру вступає ШІ, та яку роль він може відіграти в правосудді? Як працівники українських судів можуть вже зараз використовувати ШІ для більшої ефективності та розвантаження? Розберемося детальніше у цій консультації. 

Чи потрібен штучний інтелект судам?

Штучний інтелект стрімко розвивається, тож його вплив відчутний і в судовій площині. Використання ШІ в судах має значний потенціал, аби покращити ефективність, швидкість та доступність правосуддя. Можемо розділити переваги застосування ШІ в судочинстві на 4 компоненти:

Ефективність: ШІ може автоматизувати повсякденні завдання, вивільнивши робочий час суддів та співробітників, аби вони зосередилися на складніших аспектах їхньої роботи.

Швидкість: ШІ здатен прискорити різні процедури, включно з обробкою справ та ухваленням вердиктів.

Якість: Використання ШІ може покращити процес ухвалення рішень, давши суддям доступ до ширшого спектру інформації та аналітичних даних.

Доступність: ШІ може зробити юридичні послуги доступнішими для людей, які не в змозі найняти адвоката чи мають обмежений доступ до судової системи.

Хоча, судова система України стоїть на початковому етапі впровадження ШІ, але вже зараз такі системи застосовують для:

• Автоматичного розподілу судових справ між суддями – це знижує ризик упередженості та гарантує рівні права при розподілі справ.
• Автоматичного аналізу судових документів, який допомагає ефективно виявляти в них ключову інформацію – це сприяє суддям та їхнім помічникам в ухваленні виважених рішень.
• Прогнозування результатів справ, яке дає оцінку ймовірності успіху в судовому процесі, дозволяючи сторонам краще оцінювати свої шанси перед подачею позову (а суддям це допомагає аналізувати потенційні ризики).

І хоча, використання ШІ в судочинстві несе за собою ризики (про них ми поговоримо далі), заперечувати його помічну роль в зменшенні навантаження на судову систему все ж не варто. І ось чому

Міжнародний досвід застосування штучного інтелекту в судочинстві

Спершу звернемося до міжнародного досвіду, аби мати ширшу картину впливу ШІ на судочинство і зрозуміти, яким чином може рухатися Україна до шляху розвантаження судів. У грудні 2023 судова влада суддів і трибуналів Англії та Уельсу заявила, що ШІ може допомогти писати висновки суддям. Водночас вони підкреслили, що його не потрібно використовувати для досліджень чи юридичного аналізу. Причину цьому одразу пояснили – ШІ може фабрикувати або надавати оманливу інформацію. 

Це не дивно, якщо згадати, як ще у травні 2023 року адвокат у Нью-Йорку надав суду документи, які він підготував за допомогою ChatGPT. Згодом виявилося, що чат самостійно згенерував цитати для 10-сторінкового документу та посилався на справи, яких ніколи не існувало. 

Коли суд встановив, що справи в документах вигадані, адвокат зізнався під присягою, що використав ChatGPT. A щоб перевірити, чи ChatGPT все написав правдиво – просто спитав в чату, чи той йому не бреше. 

Юристи ЦЕДЕМ часто працюють з ШІ та неодноразово ловили ChatGPT і ‎Gemini (раніше – Bard) на брехні: вони надавали інформацію про судові справи, яких насправді не існує. Варто пам’ятати, що ШІ навчається на творах людей, тому інформація у його базах даних – не обов’язково правдива. Текстові моделі, такі як ChatGPT, навчаються на величезних обсягах джерел, включно зі статтями, книгами, веб-сторінками та іншими доступними публікаціями.

Цей процес, відомий як навчання з підкріпленням з людськими вказівками (RLHF), дозволяє моделям розуміти та генерувати текст, імітуючи людський спосіб викладу інформації. Проте, оскільки джерела не завжди надійні, існує ризик, що ШІ відтворюватиме їх – і результатом стане неправдива або помилкова інформація. 

Адже ШІ не розуміє інформацію в тому сенсі, як це робить людина. Він генерує текст на основі статистичних залежностей між словами та фразами у навчальному матеріалі, а не перевірки фактів чи правдивості. Тому якщо в навчальному матеріалі є неправдиві твердження або помилки, ШІ також може відтворити ці помилки. 

У той же час у Великобританії лорд-суддя Апеляційного суду склав постанову за допомогою ChatGPT. Він попросив ChatGPT написати абзац для судових документів у справі зі сфери інтелектуальної власності. Суддя назвав ChatGPT “дуже корисним” і додав, що програми ШІ мають “великий потенціал”. Що важливо, суддя одразу зазначив: він бере всю відповідальність на себе. Це перший відомий випадок, коли британський суддя використав ШІ чат-бот для складання судових документів.

А в Індії Верховний суд запустив свій портал зі штучним інтелектом із назвою SUPACE (Портал Верховного суду для допомоги в ефективності судів). На ньому ШІ технології мають допомагати працювати з великими даними, отриманими під час подання справ. В цьому випадку ШІ не бере участі в прийнятті рішень.

Джерело: IndianToday

В 2023 році за ініціативи Верховного Суду Індії розробили програмне забезпечення Vidhik Anuvaad для Верховного суду (SUVAS). Його мета – перекладати судові матеріали з англійської на регіональні мови. На початок 2023 року було перекладено 2238 судових рішень, а в кінці 2023 року ця цифра перетворилась у 38 000 перекладених рішень. Цікаво, що у таких перекладених рішеннях є застереження про те, що канцелярія не несе відповідальності за будь-які неточності перекладу. Враховуючи те, що в Конституції Індії закріплено 22 офіційні мови, така розробка допоможе багатьом учасникам судових процесів досліджувати судову практику.

В Колумбії суддя використав ChatGPT для винесення рішення у справі звільнення неповнолітнього з аутизмом від сплати за терапію. Під час винесення рішення суддя поставив чату чітке питання «Чи звільняється неповнолітній з аутизмом від плати за терапію?». На що ChatGPT відповів, що “згідно з законодавством Колумбії, неповнолітні з діагнозом аутизм звільняються від плати за терапію”, що відповідає остаточному рішенню судді. Проте використання ШІ чат-ботів для вирішення юридичних питань – все ще ризикований варіант для судді, адже є вірогідність отримати неправдиву інформацію. Вона здатна спровокувати юридичні помилки, за які можна поплатитися репутацією, а то і посадою.

Китай використовує систему “розумний суд”, де ШІ підключається до робочого столу кожного судді та допомагає аналізувати справи, приймати рішення, проводити правові дослідження та шукати аналогічну судову парктику. Головна мета “розумного суду” – зменшити навантаження на судову систему завдяки автоматизації великої кількості процесів. 

В грудні 2018 року Європейська комісія з ефективності судочинства у складі Ради Європи затвердила Етичну хартію щодо використання ШІ в судовій системі та її середовищі. В ній викладені 5 принципів, яких слід дотримуватись у випадку використання ШІ в судочинстві. 

• Дотримання основних прав людини при використанні ШІ;
• недискримінація, а саме запобігання розвитку будь-якої дискримінації між окремими особами чи групами осіб;
• Якість та безпека обробки судових рішень і даних у безпечному технологічному середовищі;
• Принцип “під контролем користувача”, який означає, що всі процесуальні аспекти, можливості й функції ШІ мають бути викладені зрозумілою мовою, що відповідатиме статті 6 Європейської конвенції з прав людини (далі – ЄКПЛ);
• Ппрозорість, неупередженість та справедливість.

Для розуміння якою ж може бути роль ШІ в українському судочинстві, варто розпочати з базових правових документів. Так, у статті 6 ЄКПЛ зазначено, що кожен має право на те, щоб справа була розглянута незалежним і безстороннім судом. Заборони на використання ШІ в правосудді з ЄКПЛ не вбачається. Водночас, у статті 127 Конституції України закріплено: “Правосуддя здійснюють судді”. Тож системи штучного інтелекту не можуть замінити суддю в Україні. Що ж вони можуть зробити натомість? Оптимізувати роботу суддів.

Українська практика застосування штучного інтелекту в судочинстві

Аби система ШІ могла належним чином функціонувати і аналізувати судові документи, їй необхідно, щоб ці документи були в електронному форматі. Лише так ШІ зможе зчитати, проаналізувати та оптимізувати необхідну інформацію. 

Тому важлива передумова впровадження штучного інтелекту в українському судочинстві – належне функціонування єдиної судової інформаційної телекомунікаційної системи (далі – ЄСІТС). Вона передбачає оцифрування юридичних процесів та впровадження електронного документообігу. Зараз діє частина ЄСІТС: Електронний суд, Електронний кабінет та система відеоконференцзв’язку. Проте розвиток ЄСІТС досі перебуває на початкових етапах.

Використання цієї системи допоможе об’єднати велику кількість інформації, що дасть можливість використовувати її в поєднанні зі штучним інтелектом. Це, зокрема, покращить аналіз великих масивів даних, судової практики та сервіси для тих, хто користується судовими послугами. Наприклад, аналіз правопорушень або відсоткового співвідношення різних категорій справ. Отже, впровадження ШІ може значно спростити роботу суддів, дозволяючи їм краще орієнтуватися в масивах даних. Наступний крок – знайти найефективніші способи користуватися ШІ на практиці. Один з них вже діє, і зараз ми його розглянемо.

Оптимізація роботи правників

Щоб допомогти працівникам Верховного Суду проводити ефективний повнотекстовий пошук релевантної практики правових позицій Верховного Суду, в спеціально підготовлену базу правових позицій Верховного Суду спробували впровадити покращену систему пошуку. 

Спочатку вирішували, який алгоритм пошуку кращий. Тому вирішили порівняти роботу ШІ та простішого алгоритму пошуку слів (він порівнював слова один з одним). Тоді ШІ гірше впорався з завданням, тому спочатку для автоматизації пошуку вирішили використати більш простий алгоритм. Проте згодом ця система почала плутатись і видавала нерелевантні результати. 

Врешті в 2023 році вирішили змінити підхід і використовувати ШІ для пошуку релевантних правових позицій Верховного Суду. Аби скористатись ШІ, у спеціальне поле в цій базі потрібно завантажити текстовий документ, наприклад судове рішення. Завдяки ШІ з тексту відбираються лише юридично важливі терміни. Після цього, коли в базу завантажується документ, для якого потрібен підбір релевантної практики, база порівнює лише юридично важливі терміни, а не весь текст. І, як результат, підтягує релевантну практику Верховного Суду. 

Таким чином пошук релевантної практики Верховного Суду набагато покращився. На зображені нижче можна побачити, як це працює. В пошуку вставили скопійовану частину судового рішення і система за ключовими словами видала результат релевантної практики Верховного Суду.

Джерело: Ютуб-канал JustTalk

Як зазначив Расім Бабанли, перший заступник керівника апарату Верховного Суду, система працює якісно і підбирає дійсно релевантну практику.

Також в Україні функціонують “Суд на долоні” та Wincourt. “Суд на долоні” – це аналітичний сервіс, який допомагає в пошуку, дослідженні та візуалізації судових рішень. А Wincourt – сервіс, який може аналізувати судові документи та прогнозувати судові рішення. Він аналізує текст користувача, надає рекомендації для адвокатів, рекомендації щодо законодавства та схожих судових рішень. Сервіси платні і мають різні пакети для користування залежно від того, наскільки часто користувачу потрібен доступ до користування функціоналом. 

Ці інструменти допомагають швидше обробляти інформацію з баз даних. Звертаємо увагу, що в сервісах є лише інформація до 22 лютого 2022 року, тому це буде впливати на кінцевий результат користування. 

Інша система пошуку та аналізу судового рішення – Verdictum PRO, призначена допомагати передбачати ймовірність перемоги в суді. 

Також ще декілька років тому в Міністерстві Юстиції України розробили і почали використовувати Кассандру – ШІ, який аналізує злочинців та визначає їхню схильність до повторного порушення закону. Ця система має полегшувати роботу працівників пробації під час підготовки досудової доповіді, якою користуються судді, коли встановлюють міри покарання. Цей документ містить опис особистості обвинуваченого і оцінює ймовірність того, чи скоїть така людина злочин у майбутньому. У свою чергу Касандра автоматизує цей процес: спочатку вона пропонує відповісти на питання, після цього використовує алгоритм, який аналізує відповіді і нараховує бали за кожну відповідь. Після цього вона підсумовує бали за кожну відповідь та ставить оцінку ймовірності скоєння злочину. 

Чи пішов розвиток використання ШІ далі? Наразі саму правову позицію формує людина і до того, щоб використовувати ШІ в українських судах у цій ролі, ми ще не дійшли.

Проте системи ШІ, такі як ChatGPT від OpenAI, Gemini та Copilot для Microsoft, можна використовувати для аналітичної роботи або структурування інформації щодо судових документів. В такому разі потрібно розуміти, що ШІ-системі варто надавати лише анонімізовані матеріали, аби убезпечити персональні дані учасників судових процесів. Якщо в документах є ПІБ людини чи її місце проживання, їх слід змінити так, щоб ідентифікувати особу було неможливо. З одного боку, розробники подібних чат-ботів зобов’язані дотримуватись GDPR і не можуть поширювати інформацію з особистих чатів всупереч їхнім політикам приватності. З іншого – настільки важливий процес, як судочинство, має забезпечувати належний захист та не може покладатись лише на те, чи добросовісно розпоряджатиметься інформацією розробник. Тому працівники судів перед використанням ШІ в роботі мають самостійно переконатись, що вжили всіх необхідних заходів для захисту персональних даних. Інший шлях забезпечити надійний захист даних – розгортати системи ШІ спеціально під потреби команди. 

Для того, щоб спілкуватись з ШІ чат-ботом, наприклад ChatGPT, рекомендуємо спершу дати йому загальну інформацію про те, ким ви є, яка мета вашого запиту, в якому форматі вам потрібен результат (таблиця, текст, діаграма і тд). Що детальнішим буде опис завдання та всіх його обставин, то кращий результат він видасть. Також рекомендуємо не забувати, що ШІ-системи дещо подібні до людей в процесі роботи. Тому, якщо ваше завдання об’ємне, краще розділити його на менші підзавдання і під час діалогу вирішувати кожне з них окремо (якщо це можливо). 

Припустимо, вам потрібно скласти протокол судового засідання. Для цього ви можете завантажити до ChatGPT-4 (платна версія; до безкоштовної версії ChatGPT-3 завантажувати документи не можна) зразок будь-якого документу, що складений так, як вам потрібно сформувати новий. Після цього напишіть чату завдання, аби той перечитав документ, що ви завантажили і сформував такий самий – наприклад, заяву про виклик свідків. Коли документ сформовано, ви можете продовжувати вести діалог з чатом і писати, що потрібно змінити або покращити, генеруючи нові документи за цим зразком.

В ChatGPT-4 є спеціальна функція під назвою GPTs. Вона також доступна лише у платній версії. GPTs – це спеціальний створений під вас ChatGPT, якому у процесі створення ви вказуєте, як він має себе поводити, в якому стилі повинен відповідати. До нього ви можете завантажити документи, які він використовуватиме під час кожного вашого сеансу.

Як це може бути корисним на практиці? Візьмемо за приклад ту саму заяву про виклик свідків. Якщо ви сформуєте свого GPTs, вам більше не доведеться завантажувати до нього зразок заяви про виклик свідків повторно. Ви можете просто починати діалог, а GPTs після вашої фрази про формування нової заяви підготує її, використовуючи інформацію, яку ви надали. Юристка зі штучного інтелекту ЦЕДЕМ Ольга Петрів створила публічного GPTs (назва – JusticiaGPT), який враховує зразки судових документів і допомагає за декілька хвилин сформувати для вас той документ, який вам потрібний. Для зручного користування цим GPTs дотримуйтесь таких кроків: 

1. Перевірте, чи є у вас GPT-4. Використовувати JusticiaGPTs та будь-які інші GPTs можна лише у платній версії. 
2. Перейдіть за посиланням.
3. Напишіть завдання JusticiaGPT. Наприклад, «Привіт. Сформуй мені заяву про виклик свідків» або «Склади заяву про відвід судді». 
4. JusticiaGPT попросить вас надати додаткову інформацію. У випадку заяви про відвід судді – назву суду, до якого буде подана заява, повне ім’я та посаду судді, щодо якого подається заява про відвід та інше. Нижче ви побачите знімок екрану з цим діалогом на практиці.
   

   

   Джерело: діалог з ChatGPT

5. Ви можете надати всі дані, які вважаєте за необхідне заповнити за допомогою чату. Якщо якась інформація є чутливою, ви можете попросити JusticiaGPT залишити вільне місце для неї або написати там нижнє підкреслювання чи крапки. Тобто обрати для виділення цих місць будь-який спосіб на ваш розсуд.
6. Після цього JusticiaGPT створить та надішле вам сформований документ із заповненими даними, які ви вирішили надати. 

Наразі база документів з офіційними зразками продовжує формуватись, тому ви можете написати на пошту o.petriv@cedem.org.ua та повідомити, які саме документи ви б хотіли додати. 

Оптимізація роботи судових секретарів

Зараз з’явилось безліч програм ШІ, які автоматично транскрибують текст. Програмне забезпечення для транскрибування на основі ШІ може автоматично перетворювати аудіо/відео в текст у реальному часі, фіксуючи з високою точністю все, що говорять учасники під час судового засідання. Така можливість не тільки спрощує створення дослівних текстових записів судових засідань, але й значно зменшує зусилля судових секретарів. Ба більше, технології ШІ після цього можуть обробляти транскрибований текст, структуруючи та форматуючи його в офіційні документи – наприклад, протоколи засідань. Ця обробка може включати ідентифікацію ключових розділів, узагальнення змісту, чи навіть виділення посилань або прецедентів, згаданих під час засідання. Такий автоматизований робочий процес може значно прискорити процес документування та  зберегти час судових секретарів. 

Не судом єдиним

Офіс Генерального прокурора постав перед проблемою: потрібно обробити та проаналізувати велику кількість матеріалів, проте людського ресурсу для цього недостатньо. Тому це робить ШІ. Він переглядає масиви даних і за певними параметрами шукає та опрацьовує великі обсяги інформації. 

Так, офіс Генерального прокурора ще з лютого 2023 року використовує систему Palantir, що функціонує на основі технології ШІ, для аналізу та обробки великих масивів даних, зокрема пов’язаних з агресією РФ. Вона допомагає вибудовувати зв’язки між різною доказовою інформацією, структурувати систему командування РФ, фіксувати відомості про удари по об’єктах критичної інфраструктури та здатна на інші дії для автоматизації роботи чи здійснювати інші важливі у воєнний час дії для автоматизації роботи.

Також в офісі Генерального прокурора використовують Microsoft Azure. Програма допомагає фіксувати російські воєнні злочини та підготовку до них за допомогою технології OSINT (Open source investigation – пошук та обробка інформації з відкритих джерел). З огляду на успіхи в офісі Генерального прокурора, очевидно, що подібні технології мають велике значення і для судової системи. Їх впровадження може значно покращити здатність судової системи до швидкого збору, аналізу та інтерпретації великих масивів даних. Це особливо важливо в умовах, коли обсяги інформації постійно зростають, судові справи лише накопичуються, а ресурси для їх обробки обмежені. 

Наприклад, системи ШІ можуть автоматично обробляти та аналізувати судові документи, докази та прецеденти, значно скоротивши час, необхідний для підготовки та розгляду справ. Використання технологій на кшталт вищеперелічених чат-ботів з ШІ (наприклад, ChatGPT) в судочинстві може автоматизувати створення юридичних документів та аналізувати великі обсяги тексту для виявлення релевантних даних і прецедентів. Аналіз даних на базі ШІ може допомагати суддям у прийнятті рішень, аналізуючи ризики та надаючи рекомендації. ШІ може допомогти в зменшенні людського фактора та помилок, а також прискоренні розслідувань і судових процесів. 

Його “участь” може включати в себе не лише фіксацію воєнних злочинів, але й ширший спектр кримінальних та цивільних справ. Проте варто розуміти, що будь-які чат-боти з ШІ – це не панацея, коли йдеться про уважне ставлення до процесу формування чи аналіз документів. Людина завжди має перевіряти, чи правильно він згенерував документ або чи правдива інформація, на яку він посилається. Часто ШІ «фантазує» і без будь-яких застережень видає свій результат як правдивий. Хоча того, про що він пише, може ніколи не існувати. 

Якщо повернутись від ризиків до позитивних сторін, ШІ може допомогти у розслідуванні злочинів, ідентифікуючи людей за їхніми біометричними даними. Відповідно до опублікованого тексту AI Act такі системи ідентифікації осіб належать до високоризикованих систем. Розпізнавання обличчя в режимі реального часу в громадських місцях – заборонене. Проте є виняток для правоохоронних органів. Вони можуть використовувати цю технологію під час розслідування серйозних злочинів або пошуку зниклих безвісти людей. Для цього необхідний дозвіл судді. 

Слід розуміти, що у таких технологій можуть бути негативні наслідки, якщо їх застосують для переслідування. А саме використання має передбачати обов’язкове дотримання всіх вимог для високоризикованих систем. Використання ШІ для оцінки ймовірності вчинення злочину особою виключно на основі особистих характеристик, заборонено. 

В професійних колах наразі особливо наголошують, що користувач повинен бути поінформований і мати контроль над тим, що відбувається з його даними. Про це зазначено і в Етичній хартії щодо використання ШІ в судовій системі та її середовищі. 

Підсумуємо: ШІ в судочинстві – не тільки тема для обговорення, адже він активно впроваджується. Представники органів судочинства розуміють всю відповідальність використання таких технологій, тому роблять це поступово, одночасно розуміючи, що ШІ може зробити судочинство ефективнішим. Водночас, варто пам’ятати, що при використанні сторонніх розробок учасники процесу правосуддя мають брати до уваги всі ризики використання ШІ.

Тож аби визначити, чи варто у вашому суді використовувати системи ШІ, ми рекомендуємо врахувати:

Які завдання можна автоматизувати за допомогою ШІ?

ШІ може бути корисним для автоматизації рутинних завдань, які займають багато часу, таких як:

• Аналіз документів;
• Перевірка прецедентів;
• Створення шаблонів рішень;
• Прогнозування результатів справ;
• Розподіл справ;
• Моніторинг судових засідань.

Як ШІ може допомогти пришвидшити процеси в судах?

ШІ може допомогти пришвидшити такі процеси, як:

• Розгляд справ;
• Прийняття рішень;
• Виконання судових рішень.

Як ШІ може допомогти покращити прийняття рішень?

ШІ може допомогти суддям приймати більш обґрунтовані рішення, надаючи їм доступ до:

• Більшої кількості інформації;
• Даних;
• Аналітики;
• Прогнозів.

Як ШІ може зробити правосуддя більш доступним?

ШІ може зробити правосуддя більш доступним для людей, які:

• Не можуть дозволити собі адвоката;
• Не мають доступу до суду;
• Не володіють юридичною мовою.

Які ризики використання ШІ в судах?

Важливо знати про ризики, пов’язані з використанням ШІ, такі як:

• Системи ШІ можуть надавати оманливу або недостовірну інформацію;
• Потрібно уважно ставитись до поширення персональних даних у системах ШІ, оскільки багато ШІ чат-ботів не мають двофакторної автентифікації (наприклад, ChatGPT), що збільшує ризик зламу акаунту та витоку інформації;
• Використовувати системи ШІ для аналізу документів варто уважно, оскільки він не завжди може врахувати всі важливі юридичні нюанси. Тому позиціонувати його варто як помічника, результати роботи якого варто піддавати своїй критичній оцінці;
• ШІ може надавати дискримінаційні висновки. Оскільки, як ми вже зазначали, ШІ функціонує на основі статистичних даних, які він отримує з інформації, на якій навчався. А ці дані можуть бути такими, що дискримінують певні категорії осіб. 

Як мінімізувати ризики використання ШІ в судах?

Ризики використання ШІ можна мінімізувати, якщо:

• Ретельно вивчити та спланувати впровадження ШІ;
• Використовувати високоякісні ШІ-системи;
• Навчати суддів та персонал;
• Розробити чітку політику та процедури;
• Створити систему моніторингу та оцінювання.

У разі виникнення запитань щодо використання систем ШІ в судовій системі, зокрема у питаннях практичного та етичного використання, звертайтесь до Ольги Петрів, юристки зі штучного інтелекту напряму “Незалежні медіа” на електронно пошту: o.petriv@cedem.org.ua.