Штучний інтелект (ШІ), з одного боку, може покращити наше життя – тестувати ліки, діагностувати хвороби, запобігати шахрайству у фінансовій сфері чи розпізнавати фейки. З іншого боку, він створює певні ризики: непрозоре прийняття рішень, дискримінація, порушення приватності або використання технології в злочинних цілях (для створення фейків, наприклад).
Аби уникнути таких загроз та створити умови для безпечного та етичного використання ШІ, 21 квітня 2021 року Єврокомісія опублікувала пропозиції щодо регулювання ШІ.
Зокрема, запропоновані критерії для оцінки ризиків використання технологій ШІ:
1. Неприйнятний ризик – всі системи ШІ, які явно загрожують безпеці, засобам до існування або правам людей (наприклад, технології, які дозволяють маніпулювати поведінкою людей чи дозволяють органам влади проводити «соціальну оцінку»). Використання таких технологій прямо забороняється.
2. Високий ризик – технології ШІ, які застосовуються у таких сферах:
-
громадський транспорт та інші об’єкти критичної інфраструктури, які можуть загрожувати життю та здоров’ю громадян;
-
освіта та професійна підготовка, якщо ШІ визначає доступ до освіти чи професійного курсу (наприклад, оцінка іспитів);
-
працевлаштування (як-от, технології для відбору резюме);
-
основні приватні та державні послуги (кредитний рейтинг та автоматична відмова в отриманні кредиту тощо);
-
забезпечення правопорядку (зокрема, оцінка достовірності доказів);
-
міграція, притулок та прикордонний контроль (наприклад, перевірка справжності документів);
-
правосуддя та інші демократичні процеси.
Тобто ця категорія охоплює всі сфери, які прямо зачіпають безпеку особи або права людини, в тому числі право на освіту, працю чи отримання соціальних послуг. Використання систем ШІ з високим ризиком можливе лише за дотримання жорстких вимог.
Крім того, ризиковими є системи розпізнавання особи, які передбачають біометричну ідентифікацію. Їх використання у публічних місцях, у тому числі, в інтересах правоохоронних органів, прямо заборонено, окрім деяких випадків (наприклад, для пошуку загублених дітей, для запобігання терористичній діяльності або для пошуку особливо небезпечних злочинців). Кожен з цих винятків потребує дозволу від суду чи іншого уповноваженого органу.
-
Обмежений ризик – системи на основі ШІ на зразок «чат-ботів». Використання таких технологій не потребує додаткового дозволу. Потрібно лише повідомляти користувача про те, що він взаємодіє з машиною, аби він міг прийняти усвідомлене рішення продовжити чи припинити таку взаємодію.
-
Мінімальний ризик – більшість технологій ШІ, наприклад, відеоігри, фільтри комп’ютерного спаму, які не несуть загрози для безпеки або прав користувачів. Використання таких технологій не потребує додаткового дозволу.
Якщо Європарламент прийме ці пропозиції, розвиток корисного та надійного ШІ буде заохочуватися, і навпаки, заборонений буде розвиток ШІ, що загрожує безпеці та правам людини. Отож, ШІ може стати силою добра для світу.
