Поняття та правова основа автоматизованого прийняття рішень в Україні

Постановка проблеми. Цифровізація різних сфер суспільного життя призвела до того, що процеси, які традиційно виконували люди, тепер дедалі частіше автоматизують. Така тенденція простежується і щодо ухвалення рішень, навіть тих, які впливають на права та інтереси фізичних і юридичних осіб, а отже, щодо них існують підвищені вимоги стосовно відповідності принципу законності.

Сприяючи досягненню позитивних результатів, зокрема в боротьбі з корупцією та надмірним навантаженням на працівників, використання технічних засобів для ухвалення рішень привертає особливу увагу у сфері державного управління. Водночас і в діяльності бізнесу автоматизація ухвалення рішень набула широкого застосування: її характерними проявами є комп’ютерні програми на основі штучного інтелекту, здатні виконувати різні завдання — від вибору найкращого кандидата для працевлаштування на основі автоматизованого аналізу резюме до надання створених алгоритмом рекомендацій для користувача соціальної мережі.

Попри численні переваги, автоматизація ухвалення рішень спричинила появу низки викликів і ризиків, як-от: алгоритмічна упередженість, випадки дискримінації, необґрунтованість рішень, порушення правил захисту персональних даних тощо.

З огляду на це, у цій статті порушено досі малодосліджену в українській правовій науці проблему правового регулювання автоматизованого ухвалення рішень, яка з часом набуває дедалі більшої гостроти через зростання кількості випадків, коли сучасним технологіям делегують функцію обирати оптимальний варіант за заданих умов (та діяти відповідним чином) або сприяти в ухваленні рішень.

Аналіз останніх досліджень і публікацій. Серед українських учених, які досліджували цю проблему, варто назвати О. Бугай, Н. Галецьку, І. Коржа, Є. Ланюка, В. Токареву, В. Фурашева та інших.

Насамперед слід виділити О. Бугай, авторку низки праць із тематики алгоритмічного ухвалення рішень у сфері державного управління, включно з дисертаційним дослідженням^[1]. Вона узагальнила такі переваги автоматизації ухвалення рішень, як підвищення їхньої ефективності, зниження витрат, сприяння належному розподілу ресурсів і боротьбі з корупцією, отримання інформації з великих баз даних тощо. Водночас дослідниця відзначила й обмеження, пов’язані з наявністю неякісних та нестандартизованих даних, захистом конфіденційності, непрозорістю та неможливістю пояснити ухвалені рішення тощо^[2].

Прогресивним є дослідження Н. Галецької про автоматизацію правового регулювання як «використання програмних і програмно-апаратних комплексів з інформаційною метою чи з метою настання певних юридичних наслідків»^[3], у якому авторка цілком слушно розрізняє два його різновиди: засноване на правилах (rule-based) та засноване на даних (data-based). Є. Ланюк, вивчаючи етичні, філософські та соціальні проблеми використання автоматичних алгоритмів ухвалення рішень, наголошує на небезпеці того, що рішення можуть мати односторонній і непрозорий характер, не підлягати ефективному оскарженню, спричиняти втручання в приватне життя, байдужість до соціальних контекстів, редукціонізм, стигматизацію, упередження, а також формувати «петлі позитивного зворотного зв’язку» — коли стають самовиконуваними пророцтвами^[4].

Досліджуючи алгоритмічні системи під час ухвалення юридично значущих рішень, В. Токарева приділяє велику увагу питанню забезпечення прозорості та інформування про функціонування алгоритму в контексті рішень щодо отримання соціальної виплати, банківського кредиту, укладення договору страхування тощо^[5]. В. Фурашев та І. Корж показують, які зобов’язання мають органи державної влади під час автоматизованого ухвалення рішень (як і приватні компанії — А. О.). За їхніми оцінками, «однією зі сфер, у яких ШІ відіграватиме важливу роль, є автоматизація процесів, в якій за допомогою ШІ можна створювати автономні системи, які можуть виконувати складні завдання та приймати рішення, спираючись на аналіз даних»^[6].

Наведений огляд свідчить, що в українській науці бракує системних досліджень, які б стосувалися автоматизованого ухвалення рішень. Водночас варто зазначити, що про існування порушеної в статті проблеми згадують автори праць із тематики правового регулювання штучного інтелекту, адже системи штучного інтелекту є одним із засобів автоматизації ухвалення рішень (В. Базалицький, І. Берназюк, А. Гачкевич, Т. Каткова, В. Мазур, М. Самойленко, О. Стойко тощо).

У зарубіжній науці проблема правового регулювання автоматизованого ухвалення рішень широко висвітлена, що підтверджують праці таких учених, як Є. Абрюскі, А. Валдман, Е. Вілборг, Дж. Вільямс, М. Залнієрают, Дж. Кобб, Х. Ларссон, Дж. Малгієрі, Л. Мозес, А. Монарха-Матляк, Дж. Сінг, Т. Скасса, М. Суксі, М. Фінк, Ш. Хенольд та багатьох інших. Досліджено, зокрема, такі аспекти цієї проблеми: гарантії дотримання прав людини^[7], співвідношення з профілюванням^[8], досвід Канади^[9], Фінляндії^[10] та інших держав, можливість перегляду^[11], здійснення людського втручання^[12], забезпечення верховенства права^[13], підзвітність алгоритмів^[14], роль Загального регламенту про захист даних^[15].

Мета дослідження полягає в комплексному вивченні теоретико-методологічних засад та нормативно-правових основ автоматизованого ухвалення рішень в Україні з огляду на необхідність гармонізації національного законодавства з правом ЄС.

На основі етимологічного аналізу буде узагальнено підходи до розуміння поняття автоматизованого ухвалення рішень, а також пояснено його співвідношення з іншими термінами, що відображають вплив сучасних технологій на суспільне життя (автоматизація, алгоритмізація, інформатизація, цифровізація). Для подальших досліджень буде запропоновано орієнтовне визначення автоматизованого ухвалення рішень, а також наведено перелік засад, які можуть лягти в основу відповідних нормативно-правових актів.

Важливою частиною статті є оцінка національного законодавства з метою визначити, які чинні нормативно-правові акти містять положення, що застосовуються до автоматизованого ухвалення рішень, а також окреслення перспектив правового регулювання відповідних відносин задля вдосконалення законодавства України під впливом європейських правових стандартів.

Виклад основного матеріалу дослідження. Етимологічний аналіз терміна «автоматизоване ухвалення рішень» засвідчує, що основні труднощі виникають через брак ясності в розумінні прикметника «автоматизований» та в тому, наскільки розширеним чи, навпаки, звуженим є трактування поняття «рішення» в цьому контексті. У найширшому сенсі рішенням слід вважати будь-який вибір, наприклад, щодо змісту документа, підготовленого з певною метою, а не лише той, що істотно впливає на права та інтереси фізичних і юридичних осіб (як-от у випадку з розглядом кандидатур на працевлаштування, коли реалізується право на працю, чи з визначенням штрафних санкцій для приватної компанії за невиконання вимог законодавства). Безумовно, окремим предметом наукового вивчення має бути автоматизація рішень, які ухвалюють органи державної влади та місцевого самоврядування на виконання своїх повноважень.

Загалом прикметник «автоматизований» має кілька тлумачень в українській мові, зокрема «який виконує виробничі процеси за допомогою автоматичних приладів, машин»^[16] та «автоматичний» («який діє механічно; самодіючий»^[17]). Авторитетний словник англійської мови визначає цей прикметник так: «той, що виконується машинами або комп’ютерами без необхідності людського контролю» (додамо, що у прикладах вживання йдеться про можливу повну (або цілковиту) автоматизацію)^[18]. Вживання слова «рішення», яке тлумачиться як «спосіб вирішення, зображення, подання, розв’язання чого-небудь»^[19], або «зроблений щодо чогось вибір після обмірковування кількох можливостей»^[20], є багатозначним. Водночас саме це наводить на думку, що одне із завдань правового регулювання автоматизованого ухвалення рішень полягає в тому, щоб конкретизувати, за яких умов використання технічних засобів для ухвалення рішень підпадатиме під особливий правовий режим.

Ураховуючи походження слів, можемо помітити, що термін «автоматизоване ухвалення рішень» охоплює широке коло процесів, спільним для яких є таке: у кожній ситуації вибір здійснює не людина, а техніка (ми послуговуємося словосполученням «технічні засоби», визнаючи потребу детальніше дослідити елемент «автоматизованості»). Водночас людина може брати певну участь в автоматизованому ухваленні рішення — тоді постає питання, яку роль вона відіграє. Людина може сама ухвалювати рішення, тоді як технічні засоби надаватимуть підтримку та пропонуватимуть оптимальний варіант (такий випадок недоречно розглядати як автоматизоване ухвалення рішення), або ж бути залученою до автоматизованого процесу і за потреби втручатися (насамперед з метою контролю) чи навіть схвалювати попереднє рішення (напівавтоматизований процес).

На нашу думку, можна виокремити два підходи до розуміння цього поняття — вузький і широкий. За вузького підходу автоматизоване ухвалення рішень — це повністю автоматизований процес, що відбувається без участі людини (рішення ухвалюють виключно технічні засоби), а за широкого — людина також бере участь в ухваленні рішення (рішення ухвалюють із використанням технічних засобів).

Ключовими ознаками цього поняття є такі. По-перше, ухвалене рішення є результатом застосування спеціальних технічних засобів, здатних здійснювати вибір або підтримувати ухвалення рішень. Визнаючи, що такі технічні засоби можуть мати різні назви, які позначають джерело ухвалення рішення (автоматизована система, комп’ютер, інформаційна система, штучний інтелект, програмне забезпечення тощо), ми вважаємо, що слід послуговуватися найточнішою і водночас найзагальнішою з них, пошук якої є завданням для подальших досліджень.

По-друге, націленість на вибір оптимального варіанту для вирішення певної ситуації, тобто на ухвалення рішення, яке, своєю чергою, може мати різні форми: від оцінки кожної кандидатури для працевлаштування за 100-бальною шкалою на основі автоматизованого аналізу резюме до створених алгоритмом рекомендацій для користувача соціальної мережі, які втілюються в момент їх надання. Варто додати, що автоматизація стосується не лише ухвалення рішення як вибору, а й відповідної дії, зумовленої таким вибором (наприклад, «розумний будинок» чи безпілотний автомобіль).

Отже, квінтесенція автоматизованого ухвалення рішень зводиться до інтеграції технічних засобів у процеси ухвалення рішень, які можуть бути повністю (без втручання людини) або частково автоматизованими. Технічні засоби іноді стають допоміжними інструментами для підтримки ухвалення рішень. Ми пропонуємо таке орієнтовне визначення автоматизованого ухвалення рішень: процес запрограмованого вибору одного з варіантів технічним засобом (та відповідної дії) згідно з наявними потребами, що не передбачає суттєвого людського втручання.

Автоматизація — це загальна назва для процесів, коли певне завдання чи навіть робота виконується за допомогою сучасних технологій, що замінюють людський ресурс без істотної втрати якості. Автоматизовані процеси охоплюють широкий спектр явищ: від електронного документообігу до застосування безпілотних автомобілів, дронів і промислових роботів, зокрема й таких явищ, як Інтернет речей та «розумні будинки». Хоча під час автоматизації технічні засоби часто ухвалюють рішення замість людини, такі рішення не завжди потребують правового регулювання. Аксіомою є те, що значущість рішення та ступінь його впливу на права й інтереси фізичних та юридичних осіб зумовлюють потребу в правовому регулюванні.

Явище автоматизації та автоматизоване ухвалення рішень як його складова тісно пов’язані з процесами цифровізації та інформатизації. Обидва терміни пояснено в Законі України «Про Національну програму інформатизації»:

інформатизація — сукупність взаємопов’язаних організаційних, правових, політичних, соціально-економічних, науково-технічних, технологічних та виробничих процесів, спрямованих на створення умов для забезпечення розвитку інформаційного суспільства та впровадження інформаційно-комунікаційних і цифрових технологій;

цифровізація — процес впровадження цифрових технологій у всі сфери суспільного життя^[21].

Як бачимо, інформатизація пов’язана з умовами, необхідними для використання переваг технологічного прогресу, тоді як цифровізація полягає в безпосередньому впровадженні цифрових технологій. З цього випливає, що автоматизоване ухвалення рішень відбувається завдяки реалізації державної політики інформатизації та є однією з можливостей, які надають цифрові технології, насамперед ті, що використовують штучний інтелект.

Поняття алгоритмізації та похідне від нього — алгоритмізоване ухвалення рішення — базуються на слові «алгоритм», яке широко вживають для позначення послідовності операцій, що їх виконує комп’ютер для вирішення певного завдання. У працях учених ми навіть зустрічаємо термін «алгоритмічне ухвалення рішення»^[22],[23], який дуже близький за змістом до досліджуваного нами поняття «автоматизоване ухвалення рішень». Водночас ми наголошуємо, що перший термін акцентує на тому, як згідно з інструкціями технічний засіб ухвалює рішення (і діє відповідним чином), тобто на що він запрограмований (саме тому в орієнтовному визначенні ми зазначили «запрограмований вибір»). Натомість другий термін описує саму процедуру та її результат.

Ми вважаємо, що правове регулювання автоматизованого ухвалення рішень слід розбудовувати на певних засадах, авторський перелік яких наведено нижче.

1. Законність — автоматизоване ухвалення рішень (та відповідна дія) має здійснюватися в суворій відповідності до чинного законодавства, яке встановлюватиме, за яких умов використання технічних засобів для ухвалення рішень підпадатиме під особливий правовий режим.
2. Належна обробка — будь-які операції з персональними даними, що виконуються під час автоматизованого ухвалення рішень, слід здійснювати за наявності згоди суб’єкта даних або на іншій законній підставі.
3. Безпека системи — технічні засоби, результатом застосування яких є ухвалені рішення, мають бути захищені від зловмисних втручань.
4. Підконтрольність — процес автоматизованого ухвалення рішення (та відповідної дії) має відбуватися під наглядом особи, яка використовує технічні засоби; за потреби цей процес можна призупинити.
5. Відповідальність — за наслідки автоматизованого рішення відповідає той, хто використовував технічні засоби, навіть якщо логіка алгоритму є незбагненною.
6. Якість рішення — перед впровадженням системи ухвалення рішень слід застосувати всі можливі методи для перевірки, щоб ухвалені рішення (та відповідні дії) не були помилковими та відповідали наявним потребам (технічному завданню).
7. Пояснюваність – процедура автоматизованого ухвалення рішень повинна бути в загальних рисах зрозумілою для людей, навіть якщо вони не мають технічної освіти.

Перелік принципів можна доповнити принципом прозорості процедури автоматизованого ухвалення рішень, згідно з яким усі особи, яких стосується таке рішення, мають бути поінформовані про цю процедуру. Він є запорукою реалізації права особи на те, щоб рішення стосовно неї не ґрунтувалося виключно на автоматизованій обробці.

Стан правового регулювання в Україні можна схарактеризувати як такий, що створює сприятливі умови для впровадження сучасних технологій, насамперед у сфері державного управління, та для подальшої автоматизації процесів. Такого висновку доходимо з огляду на те, що за останню чверть століття було ухвалено законодавчі акти, які сприяють цифровізації та модернізації різних сфер суспільного життя, зокрема:

Закон України «Про електронні документи та електронний документообіг»^[24];

Розпорядження Кабінету Міністрів України «Про схвалення Концепції розвитку електронного урядування в Україні»^[25];

Закон України «Про електронну ідентифікацію та електронні довірчі послуги»^[26];

Закон України «Про Національну програму інформатизації»^[27];

Розпорядження Кабінету Міністрів України «Про схвалення Концепції Державної цільової науково-технічної програми з використання технологій штучного інтелекту в пріоритетних галузях економіки на період до 2026 року»^[28].

Водночас діють правові положення щодо «червоних ліній» – закріплені у відповідних законах заборони дискримінації та нерівності^[29],^[30], а також гарантоване конституційне право на невтручання в особисте і сімейне життя, з якого походить концепція захисту персональних даних (Закон України «Про захист персональних даних»^[31]).

Наскільки такий стан справ відповідає праву ЄС з огляду на необхідність гармонізації національного законодавства з acquis communautaire?

По-перше, заохочення впровадження сучасних технологій узгоджується з проголошеним ЄС курсом на цифровізацію та модернізацію різних сфер суспільного життя – технологічні можливості мають використовуватися для розвитку національних економік і підвищення рівня життя. По-друге, для права ЄС характерні схожі «червоні лінії», що й не дивно, адже в основі правових традицій сучасних держав лежать ті самі міжнародно-правові акти. По-третє, стандарти ЄС щодо автоматизованого ухвалення рішень, які є одними з найпрогресивніших у світі поряд із канадськими, американськими чи сінгапурськими, покладають значно ширші зобов’язання на суб’єктів, що використовують технічні засоби для ухвалення рішень. Вони можуть стати орієнтиром для розвитку норм українського законодавства. Усвідомлюючи, що детальний аналіз права ЄС щодо регулювання відносин у сфері автоматизованого ухвалення рішень, включно з поглибленим вивченням «червоних ліній», потребує значно ширшого дослідження, у цій статті розглянуто лише окремі важливі положення, що закладають основи правового режиму автоматизованого ухвалення рішень у ЄС.

Ст. 22 Загального регламенту про захист даних (GDPR)^[32]: право суб’єкта даних на те, щоб стосовно нього не ухвалювалося рішення, що ґрунтується виключно на автоматизованій обробці, включно з профілюванням, яке створює для нього правові наслідки або істотно впливає на його становище.

Положення цієї статті також визначають умови (правові підстави), за яких така автоматизована обробка може здійснюватися, зокрема за наявності чітко вираженої згоди суб’єкта даних. Водночас, якщо ухвалення рішень передбачає обробку «чутливих» персональних даних, обмеження стають ще суворішими.

Слід підкреслити, що ст. 22 містить три важливі права суб’єкта даних щодо автоматизованого ухвалення рішень:

1. право вимагати людського втручання з боку контролера даних (дослівно – «отримати втручання»), тобто наполягати на ухваленні рішення людиною, а не технічними засобами;
2. право висловлювати свою думку, що дає особі можливість критично оцінити ухвалене рішення та не погодитися з ним;
3. право оскаржувати рішення, що полягає в можливості звернутися до компетентних органів влади з вимогою його скасування.

Ст. 11 Директиви 2016/680^[33] (т. зв. «директиви про правоохоронну діяльність у сфері захисту даних»): зобов’язання держав-членів заборонити ухвалення рішення, що ґрунтується виключно на автоматизованій обробці (включно з профілюванням) і має негативні правові наслідки для суб’єкта даних або істотно на нього впливає.

Разом з тим, ця заборона не є абсолютною: таке рішення дозволяється, якщо воно передбачене законодавством ЄС або держави-члена, юрисдикції якої підпорядковується контролер, та за умови забезпечення належних гарантій прав і свобод суб’єкта даних (зокрема, права на людське втручання).

Ст. 5–6 Закону ЄС про штучний інтелект^[34]: визначення способів застосування та видів систем штучного інтелекту, що мають неприйнятний рівень ризику, а тому заборонені (наприклад, соціальний скоринг); визначення систем із високим рівнем ризику, які є умовно дозволеними за умови мінімізації можливих негативних наслідків (наприклад, системи ШІ для оцінювання кандидатів на працевлаштування).

Висновки. Відносини щодо використання технічних засобів для ухвалення рішень — як повністю, так і частково автоматизованого — стають дедалі серйознішим викликом для права, адже стрімко зростає кількість випадків, коли системи штучного інтелекту або інші системи, здатні автоматизувати процеси, впроваджуються в різні сфери.

Сучасним технологіям дедалі частіше делегують функцію вибору оптимального варіанта за визначених умов та здійснення відповідних дій, а також функцію допоміжного інструменту для ухвалення рішень людиною, наприклад, через формування найімовірнішого прогнозу розвитку подій (підтримка рішень).

Проблема правового регулювання автоматизованого ухвалення рішень охоплює широке коло питань: від визначення поняття «автоматизованість» через опис засобів, здатних обирати оптимальний варіант і діяти відповідно, до можливості автоматизованої обробки «чутливих» даних для ухвалення рішень.

Розглянута в статті проблема має міжгалузевий характер і викликає значний інтерес у науковців з різних галузей: охорони здоров’я, адже на основі даних про історію хвороби сучасні технології здатні встановити доволі точний діагноз; маркетингу, де демонстрації реклами на основі профілювання передує ланцюг автоматизованих процесів (збір даних про вподобання користувача, визначення його споживчого профілю, підбір персоналізованої реклами); безпеки та оборони, у зв’язку з розробкою летальної автономної зброї, здатної миттєво ухвалювати рішення щодо цілі ураження відповідно до заданих параметрів; освіти й науки, адже системи штучного інтелекту здатні оцінювати студентські роботи та створювати описи дослідницьких проєктів; боротьби зі злочинністю, де відбувається автоматизоване виявлення шахрайства в режимі онлайн.

Проведене дослідження свідчить, що аналізована проблема має системний характер і тісно пов’язана з правовим забезпеченням таких процесів, як цифровізація, автоматизація, інформатизація, алгоритмізація, обробка персональних даних, розробка, впровадження та використання технологій штучного інтелекту, електронне урядування, роботизація та багатьох інших. Також можна зазначити, що ця проблема об’єднує різні галузі права, зокрема адміністративне (автоматизоване ухвалення рішень у сфері державного управління; обмеження або заборона небезпечних систем штучного інтелекту), конституційне (дотримання прав людини, насамперед на рівність і невтручання в особисте та сімейне життя), цивільне (відповідальність за рішення, що завдали шкоди правам та інтересам фізичних осіб) тощо.

Результати дослідження дозволяють стверджувати, що для автоматизованого ухвалення рішень як правової категорії необхідно сформувати окремий правовий режим, першоосновою якого мають стати відповідні принципи. На нашу думку, правове регулювання автоматизованого ухвалення рішень повинно мати комплексний характер і враховувати як специфіку різних технічних засобів і технологій, так і галузеві особливості. Наприклад, у сфері державного управління ключовим є аспект реалізації владних повноважень, а в охороні здоров’я висока ціна помилки зумовлює необхідність верифікації лікарем діагнозу, встановленого за допомогою автоматизованої системи.

Відзначаємо, що в контексті гармонізації українського права з правом ЄС слід вдосконалити окремі положення національного законодавства щодо захисту персональних даних (ст. 8 Закону України «Про захист персональних даних»^[35]), насамперед у частині надання певних прав фізичним особам, інтересів яких можуть стосуватися ухвалені рішення (Загальний регламент про захист даних та Директива 2016/680), а також обмеження або навіть заборони систем штучного інтелекту, які становлять високий чи неприйнятний ризик, наприклад, для соціального скорингу (Закон ЄС про штучний інтелект).