В Україні правове регулювання ШІ перебуває на початковому етапі. Першим кроком стало прийняття Міністерством цифрової трансформації Білої книги (червень 2024 року). Документ рекомендує бізнесу етичне та безпечне впровадження ШІ.
Європейський Союз вже врегулював ШІ. Європейський парламент спільно з Радою ЄС прийняв Регуляторний акт зі штучного інтелекту. Він встановлює правила використання ШІ для безпеки, етики та прозорості його застосування.
На що слід звернути увагу при впровадженні ШІ в Україні зараз? Які ризики можуть виникнути під час інтеграції нових технологій? Ми сформували п’ять ключових порад для безпечного впровадження ШІ.
1. Впровадьте Політику захисту і використання конфіденційних даних та розробляйте закриті платформи
ШІ потребує величезних обсягів даних для навчання та ефективної роботи, які повинні бути захищені від випадкового розповсюдження. Це створює проблеми з конфіденційністю даних, які:
- охороняються GDPR (General Data Protection Regulation)
- зібрані бізнесом та передані для обробки ШІ або самостійно зібрані ШІ, але згодом стали публічними (без санкціонованого дозволу)
- містять комерційну, банківську та інші таємниці.
Такі дані належать до категорій, що охороняються законом, зокрема GDPR, а також іншими нормами захисту конфіденційності. У випадку неправильного використання або розголошення без дозволу, відповідальність нестиме бізнес. Це призведе до юридичних наслідків, зокрема до претензій від власників інформації, що веде до штрафів, втрати репутації та довіри клієнтів.
Для захисту цих даних створюйте закриті платформи. Використання таких платформ надасть захист від несанкціонованого доступу до інформації про ваших Клієнтів та споживачів. Навіть з боку розробників ШІ. Це дозволить зберегти контроль над персональними, корпоративними даними та запобігти витоку інформації.
2. Не допускайте упередженості та дискримінації при генеруванні об’єктів ШІ
Штучний інтелект не має «морального компаса», що може призвести до упереджених результатів і дискримінації, створюючи критичні ризики.
Алгоритми, навчені на історично упереджених даних, можуть зберегти або навіть посилити такі упередження (наприклад, гендерне або расове). Це може призвести до несправедливого ставлення зі сторони ШІ до певних соціальних груп (при автоматизованому прийомі на роботу, наданні кредитів тощо). ШІ може автоматично віддавати перевагу певній групі осіб.
Ось приклад із США, де використовується система COMPAS для оцінки ризику рецидиву серед злочинців. Система помилково встановила, що афроамериканці частіше вчиняють повторні злочини, ніж білі. Це стало приводом для серйозної критики щодо расової упередженості в алгоритмах.
3. Проводьте double-check результатів ШІ для уникнення репутаційних та юридичних ризиків
Гострою проблемою в роботі ШІ є помилки джерел та точності інформації. Причина — більшість застосунків ШІ є непрозорими та не піддаються верифікації.
Це призводить до численних неточностей та «галюцинацій» (явище, коли моделі ШІ вигадують факти). Ось кілька яскравих прикладів:
- Google Bard створив «галюцинації» у галузі астрономії, що призвело до критики з боку астрофізика Ґранта Тремблея: «ШІ мають тенденцію впевнено викладати невірну інформацію»
- Чат-бот Microsoft Bing не зміг відрізнити фінансові дані під час порівняння характеристик пилососів. Це призвело до помилок, які потрібно було виправляти вручну
- ChatGPT вигадував неіснуючі судові справи. Зокрема, у США адвокат використав ChatGPT, готуючи позов проти авіакомпанії, та отримав понад 10 неіснуючих судових кейсів. Коли адвокат попросив програму перевірити їх достовірність, ChatGPT підтвердив свою вигадану інформацію.
Відсутність системи перевірки даних, згенерованих ШІ, призведе до створення помилкового продукту.
4. Слідкуйте за правами інтелектуальної власності під час генерування об’єктів ШІ
Використання чужої інтелектуальної власності у системах ШІ без належного дозволу створює критичні репутаційні та юридичні ризики. Це може стосуватися:
- Використання чужих патентів, торгових марок або авторських прав без дозволу.
- Генерації продуктів ШІ, при створенні яких використовували об’єкти чужої інтелектуальної власності.
Це призведе до позовів, заборон використання продуктів, створених ШІ, штрафів тощо. Доказом є численні позови правовласників об’єктів інтелектуальної власності проти розробників генеративного ШІ. Вони звинувачують розробників в незаконному використанні їх матеріалів для тренування моделей без дозволу чи оплати. Яскравими прикладами є позови New York Times проти OpenAI, Universal Music Group проти Anthropic у США та Getty Images проти Stability AI у Великій Британії.
Важливо ретельно перевіряти джерела даних і забезпечити належні ліцензії на використання інтелектуальної власності в ШІ-моделях.
5. Переконайтесь, чи дозволяє держава вашій індустрії використання ШІ
У деяких індустріях (медицина, юриспруденція, торгівля цінними паперами, банківська діяльність) закон вимагає відповідних дозволів, ліцензій та сертифікатів. Ця вимога стосується як бізнесу в цілому, так і його посадових осіб.
Передавати функцію створення продукту з цих сфер на ШІ заборонено — його можна використовувати лише як допоміжний інструмент під контролем людини.
Розглянемо приклад — рішення Кредитного комітету банку щодо надання або відмови в кредитах. ШІ може ефективно підготувати проект такого рішення, обробляючи великі обсяги даних, аналізуючи фінансові показники, кредитну історію та ризики. Він може запропонувати більш точні дані, ніж людина. Незважаючи на ці переваги, закон передбачає, що кінцеве рішення має приймати саме людина.
До речі, GDPR вимагає, щоб рішення, що впливають на права фізичних осіб (як, наприклад, відмова у кредиті), були перевірені людиною. Це означає, що алгоритми ШІ у банківських процесах, не можуть бути єдиним інструментом, що визначає результат.
Отже, за даними The Economist акції компаній-розробників ШІ падають, інвестори сумніваються у його прибутковості. На думку дослідників, він проходить класичний «hype cycle». Однак, ми переконані, що вже в найближчі роки ШІ стане драйвером інновацій і проникне в усі сфери бізнесу. Це створює не лише етичні виклики, а й ставить перед бізнесом і державою завдання ефективного регулювання ШІ.
