IT-інженер Никита Кузнецов про штучний інтелект і сучасні технології
IT-інженер Никита Кузнецов дивиться на штучний інтелект без захоплень «технологічною революцією» і без прогнозів про швидке зникнення професій. Його цікавить практичніше питання: що вже змінилося в роботі інженера, які завдання можна передати нейромережі і чому разом із можливостями зростає відповідальність людини.
Ще недавно нейромережа залишалася допоміжним інструментом. Вона могла написати чернетку, пояснити фрагмент коду, допомогти з документацією або запропонувати кілька варіантів рішення. Основну роботу виконував людина.
За словами Никити Кузнецова, зараз ця межа поступово зникає.
«Ми перебуваємо в точці, коли нейромережа перестає бути просто надбудовою і стає повноцінним співавтором технічних рішень, здатним аналізувати обсяги даних, непосильні для людського сприйняття за короткий час».
Різниця суттєва. Тепер моделі можна віддати не лише конкретне доручення, а й великий масив вихідної інформації: технічні логи, історію звернень користувачів, документацію, результати тестування, фрагменти коду, описи помилок і внутрішні інструкції.
Людина фізично не здатна за кілька хвилин уважно вивчити десятки тисяч записів. Нейромережа може швидко зробити перший прохід: згрупувати схожі помилки, знайти повторювані події, зіставити скарги користувачів із технічними збоями, виділити аномалії та запропонувати можливі причини проблеми.
Але Никита Кузнецов підкреслює принципову межу: знайдена моделлю закономірність ще не є доведеною причиною. Нейромережа здатна неправильно зрозуміти контекст або видати переконливе, але помилкове пояснення. Тому ШІ скорочує шлях від проблеми до гіпотези, але перевіряти цю гіпотезу все одно має фахівець.
Никита Кузнецов про нейромережу як підсилювач людини
Кузнецов не розглядає ШІ як просту заміну фахівцеві. «Важливо розуміти, що нейромережі — це не заміна людині, а найпотужніший мультиплікатор наших здібностей, який потребує грамотного управління та етичного контролю».
Досвідчений інженер за допомогою моделі може швидше аналізувати проблему, розбиратися в незнайомому коді, працювати з документацією, готувати тести, шукати помилки та будувати прототипи.
Але той самий принцип працює і у зворотний бік. Нейромережа дозволяє швидше створювати не лише хороші рішення, а й помилки.
Це особливо помітно у програмуванні. Модель здатна за секунди написати акуратний і переконливий на вигляд код. Він може чудово працювати в демонстрації, але зовсім інакше поводитися під навантаженням або за несподіваної відповіді зовнішнього сервісу.
Код може містити вразливість, неправильно працювати з даними користувачів або ламатися у сценарії, якого не було у вихідному запиті.
Тому, вважає Никита Кузнецов, чим простіше стає генерувати код, тим важливішою є здатність інженера розуміти архітектуру, обмеження системи та наслідки конкретного рішення.
Чим більше можливостей отримує ШІ, тим дорожча його помилка
Для Кузнецова особливо важлива ціна помилки. Якщо модель запропонувала поганий заголовок або невдало сформулювала лист, результат можна просто виправити. Але ситуація змінюється, коли нейромережа отримує можливість здійснювати реальні дії.
Одна справа — підготувати відповідь клієнту. Інша — самостійно її надіслати. Ще серйозніше, якщо система може змінювати дані, керувати доступом, виконувати команди або проводити операції з грошима.
Тому управління ШІ для Никити Кузнецова — цілком конкретне інженерне завдання.
Які дані бачить модель? Які дії їй дозволені? Де потрібне підтвердження людини? Чи зберігається історія операцій? Чи можна скасувати дію або швидко зупинити систему?
Чим вища ціна помилки, тим жорсткішими мають бути обмеження.
Никита Кузнецов про ШІ-агентів
Особливо це стосується ШІ-агентів, які здатні не лише відповідати, а й діяти.
Такий агент може прочитати лист, знайти клієнта в CRM, перевірити історію взаємодії, підготувати відповідь, змінити статус угоди та створити нове завдання співробітнику.
Це дозволяє однією командою замінити цілий ланцюжок ручних операцій. Але разом з ефективністю різко зростає ризик.
Якщо звичайний чат-бот помилився, користувач отримав неправильну відповідь. Якщо агент помилився після отримання доступу до корпоративної системи, наслідки можуть бути набагато серйознішими.
Тому, за логікою Никити Кузнецова, хороший агент — не той, якому дозволили все. Він має отримувати лише ті права, які необхідні для конкретного завдання.
Якщо системі потрібно читати календар, їй необов’язково дозволяти видаляти зустрічі. Якщо агент готує фінансову операцію, остаточне підтвердження може залишатися за людиною.
Відповідальність усе одно залишається за людиною
Фраза «це зробила нейромережа» не знімає відповідальності з людини або компанії, які вбудували її в продукт.
Модель сама не вирішує, які дані їй надати і які повноваження отримати. Ці межі визначають розробники та власники системи.
Тому Никита Кузнецов розглядає впровадження ШІ не як зникнення відповідальності, а як її зміну. Раніше фахівець безпосередньо виконував дію. Тепер він дедалі частіше визначає правила, за якими система може виконувати цю дію автоматично.
Причому помилка в таких правилах іноді небезпечніша за одну людську помилку: автоматизована система здатна повторити її тисячі разів.
Никита Кузнецов про сервіс, який не можна просто запустити й забути
Розмову про штучний інтелект Кузнецов пов’язує і з ширшою проблемою сучасної розробки — стійкістю продуктів.
«Ми намагаємося думати про сервіс як про живу структуру. Його параметри змінюються, і наше завдання — забезпечити стійкість до цих змін».
Після запуску продукт постійно змінюється разом із навколишнім середовищем. Приходять нові користувачі, зростає база даних, збільшується навантаження, з’являються нові функції, оновлюються зовнішні сервіси та змінюється поведінка аудиторії.
Те, що чудово працювало на тисячі користувачів, не обов’язково витримає сто тисяч.
Тому Никита Кузнецов вважає помилкою сприймати працюючий прототип як готовий продукт.
Демо можна зібрати швидко. Справжня перевірка починається після того, як сервіс потрапляє до реальних людей.
Іноді продукт ламає саме успіх
Невеликий сервіс може місяцями стабільно працювати за невеликої аудиторії. Потім продукт набуває популярності, кількість запитів різко збільшується — і назовні виходять проблеми, які раніше просто не були помітні.
База перестає справлятися з кількістю звернень. Зовнішній API впирається в ліміти. Черга завдань зростає. Модель починає відповідати повільніше. Користувачі повторюють запити й ще сильніше збільшують навантаження.
Тому для Никити Кузнецова масштабування — це не просто додавання серверів.
Потрібно розуміти, де знаходиться вузьке місце, які компоненти можна масштабувати, що станеться у разі відмови зовнішнього постачальника і які функції можна тимчасово обмежити, щоб зберегти роботу основної частини сервісу.
Система має дізнатися про проблему раніше за користувача
Окрему увагу Никита Кузнецов приділяє спостереженню за працюючим продуктом.
Якщо першим про проблему повідомляє користувач, значить, команда вже запізнилася.
Розробники мають бачити зростання часу відповіді, кількість помилок, навантаження на базу, переповнення черг і збої зовнішніх сервісів до того, як проблема стане масовою.
Для ШІ-продуктів з’являється ще один рівень контролю: потрібно стежити не лише за серверами, а й за самою моделлю.
Скільки часу займає відповідь? Скільки коштує користувацький сценарій? Як часто доводиться повторювати запит? У яких завданнях модель систематично помиляється?
Сервіс може технічно працювати бездоганно і водночас видавати користувачеві поганий результат. Тому справний сервер ще не означає справний продукт.
Никита Кузнецов: уміти користуватися ШІ — це вже не про хороший промпт
На думку Кузнецова, уміння працювати зі штучним інтелектом не можна зводити до здатності правильно формулювати запити.
Для реального продукту інженер має розуміти весь контур: звідки надходять дані, що можна передавати моделі, де зберігається стан користувача, як захищаються ключі та персональна інформація, що відбувається за недоступності моделі і скільки коштує робота всієї системи.
Вартість особливо важлива після масштабування.
Поки сервісом користуються кілька людей, витрати на модель можуть бути майже непомітними. За тисяч або мільйонів запитів навіть невелика неефективність перетворюється на серйозні гроші.
Тому найпотужніша модель потрібна далеко не для кожної операції. Прості завдання іноді дешевше вирішити невеликою моделлю або звичайним алгоритмом, частину результатів можна кешувати, а складні й дорогі обчислення залишити лише для тих випадків, де вони справді необхідні.
Никита Кузнецов про персоналізацію
Та сама обережність стосується персоналізації. ШІ-сервіс може враховувати історію користувача, його попередні дії, уподобання або робочий контекст. Це здатне зробити продукт значно зручнішим.
Але чим більше система знає про людину, тим важливішими стають питання про дані.
Що саме зберігається? Навіщо? Хто має доступ? Як довго інформація зберігається? Чи може користувач видалити її або виправити неправильні відомості?
Для Никити Кузнецова хороша персоналізація полягає не в тому, щоб зібрати про людину максимум інформації. Вона має скорочувати шлях до корисного результату. Якщо додаткові дані не роблять сервіс кращим, їх зберігання створює зайвий ризик.
Роль інженера змінюється, але не зникає
Саме тут позиція Никити Кузнецова відрізняється від простого твердження про те, що нейромережа «почала писати код замість програміста». ШІ справді забирає частину рутинної роботи. Він допомагає швидше аналізувати дані, читати документацію, писати типовий код, готувати тести, шукати помилки та збирати прототипи.
Але разом із цим зростає значення рішень вищого рівня. Де зберігаються дані? Хто має до них доступ? Де знаходиться точка відмови? Що станеться зі зростанням навантаження? Як відновити систему після помилки? Скільки коштує її робота? Які дії можна довірити моделі, а які має підтверджувати людина?
Никита Кузнецов вважає, що саме ці питання дедалі сильніше визначають цінність сучасного інженера.
Нейромережа може швидше написати окремий фрагмент коду. Але вона не знімає з людини відповідальності за систему в цілому.
Нейромережа вже сидить за одним столом з інженером
Для Никити Кузнецова штучний інтелект перестав бути окремою технологічною іграшкою. Він поступово стає звичайною частиною інженерного процесу.
Нейромережі аналізують дані, допомагають розбирати код і документацію, пропонують рішення, знаходять закономірності, класифікують інформацію, а агентні системи вже здатні виконувати реальні дії.
Тому головне питання тепер не в тому, використовувати ШІ чи ні.
Набагато важливіше, як його вбудувати, які повноваження йому надати, де встановити обмеження і хто відповідатиме за результат.
Нейромережа здатна обробити за кілька хвилин обсяг інформації, на який людині знадобилися б години. Але швидкість не перетворює її висновок на істину.
Вона здатна написати код швидше за інженера, але не скасовує необхідності розуміти архітектуру.
Агент здатен самостійно виконати ланцюжок операцій, але можливість діяти ще не означає право діяти без контролю.
У цьому Никита Кузнецов і бачить головну зміну професії. Інженер дедалі частіше не виконує кожну операцію вручну, а будує систему, всередині якої частина інтелектуальної роботи виконується автоматично.
Чим самостійнішою стає нейромережа, тим важливішою є кваліфікація людини, яка визначає межі цієї самостійності.
Нейромережа справді вже сидить за одним столом з інженером. Вона аналізує ті самі дані, читає той самий код і пропонує свої варіанти. Але розуміння контексту, оцінка ризику, перевірка результату та відповідальність за наслідки, як і раніше, залишаються за людиною.
