Коротка відповідь

Код, згенерований штучним інтелектом (AI), необхідно розглядати як потенційно небезпечний до проходження відповідних перевірок. Навіть якщо програмний код коректно виконує поставлені завдання, це не гарантує його безпеки.

Перед упровадженням такого коду в робочу систему необхідно проводити експертну перевірку (code review), автоматизоване тестування безпеки та аналіз використовуваних бібліотек і залежностей на наявність відомих вразливостей.

AI дозволяє значно прискорити розробку програмного забезпечення, однак збільшення обсягу генерованого коду без належного контролю може підвищувати ризики виникнення вразливостей. Тому відповідальність за якість, безпеку й надійність програмного продукту має залишатися за кваліфікованими інженерами.

Нещодавно інтернет сколихнули новини про критичні вразливості в PHP та Node.js, знайдені за допомогою AI. Але є інший бік цієї історії, про який говорять значно менше - безпека коду, згенерованого тим самим AI.

Свіжий звіт Veracode за 2026 рік показав цікаві цифри:

  1. 44% завдань генерації коду завершилися створенням коду з виявленими вразливостями.
  2. У 2023 році моделі проходили 55% перевірок безпеки. У 2026 — 56%.

У тестах на SQL Injection моделі проходили 83% перевірок. А от із XSS — лише 15%.

Тобто, попри прогрес у можливостях генерації коду, наведені результати Veracode не демонструють покращення його безпеки.

Чому AI може знаходити вразливості й водночас створювати їх?

Тому що здатність знайти вразливість і здатність гарантовано не створити її -  це два різні завдання.

LLM може знати, як виглядає безпечний код, але це не означає, що кожна його генерація відповідатиме цим знанням.

І тут ми підходимо до проблеми, яка турбує найбільше - масштаб.

Створення якісного повноцінного програмного продукту досі вимагає інженерних знань, досвіду та витрат часу. Але завдяки новим технологіям людина без розуміння базових принципів розробки може за допомогою AI створити застосунок, підключити базу даних, авторизацію, платіжну систему та викласти все це в інтернет. І таких продуктів дедалі стає все більше.

Програмісти також помиляються.

Ви скажете, що програмісти також допускають помилки і не всі повноцінно розуміються в безпеці, і будете цілком праві. Проблема безпеки існувала і до активного використання генеративного AI, але в індустрії програмування існує певна ієрархія фахівців, і задачі які пов’язані з безпекою даних та потенційно уразливими компонентами будь-якої системи у досвідчених командах розробників завжди перекладається на більш досвідчених фахівців, а в великих компаніях взагалі існує роль Security Engineer. І ще потрібно враховувати один основний момент: людина не може за короткий проміжок часу написати стільки коду скільки це може зробити генеративний штучний інтелект. Це знов повертає нас до проблеми масштабу, про яку я писав вище, бо працює просте правило: більше неконтрольованого коду - висока вірогідність отримати більше потенційно небезпечних місць.

Що буде далі?

Паралельно розвиваються відкриті AI-моделі, автономні агенти та інструменти автоматизованого пошуку вразливостей. І ці технології доступні не лише спеціалістам із кібербезпеки, а й потенційним зловмисникам. Тобто швидкість пошуку вразливостей та їх використання стала неймовірно високою і це створює нові загрози.

Чи не відкриваємо ми таким чином «скриньку Пандори»?

Під загрозою опиняються насамперед персональні, фінансові та інші чутливі дані. Для компаній, які працюють в ЄС, це також створює ризики порушення вимог GDPR та значних фінансових наслідків.

Що з цим робити?

Я повністю погоджуюсь із тим, що радить Veracode: розглядати код, створений за допомогою ШІ, як потенційно небезпечний і обов’язково перевіряти його перед інтеграцією в основний проект. Зокрема, необхідно аналізувати як сам згенерований код, так і його залежності на наявність вразливостей. Результати тестування підтверджують, що швидке створення працездатного коду не гарантує його безпеки, адже стандартні функціональні тести можуть не виявляти прихованих загроз.

Висновки

Перевірка коду, автоматизовані перевірки безпеки, аудит залежностей та використання LLM як додаткового інструменту аналізу - це базовий мінімум для живих проектів, які доступні в мережі Інтернет та розроблені за допомогою GenAI.

Оновлено:

Стаття була корисною?

3 вподобання
← До всіх статей