Як захистити системи зі штучним інтелектом: Держспецзв’язку представила нові рекомендації

Держспецзв’язку затвердила рекомендації з кіберзахисту інформаційно-комунікаційних систем, які використовують технології штучного інтелекту. Документ містить опис основних кіберзагроз для систем ШІ – від атак на ланцюги постачання до «промпт-ін’єкцій» – та практичні заходи для їхнього виявлення і нейтралізації

1

5


Держспецзв’язку затвердила рекомендації з кіберзахисту інформаційно-комунікаційних систем (ІКС), які використовують технології штучного інтелекту (ШІ).


Відповідний наказ від 23.02.2026 №154 видано на виконання плану заходів з реалізації Концепції розвитку штучного інтелекту в Україні на 2025 – 2026 роки, ухваленої Урядом.


Документ розроблено як практичний орієнтир для власників та розпорядників державних і приватних інформаційних, електронних комунікаційних та технологічних систем. Рекомендації мають добровільний характер і призначені для використання під час розробки планів кіберзахисту та оцінки ризиків при впровадженні технологій ШІ.


Документ пропонує комплексний підхід до безпечного впровадження ШІ та деталізує таксономію специфічних кіберзагроз, характерних саме для таких систем, а також кроки для їх нейтралізації.


Серед ключових векторів загроз, які розглядаються в рекомендаціях:


  1. атаки на ланцюги постачання технологій ШІ (компрометація ПЗ, апаратного забезпечення або API);
  2. «отруєння» даних та моделей ШІ (навмисне внесення спотворених даних до навчальної вибірки для погіршення роботи системи);
  3. змагальні атаки (створення спеціальних вхідних даних для провокування помилкових рішень ШІ);
  4. атаки типу «промпт-ін’єкція» (введення маніпулятивних запитів для обходу механізмів захисту та витоку даних);
  5. інверсія та крадіжка моделі ШІ (отримання несанкціонованого доступу до внутрішньої структури, навчальних даних або створення копій моделі).


Для кожної із загроз фахівці Держспецзв’язку розробили перелік дієвих заходів з кіберзахисту. Серед них:


  1. упровадження методу суперечливого навчання (своєрідне «щеплення» для ШІ, коли його навмисно тренують на спотворених даних, щоб виробити стійкість до хакерського обману);
  2. використання федеративного навчання (підхід, за якого ШІ навчається локально на пристроях користувачів, не передаючи їхні особисті дані на центральні сервери);
  3. забезпечення диференціальної конфіденційності (математичний захист, який унеможливлює витягнення даних конкретної людини із загального масиву інформації);
  4. жорстка фільтрація вхідних запитів, постійний моніторинг аномалій та забезпечення високої якості (релевантності) наборів даних.
Також в рекомендаціях наголошується на необхідності інтеграції управління ризиками ШІ у загальну систему кібербезпеки організацій з використанням передових міжнародних стандартів, таких як ISO/IEC 23894:2023, ISO/IEC 42001:2023 та профільних фреймворків NIST

Використання цих рекомендацій допоможе українським установам та організаціям безпечно інтегрувати інноваційні технології, уникаючи специфічних вразливостей та захищаючи критично важливі дані від новітніх векторів кібератак.


Джерело: Урядовий портал


Читайте більше:


З 14 березня 2026 діятимуть нові форми заяв для КЕП

Перелік забороненого ПЗ: відповіді на поширені запитання

Пошук судових рішень без зайвих витрат часу: корисні лайфхаки

Держфінмоніторинг дав нові рекомендації для суб’єктів фінмоніторингу

Державний реєстр речових прав отримав нову функцію: адреса без назви вулиці

✨ Новинка! Унікальний сервіс – АІ-Консультант для бухгалтера! Ознайомтесь із його можливостями вже зараз за посиланням
Матеріали на сайті https://7eminar.ua можуть містити роз’яснення державних органів та погляди зовнішніх авторів. Їхній зміст не завжди збігається з позицією редакції. Кожна публікація відображає особисту думку автора. Редакція не редагує авторські тексти і не несе відповідальності за їх зміст.
1

5

Отримуйте щодня свіжі новини та корисні подарунки 🎁👇

1

1

1

2

1

7

1

4

1

4

1

5

1

11

1

6

1

5

6

5090

1

3

1

6

8

12776

1

4

5

2184

2

28

2

21

7

993

3

10