Повідомлення про інциденти ШІ

Що таке Повідомлення про інциденти ШІ?

Стаття 73 Регламенту ЄС про штучний інтелект (AI Act) зобов'язує постачальників систем ШІ високого ризику повідомляти органи ринкового нагляду про серйозні інциденти у жорстких строках, а розгортачі (deployers) мають поінформувати постачальника й орган. Ви розслідуєте роботу системи онбордингу клієнтів на основі ШІ, яка відхиляє заявників з окремих регіонів, визначаєте, чи досягає ця аномалія порогу серйозного інциденту за статтею 73, локалізуєте шкоду, подаєте звіт і не піддаєтеся тиску вендора, який вимагає зволікати.

Що ви дізнаєтесь у Повідомлення про інциденти ШІ

• Розпізнавайте, що за Регламентом ЄС про ШІ є «серйозним інцидентом» і коли стаття 73 вимагає повідомляти про нього
• Застосовуйте правильний порядок дій: локалізувати, розслідувати/повідомити, усунути наслідки
• Орієнтуйтеся у строках повідомлення, що діють для постачальників і розгортачів систем ШІ високого ризику
• Розпізнавайте тиск із вимогою відкласти обов'язкове повідомлення про інцидент і протидійте йому
• Точно документуйте інциденти ШІ для подання органам ринкового нагляду

Повідомлення про інциденти ШІ — Кроки навчання

1. Стаття 73: повідомлення про серйозні інциденти

   Згідно зі статтею 73 Регламенту ЄС про ШІ постачальники високоризикових систем ШІ мають повідомляти відповідний орган ринкового нагляду про «серйозні інциденти», а розгортачі — інформувати постачальника й орган (стаття 26(5)). Стаття 3(49) визначає серйозний інцидент як інцидент або збій у роботі, що прямо чи опосередковано призводить до смерті чи серйозної шкоди здоров'ю, серйозного й незворотного порушення роботи критичної інфраструктури, порушення обов'язків за правом Союзу, спрямованих на захист основоположних прав, або серйозної шкоди майну чи довкіллю. Строки повідомлення жорсткі, а в постачальників і розгортачів різні обов'язки. Сьогодні одна із систем ШІ вашої компанії створила саме таку ситуацію.

2. Термінова ескалація від підтримки

   Аліса отримує терміновий лист від служби підтримки клієнтів. Колеги помітили тривожну закономірність у роботі системи OnboardAI — інструмента компанії на основі ШІ для онбордингу клієнтів.

3. Перевірка панелі ШІ

   Аліса відкриває панель моніторингу ШІ, щоб підтвердити аномалію точними даними. На панелі зібрано показники всіх систем ШІ: рівень схвалення, сповіщення й операційні витрати.

4. Підтвердження аномалії

   Панель підтверджує те, про що повідомила служба підтримки клієнтів. Критичне сповіщення показує чітку системну закономірність: система OnboardAI дискримінує заявників залежно від регіону.

5. Чи потрібно повідомляти про цей інцидент?

6. Негайна локалізація

   Дані однозначні. Тепер Аліса має визначити, чи досягає це порогу «серйозного інциденту» за статтею 3(49). Так, досягає. Системна дискримінація, через яку страждають 230 заявників, — це можливе порушення права не зазнавати дискримінації, а це основоположне право, яке захищає право ЄС. Ось чому про це треба повідомляти: Системна закономірність. Це не випадкова помилка: рівень схвалення стабільно 0% (відмови — 100%) протягом 7 днів Вплив на основоположні права. Право не зазнавати дискримінації належить до захищених основоположних прав Значний масштаб. 230 осіб не отримали доступу до послуг через свій регіон Шкода триває. Система й зараз відхиляє заявки Згідно зі статтею 3(49) серйозний інцидент — це, зокрема, інцидент або збій у роботі, що прямо чи опосередковано призводить до порушення обов'язків за правом Союзу, спрямованих на захист основоположних прав. Регіональна дискримінація в доступі до послуг цьому однозначно відповідає. Перш ніж шукати першопричину чи подавати офіційний звіт, треба насамперед локалізувати інцидент. Система OnboardAI просто зараз продовжує відхиляти заявки із цих регіонів. На панелі ШІ Аліса зупиняє систему OnboardAI і переводить усі заявки з усіх трьох регіонів на ручну обробку. Жодних автоматичних рішень, доки систему не перевірять і не визнають безпечною. Правильний порядок дій такий: спершу локалізувати , потім розслідувати й повідомляти. Не можна чекати на аналіз першопричини, перш ніж зупинити шкоду, що триває.

7. Вхід на портал інцидентів

   Після локалізації Аліса відкриває внутрішній портал повідомлень про інциденти. Доступ мають лише уповноважені працівники відділу операцій, тому перед поданням звіту вона входить із корпоративними обліковими даними.

8. Звіт про інцидент

   Аліса заповнює звіт про інцидент: вносить факти, які підтвердила служба підтримки, і заходи з локалізації, які вже вжив відділ операцій. Звіт потрапить до відділу комплаєнсу, а той передасть його органу ринкового нагляду.

9. Навіщо потрібен кожен розділ

   Тепер звіт належить до офіційної документації. Кожен розділ має своє призначення для відділу комплаєнсу й органу ринкового нагляду.

10. Строки повідомлення

    Звіт подано всередині компанії. Тепер починають спливати юридичні строки. Згідно зі статтею 73 постачальники високоризикових систем ШІ мають повідомляти орган ринкового нагляду про серйозні інциденти: негайно , щойно постачальник встановив причинно-наслідковий зв'язок між системою ШІ та інцидентом або обґрунтовану ймовірність такого зв'язку не пізніше ніж через 15 днів після того, як про серйозний інцидент дізнався постачальник або, якщо йдеться про нього, розгортач швидше в найтяжчих випадках: не пізніше ніж через 2 дні — у разі широкомасштабного порушення чи серйозного й незворотного порушення роботи критичної інфраструктури, і не пізніше ніж через 10 днів, якщо людина померла Розгортачі мають негайно повідомити постачальника, а потім орган ринкового нагляду (стаття 26(5)). І постачальники, і розгортачі повинні повною мірою співпрацювати під час будь-якого подальшого розслідування, яке проводять органи влади. Компанія SynapseAI розгортає OnboardAI, але не розробляла цю систему: її постачальник — вендор OnboardAI. SynapseAI має негайно повідомити постачальника, щоб він міг виконати власні обов'язки щодо повідомлення.