Класифікація ризиків ШІ

Що таке Класифікація ризиків ШІ?

Регламент ЄС про ШІ поділяє системи на чотири рівні, і від рівня залежать обов'язки. Якщо класифікувати неправильно, можна запустити те, що заборонено, або місяцями виконувати вимоги, яких система мінімального ризику не потребує. Ви класифікуватимете реальні випадки використання за рівнями: що заборонено повністю, що належить до високого ризику й має суворі обов'язки, що потребує лише прозорості, а що можна запускати вільно.

Що ви дізнаєтесь у Класифікація ризиків ШІ

• Розпізнавайте чотири рівні ризику, які визначає Регламент ЄС про ШІ
• Класифікуйте системи ШІ за правильним рівнем ризику залежно від їхніх функцій і впливу
• Розпізнавайте заборонені практики ШІ за статтею 5
• Орієнтуйтеся в категоріях високого ризику з додатка III, зокрема у сферах трудових відносин і кредитоспроможності
• Розрізняйте вимоги щодо прозорості для систем обмеженого ризику та вимоги до систем високого ризику

Класифікація ризиків ШІ — Кроки навчання

1. Чотири рівні ризику

   Регламент ЄС про штучний інтелект (AI Act) ґрунтується на ризик-орієнтованому підході, який зазвичай описують як чотири рівні ризику, і від класифікації залежить усе подальше: Неприйнятний ризик (заборонено) — практики ШІ, які забороняє стаття 5. Їх не можна вводити в обіг, вводити в експлуатацію чи використовувати в ЄС, за винятком вузьких випадків, які передбачає ця стаття. Високий ризик — системи ШІ в чутливих сферах, як-от трудові відносини, кредитний скоринг і правоохоронна діяльність. Вони дозволені, але на них поширюються суворі обов'язки з дотримання вимог. Обмежений ризик — системи ШІ, що взаємодіють з людьми. Головний обов'язок — прозорість: користувачі мають знати, що спілкуються зі ШІ. Мінімальний ризик — переважна більшість систем ШІ. Окремих обов'язків немає, крім загальних, як-от грамотність у галузі ШІ.

2. Лист від директорки з комплаєнсу

   Надходить лист від директорки з комплаєнсу з терміновим завданням: класифікувати системи ШІ.

3. Відкрийте портал оцінювання

   Аліса натискає посилання в листі й відкриває портал Velox GRC, де на класифікацію чекають шість систем ШІ.

4. Перегляньте довідку про рівні ризику

   На головній сторінці порталу коротко описано чотири рівні ризику, за якими Аліса класифікуватиме кожну систему ШІ. Кожен рівень має свої обов'язки, тож від правильної класифікації залежить, що доведеться робити далі.

5. Почніть оцінювання

   Щоб почати класифікацію, Аліса має увійти на портал GRC зі своїми обліковими даними Velox.

6. Вхід на портал GRC

   Аліса входить із корпоративними обліковими даними. Після автентифікації портал завантажує шість систем ШІ, які чекають на класифікацію.

7. Випадок 1: спам-фільтр електронної пошти

   Перша система ШІ для класифікації — спам-фільтр електронної пошти. Це система машинного навчання, яка за змістом листів і репутацією відправника розпізнає спам і відфільтровує його.

8. Випадок 2: інструмент відсіювання резюме

   Наступна система оцінює й ранжує резюме претендентів на посаду та автоматично відсіває кандидатів ще до того, як їх побачить людина.

9. Випадок 3: монітор емоцій працівників

   Ця система за відео з вебкамери та тоном голосу під час дзвінків робить висновки про емоції кожного працівника (стрес, роздратування, залученість). Щотижня керівники отримують для кожного працівника показник залученості, і ці показники враховують під час оцінювання роботи. Монітор емоцій працівників — одна з тих систем, які здаються розумним інструментом керування, але за Регламентом ЄС про ШІ переступають межу, яку встановлює закон.

10. Чому монітор емоцій заборонено