Дієвий людський нагляд

Що таке Дієвий людський нагляд?

Людський нагляд має значення лише тоді, коли людина справді може скасувати рішення машини. Схвалювати все, що запропонує модель, — це не нагляд, і Регламент ЄС про штучний інтелект (AI Act) прямо це зазначає. Ви розглядатимете рекомендації ШІ щодо кредитів у ролі кредитного аналітика, помітите, де упередженість автоматизації підштовхує погодитися, і відпрацюєте самостійне рішення. Після вправи ви зможете відрізняти справжній нагляд від механічного штампування.

Що ви дізнаєтесь у Дієвий людський нагляд

• Зрозумійте, чого вимагають статті 14 і 26 AI Act від дієвого людського нагляду
• Розпізнавайте упередженість автоматизації під час розгляду рекомендацій ШІ й протидійте їй
• Визначайте, коли докази, що суперечать рішенню ШІ, вимагають його скасувати
• Оцінюйте кожну рекомендацію ШІ незалежно від його попередньої точності
• Користуйтеся повноваженням досліджувати рішення ШІ, скасовувати їх або передавати на вищий рівень

Дієвий людський нагляд — Кроки навчання

1. Статті 14 і 26: людський нагляд

   Регламент ЄС про ШІ вимагає, щоб системи ШІ високого ризику мали дієвий людський нагляд. Статті 14 і 26 вимагають від того, хто здійснює нагляд, трьох речей: Ви повинні бути компетентними : мати підготовку, щоб розуміти, на що здатна система ШІ і які в неї обмеження. Ви маєте повноваження скасовувати рішення ШІ, коли для цього є підстави. Ви повинні виносити незалежне судження про кожен випадок, а не просто підтверджувати рекомендацію ШІ. Головна загроза дієвому нагляду — упередженість автоматизації : схильність надмірно покладатися на рекомендації ШІ, бо вони видаються авторитетними. Регламент очікує від тих, хто здійснює нагляд, що вони пам'ятатимуть про цю схильність (стаття 14(4)(b)). Оцінювання бізнес-кредитів саме по собі не належить до систем ШІ високого ризику з додатка III: цей перелік стосується кредитоспроможності фізичних осіб (пункт 5(b)). Atlas усе одно застосовує вимоги статей 14 і 26 до кожного кредитного рішення — така політика компанії.

2. Ранкова партія

   Аліса влаштовується в домашньому офісі. У листі від керівника команди Деніела Рейеса — план роботи на день.

3. Повторення настанов щодо нагляду

   За посиланням від Деніела Аліса потрапляє на навчальний портал компанії Atlas Financial Services. На сторінці «Настанови щодо людського нагляду» пояснено, чого від Аліси вимагає дієвий нагляд згідно зі статтями 14 і 26 під час кожного розгляду.

4. Відкриття черги схвалення

   Аліса відкриває чергу схвалення на лівому моніторі. Там чекають п'ять заявок на кредит, і до кожної додано рекомендацію ШІ та показник упевненості.

5. Випадок 1: Meridian Logistics

   Перша заявка — від Meridian Logistics, бізнес-кредит на 150 000 євро. ШІ рекомендує схвалити з упевненістю 95%.

6. Серія схвалень зростає

   Ще два звичайні випадки надходять один за одним. Harrington & Cole — юридична фірма, що працює вже 18 років, просить 45 000 євро на офісне обладнання (упевненість ШІ — 94%). Briarwood Construction — фірма, що працює дев'ять років, просить 280 000 євро проміжного фінансування під державний контракт (упевненість ШІ — 97%, кредит повністю забезпечений заставою).

7. Випадок 4: NovaPeak Digital

   NovaPeak Digital Ltd. просить кредит на розширення — 500 000 євро . ШІ рекомендує схвалити з упевненістю 88% .

8. Проміжна перевірка: пастка серії

9. Випадок 5: GreenLeaf Community Services

   Остання заявка — від GreenLeaf Community Services, організації, що працює вже 3 роки і просить 75 000 євро. Цього разу ШІ з упевненістю 78% рекомендує ВІДХИЛИТИ .

10. Проміжна перевірка: скасування рекомендації ШІ