Оцінка впливу на основоположні права

Що таке Оцінка впливу на основоположні права?

Дізнайтеся, як стаття 27 Регламенту ЄС про штучний інтелект (AI Act) зобов'язує органи публічної влади, приватні організації, що надають публічні послуги, і розгортачів, які використовують високоризикові системи ШІ для кредитного скорингу чи страхування, провести оцінку впливу на основоположні права до першого використання. Проведіть FRIA для системи, що автоматично оцінює право на допомогу на соціальне житло, і оцініть її вплив на недискримінацію, приватність, право на ефективний засіб юридичного захисту та людську гідність.

Що ви дізнаєтесь у Оцінка впливу на основоположні права

• Зрозумійте, коли і навіщо потрібна FRIA за статтею 27 Регламенту ЄС про ШІ
• Розрізняйте FRIA та оцінку впливу на захист даних (DPIA) за GDPR
• Визначайте всі категорії осіб, яких стосується високоризикова система ШІ
• Оцінюйте, які основоположні права зачіпає система ШІ, що ухвалює рішення про право на допомогу
• Визначайте відповідні заходи зі зменшення ризиків і плани моніторингу для постійного дотримання вимог

Оцінка впливу на основоположні права — Кроки навчання

1. Стаття 27: оцінка впливу на основоположні права

   Стаття 27 Регламенту ЄС про штучний інтелект (AI Act) зобов'язує деяких розгортачів систем ШІ високого ризику провести оцінку впливу на основоположні права (FRIA) до першого використання системи. Це органи публічної влади, приватні організації, що надають публічні послуги, а також розгортачі систем ШІ для кредитного скорингу або для страхування життя та здоров'я. Система допомоги на соціальне житло, яку CivicTech веде від імені муніципальних рад, потрапляє під цю вимогу: CivicTech надає публічну послугу, бо визначає право на державну допомогу (додаток III, пункт 5(a)), тож за статтею 27 компанія є розгортачем і мусить провести FRIA. FRIA розглядає, як система ШІ може вплинути на основоположні права: гідність, недискримінацію, приватність, свободу вираження поглядів і право на ефективний засіб юридичного захисту. FRIA відрізняється від оцінки впливу на захист даних (DPIA) за GDPR. DPIA стосується лише ризиків для захисту даних, а FRIA охоплює всі основоположні права. Для однієї системи можуть знадобитися обидві оцінки, і їх можна проводити разом.

2. Подробиці розгортання

   Надходить лист від Петри Новак, керівниці проєкту з розгортання системи ШІ для допомоги на соціальне житло. Вона надсилає дані, з яких Аліса почне FRIA.

3. Документ із настановами щодо FRIA

   Перш ніж почати оцінку, Аліса відкриває документ із настановами щодо FRIA, посилання на який є в листі Петри. У ньому пояснено кожен розділ оцінки, різницю між FRIA та DPIA і практичні поради, як ґрунтовно заповнити кожну частину.

4. Відкрийте форму FRIA

   Ознайомившись із настановами, Аліса натискає «Перейти до форми FRIA» і відкриває контрольний перелік FRIA: п'ять розділів, які охоплюють основні складники оцінки впливу на права.

5. Розділ 1: опис системи

   У першому розділі Аліса описує призначення системи ШІ, людей, яких вона стосується, і охоплення її розгортання. Для цієї системи це, зокрема: Заявники на допомогу — багато хто з них у скрутному фінансовому становищі, і рішення про право на допомогу впливають на них безпосередньо. Працівники з розгляду справ — вони спираються на рекомендації ШІ, ухвалюючи остаточні рішення. Родини заявників — вони залежать від допомоги на житло, якої домагається заявник. Система ухвалює рішення, що безпосередньо впливають на доступ до житла, а це базова потреба людини.

6. Перевірка розділу 1

7. Розділ 2: аналіз основоположних прав

   Це найважливіший розділ FRIA. Аліса має оцінити, на які основоположні права може вплинути система ШІ: Право на недискримінацію — ШІ може дискримінувати за складом сім'ї, національністю чи місцем проживання, використовуючи їх як проксі-змінні для захищених ознак. Право на приватність — система обробляє чутливі персональні дані, зокрема про доходи, зайнятість і сім'ю. Право на ефективний засіб юридичного захисту — заявники мають мати змогу оскаржити відмови, ухвалені ШІ, через зрозумілу й доступну процедуру оскарження. Право на людську гідність — автоматизовані рішення про доступ до житла зачіпають одну з основ життя людини та її гідність.

8. Перевірка розділу 2

9. Розділ 3: оцінка ризиків

   Аліса оцінює кожен вплив на права за тяжкістю та імовірністю. Відмова в доступі до житла має високу тяжкість, а імовірність залежить від заходів проти упередженості. Підсумкова оцінка визначає, які заходи зі зменшення ризиків отримають пріоритет.

10. Перевірка розділу 3