Заборонені практики ШІ

Що таке Заборонені практики ШІ?

Регламент ЄС про штучний інтелект (AI Act) проводить чіткі червоні лінії. Стаття 5 забороняє вісім категорій практик ШІ й передбачає найвищі штрафи в Регламенті: до 35 млн євро або 7% загального обороту. Ви розпізнаєте заборонені розгортання в організації — зокрема розпізнавання емоцій на робочому місці, соціальний скоринг клієнтів і невибіркове збирання (скрейпінг) зображень облич для біометричних баз даних — і правильно реагуєте ще до запуску кожної системи.

Що ви дізнаєтесь у Заборонені практики ШІ

• Визначайте вісім категорій практик ШІ, заборонених статтею 5 Регламенту ЄС про ШІ
• Розпізнавайте заборонені практики, навіть коли їх подають як корисні інструменти чи добровільні програми
• Розумійте, що згода працівників не скасовує заборон статті 5
• Знайте, як правильно передати питання на вищий рівень, коли виявлено розгортання забороненої практики ШІ
• Розумійте, який рівень штрафів передбачено за заборонені практики (35 млн євро / 7% обороту)

Заборонені практики ШІ — Кроки навчання

1. Абсолютні червоні лінії

   Стаття 5 Регламенту ЄС про ШІ визначає заборонені практики ШІ — ті, що в ЄС заборонено повністю. Обійти заборону неможливо. Штрафи за заборонені практики ШІ належать до найвищого рівня в Регламенті: до 35 млн євро або 7% загального річного обороту, залежно від того, яка сума більша. Стаття 5(1) визначає вісім категорій заборонених практик ШІ: (a) Маніпулятивні або оманливі методи ШІ, що суттєво спотворюють поведінку й завдають або можуть завдати значної шкоди (b) ШІ, що використовує вразливе становище окремих груп (вік, інвалідність, соціальне чи економічне становище), щоб суттєво спотворити поведінку й завдати значної шкоди (c) Соціальний скоринг — оцінювання чи класифікація людей упродовж певного часу за соціальною поведінкою або особистими рисами, що призводить до несприятливого ставлення в непов'язаних контекстах або до ставлення, яке є необґрунтованим чи непропорційним (d) Прогнозування того, що людина вчинить злочин, лише на підставі профілювання або рис особистості (e) Невибіркове збирання зображень облич з інтернету чи з камер відеоспостереження для створення баз даних розпізнавання облич (f) Розпізнавання емоцій на робочому місці та в закладах освіти (крім випадків, коли це потрібно з медичних міркувань або з міркувань безпеки) (g) Біометрична категоризація для визначення чутливих ознак (раса, політичні погляди, сексуальна орієнтація) (h) Дистанційна біометрична ідентифікація в реальному часі в публічно доступних місцях для правоохоронних цілей, із трьома вузькими винятками: пошук жертв викрадення, торгівлі людьми та зниклих безвісти осіб; запобігання конкретній, суттєвій і неминучій загрозі життю або теракту; розшук підозрюваних у вчиненні перелічених тяжких злочинів

2. День 1: лист про відстеження настрою

   Аліса отримує лист від директора відділу кадрів про нову пілотну програму. У листі описано інструмент ШІ, який стежитиме за працівниками під час відеозустрічей.

3. Розпізнавання порушення

   Це розпізнавання емоцій на робочому місці , яке прямо заборонене статтею 5(1)(f) Регламенту ЄС про ШІ. Не має значення, що програму подають як «ініціативу з підтримки добробуту» і називають добровільною. Будь-яка система ШІ, яка визначає емоції за біометричними даними (вираз обличчя, тон голосу, мова тіла) на робочому місці, заборонена, якщо її не застосовують з медичних міркувань або з міркувань безпеки, а добробут і настрій у команді до них не належать. Рівень анонімізації та те, чи дають працівники згоду, нічого не змінюють.

4. Ескалація до відділу комплаєнсу

   Аліса одразу бачить комплаєнс-ризик. Вона відповідає на лист Девіда: вказує на проблему й ставить у копію відповідальну особу з питань захисту персональних даних.

5. Перевірка знань

6. День 3: соціальний скоринг у CRM

   Через два дні Аліса отримує у WhatsApp повідомлення від колеги про нову функцію CRM, що викликає тривогу: її ввімкнув відділ продажів.

7. Розпізнавання соціального скорингу

   Аліса уважно читає повідомлення Джеймі. В око впадають дві деталі: клієнтам присвоюють оцінку за активністю в соцмережах, а клієнтів із низькою оцінкою спрямовують у повільніші черги підтримки.

8. Що таке соціальний скоринг

   Це соціальний скоринг , заборонений статтею 5(1)(c). Заборонено використовувати ШІ, щоб оцінювати людей за їхньою соціальною поведінкою чи особистими характеристиками, а потім на підставі цих оцінок ставитися до них несприятливо. Повернення товарів і звернення до підтримки самі по собі — звичайні бізнес-дані. Межу переходить інше: оцінювання клієнтів за активністю в соцмережах, тобто за поведінкою з непов'язаного контексту, і використання цієї оцінки, щоб перевести їх у повільнішу підтримку. Таке ставлення несприятливе в контексті, не пов'язаному з тим, звідки взято дані, а ще воно необґрунтоване й непропорційне. Достатньо будь-якої з цих двох умов. Заборона діє незалежно від того, чи оцінюють наявних клієнтів, чи потенційних.

9. День 5: скрейпер облич

   Через два дні Аліса дізнається, що відділ маркетингу створив демоверсію внутрішнього інструмента. Вона відкриває її в браузері, щоб подивитися, над чим працювала команда.

10. Невибіркове збирання зображень облич

    Інструмент FaceWatch збирає публічно доступні фотографії з профілів у соцмережах, щоб створити базу даних для розпізнавання облич. Невибіркове збирання зображень облич з інтернету чи записів камер відеоспостереження для створення або розширення баз даних розпізнавання облич прямо заборонене статтею 5(1)(e).