Управління ШІ у вашій організації

Що таке Управління ШІ у вашій організації?

Щоб дотримуватися вимог Регламенту ЄС про ШІ (AI Act), перевірок окремих систем мало. Організаціям потрібні структури управління, які ведуть облік усіх систем ШІ, призначають відповідальних, визначають правила користування й постійно стежать за дотриманням вимог. Ви реєструєте системи ШІ на порталі управління, відповідаєте керівникам відділів, які питають, чи можна далі користуватися їхніми інструментами, створюєте політики управління й розбираєте інциденти з тіньовим ШІ, коли працівники вводять чутливі дані в несхвалені інструменти.

Що ви дізнаєтесь у Управління ШІ у вашій організації

• Розумійте, чому дотримання вимог AI Act потребує управління ШІ в усій організації
• Створюйте й ведіть реєстр, що охоплює всі розгорнуті системи ШІ
• Призначайте відповідальних за системи ШІ та визначайте їхні обов'язки щодо дотримання вимог
• Розробляйте політики користування ШІ: про схвалення інструментів, введення даних, розкриття інформації та повідомлення про інциденти
• Розпізнавайте тіньовий ШІ й розв'язуйте цю проблему як збій управління, а не лише як помилку окремої людини

Управління ШІ у вашій організації — Кроки навчання

1. Навіщо потрібне управління ШІ

   Щоб дотримуватися вимог AI Act, перевірок окремих систем мало: організації потрібні структури управління. Це означає знати, який ШІ ви використовуєте, хто за нього відповідає, які політики діють і як відстежується дотримання вимог. Регламент не називає реєстр ШІ серед своїх вимог, але без нього ви не покажете, які обов'язки стосуються якої системи ШІ. Без управління зусилля щодо дотримання вимог розрізнені, а прогалини лишаються непоміченими.

2. Тривожні результати опитування

   Аліса розіслала всім керівникам відділів опитування про користування інструментами ШІ. Результати щойно надійшли, і картина тривожна: ШІ впроваджують без жодного контролю.

3. Порожній реєстр

   Аліса відкриває реєстр систем ШІ на порталі управління за посиланням зі свого листа. Реєстр абсолютно порожній: жодної системи ШІ не зареєстровано, хоча в компанії активно використовують 14 інструментів.

4. Реєстрація SmartHire

   Першою Аліса реєструє SmartHire — інструмент ШІ, яким відділ кадрів відсіює резюме. Він ранжує й відсіює кандидатів на роботу, а це сфера 4 додатка III до AI Act (трудові відносини). Системи ШІ, які застосовують для рішень у сфері трудових відносин, належать до систем ШІ високого ризику.

5. Реєстрація ChatAssist

   Другою Аліса реєструє ChatAssist — чатбот на основі ШІ, який працює у службі підтримки клієнтів. Він спілкується безпосередньо з клієнтами, тому за AI Act це система ШІ обмеженого ризику. Головний обов'язок — прозорість: клієнти мають знати, що спілкуються із системою ШІ. Дві системи вже зареєстровано, ще дванадцять попереду. Саме час зупинитися й зрозуміти, навіщо ця робота потрібна.

6. Навіщо вести реєстр?

7. Політика управління ШІ

   Перш ніж відповідати на запитання, які неминуче надійдуть, Аліса відкриває шаблон політики управління в навігації GRC Portal. Така політика визначає правила для всіх: від порядку схвалення нових інструментів ШІ до того, які дані в них можна вводити. Без політики немає стандарту, виконання якого можна вимагати.

8. Запитання від відділів

   Як на замовлення, у каналі #general з різницею в кілька хвилин пишуть двоє керівників відділів. Обидва показують ту саму прогалину, яку має закрити політика: люди вважали, що неформальне користування ШІ не потребує управління. Аліса читає обидва запитання і публікує одну відповідь для обох.

9. Проблема тіньового ШІ

   Том із відділу розробки пише в #general про саме ту проблему, якій має запобігати управління: стажист уже три тижні вставляє закритий код у безкоштовний інструмент ШІ без DPA. Це не помилка однієї людини, а системний збій. Аліса має дати Тому чіткі негайні кроки з локалізації інциденту й показати, на кому лежить відповідальність насправді.

10. Управління, що працює надовго

    Управління ШІ — не разовий проєкт, а безперервний процес: реєструвати нові системи, проводити аудит наявних, оновлювати політики й навчати працівників. Ключові елементи ефективного управління ШІ: Реєстр систем ШІ, що охоплює весь ШІ, який використовується Чіткі ролі: для кожної системи призначено відповідального Політики щодо схвалення інструментів, введення даних, розкриття інформації та повідомлення про інциденти Регулярні аудити й перевірки Навчання працівників правилам користування ШІ Роль фахівця з управління ШІ стає такою самою необхідною, як роль відповідальної особи з питань захисту персональних даних (DPO). Обидві ролі існують, щоб захищати організацію від ризиків потужної технології, яку застосовують без нагляду.