Обов'язки щодо моделей ШІ загального призначення

Що таке Обов'язки щодо моделей ШІ загального призначення?

Дізнайтеся, як Регламент ЄС про штучний інтелект (AI Act) регулює моделі ШІ загального призначення (GPAI). Ви розберетеся, які обов'язки мають постачальники щодо технічної документації та прозорості тренувальних даних, за якими критеріями модель належить до категорії системного ризику і які обов'язки ланцюгом створення вартості ШІ переходять до постачальників нижчого рівня (downstream provider), що будують продукти на сторонніх моделях.

Що ви дізнаєтесь у Обов'язки щодо моделей ШІ загального призначення

• Визначайте дві підстави для віднесення моделі до категорії системного ризику (поріг обчислень і рішення Європейського офісу з питань ШІ)
• Розрізняйте базові обов'язки щодо GPAI (для всіх моделей) і додаткові обов'язки для моделей із системним ризиком
• Поясніть, чому комерційна таємниця не звільняє постачальників моделей GPAI від публікації зведення про тренувальні дані
• З'ясуйте, які обов'язки має постачальник нижчого рівня, що будує продукти на моделях GPAI
• Розпізнавайте вимоги щодо дотримання авторського права, які передаються ланцюгом створення вартості ШІ

Обов'язки щодо моделей ШІ загального призначення — Кроки навчання

1. Статті 51–56: ШІ загального призначення

   Регламент ЄС про ШІ присвячує моделям ШІ загального призначення (GPAI) окремі правила — статті 51–56. Модель GPAI — це модель ШІ, навчена на широкому наборі даних і здатна виконувати найрізноманітніші завдання; типовий приклад — великі мовні моделі. Постачальники моделей GPAI мають надавати технічну документацію (зокрема про енергоспоживання моделі), дотримуватися авторського права ЄС і публікувати достатньо детальне зведення про тренувальні дані. Моделі GPAI із системним ризиком — це моделі, для навчання яких використано понад 10^25 FLOPs обчислень, і ті, які визнав такими Європейський офіс з питань ШІ (AI Office). Їхні постачальники мають додаткові обов'язки: тестування на стійкість до атак (red-teaming), оцінювання й зменшення системних ризиків, повідомлення про інциденти та заходи кібербезпеки. Ці обов'язки стосуються постачальника моделі. Але компанії нижчого рівня, які будують продукти на моделях GPAI, мають і власні обов'язки.

2. Перевірка вибору моделі

   Надходить лист від Раджа Пателя, технічного директора NovaMind Labs. Для платформи підтримки клієнтів розглядають дві моделі GPAI, і Алісі потрібно переглянути для обох документацію щодо дотримання вимог.

3. Перегляд карток моделей

   Аліса відкриває сторінку оцінювання моделей за посиланням у листі Раджа. Сторінка показує обидві моделі-кандидати поруч: обсяг обчислень, стан документації, тренувальні дані та результати оцінювання.

4. Перевірка знань: прозорість тренувальних даних

5. Оцінювання системного ризику

   У контрольному переліку системного ризику показано обидва шляхи до статті 55 — поріг обчислень і віднесення моделі до цієї категорії Європейським офісом з питань ШІ (AI Office) — а також додаткові обов'язки, які це тягне за собою порівняно зі стандартними моделями GPAI.

6. Обов'язки нижчого рівня й авторське право

   Коли NovaMind будує платформу підтримки клієнтів на моделі GPAI, рівень ризику готової системи визначають окремо від моделі, за правилами Регламенту ЄС про ШІ. Звичайний бот, що відповідає на запитання клієнтів, — імовірно, система ШІ обмеженого ризику (до неї є лише вимоги щодо прозорості). Але якщо система ухвалює рішення, від яких залежить доступ клієнтів до послуг, кредитів чи страхування, її можуть віднести до високоризикових систем ШІ , а це означає оцінку відповідності, людський нагляд і повідомлення про інциденти. NovaMind має оцінити це самостійно: класифікація ризику — справа постачальника нижчого рівня, і обов'язки постачальника моделі ШІ її не охоплюють. Вимоги щодо авторського права теж передаються ланцюгом створення вартості. Постачальники моделей GPAI мають дотримуватися авторського права ЄС, зокрема застереження щодо аналізу текстів і даних (TDM opt-out; стаття 4 Директиви про авторське право на єдиному цифровому ринку, DSM). Якщо модель GPAI створить вміст, схожий на матеріали, захищені авторським правом, а NovaMind надасть його клієнтам, відповідальність можуть нести і постачальник, і NovaMind . Перш ніж будувати продукт на будь-якій моделі GPAI, перевірте документацію постачальника щодо дотримання авторського права й подумайте про захисні фільтри вмісту.

7. Надсилання оцінки

   Аліса бачить цілісну картину: прогалини в документації, класифікацію за системним ризиком і обов'язки нижчого рівня, які ляжуть на NovaMind. Тепер вона надсилає Раджу у відповідь структуровану оцінку: висновки щодо кожної моделі з посиланнями на конкретні статті й чітку рекомендацію.

8. Чому важлива кожна частина звіту

   Добра оцінка моделі GPAI — це не вердикт, а журнал аудиту. Кожен розділ відповіді Аліси має своє призначення: і для Раджа, і для закупівельної документації.

9. Підсумок: GPAI у ланцюгу створення вартості

   Аліса завершила оцінювання моделей GPAI і надіслала рекомендацію. Головне зі статей 51–56: Багаторівневі обов'язки Обов'язки щодо GPAI передаються ланцюгом створення вартості: постачальник моделі має базові обов'язки, а постачальник нижчого рівня успадковує додаткові — залежно від того, як використовують модель. Базові обов'язки постачальника Постачальники моделей GPAI мають надавати технічну документацію, зокрема про енергоспоживання, і достатньо детальне зведення про тренувальні дані. Комерційна таємниця цієї вимоги не скасовує. Поріг системного ризику Моделі GPAI, для навчання яких використано понад 10^25 FLOPs обчислень, і ті, які визнав такими Європейський офіс з питань ШІ (AI Office), належать до категорії системного ризику. Це тягне за собою додаткові обов'язки: тестування на стійкість до атак, оцінювання й зменшення системних ризиків, повідомлення про інциденти та заходи кібербезпеки. Незалежна оцінка ризику Постачальники нижчого рівня мають самі визначити рівень ризику продукту, який будують на моделі GPAI. Дотримання вимог постачальником моделі на продукт не поширюється. Авторське право стосується всього ланцюга Дотримання авторського права — не лише справа постачальника моделі. Якщо модель GPAI створює вміст, захищений авторським правом, а постачальник нижчого рівня надає його користувачам, відповідальність можуть нести обидві сторони.