Безпечне користування генеративним ШІ

Що таке Безпечне користування генеративним ШІ?

Генеративний ШІ допомагає складати тексти, перекладати й перевіряти роботу, але водночас це швидкий шлях для конфіденційних даних до системи, з якою у вашого роботодавця немає договору. Через дедлайн ви вставляєте в безкоштовний споживчий чатбот увесь лист клієнта разом із номером рахунку та бюджетом. За кілька годин DLP це помічає. Потім ви опановуєте чотири правила: користуватися лише схваленими інструментами, очищати промпт, ніколи не вставляти секрети й перевіряти результат, перш ніж його надсилати.

Що ви дізнаєтесь у Безпечне користування генеративним ШІ

• Розрізняйте споживчі чатботи ШІ (без договору про обробку даних, промпти можуть зберігатися для навчання) і схвалені корпоративні інструменти ШІ (з журналом аудиту, договірним захистом і договором про обробку даних)
• Очищайте промпти перед надсиланням: замінюйте імена клієнтів, номери рахунків, вартість угод та інші впізнавані подробиці нейтральними заповнювачами, щоб ШІ отримував лише те, що потрібно для завдання
• Розпізнавайте категорії даних, які ніколи не можна вводити в жоден інструмент ШІ, зокрема схвалений: паролі, API-ключі, токени доступу та облікові дані клієнтів
• Повертайте справжні подробиці в результат ШІ в захищеному каналі, а не просіть ШІ працювати з чутливими даними безпосередньо: так журнал аудиту не міститиме зайвих персональних даних
• Правильно реагуйте на випадковий витік даних до споживчого інструмента ШІ: зберігайте розмову як доказ, негайно повідомляйте службу ІТ-безпеки й не сподівайтеся, що видалення чату щось виправить

Безпечне користування генеративним ШІ — Кроки навчання

1. Напружений понеділок у компанії Alderwood

   Зараз 09:14. Перед стендапом партнерів о 10:00 ви розбираєте нічні листи від клієнтів. Одна тема привертає увагу: іспаномовний клієнт позначив свій лист словом URGENTE.

2. Терміновий лист від клієнта

   У вашу папку «Вхідні» надходить лист від Дієго Варгаса, фінансового директора Cresgrove Investments. Він вимагає квартальний звіт, який ви йому винні: у п'ятницю в нього засідання правління. Лист написано іспанською, і в ньому багато подробиць про проєкт.

3. Спокуса спростити собі роботу

   Іспанська у вас уже заіржавіла, а до стендапу 45 хвилин. У компанії Alderwood є схвалений корпоративний інструмент ШІ, але до нього заходять через єдиний вхід (SSO), та й посилання ще треба пошукати. А безкоштовний чатбот SmartGen AI — у закладках, лише відкрити вкладку. Один швидкий переклад, переконуєте ви себе.

4. Вставляємо весь лист

   Ви пишете коротке прохання про переклад, одразу після нього вставляєте весь текст листа Дієго й надсилаєте. Переклад за кілька секунд — що може піти не так?

5. Відповідь SmartGen AI

   SmartGen AI за дві секунди видає чистий переклад англійською. Саме те, що було потрібно. Але вгорі чату є ще дещо: невеликий жовтий банер, на який ви раніше не зважали.

6. Повідомлення про зберігання даних

   У тому жовтому банері стоїть тихе повідомлення, яке легко проминути: «Вашу розмову можуть використати для вдосконалення SmartGen AI.» . У безкоштовному тарифі цей рядок — увесь захист даних, який ви отримуєте.

7. Що ви щойно розкрили

   Придивіться до промпта, який ви справді надіслали. Кожна подробиця листа Дієго тепер зберігається на сервері третьої сторони.

8. Відповідь Дієго

   Ви копіюєте переклад від SmartGen AI, повертаєтеся до пошти, пишете ввічливу відповідь з обіцянкою надіслати звіт у п'ятницю вранці й надсилаєте її. Кризу відвернуто — принаймні так здається.

9. Сповіщення DLP від служби ІТ-безпеки

   Надходить новий лист. Побачивши тему, ви відчуваєте, як усе обривається всередині: «ІНЦИДЕНТ З ДАНИМИ: конфіденційні дані клієнта надіслано до несхваленого сервісу ШІ» . Система запобігання втраті даних (DLP) у компанії Alderwood зафіксувала все.

10. Відкриття порталу повторного навчання

    Ви переходите за посиланням на портал у листі, щоб почати повторне навчання з прийнятного використання генеративного ШІ.