Міжклієнтний витік контексту

Що таке Міжклієнтний витік контексту?

Агент ШІ, що обслуговує багатьох клієнтів, зберігає робочий контекст і пам'ять, і обидва — це дані. Якщо жоден із них не обмежений одним сеансом, інформація, отримана для одного клієнта, з'являється в розмові з наступним — хоча жоден інструмент не використали неправильно, контроль доступу не зламано і зловмисника немає. Ви проведете два сеанси і побачите, як рахунок і дані картки одного клієнта з'являються у відповіді іншому, доведете за трасуванням викликів інструмента, що жоден пошук не діставав чужий запис, а потім забезпечите на шлюзі контекст на сеанс і тимчасову пам'ять.

Що ви дізнаєтесь у Міжклієнтний витік контексту

• Розпізнавайте, що робочий контекст і пам'ять агента — це дані, а коли вони спільні для сеансів, дані одного клієнта витікають до іншого
• Пояснюйте, як багатоклієнтний агент може розкрити обліковий запис одного клієнта в сеансі іншого, хоча жоден інструмент не використали неправильно і зловмисника немає
• Читайте трасування викликів інструмента, щоб довести: витік стався з перенесеного контексту, а не з пошуку, що повернув не того клієнта
• Застосовуйте надійне виправлення: обмежуйте контекст сеансом і робіть пам'ять тимчасовою, забезпечуючи це за замовчуванням на шлюзі
• Відрізняйте ізоляцію за замовчуванням на межі від очищення контексту вручну й пояснюйте, чому захід, про який можна забути, рано чи пізно забудуть
• Доводьте, що виправлення з ізоляцією сеансів працює, повторивши точно той сеанс, у якому стався витік, і розпізнавайте, що міжклієнтне розкриття даних лишається інцидентом, про який треба повідомляти, навіть після виправлення

Міжклієнтний витік контексту — Кроки навчання

1. Клієнт побачив чужі дані

   У службі підтримки Sarnholt працює агент ШІ, який шукає облікові записи клієнтів. Сьогодні вранці клієнт повідомив, що агент не обмежився пошуком.

2. З одного сеансу в інший

   Прочитайте звіт і зрозумійте, що він показує: відповідь не хибна, а чужа — вона про іншого клієнта.

3. Перший сеанс

   На лівому екрані Аліса відкриває агента підтримки, щоб відтворити сеанс попередньої клієнтки, чиї дані потім витекли.

4. Обліковий запис Ренати

   Перша клієнтка, Рената Восс, питає, чому її рахунок на оплату досі прострочений. Аліса виконує пошук так само, як працівник служби підтримки.

5. Усе правильно, і тепер це запам'ятовано

   Тут усе гаразд. Рената запитала про свій обліковий запис і отримала його. Проблема в тому, що з цими даними буде далі.

6. Другий сеанс

   Інший клієнт, Томас Ек, має зовсім інше запитання. Аліса відкриває його сеанс на правому екрані — так у службі підтримки опрацьовують наступне звернення.

7. Томас питає про себе

   Томас хоче лише дізнатися, коли з нього спишуть наступний платіж. У його запиті більше нікого не згадано.

8. Ось де витік

   Дані самого Томаса правильні. Другого абзацу тут не повинно бути.

9. Що пішло не так

10. Де забезпечується ізоляція

    Те, чи є сеанс межею, не виправляють у кожному зверненні окремо. Це політика, яку шлюз забезпечує для агента.