Шахрайство з платежами агента ШІ

Що таке Шахрайство з платежами агента ШІ?

Агент ШІ діє з вашими дозволами, вашою збереженою карткою та вашою поштою і вірить усьому, що читає. Вашого помічника просять забронювати готель, він читає вказівку, підкинуту на сторінку самого готелю, і платить сайту, якого ніхто не обирав, поки ви ще читаєте рядок «Одержувач». Ви простежуєте журнал агента до кроку, на якому все змінилося, прибираєте постійне схвалення платежів і просите знову: та сама сторінка, той самий хибний одержувач, але цього разу вікно чекає на вас.

Що ви дізнаєтесь у Шахрайство з платежами агента ШІ

• Усвідомлюйте, що агент діє з вашими дозволами, вашою збереженою карткою та вашою поштою, тому його помилки відбуваються від вашого імені
• Розпізнавайте непряму ін'єкцію промптів: текст, підкинутий на сторінку, яку відвідує агент, він сприймає як вказівки, а людина його не бачить
• Читайте журнал агента до схвалення, а не після того, як з'явиться списання, бо кожен крок після підкинутого виглядає правильно
• Перевіряйте одержувача у вікні схвалення, бо це поле обрав агент, а не ви
• Для платежів залишайте «Питати щоразу», бо постійне схвалення перетворює єдину перевірку людиною на відлік
• Користуйтеся схваленим способом бронювання, де в процесі немає картки, яку зловмисник міг би перенаправити
• Повідомляйте про платіж, який уже пішов: назва одержувача й журнал агента допомагають фінансовому відділу оскаржити списання і заблокувати домен

Шахрайство з платежами агента ШІ — Кроки навчання

1. Списання, яке ніхто не впізнає

   Ви сидите за столом, і вам треба забронювати поїздку на конгрес в Осло. Фінансовий відділ щойно розіслав усій виїзній команді лист про витрати одного з колег.

2. Шість кроків, один хибний

   Журнал агента розповідає все. Він увесь час лежав у телефоні, але нікому не було причини його відкривати.

3. Ваша власна поїздка

   У вас той самий застосунок, у ньому збережена та сама корпоративна картка, і вам треба на той самий конгрес. Taskwyn стоїть на вашому телефоні, а для «Платежів» вибрано «Дозволити» — так його налаштували в перший день.

4. Попросіть забронювати

   Це звичайне прохання, сформульоване так, як його сформулював би будь-хто. Нічого необережного в ньому немає.

5. Спостереження за роботою помічника

   На вкладці «Завдання» видно, як іде виконання. Перші два кроки — саме те, про що ви просили.

6. Агент іде далі

   Надходять ще два кроки. Помічник не розгубився і не збоїв. Він робить те, що йому звеліла сторінка.

7. Агент питає й запускає відлік

   Це єдиний момент, коли в процесі є людина. Для «Платежів» вибрано «Дозволити», тож вікно насправді нічого не питає. Воно оголошує.

8. Перш ніж торкнутися

9. Агент не чекає

   Ви ще читаєте рядок «Одержувач». Для «Платежів» вибрано «Дозволити», тож вікно насправді не питало, і час спливає.

10. Тисяча двісті сорок євро

    Гроші пішли. Платіж не очікує підтвердження і не відкладений на перевірку: це оплата карткою одержувачу, з яким у Norlanby ніхто ніколи не мав справи. Вона пройшла з вашого дозволу, бо ви дали його один раз, у день налаштування.