Виявлення голосових дипфейків

Що таке Виявлення голосових дипфейків?

Кількох хвилин публічного запису виступу чи розмови про фінансові результати досить, щоб у реальному часі клонувати голос керівника. Вам зателефонує хтось, чий голос не відрізнити від голосу генерального директора, з тим самим номером на екрані й правдоподібним приводом терміново зробити переказ до кінця дня. Розпізнати якісний клон на слух нереально. Працює лише процедура: кодова фраза, про яку домовилися заздалегідь, передзвін на номер, якому ви вже довіряєте, і правило двох осіб для великих переказів.

Що ви дізнаєтесь у Виявлення голосових дипфейків

• Розпізнавайте клонування голосу ШІ як реальну й актуальну загрозу для казначейства, фінансового відділу та будь-якої посади, що дає право переказувати кошти.
• Застосовуйте кодову фразу, про яку домовилися заздалегідь, щоб перевіряти усні авторизації понад поріг політики, хоч би наскільки переконливо звучав голос.
• Передзвонюйте іншим каналом, автентифікованим окремо: на збережену пряму лінію, за корпоративним довідником чи через робочий чат, але ніколи не на номер, з якого щойно телефонували.
• Помічайте поведінкові тривожні ознаки, які лишаються за будь-якої якості клона голосу: обхід ланцюга схвалення, вимогу таємності, відмову від перевірки, ворожість у відповідь на спротив.
• Розрізняйте поведінкові тривожні ознаки та звукові артефакти й розумійте, чому процедурний захист важливіший за перевірку на слух.
• Подавайте структурований звіт про інцидент, де вказано канал, особу, за яку видавав себе зловмисник, прохання, тривожні ознаки, спосіб виявлення та наслідки, щоб команда SOC могла шукати паралельні спроби.

Виявлення голосових дипфейків — Кроки навчання

1. Спокійний вівторок по обіді

   У Brindale Capital Group спокійний вівторок по обіді. Аліса завершує квартальний звіт про ліквідність для завтрашнього засідання управлінського комітету. Фінансова директорка Сара цього тижня на роуд-шоу в Сінгапурі, а генеральний директор Деніел Вітмор дві години тому сів на рейс, щоб приєднатися до неї. На робочому телефоні Аліси лунає дзвінок. На екрані — Деніел Вітмор — пряма лінія .

2. Несподіваний дзвінок від генерального директора

   Аліса бере слухавку. Голос у ній — безсумнівно Деніела: та сама тепла інтонація, з якою він виступає на загальних зборах, і той самий звичай починати розмову, звертаючись до неї на ім'я. Він телефонує з літака, і в нього термінове прохання.

3. Термінове прохання

   Деніел просить про великий таємний банківський переказ для придбання, яке завершується сьогодні по обіді. Рука Аліси зависає над системою схвалення переказів. Голос звучить саме так, як треба. Номер на екрані збігається. Історія правдоподібна: Brindale й раніше проводила придбання без розголосу. Але щось не так. Сума значно перевищує її ліміт одноосібного підпису. Деніел ще ніколи не просив її обійти Сару й Маркуса. І вимога тримати все в таємниці незвична. Що має зробити Аліса далі?

4. Зупиніться й подумайте

5. Кодова фраза

   Політика казначейства Brindale однозначна: для будь-якої усної авторизації на суму понад п'ятсот тисяч доларів потрібна квартальна кодова фраза. Цю політику минулого березня схвалив сам Деніел. Аліса вирішує застосувати її негайно, ще до будь-яких інших дій.

6. Тиск і завершення розмови

   Той, хто телефонує, не може назвати фразу й змінює тактику: спершу відмахується, потім відверто ворогує, потім погрожує. Аліса завершує розмову. Справжні керівники під тиском можуть бути різкими, але не відмовляються від задокументованих процедур перевірки, які самі ж і розробили. Ворожість у відповідь на перевірку за політикою — сама по собі тривожна ознака.

7. Перевірка відомим каналом

   Невдала перевірка кодовою фразою підказує Алісі, що телефонував, імовірно, не Деніел. Але де Деніел насправді і чи не зламано його справжній обліковий запис, з цього вона не дізнається. Аліса відкриває контакти в телефоні й набирає внутрішній номер Деніела — номер, який збережений у неї вже два роки. Якщо попередній дзвінок був справжнім, вона просто з'ясує, чи все гаразд. Якщо ні, саме цей дзвінок це підтвердить.

8. Підтверджено: клонований голос

   Деніел підтверджує те, що Аліса вже підозрювала: першого дзвінка він не робив. Жодної угоди з Westbridge немає. Голос, який вона чула, — клон, створений ШІ, майже напевно навчений на десятках відеозаписів його виступів і розмов про фінансові результати на каналі компанії в YouTube. Переказ так і не надіслано, але про інцидент усе одно треба повідомити. Команді SOC знадобляться номер на екрані, час дзвінків, вигадана назва угоди й подробиці розмови, щоб знайти схожі спроби проти інших працівників Brindale.

9. Вхід на портал безпеки

   Аліса входить на портал безпеки Brindale зі збереженими обліковими даними.

10. Подайте звіт про інцидент

    Аліса описує, що сталося, щоб команда SOC могла розслідувати інцидент, знайти пов'язані спроби й попередити інших працівників казначейства та фінансового відділу. У звіті мають бути: канал (телефон), особа, за яку видавав себе зловмисник (генеральний директор Деніел Вітмор), спуфінговий номер на екрані, прохання (банківський переказ), сума в доларах, легенда (придбання Westbridge), те, як Аліса виявила спробу (той, хто телефонував, не назвав кодової фрази, а потім Аліса передзвонила), і те, що кошти з компанії не пішли.