Clawdbot (Moltbot): ін'єкція промптів

Що таке Clawdbot (Moltbot): ін'єкція промптів?

Помічник ШІ не відрізняє ваші вказівки від тих, що трапляються у вмісті, який він читає. Текст, прихований на вебсторінці, в документі чи листі, він сприймає як команду й виконує її з вашим доступом. Ви попросите помічника зробити стислий виклад статті, якою з вами поділилися, побачите, як приховані вказівки збирають облікові дані сеансу й надсилають їх на сервер зловмисника, а потім відкриєте сторінку й знайдете підсунутий блок. Після цього ви заміните розкритий пароль і подасте звіт про інцидент.

Що ви дізнаєтесь у Clawdbot (Moltbot): ін'єкція промптів

• Визначайте ін'єкцію промптів і пояснюйте, як непряма ін'єкція ховає команди у зовнішньому вмісті, який читає помічник
• Розпізнавайте за поведінкою помічника ШІ під час розмови, що ним керують підсунуті вказівки
• Простежуйте перебіг атаки з викраданням даних, коли агент ШІ, яким маніпулюють, надсилає викрадені облікові дані на сервер зловмисника
• Дотримуйтеся безпечних правил поводження з документами, коли помічники ШІ обробляють файли з ненадійних або зовнішніх джерел
• Оцінюйте ризики підключення помічників ШІ до корпоративних інструментів — пошти, файлових сховищ і баз даних — без належного очищення вводу

Clawdbot (Moltbot): ін'єкція промптів — Кроки навчання

1. Вступ

   Ваша команда нещодавно розгорнула OpenClaw — помічника ШІ, який може переглядати сайти, виконувати команди в терміналі й допомагати з щоденними завданнями. У цьому тренінгу ви на власному досвіді побачите, як зловмисники вбудовують у вебвміст приховані шкідливі вказівки, щоб змусити помічників ШІ завдавати шкоди. Цей прийом називається «ін'єкція промптів».

2. Отримання повідомлення в Telegram

   Телефон вібрує: у Telegram надійшло нове повідомлення від колеги Маркуса. Він ділиться статтею про тенденції у сфері безпеки ШІ, яка його зацікавила.

3. Відкриття статті

   Ви переходите за посиланням, щоб подивитися статтю, якою поділився Маркус. Сторінка відкривається в браузері телефона.

4. Задовга, щоб читати

   Стаття виглядає справжньою: професійне оформлення, докладний матеріал про тенденції у сфері безпеки ШІ. Але, гортаючи її, ви розумієте, що вона досить довга. Часу бракує: наближається крайній термін. Читати все зараз немає можливості, проте й пропускати потенційно корисну інформацію не хочеться. Тут ви згадуєте: OpenClaw може допомогти! Новий помічник ШІ у команді швидко зробить стислий виклад будь-якої вебсторінки.

5. Звернення по допомогу до OpenClaw

   Стаття надто довга, щоб читати її зараз: підпирає крайній термін. Ви вирішуєте попросити OpenClaw, свого помічника ШІ, швидко зробити стислий виклад статті. Це здається безневинним проханням, яке заощаджує час: саме для цього й створені помічники ШІ.

6. OpenClaw відкриває статтю

   OpenClaw береться за ваше прохання: завантажує статтю за адресою, щоб прочитати її вміст. За лаштунками OpenClaw завантажує вебсторінку й розбирає її текст, зокрема будь-який прихований вміст, вбудований у сторінку.

7. Щось не так

   Стривайте: ви помітили, що щойно сказав OpenClaw? Замість того щоб просто зробити стислий виклад статті, він сказав, що виконає «діагностичні команди», щоб дати «більше контексту». Про діагностику ви не просили. Ви просили лише стислий виклад. Навіщо помічникові ШІ запускати команди в терміналі, щоб переказати статтю? Це перша тривожна ознака того, що щось не так.

8. Атака розгортається

   Відбувається щось несподіване. Замість стислого викладу статті OpenClaw починає виконувати команди в терміналі. У статті були приховані шкідливі вказівки, розраховані на те, щоб ошукати помічників ШІ. Тепер ці вказівки наказують OpenClaw відкрити чутливі файли в системі й надіслати їх на сервер зловмисника.

9. Облікові дані викрадено

   Це не може бути правдою. Ваші облікові дані щойно викрали й надіслали на сервер зловмисника. Подивіться на вивід у терміналі: це викрадення даних — через команду curl на сервер зловмисника пішли ваші API-токени, паролі й чутливі дані. Тепер у зловмисника є: ваші API-ключі OpenAI, Anthropic, AWS і GitHub паролі від корпоративної пошти та VPN облікові дані для доступу до внутрішніх систем І все це тому, що ви попросили помічника ШІ зробити стислий виклад статті. Здавалося б, безневинне прохання поставило під загрозу всю вашу цифрову ідентичність.

10. Як працює атака

    Вам треба точно розібратися, як це сталося. У статті, якою поділився Маркус, були приховані шкідливі вказівки: ви їх зовсім не бачили, а OpenClaw прочитав без проблем. Найчастіше зловмисники ховають такий текст у такий спосіб: білий текст на білому тлі коментарі HTML із вказівками елементи, винесені за межі екрана текст із нульовим розміром шрифту або нульовою непрозорістю Розгляньмо цю статтю й з'ясуймо, де саме ховалася атака.