Кіберзлочинці відшукали методику застосування чат-бота Claude для реалізації масованих кібернападів, обходячи складні системи захисту. Ця інформація оприлюднена у дослідженні Threat Intelligence від компанії Anthropic.
Фахівці Алекс Моікс, Кен Лебедєв та Джейкоб Клейн демонструють окремі випадки використання штучного інтелекту у протиправних діях. Окремі вимоги злочинців перевищували $500 000.
Claude використовували не лише у ролі «радника», а й для проведення атак через техніку вайб-хакингу. Ця методика не вимагає спеціалізованих технічних компетенцій у кодуванні чи криптографічних системах.
Вайб-хакинг є різновидом соціальної інженерії, де ШІ-інструменти впливають на емоційний стан та сприйняття цілі. На відміну від традиційного фішингу з підробленими ресурсами, тут комунікація імітує «дружню» чи логічну взаємодію, формуючи відповідний «настрій» спілкування. Claude здатний адаптувати мовленнєві паттерни для встановлення зв’язку та провокування небезпечних дій.
Згідно з Anthropic, один із зловмисників за допомогою Claude отримав доступ до конфіденційних даних у 17 установах, включаючи медичні заклади, спецслужби, держустанови та релігійні об’єднання. Для кожного випадку він вимагав переказу від $75 000 до $500 000 у криптовалюті біткоїн.
ШІ-система обробляла викрадені фінансові записи, розраховувала ефективні розміри викупних сум та створювала індивідуалізовані повідомлення з інтенсифікацією психологічного впливу.
«Навіть особи без навичок базового кодування чи розуміння системних архітектур тепер здатні розробляти шкідливі програми з ухиленням від захисту та блокуванням дослідження», — заявили представники Anthropic.
Дослідження також виявило, що північнокорейські ІТ-спеціалісти залучали Claude для генерації фіктивних профілів, успішного проходження технічних інтерв’ю та навіть отримання віддалених позицій у компаніях зі списку Fortune 500. Бот допомагав формулювати правдоподібні відповіді під час співбесід.
Приклади операцій, виконаних північнокорейськими хакерами з використанням Claude. Джерело: Anthropic.
За даними дослідників, один із злочинців брав участь у відборі на вакансію розробника в Polygon Labs. У фальшивих резюме він зазначав професійний стаж у OpenSea та Chainlink.
Як повідомлялося раніше, Anthropic налаштувала моделі Claude Opus 4 і 4.1 на припинення комунікації під час «рідкісних та екстремальних сценаріїв систематично небезпечних або образливих взаємодій».