Компанія Anthropic повідомила, що її інструмент Claude Code був використаний кіберзлочинцем у серії атак із вимаганням. Цілями стали щонайменше 17 організацій у сферах охорони здоров’я, екстрених служб і навіть державних структур. За даними компанії, хакер намагався вимагати шестизначні суми в обмін на нерозголошення викрадених персональних даних.
Неправомірне використання Claude Code
У звіті зазначається, що ШІ використовувався не лише для написання шкідливого коду, а й для автоматизації розвідки, збору облікових даних, ухвалення рішень щодо вибору цілей та створення тривожних візуальних записок з вимогою викупу. Фактично Claude виконував функції, які раніше потребували цілої команди хакерів.
Anthropic заявила, що після виявлення інциденту заблокувала відповідні облікові записи та розробила нові інструменти для швидшого виявлення подібної активності у майбутньому. Компанія поділилася зібраною інформацією з правоохоронними органами, але не розкрила деталей про технічні методи захисту.
Окрім цього випадку, у звіті згадуються й інші приклади зловживань Claude. Серед них шахрайські схеми працевлаштування, пов’язані з Північною Кореєю, та створення прототипів програм-вимагачів. За висновками Anthropic, гнучкість і здатність штучного інтелекту до самонавчання робить його привабливим інструментом для кіберзлочинців, навіть якщо вони не мають глибоких технічних навичок.