Компанія OpenAI оприлюднила тривожний звіт, у якому повідомляє про зростання випадків використання її технологій китайськими угрупованнями з метою проведення прихованих інформаційних операцій. Хоча більшість із них були локальними за масштабом і мали обмежену аудиторію, аналітики фіксують розширення злочинних тактик і більш продумане застосування ШІ в цих схемах.
Як саме використовували ChatGPT
OpenAI виявила кілька напрямів зловмисної активності. Наприклад, для інформаційної маніпуляції в соцмережах. Деякі облікові записи використовували ChatGPT для створення дописів політичного характеру. Як-от контенту спрямованого на маніпулювання громадською думкою щодо питань, пов’язаних із Китаєм, Тайванем, Пакистаном та США. Приклади включають неправдиві обвинувачення проти активістів та критичні коментарі щодо зовнішньої політики США.
У ряді випадків штучний інтелект допомагав зловмисникам автоматизувати різні етапи атак: від збору відкритих даних та модифікації шкідливих скриптів до усунення збоїв у системах та створення інструментів для зламу паролів. Ше одна виявлена операція мала на меті поширення контроверсійного контенту. Він підтримував обидві сторони суперечливих тем у США, імітуючи автентичну активність завдяки генерованим текстам і зображенням профілів.
У відповідь OpenAI заблокувала облікові записи, причетні до маніпуляцій. Компанія продовжує ретельно моніторити платформу, щоби запобігти використанню генеративного ШІ в небезпечних цілях. Хоча МЗС Китаю не прокоментувало ситуацію, інцидент підкреслює небезпеку безконтрольного використання ШІ в руках політично вмотивованих гравців.