Фахівці з кібербезпеки компанії Palo Alto Networks Unit 42 з’ясували, що великі мовні моделі (LLM) здатні створювати численні варіації шкідливого JavaScript-коду, які антивірусні програми майже не розпізнають.
Про це повідомляє toneto.net.
Як демонстрацію було створено понад 10 тисяч версій шкідливого коду, що обходили виявлення у 88% випадків. Водночас LLM більше підходять для модифікації вже існуючого коду, аніж для створення шкідливого ПЗ з нуля.
Як працюють LLM у руках зловмисників?
Дослідники зазначають, що злочинці використовують LLM для обфускації (замаскування) шкідливого коду, роблячи його вигляд більш “природним”. Зокрема, це значно ускладнює виявлення таких модифікацій антивірусним програмним забезпеченням. ШІ може виконувати різні типи змін: перейменовувати змінні, ділити рядки, додавати зайві елементи або навіть переписувати код із нуля. У порівнянні зі стандартними інструментами, як-от obfuscator.io, результати, створені за допомогою ШІ, виглядають значно природніше і менш підозріло.
Протидія з боку розробників LLM
Щоб запобігти зловмисному використанню ШІ, розробники вводять заходи безпеки. Однак вже існують альтернативні інструменти, такі як WormGPT, які полегшують створення фішингових листів і нових версій шкідливих програм.
Експеримент Unit 42: уроки для кібербезпеки
Unit 42 протестували роботу LLM на прикладі створення альтернативного шкідливого коду. Результати показали, що алгоритми, такі як Innocent Until Proven Guilty (IUPG) і PhishingJS, виявилися неефективними проти коду, створеного ШІ. Проте, хоча ці можливості викликають занепокоєння, вони також можуть слугувати для навчання нових алгоритмів, які зможуть виявляти подібні модифікації.
Вічна гонитва: ШІ проти ШІ
Ситуація демонструє своєрідну “гонку озброєнь” у кіберпросторі. Один ШІ створює віруси, інший — удосконалює захист. Людська роль у цій боротьбі все більше зводиться до налаштування й вдосконалення алгоритмів для обох сторін. Це нагадує гру без кінця, у якій технології одночасно є і викликом, і вирішенням проблем.