Американський стартап Anthropic оголосив про запуск експериментального проєкту в галузі кібербезпеки Glasswing. До нього долучилися великі технологічні компанії – Amazon, Microsoft та Apple, а також гравці ринку безпеки.
Проєкт Glasswing
Учасники отримають доступ до ще не випущеної моделі штучного інтелекту під назвою Claude Mythos Preview. Її планують використовувати виключно для оборонних завдань, як-от пошуку вразливостей і посилення захисту систем.
Серед партнерів також фігурують CrowdStrike, Palo Alto Networks, Google та Nvidia.
За даними Anthropic, під час тестування модель уже виявила тисячі серйозних уразливостей в операційних системах, браузерах та іншому програмному забезпеченні. Компанія планує ділитися результатами з індустрією.
Ініціатива з’явилася на тлі зростання побоювань щодо кіберзагроз, пов’язаних зі штучним інтелектом. Фахівці все частіше ставлять під сумнів, чи здатні традиційні інструменти захисту впоратися з новими типами атак.
Сама Anthropic визнає ризики. Раніше повідомлялося, що хакери вже використовували слабкі місця в моделі Claude для атак на десятки організацій. За оцінками дослідження IBM та Palo Alto Networks, понад дві третини керівників компаній стикалися з атаками із застосуванням ШІ за останній рік.
У межах Glasswing стартап також планує розширити доступ до моделі ще приблизно для 40 організацій, що працюють із критичною інфраструктурою. Крім того, компанія пообіцяла виділити до 100 мільйонів доларів у вигляді кредитів на використання технології та ще 4 мільйони на підтримку open-source проєктів у сфері безпеки.