Компанія Anthropic призупинає доступ до своїх найновіших моделей ШІ Fable 5 та Mythos 5 після отримання директиви від уряду США. Причиною стали побоювання американської влади щодо національної безпеки та можливого обходу вбудованих захисних механізмів моделей.
Чому обмежили доступ до моделей ШІ
Міністерство торгівлі США вимагало обмежити доступ до цих моделей для іноземних громадян. Однак замість вибіркового блокування компанія Anthropic вирішила тимчасово відключити Fable 5 та Mythos 5 для всіх користувачів, щоб забезпечити виконання вимог регуляторів.
У компанії заявили, що уряд посилається на існування потенційного способу обходу захисних обмежень моделі. Йдеться про так званий джейлбрейк – набір методів, які дозволяють змусити систему виконувати дії, заборонені її розробниками. В Anthropic стверджують, що отримали лише усні пояснення щодо такого ризику та не погоджуються з рішенням відкликати продукт через проблему, яку вважають вузькоспеціалізованою та обмеженою.
Експерти з кібербезпеки вважають, що моделі рівня Mythos можуть значно прискорити проведення складних кібератак. Особливу загрозу вони можуть становити для банківського сектору та галузей, де досі використовуються великі та складні інформаційні системи з багаторічною історією розвитку.
У Anthropic наголошують, що перед запуском нових моделей співпрацювали з урядовими структурами США щодо питань безпеки. Також компанія зазначає, що схожі можливості з аналізу програмного коду мають і моделі інших провідних розробників штучного інтелекту.
Поки що всі інші моделі Anthropic продовжують працювати без змін. Компанія заявила, що вважає ситуацію результатом непорозуміння та веде переговори з американською владою, щоб якнайшвидше відновити доступ до Fable 5 та Mythos 5.