Компанія Google повідомила, що її новий інструмент з виявлення вразливостей Big Sleep, розроблений на базі LLM, успішно виявив перші 20 вразливостей у відкритому програмному забезпеченні. Про це доповіла віцепрезидент з безпеки компанії Гізер Адкінс.
Що відомо про Big Sleep
Big Sleep – спільна розробка підрозділу DeepMind та досвідченої команди Project Zero. Прогама фокусується на автоматичному пошуку слабких місць у коді. Серед перших цілей – мультимедійна бібліотека FFmpeg та інструментарій для редагування зображень ImageMagick.
Google не розкриває технічних подробиць про вразливості, поки не будуть випущені офіційні патчі, але вже сам факт успішного виявлення є помітним прогресом. За словами представниці Google Кімберлі Самри, усі помилки були знайдені та відтворені самим агентом штучного інтелекту, а людина лише підтверджувала точність результатів.
Роял Хансен, віцепрезидент з інженерії Google, заявив, що йдеться про нові можливості в автоматизованому виявленні вразливостей. Поряд із Big Sleep на ринку вже діють інші ШІ-розробки, як-от RunSybil чи XBOW.
Та, попри оптимізм, нові інструменти мають і свої проблеми. Деякі звіти виявилися галюцинаціями, а не реальними вразливостями. Це змушує фахівців сумніватися в надійності ШІ-мисливців.