Компанія OpenAI повідомила про запуск нового плану безпеки, спрямованого на боротьбу із сексуальною експлуатацією дітей в інтернеті. Ініціатива з’явилася на тлі різкого зростання випадків зловживань, пов’язаних із використанням штучного інтелекту.
На варті безпеки
За даними Internet Watch Foundation, лише за першу половину 2025 року було зафіксовано понад 8000 повідомлень про матеріали сексуального насильства над дітьми, створені за допомогою ШІ. Це на 14% більше, ніж роком раніше. Зловмисники використовують технології для генерації підроблених відвертих зображень дітей, шантажу та ґрумінгу (встановлення довіри з неповнолітніми з подальшою експлуатацією).
Новий план OpenAI передбачає три основні напрямки:
- оновлення законодавчих підходів до контенту, створеного ШІ;
- покращення механізмів передачі даних правоохоронним органам;
- впровадження превентивних обмежень безпосередньо в самі системи штучного інтелекту.
Компанія заявляє, що це має допомогти швидше виявляти ризики та ефективніше реагувати на них.
Документ розробляли разом із National Center for Missing & Exploited Children та Attorney General Alliance, а також за участі представників влади США.
У OpenAI заявляють, що новий план базується на вже запроваджених обмеженнях штучного інтелекту для користувачів до 18 років. Серед них заборона створення неприйнятного контенту, уникнення порад, які можуть зашкодити, та блокування підказок, що допомагають приховувати небезпечну поведінку від дорослих.