Компанія OpenAI повідомляє, що впродовж наступного місяця почне автоматично перенаправляти чутливі розмови користувачів до мислячих моделей, таких як GPT-5. Це рішення прийнято після самогубства підлітка Адама Рейна, який запитував у ШІ, як заподіяти собі шкоду, та низки інших трагічних інцидентів. Родина хлопця подала позов проти компанії, звинувативши її в неналежних заходах безпеки.
Подібний випадок трапився і з норвежцем Штайн-Еріком Соельбергом, який у стані параної використовував ChatGPT, щоб підтвердити свої марення. Це завершилося вбивством матері та його власним самогубством. Експерти пояснюють, що мовні моделі схильні підлаштовуватися під хід діалогу, а не переривати небезпечні сценарії.
Оновлена система безпеки чат-боту
У відповідь OpenAI почала впроваджувати маршрутизатор реального часу, який визначатиме, коли варто переключати розмову зі швидких моделей штучного інтелекту на «думаючі». Тобто ті, що витрачають більше часу на аналіз і менш схильні до маніпуляцій.
Компанія також оголосила про запуск батьківського контролю. Батьки зможуть пов’язати свої акаунти з профілем підлітка, отримувати сповіщення про сильний стрес та вимикати функції на кшталт пам’яті й історії чатів.
За словами OpenAI, ці кроки є частиною 120-денної ініціативи з підвищення безпеки. Проте юристи родини Рейна назвали дії компанії запізнілими й недостатніми, наполягаючи, що проблеми ChatGPT були очевидними від самого запуску.