Компанія OpenAI додає в ChatGPT нову функцію прогнозування віку. Вона спрямована на виявлення неповнолітніх користувачів і автоматичне обмеження доступу до чутливого контенту.
Нова функція у ChatGPT
У компанії зазначають, що технологія не замінює чинні механізми безпеки, а доповнює їх. Алгоритм аналізує поведінкові патерни та облікові дані, щоб визначити, чи може користувач бути молодшим за 18 років.
До таких сигналів належать вік, указаний у профілі, тривалість існування облікового запису, а також типові години активності користувача. Якщо система класифікує обліковий запис як такий, що належить неповнолітньому, до нього автоматично застосовуються суворіші фільтри. Вони блокують або обмежують обговорення сексуальних тем, насильства та іншого потенційно шкідливого контенту.
OpenAI вже тривалий піддається суспільному осуду через використання ChatGPT дітьми. Компанію критикували за можливість обговорення інтимних тем із неповнолітніми, а також за окремі резонансні випадки погіршення психологічного стануткористувачів. У 2024 році компанія OpenAI була змушена терміново виправляти помилку, яка дозволяла генерацію еротичного контенту для користувачів до 18 років.
У компанії визнають, що алгоритм може помилятися. Якщо дорослого користувача помилково визначили як неповнолітнього, він може відновити повний доступ до функцій. Для цього передбачена перевірка особи через сервіс Persona, партнерський інструмент OpenAI, який використовує селфі для підтвердження віку.