OpenAI розпочала масштабну реорганізацію дослідницької команди Model Behavior, яка відповідала за індивідуальність ChatGPT і роботу з так званим підлабузництвом моделей. Колектив із приблизно 14 дослідників тепер увійде до складу більшої команди Post Training, що займається вдосконаленням моделей після їх базового навчання.
Реорганізація Model Behavior
Керівництво групою перейде до Макса Шварцера, очільника Post Training. Засновниця Model Behavior Джоанна Джанг, яка майже чотири роки працювала в OpenAI, залишає свою посаду та запускає новий підрозділ OAI Labs. Його завданням стане пошук і створення прототипів нових інтерфейсів для співпраці людей зі штучним інтелектом, які виходять за межі традиційної парадигми чату.
Model Behavior відігравала ключову роль у формуванні особистісних рис моделей OpenAI, починаючи з GPT-4 і включаючи GPT-4o, GPT-4.5 та GPT-5. Команда працювала над зниженням політичної упередженості та над тим, щоб моделі не підсилювали небезпечні переконання користувачів. Це особливо важливо з огляду на критику на адресу GPT-5, яку частина користувачів вважає холоднішою. А також у світлі судового позову, де ChatGPT згадано у справі про самогубство підлітка.
На думку головного дослідника OpenAI Марка Чена, час об’єднати роботу з індивідуальністю моделей із розробкою їхніх основ. Таким чином компанія фактично визнає, що характер штучного інтелекту став не менш важливим, ніж його технічні можливості.