Китайський кіберрегулятор оприлюднив проєкт нових правил, які посилять контроль над сервісами штучного інтелекту з людиноподібною поведінкою. Документ винесли на громадське обговорення 27 грудня. Він спрямований на регулювання систем ШІ, здатних імітувати людську особистість та вступати з користувачами в емоційну взаємодію.
Нові правила регулювання ШІ
Ініціатива демонструє підхід Пекіна до розвитку споживчого штучного інтелекту. Влада прагне прискорити його впровадження, водночас жорсткіше окреслюючи вимоги до безпеки, етики та відповідальності розробників.
Проєкт охоплює продукти й послуги ШІ, доступні широкій аудиторії в Китаї. Йдеться про системи, що відтворюють риси людської поведінки, моделі мислення та стилі спілкування. Регулювання стосуватиметься взаємодії через текст, зображення, аудіо, відео та інші цифрові формати.
Окремий акцент зроблено на психологічних ризиках. Розробників зобов’яжуть попереджати користувачів про можливе надмірне використання таких сервісів. Якщо система фіксуватиме ознаки залежності або емоційного перенасичення, постачальник послуг має втрутитися.
Проєкт також вводить вимогу повної відповідальності за продукт протягом усього його життєвого циклу. Компанії повинні створювати механізми перевірки алгоритмів, контролю безпеки даних та захисту персональної інформації. Передбачається постійний моніторинг емоційного стану користувачів і оцінка рівня їхньої залежності від сервісу.
ШІ-системам заборонять створювати матеріали, що загрожують національній безпеці, поширюють чутки, пропагують насильство або непристойність.