19 березня компанія Meta повідомила про впровадження нових систем контролю контенту на основі штучного інтелекту. Йдеться про поступову відмову від значної частини роботи сторонніх підрядників і перенесення їхніх функцій на автоматизовані рішення.
Нові інструменти захисту
Нові системи будуть використовуватися для виявлення та видалення забороненого контенту: матеріалів, пов’язаних із тероризмом, експлуатацією дітей, наркотиками, шахрайством і фінансовими аферами. У компанії заявили, що запуск відбуватиметься поетапно і лише після того, як штучний інтелект покаже стабільні результати.
У Meta зазначають, що люди залишаться в процесі, але їхня роль зміниться. Алгоритми виконуватимуть рутинні завдання, наприклад, перевірку великої кількості графічного контенту або відстеження схем шахрайства. Люди ж ухвалюватимуть складні рішення щодо блокування акаунтів чи взаємодії з правоохоронцями.
За даними компанії, ранні тести показали хороший результат. Системи штучного інтелекту змогли виявляти вдвічі більше контенту сексуального характеру для дорослих, ніж команди модераторів, а також знизили рівень помилок більш ніж на 60%. Окремо зазначається, що алгоритми ефективніше знаходять фейкові акаунти, які імітують знаменитостей, і можуть запобігати зламам профілів.
Meta також стверджує, що її системи здатні щодня блокувати близько 5000 шахрайських спроб, коли користувачів намагаються змусити передати свої дані для входу.