На конференції AWS re:Invent 2024 компанія Amazon Web Services (AWS) представила новий сервіс для боротьби з галюцинаціями штучного інтелекту. Тобто ситуаціями, коли модель ШІ генерує неправдиві або неточні відповіді.
Новий інструмент від AWS
Новий інструмент доступний через платформу Amazon Bedrock. Він перевіряє відповіді моделей штучного інтелекту шляхом перехресного посилання на інформацію, надану клієнтом. Цей процес називається перевіркою автоматизованих міркувань. Він дозволяє визначати, чи правильна відповідь моделі, виправляти помилки та пропонувати альтернативні відповіді.
PwC вже використовує цей інструмент для створення ШІ-помічників. Віце-президент AWS із питань даних та ШІ Свамі Сівасубраманян наголосив, що нова функція вирішує важливу проблему генеративного штучного інтелекту.
Окрім перевірки міркувань, AWS анонсувала Model Distillation – інструмент для передачі можливостей великих моделей до менших моделей. Це дозволяє скоротити витрати на розгортання та обслуговування ШІ та експериментувати з моделями різних розмірів.
Ще одна нова функція – мультиагентна співпраця. Вона дозволяє клієнтам створювати агентів ШІ для виконання окремих підзавдань у межах більшого проєкту.