Вчені з Університету Кюсю розробили інноваційний метод, який дозволяє виявити, як глибокі нейронні мережі приймають рішення. Завдяки візуалізації процесу організації даних за категоріями, новий підхід сприятиме створенню безпечнішого та надійнішого штучного інтелекту для критично важливих сфер.
Як працює нейронна мережа
Глибокі нейронні мережі моделюють обробку інформації, подібно до людського мозку, але розуміння їхнього процесу прийняття рішень залишається складним завданням. Ці мережі складаються з кількох рівнів обробки даних. Перший, вхідний рівень, він збирає необроблему інформацію. Інші, приховані рівні, покроково аналізують дані. На початкових етапах ідентифікуються прості елементи, а вже потім відбувається робота зі складнішими патернами. Цей багаторівневий процес дозволяє ШІ виконувати складні завдання. Однак внутрішні механізми прийняття рішень досі були незрозумілими.
Дослідники створили метод розподілу k*, який дозволяє візуалізувати та оцінювати, як нейронні мережі класифікують дані. Цей підхід оцінює відстань кожної точки даних до найближчої непов’язаної точки, що дає змогу краще зрозуміти організацію даних у багатовимірному просторі.
Дослідники виявили три типи організації даних нейронними мережами:
- Кластерне розташування. Подібні між собою елементи згруповані тісно, непов’язані – чітко розмежовані.
- Фрагментоване розташування. Подібні елементи розкидані по великому простору.
- Перекриване розташування. Елементи різних категорій знаходяться близько одне до одного.
Чітка кластеризація свідчить про високу точність і надійність штучного інтелекту, тоді як фрагментація чи перекриття можуть призводити до помилок у класифікації.