Некомерційна організація Common Sense Media оприлюднила результати аналізу продуктів Google Gemini для дітей і підлітків. Вони були віднесені до категорії інструментів з високим ризиком. Попри наявність спеціальних фільтрів і обмежень, експерти вважають, що Gemini залишає лазівки для поширення небезпечного контенту. Наприклад, інформації про секс, наркотики, алкоголь та поради щодо психічного здоров’я, які можуть бути неприйнятними для неповнолітніх.
Небезпека Google Gemini
Організація зауважила, що дитячі версії Gemini здебільшого виглядають як дорослі, але з додатковими обмеженнями. На думку експертів, штучний інтелект для дітей повинен проектуватися з урахуванням їхніх вікових потреб, а не як адаптований продукт для дорослих.
Аналіз вийшов на тлі повідомлень, що Apple може інтегрувати Gemini у нову Siri на базі штучного інтелекту, заплановану до запуску наступного року. Це викликає додаткові побоювання, що небезпечний контент може стати доступним ще ширшій дитячій аудиторії.
Google заперечує оцінку, наголошуючи, що її політика та інструменти захисту неповнолітніх постійно вдосконалюються. Крім того компанія співпрацює з незалежними експертами для посилення безпеки. Водночас Google визнала, що деякі відповіді Gemini дійсно не спрацювали належним чином, і пообіцяла впровадити додаткові заходи.
Для порівняння, за попередніми оцінками Common Sense, ChatGPT отримав статус помірного ризику, Perplexity – високого, тоді як Meta AI та Character.AI були визнані неприйнятними.