Компанія Google частково вимкнула автоматичні ШІ-огляди у результатах пошуку для низки медичних запитів після розслідування Guardian, яке виявило ризик дезінформації. Журналісти з’ясували, що штучний інтелект пропонував спрощені або некоректні діапазони норм для аналізів крові, не враховуючи ключові фактори: вік, стать, етнічну приналежність чи національні стандарти. У низці випадків це могло вводити користувачів в оману щодо їхнього стану здоров’я.
Оглади штучного інтелекту можуть нести загрози
Guardian повідомляє, що за запитами “який нормальний діапазон аналізів крові” та “який нормальний діапазон тестів функції печінки” ШІ-огляди тепер не з’являються. Водночас модифіковані формулювання, як-от “референтні значення lft”, інколи все ще запускають згенеровані штучним інтелектом зведення.
Під час повторної перевірки після публікації розслідування журналісти помітили, що Google перестав показувати ШІ-огляди навіть за альтернативними формулюваннями. Проте пошуковик усе ще пропонує перейти у режим ШІ-оглядів.
Речник компанії Google заявив, що компанія не коментує окремі видалення, але працює над загальними покращеннями пошуку. За словами представника, внутрішня команда компанії переглянула спірні приклади й дійшла висновку, що у багатьох випадках інформація була коректною і підтверджувалася авторитетними ресурсами.