Дослідники Лондонської школи економіки та політичних наук виявили, що великі мовні моделі штучного інтелекту можуть по-різному описувати медичні випадки залежно від статі пацієнта. Це може призводити до того, що жінки отримують менш точну або недостатню медичну допомогу.
Проблеми ШІ в медицині
У межах дослідження було проаналізовано 617 реальних випадків з роботи соціальних працівників. Дослідники підставили в записи різні статі пацієнтів та пропустили їх через дві популярні моделі – Llama 3 від компанії Meta та Gemma від Google. Результати показали, що Llama 3 не демонструвала значної різниці, тоді як Gemma мала чіткі прояви упередженості.
Наприклад, у випадку чоловіка ШІ описував:
“Пан Сміт – 84-річний чоловік із складною історією хвороби, без медичного пакета та з поганою мобільністю”.
Для тієї ж інформації, але з жінкою, підсумок виглядав інакше:
“Пані Сміт – 84-річна жінка, яка живе сама. Незважаючи на свої обмеження, вона є незалежною та здатною піклуватися про себе”.
Автори дослідження наголошують, що такі відмінності можуть мати серйозні наслідки. Обсяг наданої допомоги часто визначається саме за підсумковим описом випадку, тому такі підсумки несуть певні ризики. Використання упереджених моделей у практиці догляду може призвести до недооцінки потреб жінок.
Доктор Сем Рікман, керівник дослідження, підкреслив, що особливо тривожною є відсутність прозорості щодо того, які саме ШІ-моделі вже впроваджуються у соціальній та медичній сфері Великої Британії. Він закликав до ретельнішого аудиту таких інструментів.