Компанія Google тимчасово вилучила свою модель Gemma зі студії штучного інтелекту AI Studio. Рішення ухвалили після звинувачень у наклепі, висунутих сенаторкою США Маршею Блекберн.
Причина позову
Блекберн заявила, що Gemma вигадала історію про її сексуальні домагання під час виборчої кампанії 1987 року. Політикиня зазначила, що така кампанія відбулася лише у 1998 році, а всі наведені посилання не мають жодного стосунку до реальних подій.
У своєму листі до генерального директора Google Сундара Пічаї вона наголосила, що це не просто технічна помилка, а свідомий наклеп, створений штучним інтелектом. Вона також згадала позов активіста Роббі Старбака проти компанії Google, у якому модель нібито поширювала неправдиві твердження про нього.
Віцепрезидент Google Маркем Еріксон визнав, що так звані галюцинації поширена проблема у генеративних системах. Компанія, за його словами, активно працює над зменшенням таких випадків.
Однак Блекберн звинуватила Google у систематичній упередженості проти консервативних діячів. Вона заявила, що інструменти компанії демонструють ліберальний нахил, який нагадує політичну цензуру.
У п’ятницю Google підтвердила вилучення Gemma з AI Studio. Компанія пояснила, що модель ніколи не призначалася для споживчого використання, але залишиться доступною через API для розробників.