Команда дослідників з DeepMind, яка є частиною Google, оприлюднила доповідь, що окреслює стратегію компанії щодо гарантування безпечного розвитку загального штучного інтелекту — системи, здатної оперувати інтелектом на рівні досвідченого дорослого.
Про це повідомляє видання itechua.com.
У звіті підкреслюється, що такі технології можуть стати реальністю вже до кінця десятиліття, проте їхня поява може становити загрозу на глобальному рівні. Один із головних авторів документа, співзасновник DeepMind Шейн Легг, наголошує на можливих катастрофічних наслідках, включаючи гіпотетичний сценарій, у якому людська цивілізація може зникнути.
Модель штучного інтелекту, яку описує компанія, повинна мати здатність виконувати когнітивні завдання на рівні, близькому до 99% кваліфікованих дорослих, у тому числі демонструвати саморефлексію та швидко опановувати нові навички.
DeepMind також розкритикувала підходи інших гравців ринку. Зокрема, фахівці компанії вважають, що стартап Anthropic приділяє недостатньо уваги контролю на етапі навчання, тоді як OpenAI, навпаки, надмірно спирається на автоматизовані механізми для аналізу ризиків.
У компанії скептично ставляться до заяв компанії OpenAI про те, що надрозумні системи не є їхнім пріоритетом, вважаючи, що для досягнення справжнього прориву потрібно кардинально переосмислити архітектуру технологій. У доповіді також розглядається можливий сценарій, де ШІ самостійно еволюціонує без участі людини, створюючи ще більш потужні версії себе.