Компанія OpenAI представила GPT-4 Turbo – покращену версію своєї великої флагманської мовної моделі. Розробники зазначають, що вона стала потужнішою і дешевшою за GPT-4. Про це повідомляє TechCrunch.
Нова модель пропонуватиметься у двох версіях:
- одна призначена виключно для аналізу тексту;
- друга розуміє контекст не лише тексту, а й зображень.
Модель аналізу тексту вже доступна у вигляді попередньої версії через API. Обидві версії нейромережі компанія пообіцяла зробити загальнодоступними “найближчими тижнями”.
Для моделі оновили базу знань, яка використовується для відповіді на запити. Якщо GPT-4 навчалася на вебданих до вересня 2021 року, то межа знань Turbo – квітень 2023 року.
На основі безлічі прикладів з Інтернету модель навчилася прогнозувати ймовірність появи тих чи інших слів на основі шаблонів, включаючи семантичний контекст. Наприклад, якщо типовий лист електронної пошти закінчується фрагментом “З нетерпінням чекаю…”, GPT-4 Turbo може завершити його словами “… вашої відповіді”.
Водночас GPT-4 Turbo отримала розширене контекстне вікно (кількість тексту, що враховується у процесі генерації). Це дозволяє моделі краще розуміти зміст запитів і видавати відповідні їм відповіді, не відхиляючись від теми. GPT-4 Turbo має контекстне вікно в 128 тис. токенів, що вчетверо більше, ніж у GPT-4, що є найбільшим показником серед усіх комерційно доступних моделей штучного інтелекту. Таке вікно відповідає приблизно 100 тис. слів або 300 сторінкам тексту.
GPT-4 Turbo працює краще за попередні моделі при виконанні завдань, які потребують ретельного дотримання інструкцій, таких як генерація певних форматів (наприклад, XML).
Також GPT-4 Turbo може бути інтегрований з DALL-E 3, функціями перекладу тексту в мовлення та зоровим сприйняттям, розширюючи можливості використання ШІ.
Крім того, OpenAI оголосила, що надаватиме гарантії захисту авторських прав для корпоративних користувачів через програму Copyright Shield.
GPT-4 Turbo: ціна
Вартість використання моделі складає 0,01 долара за 1000 вхідних токенів (близько 750 слів) та 0,03 долара за 1000 вихідних токенів. Під вхідними токена розуміються фрагменти необробленого тексту. Наприклад, слово “fantastic” поділяється на токени “fan”, “tas” і “tic”. А вихідні токени генерує модель на основі вхідних.
Ціна GPT-4 Turbo для обробки зображень залежатиме від розміру зображення. Наприклад, обробка зображення розміром 1080 × 1080 пікселів коштуватиме 0,00765 долара.
Розробники заявили, що можуть пропонувати Turbo за ціною, втричі дешевшою для вхідних токенів і вдвічі дешевшою для вихідних токенів, порівняно з GPT-4 за рахунок оптимізації продуктивності.