GPT-5.6 Sol теперь отвечает мгновенно: как OpenAI ускорила модель в 14 раз

OpenAI представила режим Ultrafast для GPT-5.6 Sol — теперь флагманская модель генерирует до 750 токенов в секунду, работая в 14 раз быстрее стандартной версии. Пока доступ открыт только избранным клиентам, но уже ясно: это не просто «быстрее», а качественный скачок для бизнеса, где скорость критична.

Почему скорость вдруг стала проблемой

До сих пор ускорение больших языковых моделей (LLM) было компромиссом: либо жертвовать качеством ради скорости (используя облегчённые версии), либо мириться с задержками. OpenAI ломает этот шаблон: Ultrafast сохраняет все возможности GPT-5.6 Sol, но выдаёт ответы практически в реальном времени.

Пример из блога OpenAI: если раньше обработка запроса в чат-боте занимала 2 секунды, то теперь — всего 140 миллисекунд. Для пользователя это разница между «жду» и «уже вижу результат».

Как это работает: железо и оптимизации

Секрет Ultrafast — в партнёрстве с Cerebras, производителем специализированных чипов для ИИ. В отличие от универсальных GPU, процессоры Cerebras заточены под работу с трансформерами (архитектурой, на которой построены современные LLM). Это позволяет:

• Сократить задержки между слоями модели.
• Увеличить пропускную способность памяти.
• Оптимизировать параллельные вычисления.

OpenAI не раскрывает детали, но в пресс-релизе упоминается «новая архитектура вывода» (inference architecture), которая распределяет нагрузку эффективнее, чем стандартные решения.

Где это применимо уже сегодня

Пока Ultrafast доступен в preview-режиме для ограниченного круга клиентов, но OpenAI выделяет несколько сценариев, где скорость критична:

1. Финансовые рынки: анализ новостей и торговые сигналы в реальном времени.
2. Техническая поддержка: мгновенные ответы в чатах без задержек.
3. Кибербезопасность: быстрая обработка логов и реагирование на инциденты.
4. E-commerce: персонализированные рекомендации без пауз при загрузке страницы.

Интересно, что OpenAI не позиционирует Ultrafast как замену стандартной версии, а как дополнение — для задач, где каждая миллисекунда стоит денег.

Что под капотом: цифры и ограничения

• Скорость: до 750 токенов в секунду (для сравнения: стандартный GPT-4 Turbo выдаёт около 50 токенов/с).
• Задержка: менее 100 мс на первый токен (TTFT).
• Доступность: только через API, в preview-режиме для избранных клиентов.
• Цена: пока не объявлена, но, скорее всего, будет выше стандартного тарифа.

Главное ограничение — зависимость от инфраструктуры Cerebras. OpenAI обещает расширять доступ по мере роста мощностей, но когда Ultrafast станет общедоступным, неизвестно.

Почему это важно не только для OpenAI

Конкуренты уже реагируют. Anthropic недавно представила «fast mode» для Claude, но его скорость (около 300 токенов/с) в два раза ниже, чем у Ultrafast. Google и Meta тоже работают над ускорением своих моделей, но пока не демонстрировали сопоставимых результатов.

Для бизнеса это означает, что скорость LLM становится новым фронтом конкуренции. Если раньше компании выбирали между качеством и ценой, то теперь добавляется третий фактор — время отклика.

Что дальше: ждать ли массовый релиз

OpenAI традиционно тестирует новинки на небольшой аудитории, прежде чем открывать доступ всем. Скорее всего, Ultrafast появится в публичном API в течение 3–6 месяцев, но с ограничениями:

• Возможно, только для корпоративных клиентов.
• Цена может быть выше стандартных тарифов (например, $0.10 за 1000 токенов вместо $0.03).
• Не исключено, что режим будет доступен только для определённых задач (например, чат-боты, но не генерация длинных текстов).

Пока же разработчикам остаётся следить за обновлениями и готовиться к тому, что скорость LLM станет таким же важным параметром, как и качество ответов.

Источники

• TechCrunch: OpenAI introduces ‘Ultrafast,’ a new mode that makes GPT-5.6 Sol work at 14x the speed