# Потоковые ответы ИИ-прокси: когда нужен stream=true

> Как работает streaming в OpenAI-совместимом ИИ-прокси: SSE-чанки, первая порция ответа, финальный usage и обработка обрыва.

- Category: gitsell-news
- Published: 2026-10-11T04:04:24.621618
- Canonical: https://gitsell.ru/blog/potokovye-otvety-ii-proksi-kogda-nuzhen-streamtrue

## Article

Обычный запрос возвращает ответ после завершения генерации. Для короткой классификации это нормально, но в чате пользователь смотрит на пустой экран. [ИИ-прокси Gitsell](/ai-proxy) поддерживает потоковый режим для совместимых моделей: текст приходит частями.

## Как включить streaming

```python
stream = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Объясни план обновления 1С"}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    delta = chunk.choices[0].delta.content if chunk.choices else None
    if delta:
        print(delta, end="", flush=True)
```

Пользователь видит начало раньше, хотя полное время генерации может почти не измениться.

## Что происходит с учётом токенов

Промежуточные чанки содержат части текста. Итоговый чанк включает `usage`; ИИ-прокси использует его для списания и возвращает Gitsell Tokens. Клиент не должен завершать соединение сразу после последнего видимого слова — нужно дочитать поток до `[DONE]`.

Если соединение оборвалось, частичный текст может отображаться, но приложение обязано пометить ответ незавершённым. Не сохраняйте его как окончательное решение и не запускайте по нему действие.

## Когда поток не нужен

- результат обрабатывается машиной после полного JSON;
- ответ очень короткий;
- задача выполняется в фоне;
- клиент плохо восстанавливается после обрыва;
- модель не поддерживает streaming.

Для извлечения полей обычный ответ проще. Для диалога, объяснения или генерации кода streaming улучшает восприятие.

Добавьте кнопку остановки, индикатор незавершённого ответа и таймаут бездействия. В журнал записывайте модель, время до первого чанка и полную длительность: эти метрики отличают медленное соединение от долгой генерации.


## Статьи по теме

- [Как подключить ИИ-прокси из 1С через HTTP](/blog/kak-podklyuchit-ii-proksi-iz-1s-cherez-http): Пример HTTP-запроса из 1С к OpenAI-совместимому ИИ-прокси: endpoint, заголовки, JSON, таймауты и обработка ошибок.
- [Как выбрать модель в ИИ-прокси: скорость, качество и расход токенов](/blog/kak-vybrat-model-v-ii-proksi-skorost-kachestvo-i-rashod-toke): Практический выбор модели в ИИ-прокси Gitsell по задаче: короткий текст, анализ, код, изображения, задержка и коэффициент токенов.
- [ИИ-прокси Gitsell: первый запрос через OpenAI SDK и curl](/blog/ii-proksi-gitsell-pervyi-zapros-cherez-openai-sdk-i-curl): Первое подключение к ИИ-прокси Gitsell: единый OpenAI-совместимый endpoint, API-ключ, список моделей, curl и Python SDK.