GLM-5.1 упирается в 32k output cap OpenCode: сессия без результата маскируется как HUNG POST #161

Проблема

При реальном прогоне library_fine на zai-coding-plan/glm-5.1 OpenCode иногда исчерпывает внутренний per-step output budget ровно в 32 000 токенов, закрывает ход без tool call, файла и финального ответа, а benchmark классифицирует это как:

зависший POST /message: ответа провайдера не было, сессия закрылась без результата

Эта формулировка неверна: провайдер ответил и usage получен. Фактическая сигнатура соответствует finish_reason=length / исчерпанию output budget в OpenCode.

Доказательства

Сохранённые прогоны в data/main.db

Отчёты 290, 296, 298: 12 копий library_fine на zai-coding-plan/glm-5.1.

• 5 успешных;
• 7 ошибок с одинаковым HUNG_POST_REASON;
• во всех 7 ошибках output_tokens + reasoning_tokens = 32 000;
• ни одного артефакта или финального результата.

Успешные копии длились 515.4–1077.0 с, ошибочные — 357.6–915.1 с. Поэтому простой wall-clock cutoff не отличает зависание от медленного успешного выполнения.

Два свежих повторных прогона

Оба выполнены с --no-save на OpenCode 1.17.18:

Для контроля простые задачи на той же модели и провайдере проходят:

• hello_world: 21.9 с;
• fast_sort: 19.4 с;
• stock_downloader: 151.3 с.

Это не общий отказ Z.AI и не отсутствие ответа на любой prompt.

Воспроизведение

python bench.py \
  --project library_fine \
  -p zai-coding-plan \
  -m glm-5.1 \
  -n 1 \
  --no-save \
  --base-port 4096 \
  --timeout 1000 \
  "<prompt from reports 290/296/298 in data/main.db>"

В окружении локальной диагностики proxy-переменные были очищены.

Точный prompt хранится в reports.raw_json отчётов 290, 296, 298.

Почему это не обычный сетевой сбой Z.AI

В проблемных копиях:

• есть ненулевой input/output/reasoning usage;
• completion всегда заканчивается ровно на 32 000;
• нет ECONNRESET, JSON parse error или provider network error;
• сессия доходит до terminal/idle, но без результата.

Это отличается от #160: там glm-5v-turbo не отдаёт ни одного события и usage отсутствует.

Upstream

Сигнатура напрямую совпадает с открытыми issue OpenCode:

• Bug: limit.output in config is silently capped at 32k; OPENCODE_EXPERIMENTAL_OUTPUT_TOKEN_MAX is a poor workaround anomalyco/opencode#29363 — скрытый per-step cap 32k;
• [FEATURE]: Auto-continue when model hits output token limit (finish_reason: "length") anomalyco/opencode#17471 — OpenCode завершает цикл при finish_reason=length вместо продолжения;
• Truncated tool calls are misclassified and unrecoverable (finishReason: length + repairToolCall + doom loop) anomalyco/opencode#18108 — headless-запуск получает пустой результат при исчерпании output budget.

Локальная причина неправильной диагностики

1. POST /message не завершается за 30 с → post_hung=True.
2. Benchmark правильно продолжает ждать SSE/terminal state.
3. OpenCode заканчивает ход без файла/финального текста.
4. При code=0 + post_hung + no artifact benchmark заменяет результат на HUNG_POST_REASON.
5. Terminal finish_reason не сохраняется, поэтому реальная причина length теряется.

Ожидаемое поведение benchmark

1. Сохранять terminal finish_reason и сигнал MessageOutputLengthError, если он есть.
2. При finish=length и отсутствии результата сразу возвращать отдельную точную причину, например:
   output budget OpenCode исчерпан (32 000), модель не завершила действие.
3. Не называть это отсутствием ответа провайдера.
4. Не ждать общий wall-clock timeout после получения terminal length.
5. Добавить CLI/config для явной передачи OPENCODE_EXPERIMENTAL_OUTPUT_TOKEN_MAX.
6. Провести A/B live-test 32 000 против 65 536.
7. Опциональный first-action watchdog держать отдельной страховкой: длительности успешных и ошибочных запусков пересекаются.

Тесты

• terminal finish=length + usage + no artifact → отдельный error reason;
• POST read timeout + последующий успешный tool/file → success, без регрессии;
• terminal idle + no artifact без length → существующая диагностика;
• transport error → существующий network reason (Обрыв интернет-соединения во время прогона: нет покрытия (POST /message вне planning + единая диагностика «локальный обрыв») #158);
• CLI/output-token-max корректно попадает в environment opencode serve;
• live A/B на zai-coding-plan/glm-5.1.

Связанные issue

• Регрессия glm-5v-turbo (zai-coding-plan): вчера работала, сегодня молчит (0/12) #160 — отдельный случай полного молчания glm-5v-turbo;
• Обрыв интернет-соединения во время прогона: нет покрытия (POST /message вне planning + единая диагностика «локальный обрыв») #158 — обработка сетевых обрывов;
• bench: code=0 без артефакта — ложный успех (модель отработала, но файл не сохранила; это не успешный запуск) #142 — ложный успех без артефакта.