CHAPTER 14第 14 章 实测数字总表
20 分钟阅读 · 4,659 字
全书数字的单一索引。规则（README 约定 2）：每个数字必须带"测于何时、何配置、出处文件"；
口径冲突不静默选，一律列出来。本章不产生新数字——它只做归档与对齐。
时间一律北京时间。日期只写测量日，不写"上周/最近"。
14.1 怎么读这张表
| 列 |
含义 |
| 数字 |
书里被引用的那个值 |
| 测于 |
测量日期（北京时间）；跨多日的写区间 |
| 何配置 |
决定这个数字成立的布局/参数（单卡 vs 双实例、独跑 vs 并发、冷内容 vs 复用、经网关 vs 直连） |
| 出处 |
仓库内文件路径（可 grep） |
三条全局口径（先记住，否则下面每一行都会误读）：
- 绝对值受邻居污染：本机 GPU 与宿主机共享（MPS），10-04 复测的绝对值比验收时低约 40%，
文档自己标注"相对结论可信、绝对值按 ±20% 看待"（Strata-本Pod部署全景.md §6.1）。
- 冷/热必须标：前缀复用能把 TTFT 差一个数量级（12 章），所以任何 TTFT 数字没写冷热就是废数。
- 并发下的服务端 timings 不可信：并发数字以客户端流式时间戳为准（10 章 §10.5、13 章纪律 3）。
14.2 硬件与模型（静态事实，非"测量"）
| 数字 |
口径 |
出处 |
| 2 × RTX 4090D，各 24 GB |
平台注入 |
~/deploy/context.json |
cgroup CPU 32 核（cpu.max = 3200000 / 100000） |
2026-10-19 读 cgroup；容器内 nproc 见 76（未限） |
02 章约束 1 |
| 内存 216 GiB |
同上 |
同上 |
| mlock 硬限 8 MB |
无法 --mlock 全量权重，故走页缓存 |
STRATA-DEPLOYMENT.md |
| 机械盘随机读 6.9 ms |
决定"未命中专家落盘"的代价 |
方案猜想.md |
| 权重包 IQ3_XXS 76.7 GB |
2026-10-04 口径 |
STRATA-DEPLOYMENT.md §1 |
| 48 层 × 512 专家 = 24,576，top-10 + 共享专家 |
模型结构 |
同上 |
| MTP 草稿头 31 张量 / 5,214,301,696 B |
打包自 BF16 checkpoint |
同上 |
PLE 3-gram 3.2 亿行 / 28.8 GB（--ple-io ram 页缓存） |
引擎启动日志 |
06 章 |
| 词表 248,320；视觉编码器 449M（mmproj BF16） |
模型 |
08 章 / IMAGE-VISION-MECHANISM-2026-10-19.md |
| 原生窗口 262,144 = 256×1024 |
引擎 |
/v1/status |
14.3 解码速度
| 数字 |
测于 |
何配置 |
出处 |
| 76.8 tok/s（solo） |
2026-10-04 |
单卡、--batch 4 已开、单路、热态 |
POD-ENV-NOTES.md :111 |
| 2 路 52.0 / 52.9（合计 104.0）；4 路 ~34.8（合计 138.2） |
2026-10-04 |
同上，批并发集成验收 |
同上 |
| 88.1 / 110.4 / 137.5（1/2/4 路聚合） |
2026-10-04 |
单卡验收档（邻居较空时） |
STRATA-DEPLOYMENT.md :189-191 |
| 74.4 / 67.2 / 76.9 / 73.3 / 83.8 / 86.1（1/2/4/6/8/12 路聚合） |
2026-10-04 晚 |
基准台复测，每路 ~256 tok ×3 轮，邻居满载 |
Strata-本Pod部署全景.md §6.1 |
| 冷启动 8.5 → 渐热 22.9 → 缓存热 71.8 tok/s |
2026-10-04 |
单卡首问 → 稳态 |
POD-ENV-NOTES.md :104 |
| 解码随长度几乎不变：106 → 88 tok/s（1k → 258k，−17%） |
2026-10-04 晚 |
单路、唯一前缀、固定生成 512 tok |
Strata-本Pod部署全景.md §6.2 |
| 短上下文长生成最优口径：稳态 106~113、滑窗峰值 150+ |
2026-10-04 晚 |
best 场景，2048 tok ×3 |
同上 §6 |
| 双实例 solo 107 / 98；1+1 聚合 139；2+2 聚合 109；1+3 快道 119 |
2026-10-07 晚 |
每卡一实例 + 钉核，无外部流量，直连 8091/8092，每路 512 tok 贪心唯一前缀 |
Strata-双卡部署全景.md §3 方案 2 |
| 隔离测试：普道灌 60k 时快道 93.7 tok/s · TTFT 1.08 s |
2026-10-07 晚 |
dual_lane_test.py iso 档 |
同上 |
| 8 路并发（经网关）每通道 47–61 tok/s，8/8 全活 |
2026-10-07 晚 |
经 :8080 |
同上 |
| 聚合天花板 ~145–170 tok/s/机（本机双实例口径） |
2026-10-06~07 综合 |
官方 4 卡 IQ3_S 参考 360 |
10 章 §10.4 |
官方 tools/batch_test.py 4 槽 256 tok 聚合 120.5 tok/s |
2026-10-06 |
首 token 后口径 |
DELIVERY-REPORT-2026-10-06.md :135 |
14.4 prefill 与 TTFT
| 数字 |
测于 |
何配置 |
出处 |
| TTFT ≈ 0.4 s + prompt_tokens / 3350（250k 以内无拐点） |
2026-10-04 晚 |
单路、冷内容、唯一前缀；≥32k 后稳定 ~3.5k tok/s |
Strata-本Pod部署全景.md §6.2 |
| 258k 提示词 ≈ 82 s |
同上 |
同上 |
同上 |
| 254k ≈ 81–91 s |
2026-10-13 口径 |
生产观测（问题清单 #1） |
项目背景与问题总览.md :131 |
| 8 并发 TTFT 可达 4.7 分钟 |
2026-10-13 |
生产长上下文并发 |
同上 |
| 八并发 strata-b TTFT ≈ 2 分钟 |
2026-10-07 晚（10-08 定位） |
驱逐风暴 + prefill 串行 |
memory strata-ttft-prefill-queue |
| 64k 复用 13.4 s → 0.79 s（17×），服务端记 reused 42k |
2026-10-04 晚 |
ctx-64k-reuse 场景，同提示词连发两次 |
Strata-本Pod部署全景.md §6.2 |
| 4 路 64k 并发时解码被饿死到 0.3~1.4 tok/s |
2026-10-04 晚 |
预填充进行时 |
同上 §6 |
| 64k 读入期间其他会话解码冻结 18.9 s |
2026-10-05 前后 |
双通道规划期口径 |
LONG-CONTEXT-RAG-PLAN.md §2.1 |
| 双卡 split prefill 6.3–6.7k tok/s（120k 全新约 18–22 s） |
2026-10-06 |
layer_split:"24" + --trim-stage-weights |
Strata-双卡部署全景.md §3 方案 1 |
| 单卡 prefill 2.7–3.1k tok/s（16k≈5s、100k≈35s、254k≈81–91s） |
2026-10-08 |
引擎日志解析 |
memory strata-ttft-prefill-queue |
冷 prefill 8k / 32k / 128k = 2.55 / 9.15 / 36.94 s（build 5，--mtp-varlen） |
2026-10-21 |
单路、A 道 GPU0、随机 nonce 保证缓存 miss、ttft_probe.py |
docs/reports/DEEPINFER-VARLEN-2026-10-21.md §5.7 |
| 同上，build 1（无 varlen）：2.81 / 9.21 / 37.47 s |
2026-10-21 |
同上（只换二进制） |
同上 §5.7 |
| 由 128k/37 s 反算 ≈3.4k tok/s，与 10-04 的 3350 公式一致 |
2026-10-21 |
冷内容、单路 |
同上 §5.7 |
| 网关 219,021 vs 引擎 231,775（差 5.8%） |
2026-10-08 |
窗口守卫翻车那次 |
window_guard_live.py 文件头 |
14.5 并发、批槽与 MTP
| 数字 |
测于 |
何配置 |
出处 |
| GPU 在 4 路已饱和：1 路 74、4 路 77、12 路 86 |
2026-10-04 晚 |
基准台复测（部分文档转引为"可观测性实验，2026-10-14"，见 14.9） |
Strata-本Pod部署全景.md §6.1 |
| >4 路每多一波 TTFT +~5 s |
同上 |
同上 |
同上 |
| MTP 接受率 50–53%（1k）→ 65%（32k）→ 60–85%（1M） |
2026-10-06 |
单路 256 tok 长回答，parse_engine_log.py |
DELIVERY-REPORT-2026-10-06.md :307 |
| 接受率独跑 ~53%、多路稳态 ~60% |
2026-10-04~06 |
两种口径并存，别混用 |
10 章 §10.2 |
| 批槽链式（BCHAIN）聚合 +10~26%：96.5/77.0/118.1/131.3 → 106/94/149/153 |
2026-10-06 |
双卡 split，runs/conc-p2-before → conc-p2-chain |
ENGINE-BATCH-MTP-PLAN.md :160 |
自适应窗口（--mtp-varlen）与固定 L=4 持平：c=1 178→180、c=2 53.7→55.4、c=4 28.6→30.6 tok/s |
2026-10-21 |
快道 A，同二进制只差一个开关；B 道负载作协变量 |
docs/reports/DEEPINFER-VARLEN-2026-10-21.md §5.2 |
| 强制 L=2 对照：S=1 −22%（138.5 tok/s）；S=2 窗口效率 +6.2% 但端到端只 +2~5% |
2026-10-21 |
prod 二进制 + --mtp-max-t 2，B 道空闲 |
同上 §5.5 |
| 普道 B（build 5）空闲单流 115 tok/s、TTFT 0.30 s |
2026-10-21 14:00 |
32 tok 探针、--no-cache 但固定前缀命中 |
报告 §6 冒烟表 |
| 普道 B 与真实用户会话并发时每请求 15–19 tok/s、SSE 间隔 ~55 ms |
2026-10-21 13:55–14:00 |
引擎同时段 step-stats 写的是 kind:"batch", drafts:0、一步 ~36 ms → batch 路径不做 MTP |
同上；问题 #3 |
| 逐 token 一致性 48/48（IDENTICAL ×4） |
2026-10-06 |
官方 batch_test，精确档 --pcie-frac 0 |
DELIVERY-REPORT-2026-10-06.md |
| 8 路时 L=1（链退化为单 token 窗口） |
2026-10-06 |
--batch-groups 2 跨卡流水线 |
同上 :312 |
| GMAX = 8 / kVerifyMaxT = 8 |
源码常量（非测量） |
s2_expert_grouped.cu:1360、iq_kernels.cu:1804 |
10 章 §10.4 |
| 断流处理 19.45 s → 3.86 s |
2026-10-06 |
客户端断开后上游停止的时延 |
Strata-双卡部署全景.md :704 |
14.6 专家缓存与命中率
| 数字 |
测于 |
何配置 |
出处 |
| 专家 arena 10,243 槽 / 16.61 GiB，命中率 86–88% |
2026-10-05 前后 |
单卡 |
LONG-CONTEXT-RAG-PLAN.md §2.1 |
| 单专家 blob ~1.74 MB |
2026-10-06 |
16.61 GiB ÷ 10,243 |
方案猜想.md §3.1 |
| 每 token 专家查找 ~470–590 次 |
2026-10-06 |
引擎日志实测（48 层 × top-8 + 投机行） |
同上 |
| 单卡驻留 42% / 命中 ~86% |
2026-10-06 |
单卡基线 |
Strata-双卡部署全景.md §3 |
| 双卡 split 驻留 84%（20,579 / 24,576） / 命中 99.6–100% |
2026-10-06 |
layer_split:"24" |
同上 |
| 双实例（每卡一模型）命中 77.6–85.6% |
2026-10-07 |
未钉核那轮 |
同上 |
| CPU 池窗口 59.8 ms/window（钉核后恢复正常水位） |
2026-10-07 |
对照异常水位 |
方案猜想.md §重要转折 |
| 批窗口：2 行 ~18 ms（11.5 + 6.9）、4 行 ~34 ms（19.9 + 17.1） |
2026-10-05 |
GPU 等待 + CPU 池相加模型 |
LONG-CONTEXT-RAG-PLAN.md §2.1 |
14.7 多卡布局对照（11 章的表格来源）
| 数字 |
测于 |
何配置 |
出处 |
| 未钉核每卡一实例：solo 9.3、2 路 16.1、4 路 24.0、8 路 17.2（6/8 拿不到 token） |
2026-10-07 |
各 --pool-workers 24 抢 32 核 |
Strata-双卡部署全景.md §3 方案 2 |
| worker 24 → 13（仍共享核）：6–17 tok/s |
2026-10-07 |
第二轮 |
同上 / 方案猜想.md §2a |
钉核（A taskset 0-15、B 38-53）：98–107 tok/s |
2026-10-07 |
第三轮，翻案 |
同上 |
| split 布局忙时快道 ~37 tok/s |
2026-10-06 |
同引擎排队 |
Strata-双卡部署全景.md §3 方案 1 |
| 显存：split 两卡各 ~23.8 GB；单卡 23.6 GB |
2026-10-06 |
同上 |
同上 |
| RAM：双实例 176 / 216 GiB |
2026-10-19 |
现生产 |
02 章 |
14.8 长上下文精度（1M 套件）
| 数字 |
测于 |
何配置 |
出处 |
| NIAH 全网格 15/15（100%）（128k / 262k / 1M × 深度 5–95%） |
2026-10-07 15:21–19:40 |
走 strata-b 普道，经 :8080 组装 |
bench/1M上下文精度测试报告-2026-10-07.md |
| BABILong 1M 2/15（13%） |
同上 |
qa1–qa5 各 3 样本 |
同上 |
| 生产形态 300 轮 ≈1M 3/7 |
同上 |
6 事实 + 1 对照题 |
同上（§2.6 含已修的 TTL 复用缺陷） |
| 中文真实文档 1M 2/3 |
同上 |
交付报告重复到 1M |
同上 |
| 外部出口 NIAH 1M 3/3 |
同上 |
经 ssemarket.cn:23034 |
同上 |
| 组装日志样例：窗口 262144 = 提示词 52940（原始 996504 tok）+ max_tokens 32 + 边界 8 |
2026-10-07 |
网关组装 |
同上 |
| 280 轮 / 287K 触发组装后，250K 前缀 13 s 完成 |
2026-10-06 |
RAG 组装块复用 |
LONG-CONTEXT-RAG-PLAN.md §3 |
| 45 万 token 灌入（602 块嵌入，等待 6.2 s）期间另一会话普通请求 0.84–4.03 s |
2026-10-07 |
嵌入预处理不阻塞普通请求 |
双通道测试报告-2026-10-07.md §1.3 |
| 同一语料 TTL=3h 召回 0/6 → 6/6 |
2026-10-08 |
重排器判"块对本问题是否还有用" |
rag-proxy/README.md §5e |
注意：以上全部是 RAG 组装时代（网关会把 >262k 重拼接）测得的。
2026-10-19 起 rag_enabled=false，>262,144 直接 400，这些精度数字当前不可复现。
14.9 网关、计数与文档（2026-10-19 新增组）
| 数字 |
测于 |
何配置 |
出处 |
| 同一请求四个数：CC 157.9k / 中继 ~398,890 / 网关估算 516,561 / 引擎 154,796 |
2026-10-19 12:49 |
书稿会话 seg-124459，请求体 1,075,447 字符，326 条消息 + 55 工具 |
CONTEXT-COUNT-BILLING-2026-10-19.md |
| 另一次引擎实测 372,066 |
2026-10-19 |
同会话另一轮 |
同上 |
| 探针：300,000 个「龘」→ 引擎 600,052 → 结构化 400 |
2026-10-19 |
窗口守卫探针 |
同上 |
| 双方言同一句话 56 token 一致（openai / anthropic） |
2026-10-19 18:52–18:55 |
两通道重启后验证 |
同上 |
| 中文低估 ~2.4×（客户端）；英文高估 ~3.3×（网关上界估算） |
2026-10-19 |
由上面两组反推 |
同上 |
| 估算器系数：CJK 1.05 / 数字 1.05 / 其他 0.70（注释自证实测英文 0.19、代码 0.39） |
2026-10-19 |
rag_proxy.py:106-108, 229-230 |
同上 |
| 中继窗口 256,000（十进制）vs 引擎 262,144 |
2026-10-19 |
跨层不对齐，已移交中继方 |
同上 |
| 思考预算守卫触发 173 次（快道）/ 81 次（普道） |
2026-10-08 |
answer_reserve_tokens=4096 |
04 章 |
| 文档抽取实测：PDF prompt 103 → 答对 ZEBRA-42；DOCX 113 → DOCX-777；扫描 PDF 1103/1104 → SCAN-CODE-888；PNG 87；264,029 字符大文本 → prompt 2226 头尾两个 code 都答对 |
2026-10-19 |
经网关，documents 配置默认 |
DOCUMENT-GATEWAY-EXTRACT-2026-10-19.md |
| 图片 token：96×96 → 33；640×480 → 324；4000×3000 → 总 prompt 996；单图上限 1024 |
2026-10-19 |
strata-vision，mtmd 自动缩放 |
IMAGE-VISION-MECHANISM-2026-10-19.md |
| 595k 汉字 = 315k token 实测 400 |
2026-10-19 |
文档抽成文本后无组装 |
总览问题 #6 |
附件上限 20 MB；allow_urls=false |
2026-10-19 |
网关配置 |
DOCUMENT-FORMATS-HANDLING-2026-10-19.md |
14.10 运维时间常数
| 数字 |
测于 |
何配置 |
出处 |
| 引擎重启后模型载入 6–13 分钟 |
2026-10-04 |
单卡、共享盘 I/O |
Strata-本Pod部署全景.md §6.1 |
kill -9 后自动恢复 418 s |
2026-10-04 |
崩溃注入 |
POD-ENV-NOTES.md :111 |
| 引擎切换预期 1–3 分钟（模型重载） |
2026-10-18 |
switch_engine.py 设计口径 |
16 章 |
| A 道实际冷启动 6 分 36 秒（22:45:11 重启 → 22:51:47 ready） |
2026-10-18 |
部署 ssebed-0.1.38-b0 |
ENGINE-VERSION-FIELD-2026-10-18.md |
| 网关重启代价 秒级（15:33 那次 pid 3426352） |
2026-10-19 |
只重启 rag-proxy |
CONTEXT-COUNT-BILLING-2026-10-19.md |
测试套件：test_server.py 131 条过 130；EngineVersion 6/6；test_window_guard.py ALL PASS（6 s） |
2026-10-18 / 10-19 |
见各报告 |
16 章 |
14.11 ⚠️ 已过期 / 冲突口径清单
这一节是本章存在的另一半理由：书里、旧文档里、memory 里并存着互相打架的数字。逐条列出，不静默选。
| 旧口径 |
现口径 |
说明 |
| 16 核 |
32 核（cgroup） |
STRATA-DEPLOYMENT.md 写于 2026-10-04，当时配额不同；容器 nproc 另见 76（未限） |
| ——（无人写过） |
能加线程的只有 16 核 |
配额 32 核是两条 lane 合计；taskset 把 A 钉 0-15、B 钉 38-53 ⇒ 单 lane 13 worker 已饱和（21.2） |
--batch-groups A=1 / B=2 |
两条都是 1 |
2026-10-21 读 profile 实测；10.1 表已加注 |
| 100 GiB 内存上限 |
216 GiB |
同上，配额已变 |
| 88.1 / 110.4 / 137.5 并发矩阵 |
74.4 / 67.2 / 76.9 / 73.3 / 83.8 / 86.1 |
同一天的两个档：前者邻居较空、后者邻居满载。两者都真实，差约 40% 来自 MPS 邻居 |
| BABILong 0/5 |
BABILong 2/15 |
0/5 是早期小样本；15 是 10-07 全量（qa1–qa5 × 3） |
| solo 9.3 的归因"单卡装不下专家" |
真根因 CPU 专家池抢核 |
11 章 §11.6；容量解释不了数量级 |
互斥检查 generate.cpp:1738 |
现约 :1945 |
行号随注释整理漂移 |
GMAX :756-759 |
现 s2_expert_grouped.cu:1360 |
同上 |
server.py:394 self.ctl |
现 :1268 self.fifo |
10-08 排查时的旧行号 |
#prefill-yield :6326-6373 |
现约 :6681-6692 |
同上 |
chain_slots :4568 |
现约 :4895 |
同上 |
| 引擎端口 8090 |
8091 / 8092（8090 无监听，2026-10-19 ss 核实） |
bench 多个脚本默认值已过期（13 章 §13.1） |
| 场景数"十场景"（总览 :263）/ 12 个（memory） |
13 个（scenarios.py:281 REGISTRY） |
13 章 §13.2 |
| 嵌入端点 10.42.0.233 / rerank 10.42.0.71 |
现 config 10.42.0.67 / 10.42.0.91 |
LONG-CONTEXT-RAG-PLAN.md §3 与当前 config.json 不一致 |
| “可观测性实验报告（2026-10-14）” |
数字实际出自 2026-10-04 晚 基准台复测（Strata-本Pod部署全景.md §6） |
09/10 章沿用了后者的转述日期；数字本身一致，日期标签不可靠 |
| 1M 精度全套（14.8） |
当前 不可复现（rag_enabled=false，>262,144 直接 400） |
10-19 关闭 RAG |
| 12 路总吞吐 86 封顶 |
双实例聚合天花板 ~145–170 |
不是矛盾：前者单卡、后者每卡一实例 |
14.12 本章小结
- 这张表是引用数字时的第一站：先在这里找到"测于何时、何配置"，再决定能不能用。
- 三个最容易踩的坑：邻居污染（±20%）、冷热没标、并发下服务端 timings 不可信。
- 14.11 的 15 条冲突里，只有 4 条是"数字变了"（核数、内存、BABILong、并发矩阵），
其余全是行号漂移、端口过期、口径换时代——这类过期比数字变化更常见，也更危险。
- 新数字进表时必须自带三件信息，否则不进书。
14.13 2026-10-21 增补：单 lane 的窗口账（lane A，ssebed build 5）
这一节的数字全部出自同一天、同一条 lane、同一份二进制，可以直接互相对照。
来源：~/logs/step-stats-a.jsonl（13895 条：8014 batch + 4779 chain + 1102 prefill）
与 ~/SSEStraBed/logs/strata-iq3_xxs-a.log。
① 逐窗口统计（step-stats，中位数）
| 路径 |
槽数 |
样本 |
窗口中位 |
行/帧 |
草稿 |
接受 |
折合每请求 |
| chain |
1 |
317 |
17.7 ms |
4 |
2.44 |
2.13 |
~177 tok/s |
| chain |
2 |
2573 |
22.7 ms |
4 |
3.48 |
2.06 |
~135 tok/s |
| chain |
4 |
1785 |
30.0 ms |
8 |
4.00 |
3.13 |
~138 tok/s |
| batch |
1 |
12 |
12.3 ms |
1 |
0 |
0 |
~81 tok/s |
| batch |
3 |
3485 |
54.4 ms |
3 |
0 |
0 |
~55 tok/s |
| batch |
4 |
3124 |
39.4 ms |
4 |
0 |
0 |
~101 tok/s |
读法：每请求 ≈ (1 + 接受) × 1000 / 窗口ms。batch 路径 drafts = 0 是它没有投机的直接证据（10.8 ②）。
batch 3 槽 54.4 ms 比 4 槽 39.4 ms 还慢，说明槽数不是唯一变量（长上下文、冷命中的窗口混在里面）。
② 引擎自报的窗口分项（strata batch: 行，全部 67 条里挑三条）
| 场景 |
行数 |
ms/帧 |
GPU-reach wait |
CPU experts |
per layer-window（CPU / VRAM / PCIe） |
| 热态短上下文 |
3.95 |
26.5–27.7 |
15.9 |
8.9–9.9 |
2.20 / 36.30 / 1.83 |
| 重负载（历史） |
2.84 |
92.50 |
21.14 |
70.00 |
5.38 / 18.36 / 5.41 |
| 并发 6.6 |
6.62 |
41.89 |
51.21 |
31.99 |
7.33 / 132.32 / 6.47 |
热态样本折合 103 rows/s；重负载样本 92.5 ms 里 76% 在 CPU 专家上（20 章）。
③ 静态/瞬时值
| 量 |
值 |
出处 |
| decode 专家缓存命中率 |
88.6%（92150 / 103951） |
引擎日志 decode expert cache hit rate |
| PCIe host→device |
22.7 GB/s（best of 6 次 22.1–22.8） |
启动日志 PCIe probe |
生效 pcie_frac |
0.55（默认基值，探针未修正） |
同上 |
两条 lane 的 --batch-groups |
都是 1（写书时 B=2） |
deploy/engines/profiles/ssebed/strata-{a,b}.json |
④ 口径警告：这里的数字比压测台好看一倍
同一路径（chain，4 槽）：step-stats 折合 ~138 tok/s，压测台客户端实测 67 tok/s。
原因不是谁错了，而是分母不同：step-stats 是"窗口中位耗时"（混合了大量短上下文的轻窗口），
压测台是持续负载下的稳态。引用时必须带口径（20.8）。
这也提醒一件事：step-stats 适合判机制快不快（窗口里发生了什么），
压测台适合判用户感受（端到端多快）。两者不能互相替代，也不该互相校准。
