首字时间的 p50 和 p95 差多少：28 个大模型 API 一周真实流量数据
数据来源：2026-11-02 到 2026-11-08（UTC）这一周，取自半页酥 API（byesu）网关的每周实测看板。这些数字描述的是经过这个网关、走它的线路、用它的用户的提示词发出的请求，不是直接调用各家官方 API 的测量结果。
直接回答
首字时间（TTFT）的中位数：Claude 各模型都在 2 秒以内，GPT 和 Gemini 大多在 3.6 到 7.8 秒之间。差别更大的是尾部。Claude 各模型的 95 分位数大约是中位数的 2 倍；GPT、Grok、Kimi、GLM 各模型是中位数的 4 到 12 倍，也就是每 20 个流式请求里有 1 个要等 18 到 49 秒才出第一个字。只看中位数来定超时或评价模型，会漏掉这一点。
为什么只看中位数不够
聊天界面给人的快慢感受，取决于慢的那些请求。中位数 4 秒、p95 是 45 秒，意味着用户连发 20 条消息，平均会有 1 条空白大半分钟。平均值同样会掩盖这一点：很多个 4 秒加上少数几个特别长的，也能凑出 12 秒的平均值。
数据
只统计流式请求。首字时间在网关处测量，从收到请求到第一个输出 token；推理模型包含思考时间。
| 模型 | 首字 p50 | 首字 p95 | p95 / p50 |
|---|---|---|---|
claude-opus-4-7 | 1.1 秒 | 2.1 秒 | 1.8 |
claude-sonnet-4-6 | 1.4 秒 | 2.1 秒 | 1.5 |
claude-opus-4-8 | 1.5 秒 | 3.1 秒 | 2.1 |
claude-sonnet-5 | 1.5 秒 | 3.2 秒 | 2.2 |
claude-opus-4-6 | 1.6 秒 | 3.4 秒 | 2.1 |
claude-opus-5 | 1.7 秒 | 3.4 秒 | 2.0 |
claude-fable-5-1 | 1.7 秒 | 3.5 秒 | 2.1 |
claude-haiku-5-5 | 1.7 秒 | 3.9 秒 | 2.3 |
claude-opus-5-5 | 1.9 秒 | 4.5 秒 | 2.4 |
claude-sonnet-5-5 | 1.9 秒 | 4.4 秒 | 2.3 |
claude-haiku-4-5 | 2.0 秒 | 3.9 秒 | 2.0 |
grok-4.5 | 2.5 秒 | 18.7 秒 | 7.4 |
grok-4.7 | 3.3 秒 | 22.9 秒 | 7.0 |
gemini-3-flash | 3.6 秒 | 12.2 秒 | 3.4 |
deepseek-v4.1-flash | 3.6 秒 | 8.0 秒 | 2.2 |
gemini-3.6-flash | 3.6 秒 | 5.4 秒 | 1.5 |
gpt-5.6-sol | 3.7 秒 | 18.7 秒 | 5.1 |
gpt-5.6-luna | 4.1 秒 | 49.1 秒 | 12.0 |
gpt-6-astra | 4.3 秒 | 19.5 秒 | 4.5 |
gpt-5.6-terra | 4.3 秒 | 27.7 秒 | 6.4 |
gpt-6.1-sol | 4.6 秒 | 21.9 秒 | 4.8 |
gpt-6-sol | 5.4 秒 | 44.5 秒 | 8.2 |
kimi-k3 | 5.5 秒 | 27.2 秒 | 5.0 |
gemini-3.8-flash-high | 5.5 秒 | 19.2 秒 | 3.5 |
glm-5.3-flash | 5.9 秒 | 38.1 秒 | 6.5 |
gemini-3.8-flash | 7.0 秒 | 33.3 秒 | 4.7 |
gpt-6-luna | 7.8 秒 | 46.1 秒 | 5.9 |
gemini-4-argon | 12.1 秒 | 71.4 秒 | 5.9 |
按厂商看，取表里各厂商旗下模型的中位数：
| 厂商 | 模型数 | p50 的中位数 | p95 的中位数 |
|---|---|---|---|
| Anthropic | 11 | 1.7 秒 | 3.4 秒 |
| xAI | 2 | 2.9 秒 | 20.8 秒 |
| DeepSeek | 1 | 3.6 秒 | 8.0 秒 |
| OpenAI | 7 | 4.3 秒 | 27.7 秒 |
| 5 | 5.5 秒 | 19.2 秒 | |
| Moonshot AI | 1 | 5.5 秒 | 27.2 秒 |
| 智谱 | 1 | 5.9 秒 | 38.1 秒 |
值得注意的三点
分布有两种形状。 Claude 各模型和两个 Gemini Flash 模型尾部很短，p95 是中位数的 1.5 到 2.4 倍。其余大多数模型尾部很长，p95 是中位数的 4 到 12 倍。
长尾里很大一部分是思考时间。 推理模型在输出第一个可见 token 之前要先思考，这段时间也计入首字时间。同一个模型，难题想 40 秒、简单题想 2 秒，就会呈现这种分布。这既和 API 有关，也和请求内容有关。但对盯着空白屏幕的人来说，等待是实打实的。
按中位数排和按尾部排，名次不一样。 gpt-5.6-luna 的中位数比 gpt-6.1-sol 好（4.1 秒对 4.6 秒），p95 却长一倍多（49.1 秒对 21.9 秒）。grok-4.5 的中位数是 Claude 之外最快的，p95 却有 18.7 秒。
拿这些数字做什么
- 按尾部定超时。 如果把首字超时设成中位数的 3 倍，表里大多数非 Claude 模型会有超过 5% 的正常请求被切断。
- 思考期间给出进度。 模型如果会流式返回思考摘要或进度事件，就把它展示出来。转 30 秒的圈，用户会以为坏了。
- 测你自己的流量。 这些是别人的提示词。你的 p95 取决于你的提示词长度、
max_tokens、推理设置和所在地区。做法见怎么自己测大模型 API 的延迟，那里介绍了一个开源的小脚本。