TTFT 是“首个 token 时间”(time to first token),表示 AI 答案的第一个片段出现前需要等待多久。TPS 是“每秒 token 数”(tokens per second),大致表示答案生成期间后续片段到达的速度。

可以想象等待一杯饮料:TTFT 是第一口准备好的时间,TPS 则是剩余饮料倒出的速度。这两项都会影响工具给人的响应速度。

这些是技术指标,并不保证答案有用。回复很快仍可能出错,而且总等待时间也取决于请求内容和生成的信息量。