TTFT significa “tempo até o primeiro token” (time to first token): quanto tempo leva até aparecer a primeira parte da resposta da IA. TPS significa “tokens por segundo” (tokens per second): aproximadamente, a rapidez com que outras partes chegam durante a geração da resposta.
Pense em esperar uma bebida: TTFT é o tempo até o primeiro gole ficar pronto, enquanto TPS indica a rapidez com que o restante é servido. Ambos podem afetar a sensação de resposta de uma ferramenta.
Essas são medidas técnicas, não uma garantia de que a resposta seja útil. Uma resposta rápida ainda pode estar errada, e o tempo total também depende do pedido e da quantidade de informação produzida.