TTFT bedeutet „Time to First Token“ und beschreibt, wie lange es dauert, bis der erste Teil einer KI-Antwort erscheint. TPS bedeutet „Tokens per Second“ und gibt ungefähr an, wie schnell während der Antwort weitere Teile eintreffen.
Stellen Sie sich vor, Sie warten auf ein Getränk: TTFT ist die Zeit bis zum ersten Schluck, TPS die Geschwindigkeit, mit der der Rest eingeschenkt wird. Beides beeinflusst, wie reaktionsschnell sich ein Tool anfühlt.
Das sind technische Messwerte, keine Garantie für eine nützliche Antwort. Eine schnelle Antwort kann trotzdem falsch sein. Die gesamte Wartezeit hängt außerdem von der Anfrage und der erzeugten Informationsmenge ab.