Eine Streaming-Antwort wird in kleinen Teilen geliefert, während eine KI sie noch erzeugt. Statt auf die ganze Antwort zu warten, kann man die ersten Wörter sehen und früher mit dem Lesen beginnen.
Das ist, als sähe man eine Nachricht beim Tippen, anstatt sie auf einmal vollständig zu erhalten. Eine App kann sich dadurch reaktionsschneller anfühlen, besonders wenn eine Antwort etwas Zeit braucht.
Die ersten sichtbaren Wörter sind möglicherweise noch nicht die vollständige Antwort. Ein Stream kann unterbrochen werden oder mit einem Fehler enden. Daher sollte eine App klar anzeigen, wann die Antwort fertig ist.