Uma resposta em fluxo é apresentada em pequenas partes enquanto a IA ainda a está a produzir. Em vez de esperar pela resposta completa, uma pessoa pode ver as primeiras palavras e começar a ler mais cedo.
É como ver uma mensagem a ser escrita, em vez de a receber toda de uma vez. Isto pode fazer com que uma aplicação pareça mais rápida, sobretudo quando uma resposta demora um pouco.
As primeiras palavras visíveis podem não ser a resposta completa. O fluxo pode ser interrompido ou terminar com um erro, pelo que a aplicação deve indicar claramente quando a resposta terminou.