Una respuesta en streaming se entrega en partes pequeñas mientras la IA todavía la genera. En vez de esperar a que termine, la persona puede ver las primeras palabras y empezar a leer antes.
Es como ver cómo se escribe un mensaje en lugar de recibirlo completo de una vez. Esto puede hacer que una aplicación parezca más ágil, sobre todo si la respuesta tarda un poco.
Las primeras palabras visibles quizá no formen la respuesta completa. El flujo puede interrumpirse o terminar con un error, así que la aplicación debe indicar claramente cuándo ha finalizado.