请问数据如何流式输出

Question

在测试的时候碰到一个问题，所有的内容都是全部请求完毕后输出到控制台上。如果是比较复杂的内容，前期等待时间就会变得特别的长。请问构建模型的时候如何加入流式输出的选项。

return OpenAiChatModel.builder()
.apiKey(this.modelType.getApi_key())
.modelName(this.modelType.getModel_name())
.baseUrl(this.modelType.getBase_url())
.build();

以这个OpenAiChatModel举例，构建的OpenAiChatModelBuilder对象中也没有查看可以设置stream的位置。麻烦老师解答一下

Answer 1

玄参架构 2025-09-01 17:33:54

同学如果需要流式输出可以在定义AiService接口的时候，定义flux返回体 输出流是streaming类型。下面有讲到的小节的。同学有课程疑问加我q 229928727