你可能会说
我想在项目中用到流式输出,应该怎么开始?
AI 的回答不是等全部生成完才一次性显示,而是一个字一个字地「蹦」出来。
AI 的回答不是等全部生成完才一次性显示,而是一个字一个字地「蹦」出来。让你不用干等,体验更好。
生活类比
像看直播打字——对方边想边发,你能实时看到他在说什么,而不是等半天收到一大段。
🎮 动手试试
关于「流式输出」,以下哪个描述最准确?
你可以这样告诉 AI
帮我写一个聊天接口,前端用 SSE 接收流式输出,后端调用 OpenAI streaming 模式,用户打字时就能看到逐字返回的效果。
流式输出是 AI 生成内容的「传输方式」(逐字发送),WebSocket 是实现这种传输的「通信协议」之一。流式也可以用 SSE,不一定要 WebSocket。
提升用户体验
在聊天界面中逐字显示 AI 回复,用户不用干等完整答案,感知响应速度大幅提升。
和 AI 协作时
告诉 AI「这个接口请用 streaming 模式调用,前端用 SSE 接收逐字返回,用户能实时看到生成过程」。
后台批处理
定时任务批量生成报告、夜间跑数据统计等不需要实时反馈的场景,流式输出没有意义。
非交互式应用
CLI 工具、一次性脚本等不需要前端实时展示的场合,普通请求响应模式更简单可靠。
AI 的回答不是等全部生成完才一次性显示,而是一个字一个字地「蹦」出来。让你不用干等,体验更好。
像看直播打字——对方边想边发,你能实时看到他在说什么,而不是等半天收到一大段。
你看到 AI 逐字输出回答,那就是流式输出在工作。