logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

为什么 ChatGPT 能一个字一个字输出?——彻底理解 JavaScript Event Loop(事件循环)

JavaScript 之所以能实现 ChatGPT 逐字输出,核心在于 事件循环(Event Loop)。由于 JavaScript 是单线程,它将异步操作(如 fetch)交由浏览器的 Web APIs 处理,自身继续执行后续代码。当网络响应返回后,回调函数进入任务队列,由 Event Loop 在调用栈空闲时依次执行。尤其微任务(Microtask)优先于宏任务(Macrotask),确保 P

#javascript#开发语言
优化聊天机器人的第一步 - Context Optimization(上下文优化)

为应对多轮对话中聊天记录过长导致的性能问题,引入上下文优化(Context Optimization):通过SQLite查询最近20条消息并倒序排列,确保发送给大模型的仅是最新有效上下文。此举显著减少Token消耗与延迟,提升响应速度,同时保留完整历史记录。核心在于“只传最有价值的上下文”,为后续实现记忆、摘要与知识检索奠定基础。

#机器人#java#开发语言
什么是让聊天机器人拥有理解上下文的能力?

本文介绍了多轮对话(Multi-turn Chat)的核心机制,揭示了AI理解上下文的关键在于历史聊天记录的传递。由于OpenAI API每次请求独立,模型无法自动记住之前内容,因此需通过SQLite保存聊天记录,并在每次请求时将历史(history)与系统提示(system)合并为messages发送给模型。这一过程使AI能理解“它”指代前文内容,实现真正意义上的上下文理解。流程闭环:读取历史

#机器人#jvm
FastAPI 在KK Chat的作用 —— 学习总结

FastAPI 在 KK Chat 中充当 HTTP 与 Python 函数的翻译层,通过路由、Pydantic 校验、异步流式响应(StreamingResponse)和生成器实现逐字输出,解决前端请求、数据校验、长耗时等问题。项目采用分层架构,实现“换壳不换芯”,提升可维护性。基于 ASGI 的异步能力,天然支持高并发与流式输出,优于传统 Flask。核心心法:类型标注即契约,代码简洁高效。

#python#fastapi
到底了