logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从零构建 Go IM 系统:WebSocket + AI Agent + gRPC 全栈实践

每个用户独立维护对话上下文,超出阈值时异步压缩为摘要,保证历史不丢失的同时避免 token 无限增长:summary string// 历史摘要(已压缩部分)recent[]ai.ChatMessage // 最近未压缩的对话构建发送给 AI 的消息列表// 主人设 + 历史摘要合并为一条 system 消息// 拆成两条 system 消息某些提供商会返回空回复})

#golang#websocket#人工智能
从零构建 Go IM 系统:WebSocket + AI Agent + gRPC 全栈实践

每个用户独立维护对话上下文,超出阈值时异步压缩为摘要,保证历史不丢失的同时避免 token 无限增长:summary string// 历史摘要(已压缩部分)recent[]ai.ChatMessage // 最近未压缩的对话构建发送给 AI 的消息列表// 主人设 + 历史摘要合并为一条 system 消息// 拆成两条 system 消息某些提供商会返回空回复})

#golang#websocket#人工智能
到底了