logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从 305 GB 到 7.4 GB:大模型 KVCache 架构演进全景

互带来的长上下文让 KVCache 持续膨胀,显存瓶颈愈发突出——过去几年以注意力机制为核心的模型架构演进,几乎都绕不开对 KVCache 的重新设计。本文尝试对这条演进脉络做一次系统梳理。

#架构
深度学习进阶(十八)坐标注意力 CA

在前面的内容里,无论是还是,它们的通道注意力子模块第一步都是(CBAM 额外加入了最大池化),将 �×�×� 的特征图压缩为 1×1×�。这个过程实际上等价于。对于要得出一个整体性的通道权重来说,这看起来是合理的。由此论文提出了,下面就来详细展开。

#算法#机器人
LangChain输出解析器实战:从大模型输出到结构化数据的转化

这里有个小细节需要注意:print语句里的end=""和flush=True,是为了让解析后的内容逐字连续显示,不会出现换行或卡顿的情况,完美还原流式输出的效果。运行这段代码后,大家会发现,大模型的输出会被解析成一段干净的纯文本,没有任何多余的格式,刚好能满足应用程序对字符串输入的需求。—看起来简单,但却是很多AI应用的基础操作,毕竟很多场景下,我们只需要干净的文本输出,无需多余格式。{"role

#前端#javascript
Milvus 和 PGVector,哪个更好?

回到最初的问题:Milvus和pgvector,哪个更好?看你的数据规模和业务场景。如果你的业务数据量在百万级以下,或者你已经在用PostgreSQL,希望保持架构简洁,那pgvector就是最务实的选择。一个扩展、几行SQL,就能把向量检索能力接入现有系统,无需额外维护。如果你的数据量达到千万甚至亿级以上,对查询延迟和写入吞吐量有极致要求,且团队有能力维护分布式。

#milvus
新手学 Skills:是什么、怎么找、如何开发?(最通俗易懂版)

当球飞过来,我拿起球拍,在合适的时机、用合适的力度击球,让球准确落在对方场地,这一整套操作逻辑,就叫“技能”。你会骑自行车,你会做饭,完成这些事情的整套操作逻辑,都是一项项技能。Claude Code 启动的时候会自动扫一眼你所有 Skill 的元数据(大概一百个 token,不占地方),它就知道:“哦,这是个写公众号的活儿,主人有规矩的,我按规矩来。每次开新对话,你都得重新交代一遍:“我是写公众

#人工智能
新手学 Skills:是什么、怎么找、如何开发?(最通俗易懂版)

当球飞过来,我拿起球拍,在合适的时机、用合适的力度击球,让球准确落在对方场地,这一整套操作逻辑,就叫“技能”。你会骑自行车,你会做饭,完成这些事情的整套操作逻辑,都是一项项技能。Claude Code 启动的时候会自动扫一眼你所有 Skill 的元数据(大概一百个 token,不占地方),它就知道:“哦,这是个写公众号的活儿,主人有规矩的,我按规矩来。每次开新对话,你都得重新交代一遍:“我是写公众

#人工智能
从大模型到自主智能:开发者必看的 AI Agent 全栈技术指南

基础模型 (Foundation Models)Llama, Mistral, DeepSeek, Qwen, PhiGPT, Claude, Gemini, NovaAgent 的“大脑”,负责逻辑推理、规划与自然语言处理。AutoGen / CrewAI / LangGraph:如果你需要构建复杂的多智能体系统(Multi-Agent),让不同的 Agent 扮演程序员、测试员、产品经理进行协

#人工智能
从大模型到自主智能:开发者必看的 AI Agent 全栈技术指南

基础模型 (Foundation Models)Llama, Mistral, DeepSeek, Qwen, PhiGPT, Claude, Gemini, NovaAgent 的“大脑”,负责逻辑推理、规划与自然语言处理。AutoGen / CrewAI / LangGraph:如果你需要构建复杂的多智能体系统(Multi-Agent),让不同的 Agent 扮演程序员、测试员、产品经理进行协

#人工智能
从大模型到自主智能:开发者必看的 AI Agent 全栈技术指南

基础模型 (Foundation Models)Llama, Mistral, DeepSeek, Qwen, PhiGPT, Claude, Gemini, NovaAgent 的“大脑”,负责逻辑推理、规划与自然语言处理。AutoGen / CrewAI / LangGraph:如果你需要构建复杂的多智能体系统(Multi-Agent),让不同的 Agent 扮演程序员、测试员、产品经理进行协

#人工智能
Codex Context Compaction 真相:Agent 为什么压缩后还能接着干活?

表面实验看到的是 handoff 文本,但服务端在加密前完全可能追加后处理结果:工具输出摘要、关键决策节点、甚至某种更适合恢复任务状态的结构化表示。比如项目里的 AGENTS.md 怎么要求,当前 sandbox 策略是什么,哪些工具可用,哪些 skill 已安装,工作目录和 git 状态是什么。更可能是服务端掌握了从压缩、加密、保存、解密到重新组装上下文的整条链路。Claude Code 更像数

#spring#java#前端
    共 19 条
  • 1
  • 2
  • 请选择