
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
自回归生成中,每生成一个 token 都要"看到"之前的全部序列。为避免重复计算,推理引擎会把每层注意力的键值张量缓存下来,这就是 KV Cache。随序列长度增长:序列越长,缓存越大;并发请求越多,占用叠加。缓存占用与"序列长度 × 并发数 × 模型层数与头维度"相关,很快成为容量墙;共享前缀的价值:多轮 Agent 场景中,系统提示与工具定义往往是共享前缀,若能跨请求复用这部分缓存,就能显著减
Agent 基础设施层的收敛不是单点事件,而是三条线同时推进:执行与编排层独立成产品形态,协议层分成 MCP 与 A2A 两条互补轨道,技能层从本地文件夹走向基金会治理。这套结构的最大价值,是让“我要建的是哪一层、控制点归谁”第一次变得可以精确讨论;最大的风险,则是在许可证、信任标准与抽象层归属都未定的阶段过早押注。本文的判断中,事实、二手转述与推断是分开的:双 harness 开源、指挥中心类项
选型会上最常见的错误,是把四层责任混着谈。层级负责什么典型可替换件换掉它的代价模型层推理、规划、工具调用决策各家 LLM、自托管模型上限变化,行为分布变化Harness 层上下文组装、回合循环、工具调度、审批与沙箱、会话状态、日志DeepSeek Harness / Codex 执行框架 / 自研下限变化,工程语义整体改变协议层Agent 与工具/数据的连接契约MCP;Agent 之间另有 A2A

2026 年 8 月,两家在模型层竞争最直接的公司做了一件方向相同的事:把各自智能体产品的推到开源。8 月 13 日,DeepSeek 以 MIT 协议开源 DeepSeek Harness(命令行工具名 dsh);8 月 19 日,OpenAI 在官方开发者博客宣布 Codex Harness 以 Apache-2.0 协议开源,对应仓库为 github.com/openai/codex[1][

AI Agent 竞争焦点转向工程化:技能化、记忆工程与 MCP 工具化的技术栈拆解在过去两周的开源生态观察中,一个不太显眼但方向一致的变化正在发生:GitHub 上最活跃的 AI 项目,越来越多地不是新的基础模型,而是围绕模型构建的工程组件——可复用的技能包、可持久化的记忆系统、可被标准化接入的工具调用层。2026 年第 36 周的趋势周报给出的判断是"AI 已经脱离单纯大模型、聊天机器人范畴,

八股文不是敌人,它只是换了岗位职责:从"答案"变成了"词汇表"。真正的淘汰线是你能不能在信息不完整的前提下,用证据一步步把问题收窄。这需要的是可迁移的排查骨架,而不是更大份的题库。四条场景线只是训练场,练熟之后,任何开放题都可以套用同样的方法。

实现一个算法来压缩一个字符串。压缩的要求如下:需要判断压缩能不能节省空间,仅在压缩后字符串比原字符串长度更短时进行压缩。压缩的格式是将连续相同字符替换为字符 + 数字形式,例如 "AAABCCDDDD" 变为 "A3BC2D4"。

这五期分别收录 15、16、12、9、11 个项目 [21][18][19][22][17]。也就是说,最后两期收录项目数反而最少,合计新增 star 却几乎把第一期的三倍多收入囊中。

矩阵乘(GEMM)是推理与训练中算力占比最高的一类计算。注意力中的投影、前馈网络中的两层变换、MoE 中每个专家的门控与变换,最终都落到形状各异的矩阵乘上。一个推理框架能否跑满硬件,很大程度上取决于 GEMM 库对目标硬件的利用程度。因此,"适配一款加速卡"如果只做到框架层算子能跑通、而 GEMM 仍是低效实现,那么上层的任何调度优化都会被这一层吞掉。DeepGEMM-Ascend 对应 Deep

矩阵乘(GEMM)是推理与训练中算力占比最高的一类计算。注意力中的投影、前馈网络中的两层变换、MoE 中每个专家的门控与变换,最终都落到形状各异的矩阵乘上。一个推理框架能否跑满硬件,很大程度上取决于 GEMM 库对目标硬件的利用程度。因此,"适配一款加速卡"如果只做到框架层算子能跑通、而 GEMM 仍是低效实现,那么上层的任何调度优化都会被这一层吞掉。DeepGEMM-Ascend 对应 Deep








