大模型JSON输出优化的五层防御体系 摘要：大模型输出JSON时容易出现结构性错误、字段幻觉等问题，需采用五层防御体系保障输出质量：(1)优先使用模型原生结构化输出能力（如OpenAI的json_schema严格模式）；(2)自部署模型采用约束解码技术（如Outlines/XGrammar）；(3)提示工程加入Schema和Few-shot示例；(4)后处理层进行提取修复校验；(5)重试兜底机制。

多模态大模型通过视觉编码器将图片转换为向量序列（视觉Token），再经模态对齐模块映射到语言模型空间进行推理。核心流程为：图片→视觉编码→Token化→模态对齐→LLM处理。这种设计使其擅长高层语义理解，但在处理长截图、小字识别和精确计数时易出错，主要由于视觉Token压缩导致细节丢失、缩放模糊等问题。模型本质是将非文本信息转化为Transformer可理解的序列表示，而非精准的视觉识别工具。

MoE（混合专家）模型通过解耦总参数和单token算力，实现计算效率提升而非显存节省。其核心机制是每个token仅激活top-k专家进行计算，而所有专家仍需驻留显存。例如Mixtral-8x7B总参47B，显存占用与稠密模型相当。大模型（如DeepSeek-V3 671B/37B）普遍采用MoE提升吞吐，而小模型（<14B）仍以稠密为主。MoE优势在于数据中心场景的$/token经济性，但本地部署

这篇文章探讨了构建Coding Agent的最小核心系统，重点分析了Agent循环、工具系统、权限控制和钩子机制四个关键模块。文章指出，一个可用的Agent内核远不止简单的循环结构，而是需要建立完善的协议闭环：Agent Loop通过工具调用和结果反馈实现持续交互；工具系统通过Schema定义和函数注册实现能力扩展；权限系统通过多层验证机制确保操作安全；Hook机制在不污染核心逻辑的前提下支持功能

本文系统探讨了多Agent系统的四个核心层级及其关键问题：1. Todo系统作为单个Agent的执行规划工具；2. Task System实现持久化任务管理和依赖关系；3. Subagent用于隔离执行子任务；4. Agent Team实现长期协作。文章指出多Agent系统的真正挑战在于任务管理、状态同步、通信机制、权限控制和文件冲突解决，而非简单的并发调用。作者通过类比线程池、Actor模型等计

本文探讨了如何优化AI编码代理（Coding Agent）的上下文管理系统，以解决上下文窗口受限问题。作者提出"上下文工程"概念，强调信息分类存储和按需加载策略，将上下文信息分为静态规则、能力目录、当前工作、压缩摘要和长期记忆五类。系统采用分层压缩策略，从廉价操作（文件落盘、历史裁剪）到昂贵操作（LLM摘要）逐步执行。长期记忆通过结构化文件存储关键事实，而非简单使用RAG。文章还讨论了运行时组装S

摘要 本文探讨了AI工程化扩展的四个关键问题及解决方案：后台任务解决慢操作阻塞问题，Cron系统实现定时任务调度，Git Worktree隔离并行修改，MCP协议标准化外部工具接入。这些模块共同构成了AI系统的工程化基础，使Agent从演示原型发展为生产级应用。文章详细分析了各模块的设计思路、实现要点和组合方式，强调"模型决策、系统执行"的工程原则，为构建可靠、可扩展的AI运行环境提供了系统化框架

Collection（存储单一元素）和Map（存储键值对）。

• 引用计数：每次引用计数一下，没有引用就可以释放(需要添加额外的逻辑来处理循环依赖引用)→Python• 可达性分析：从ROOT对象开始搜索，搜不到的就都可以回收→Java。

因为很多同学对内存的使用是很困惑的，不知道什么是栈空间什么是堆空间，也不知道变量在内存里的具体分配是什么样子的，这个文章主要是来解释两种内存的区别的——栈上是从上到下按照顺序来的，堆是随机的根据内存大小来进行的(这一部分的底层实现和原理要涉及计算机组成原理和汇编语言，实在不等可以等以后就知道了)在我们进行空间的申请的时候，栈和堆的申请逻辑是不一样的，栈是根据顺序来进行申请的，因此我们才不需要用指针