一个多月前，Andrej Karpathy 发了一个推，说他观察到 timeline 上的人分为两类，并且这两类人之间的 gap 越来越大。第一类：低频使用的“白嫖”党：“去年不知道在哪使用过免费的 ChatGPT，由此形成对 AI 的认知”“嘲笑模型奇怪的回答和幻觉，问 AI「我应该走路还是开车去洗车店」之类的问题”付费但无法发挥 Agent 全部能力：开通了 SOTA 模型 $200/月的订阅

本文详细介绍了AI Agent框架的理论与实践，从ReAct、Plan-and-Execute到Reflection等主流模式，对比了LangChain、LlamaIndex等框架的优劣，并深入探讨了Agent框架的核心要素——上下文工程。通过一个极简的Agent框架代码实现，展示了如何将理论应用于实践，帮助读者快速入门AI Agent开发。对于想要了解AI Agent小白和程序员来说，本文提供了

本文指出当前转行AI工程师并非末班车，而是新起点，企业更需求全栈选手而非纯理论博士。文章建议程序员转行AI应从需求出发，而非啃深度学习理论，并提供针对不同背景程序员的转行优势分析及一套普通人可落地的学习路线图，包括认知建立、核心基础补充、方向深耕及项目落地等步骤，帮助程序员高效转行AI领域。很多人觉得，AI工程师的风口已经过了——大厂早都抢完了，现在进来只能当炮灰。其实反过来才对。前两年大厂抢AI

前段时间有一个号称是「lama3-120b」的神秘大模型火了起来，原因在于它表现太过出色了，可以轻松击败GPT-4、gpt2-chatbot。但实际上Llama 3首发阵容里并没有120B的模型。经过网友的深扒，发现其竟然是使用MergeKit制作，将Meta官方LIama3 70B模型合并（Self-Merge）。MergeKit是专门用来合并预训练模型的工具包，合并可以完全在 CPU 上运行，

30岁程序员转行指南：20条实用建议助你成功转型 30岁以上程序员转行已成为普遍现象，尤其是转向大模型等AI热门领域完全可行。本文针对转行决策提出20条实用建议： 转行前需理性评估：区分一时冲动与真实需求，分析当前工作问题是否必须通过转行解决 行业选择要考虑：发展前景、技能门槛、年龄限制等因素，优先选择能迁移原有经验的领域 准备阶段关键点：经济储备（建议6个月生活资金）、心理调适（接受从零开始）、

30岁以上程序员转行可行，但需谨慎评估。文章针对转行决策提出20条建议：1）明确转行动机，区分冲动与真实需求；2）评估行业前景，优先选择技能门槛低、年龄限制宽松的领域；3）发挥现有经验优势，考虑可迁移职业或内部转岗；4）做好经济与心理准备，接受从零开始；5）通过系统学习、人脉资源快速获取入行资格。重点强调大模型等AI领域存在机会，建议结合自身优势选择跨度较小的方向，并通过"复制经验+持续

生成式推荐（GR）因请求高密、前缀稳定，导致KV Cache重复计算与显存瓶颈。本文介绍了用户粒度KV Cache和池化管理方案，通过将KV Cache从单卡显存扩展到集群级池化存储，提升前缀命中率和缓存容量，从而降低首token延迟和单位请求成本。文章深入解析了vLLM-Ascend的落地设计，包括Prefix Cache和PD分离、用户粒度管理、Mooncake内存池等技术细节，为优化GR大模

本文全面盘点AI在民生生活、工业制造、医疗健康、金融科技、智慧教育和公共治理等领域的应用场景。AI已从最初的智能聊天、图片生成等功能，渗透到日常生活的方方面面，成为提升生活幸福感、赋能产业升级、重构诊疗服务体系、保障金融安全、推动教育个性化、实现城市智能治理的核心力量。随着AI技术的持续迭代，其应用边界不断拓展，了解并运用AI将帮助我们在智能化浪潮中解锁更多高效可能。提到AI，很多人的第一印象还停

《大模型时代企业级智能知识库构建指南》提出了一套系统化知识管理框架，从战略规划到技术实现完整覆盖。核心内容包括： 四维知识评估模型：基于业务关键度、调用频率等维度进行知识分级管理 智能知识处理流水线：集成多模态采集、语义标准化和可信度验证技术 混合检索架构：结合关键词、向量搜索和RAG增强实现92%召回率 动态进化机制：通过知识健康度监测和增量微调保持系统持续优化 实施案例显示，该方案可使客户咨询

本文综述了基于大型语言模型（LLM）的智能体研究进展。LLM因其多功能性被视为通用人工智能（AGI）的潜在火花。文章追溯了智能体概念的起源，阐述了LLM作为智能体基础的优势，并提出了包含大脑、感知和行动的通用框架。同时，探讨了LLM智能体在单智能体、多智能体和人机协作等场景下的应用。最后，深入研究了智能体社会，讨论了其行为、人格和社会现象，并指出了该领域的关键问题和未来方向。