阿里巴巴开源进程内向量数据库Zvec，无需独立服务器即可嵌入应用运行，支持毫秒级十亿规模检索。核心优势包括：开箱即用的极简安装（pip install zvec）、多模式混合检索（稠密/稀疏向量+全文）、内置数据安全机制及跨平台支持。特别适合AI开发者构建RAG系统、独立开发者快速原型设计，以及边缘计算场景。提供Python/Node.js等多语言SDK，支持DiskANN索引处理超大规模数据，并

DeepSeek AI 刚刚开源了DeepSpec,一个专门用于训练和评估"投机解码"(speculative decoding)算法的全栈代码库,上线即拿下 GitHub Trending 榜首,单日星标数冲到 5771。它把原本分散在多篇论文里的投机解码方案,统一成一套可复现、可对比、开箱即用的工程流水线——对任何关心大模型推理成本和响应速度的人来说,这是一个可以马上上手验证的实际工具,而不是

只要你在用 Claude Code、Codex、Cursor 之类的 AI 编程助手,大概率已经感受过"上下文越用越贵"的痛:一次工具调用返回的日志、一份 RAG 检索结果、一段冗长的文件内容,动辄几千甚至上万 token,而模型真正需要的信息可能只是其中的一小段。开源项目Headroom。

学 AI Agent 开发最大的困扰,往往不是学不会某一个框架,而是网上的教程东一榔头西一棒子——今天看一篇 RAG 的博客,明天看一个 LangGraph 的 demo,始终拼不出一张完整的技术地图。跟着 Claude Code 系统学习了一段时间 Agent 开发之后,我用 IT 运维/SRE(AIOps)场景做了一个练手项目——,把从最基础的 RAG 到企业级多智能体网关的 9 种架构模式,

如果我告诉你,有人只花了 173 美元、用一块 Colab 的 A100 显卡,就微调出了一个在特定任务上打赢 20 倍参数量大模型的 4B 小模型,你的第一反应大概率是"这是营销号吹牛"。但这件事背后其实有着扎实的理论支撑:斯坦福、MIT、哈佛 Kempner 研究所和 Anthropic 联合发表的论文揭示了大模型聪明的真正原因,而这个原因反过来推导,恰恰说明了小模型微调在垂直场景下"以小博大

Langfuse 是一个开源的 LLM 工程平台，帮助团队协作开发、监控、评估和调试 AI 应用。它把追踪(Tracing)、提示词管理、评估、数据集和 Playground 整合到同一个系统里，既可以用云端托管版，也能在 5 分钟内用 Docker Compose 自托管。项目由 YC W23 孵化，基于 ClickHouse 构建，已被大量开源 AI 项目采用为默认可观测方案。

Opik 是 Comet 团队开源的一站式 LLM 应用可观测、评估与优化平台，覆盖从原型到生产的全生命周期。无论是 RAG 问答、代码助手还是复杂的 Agent 系统，Opik 都能提供完整的调用链路追踪、自动化评估以及提示词/工具的自动优化能力，让开发者不再靠"猜"来判断模型效果好坏。项目已支持 40M+/天 的生产级追踪量，并原生集成了数十种主流 LLM 框架。

AI Boardroom 是一套跑在 Claude Code 终端里的美股投研与交易 skill 集合：不用写代码，靠自然语言就能查持仓、看K线、盯盘、跑AI委员会辩论、拿期权策略建议、找低估标的，还能直接下单和一键止损。它把过去分散在行情软件、研报、期权计算器里的动作，收进了一个对话窗口。

LiteLLM 是一个开源 AI Gateway，把 OpenAI、Anthropic、Gemini、Bedrock、Azure 等 100+ 大模型供应商统一成一套 OpenAI 格式的接口——换供应商不用重写代码，一行代码切换模型。既可以当 Python SDK 直接嵌进代码里用，也可以部署成独立的代理服务（AI Gateway）给团队统一管理密钥、限流和计费，1000 RPS 下 P95 延

PentAGI 是一套开源的全自主 AI Agent 系统，专为渗透测试设计——名字本身就是"Penetration testing Artificial General Intelligence"的缩写。它把多智能体协作、20+ 专业安全工具、知识图谱和长期记忆整合到一套沙箱化的 Docker 架构里，让 AI 能够自主规划并执行完整的渗透测试流程，同时保留人工介入和审计的空间。项目面向信息安全