本文介绍了科研调研Agent项目ScholarCraft的三个核心改进：论文库深度整理、三层记忆系统和上下文工程。通过Zotero导出和LLM自动填充，论文库从3篇扩充到26篇结构化文献，补全了核心指标数据。记忆系统采用工作记忆、短期记忆（SQLite持久化+摘要压缩）和长期记忆（SQLite+ChromaDB）三层架构，实现了会话内和跨会话的上下文管理。上下文工程引入Token预检、熔断机制和工

本文详细记录了存储领域大模型SFT（监督微调）的全过程。作者通过三层策略构建了523条高质量指令数据，包括手写核心样本和API批量生成数据。在6GB显存的限制下，采用QLoRA(4bit)和rank=8的配置完成微调，loss从2.43降至1.62。效果评估显示，SFT模型在专业术语使用、回答结构化和自然度方面显著提升，但也暴露出概念泛化不足的问题。文章还总结了数据生成、格式处理和显存优化等实战经

本文记录了作者在DPO（直接偏好优化）阶段的实验过程及失败经验。通过74条偏好数据对SFT模型进行优化训练后，模型表现反而出现倒退：回答深度不足，结构趋向平庸。分析发现三个核心问题：SFT模型存在选择性遗忘现象，DPO数据量过小且标注存在噪声，评估体系不完善。作者总结了数据质量、阶段评估的重要性，并提出了扩充数据、人工复核等优化方向。这次"翻车"经历揭示了小规模DPO训练对数据

本文记录了作者在DPO偏好对齐失败后，通过三轮迭代修复SFT模型的过程。首先发现SFTv1存在选择性遗忘和概念理解错误，通过建立10道标准测试题进行全面评估。第一轮采用强制详述策略补充41条样本，修复了部分问题但仍存在泛化不足；第二轮通过问题改写策略建立简单问法与详述回答的直接映射，使80%的评估题达标。最终选定SFTv3为最终模型，并总结了DPO失败的四大原因及改进方案。文章强调数据质量决定模型

本文记录了从SFT模型修复到部署探索的全过程。在发现SFTv1模型存在选择性遗忘和概念理解错误后，通过三轮数据迭代（强制详述、问题改写等策略）将模型打磨至可用状态，成功解决了80%的核心问题。随后在6GB显卡环境下探索了多种部署方案（vLLM、bitsandbytes、llama.cpp、GPTQ），最终获得FP16基线数据并形成4-bit量化收益预估。项目完整呈现了模型训练与部署中的典型挑战，包

本文探讨了大模型推理中KVCache显存管理的核心问题与解决方案。随着上下文长度增加，KVCache显存占用呈线性增长（4096token即需2GB显存），成为推理瓶颈。作者提出通过分层存储架构（GPU显存→CPU内存→SSD）实现KVCache卸载，并开发了一个500行C++原型系统，包含三大关键技术：内存池管理（预分配对齐内存）、LRU驱逐策略（O(1)复杂度双向链表实现）、磁盘序列化（二进制

本文介绍了在企业级RAG系统中整合Redis缓存、Prometheus监控和Grafana仪表盘的全过程。通过修改docker-compose.yml文件追加三个新服务，配置Prometheus抓取指标，并详细记录了网络冲突、权限拒绝等典型问题的排查方法。文章提供了WSL2环境下的解决方案，包括清理冲突网络、设置目录权限等实用技巧，最终实现了6个服务同时运行的稳定状态。同时给出了Milvus数据库

本文记录了从零开始搭建企业级RAG系统的环境准备阶段，重点介绍了Milvus向量数据库的部署过程。作者使用Windows11+WSL2 Ubuntu22.04的开发环境，详细说明了Docker安装、GPU支持配置以及国内镜像加速设置。文章提供了完整的Milvus部署指南，包括docker-compose配置、服务验证和Python客户端连接测试，并分享了项目目录结构设计的最佳实践。作为系列教程的第

本文详细介绍了如何从零构建一个企业级RAG系统的知识库模块。主要内容包括：1）设计Milvus向量数据库Schema并实现连接管理；2）开发支持多格式的文档分块模块；3）构建数据灌入流程，将14篇高质量AI领域文章处理为718个文本块；4）实现混合检索（向量+关键词）和Reranker精排模块，通过实验验证Reranker能有效纠正检索偏差；5）完成工程规范化，包括依赖管理、目录结构和问题排查记录

本文详细介绍了企业级RAG系统的核心模块实现，重点解决了从知识库到智能问答的全链路优化问题。系统采用混合检索（向量+BM25+RRF融合）提升召回效果，引入Reranker精排模块提高答案质量，并通过双层缓存架构（L1精确缓存+L2语义缓存）将响应时间从20秒降至毫秒级。文章不仅提供了代码实现细节和踩坑经验，还分析了当前系统的局限性，并规划了查询改写、动态阈值等优化方向，为构建生产级RAG系统提供