
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要: 大模型应用开发工程师聚焦于将通用大模型转化为实际业务解决方案,核心职责包括Agent系统设计(任务分解、工具调用等)、RAG系统优化(文档处理、混合检索)及业务集成。RAG系统通过检索外部知识库增强生成能力,关键技术涉及动态分块、向量检索与Prompt构建;Agent系统则通过规划器、执行器和协调器实现复杂任务自主决策与执行。工程实践中需关注分块策略、混合检索、缓存设计等优化点,结合代码示

本文介绍了基于Python的大模型应用开发全流程,从环境配置到生产级架构设计。主要内容包括:1)使用虚拟环境和.env文件管理依赖与密钥;2)实现单轮对话、多轮上下文对话和流式输出三种核心调用模式;3)生产级架构要点,如封装Service层、实现超时/重试/降级容错机制,以及统一多模型封装。文章提供了完整的代码示例和参数调优建议,帮助开发者快速构建稳定可靠的AI应用。

本文介绍了如何将Neo4j知识图谱与RAG系统结合,构建GraphRAG解决方案,以解决传统RAG在复杂关系推理上的不足。主要内容包括: GraphRAG架构:通过Neo4j存储和查询实体关系,LLM生成答案,实现从扁平检索到关系推理的升级。 系统实现: 双路检索:根据查询复杂度自动选择向量检索或图谱检索 知识图谱构建:演示了从JSON数据创建医疗领域实体和关系的Python代码 混合检索:结合语

摘要: AI领域框架格局正被大模型重塑,PyTorch与TensorFlow的定位发生显著变化。PyTorch凭借Transformer生态(如FlashAttention)主导大模型研究(占论文60%),而TensorFlow仍在大规模稀疏推荐场景(如TB级Embedding)保持优势。两者差异体现在:TensorFlow擅长分布式稀疏计算,PyTorch专注动态图与稠密模型优化。生成式推荐等新

本文对比了Chroma、Qdrant和Milvus三款向量数据库在千万级数据下的性能表现,提供了完整的压测代码实现。测试结果显示:轻量级Chroma适合小规模数据(<10万),Qdrant在中等规模(10万-1000万)表现优异,而Milvus则专为超大规模(>1000万)分布式场景设计。文章包含详细的基准测试框架、各数据库实现代码和性能指标(吞吐量、延迟、召回率等),为RAG应用选型提供实践参考

本文针对Dify和FastGPT两大AI框架的工作流调优问题,提出深度优化方案。核心观点包括:1)通过结构化System Prompt设计(如思维链提示词)提升模型输出质量;2)优化FastGPT的引用模板与提示词协同设计,增强知识库问答效果;3)差异化调优两框架的工作流编排,FastGPT侧重COT推理和工具调用,Dify强调状态驱动和性能参数配置;4)提供避坑指南与最佳实践,如输出格式控制、记

大模型应用开发中的双轨方案:LlamaIndex与LangChain协同架构 摘要:在2026年大模型应用生态中,LlamaIndex与LangChain形成了明确分工的互补架构。LlamaIndex专注于私有数据的知识索引(文档加载、分块、向量检索),LangChain则负责流程编排(模型调用、工具集成、工作流管理)。二者协同表现为三种典型模式:1)LlamaIndex检索+LangChain问








