摘要： 大模型应用开发工程师聚焦于将通用大模型转化为实际业务解决方案，核心职责包括Agent系统设计（任务分解、工具调用等）、RAG系统优化（文档处理、混合检索）及业务集成。RAG系统通过检索外部知识库增强生成能力，关键技术涉及动态分块、向量检索与Prompt构建；Agent系统则通过规划器、执行器和协调器实现复杂任务自主决策与执行。工程实践中需关注分块策略、混合检索、缓存设计等优化点，结合代码示

本文介绍了基于Python的大模型应用开发全流程，从环境配置到生产级架构设计。主要内容包括：1）使用虚拟环境和.env文件管理依赖与密钥；2）实现单轮对话、多轮上下文对话和流式输出三种核心调用模式；3）生产级架构要点，如封装Service层、实现超时/重试/降级容错机制，以及统一多模型封装。文章提供了完整的代码示例和参数调优建议，帮助开发者快速构建稳定可靠的AI应用。

本文介绍了如何将Neo4j知识图谱与RAG系统结合，构建GraphRAG解决方案，以解决传统RAG在复杂关系推理上的不足。主要内容包括： GraphRAG架构：通过Neo4j存储和查询实体关系，LLM生成答案，实现从扁平检索到关系推理的升级。 系统实现： 双路检索：根据查询复杂度自动选择向量检索或图谱检索 知识图谱构建：演示了从JSON数据创建医疗领域实体和关系的Python代码 混合检索：结合语

摘要： AI领域框架格局正被大模型重塑，PyTorch与TensorFlow的定位发生显著变化。PyTorch凭借Transformer生态（如FlashAttention）主导大模型研究（占论文60%），而TensorFlow仍在大规模稀疏推荐场景（如TB级Embedding）保持优势。两者差异体现在：TensorFlow擅长分布式稀疏计算，PyTorch专注动态图与稠密模型优化。生成式推荐等新

本文探讨了大模型从实验环境到生产部署的关键步骤（LLMOps），重点介绍了使用FastAPI构建生产级API服务、容器化部署和性能优化策略。主要内容包括： 模型服务化：通过FastAPI框架将大模型封装为REST API，实现异步推理、参数校验和自动文档生成，确保服务稳定性和易用性。 容器化部署：使用Docker封装模型运行环境，并通过Kubernetes进行集群部署，配置GPU资源管理、健康检查

本文介绍了一个基于Streamlit和Ollama的本地化智能聊天机器人项目，包含三个核心文件：主程序智能聊天机器人.py实现UI交互，module_chat.py封装Ollama模型调用，run_st.py提供一键启动功能。文章重点分析了后端模块中的类型错误问题（需传入消息列表而非字符串），展示了修复方案，并详细解读了多轮对话记忆的实现机制。项目采用模块化设计，支持上下文连贯的聊天交互，可通过简

本文介绍了一个基于Streamlit和Ollama的本地化智能聊天机器人项目，包含三个核心文件：主程序智能聊天机器人.py实现UI交互，module_chat.py封装Ollama模型调用，run_st.py提供一键启动功能。文章重点分析了后端模块中的类型错误问题（需传入消息列表而非字符串），展示了修复方案，并详细解读了多轮对话记忆的实现机制。项目采用模块化设计，支持上下文连贯的聊天交互，可通过简

本文介绍了一个基于Streamlit和Ollama的本地化智能聊天机器人项目，包含三个核心文件：主程序智能聊天机器人.py实现UI交互，module_chat.py封装Ollama模型调用，run_st.py提供一键启动功能。文章重点分析了后端模块中的类型错误问题（需传入消息列表而非字符串），展示了修复方案，并详细解读了多轮对话记忆的实现机制。项目采用模块化设计，支持上下文连贯的聊天交互，可通过简

本文针对Dify和FastGPT两大AI框架的工作流调优问题，提出深度优化方案。核心观点包括：1）通过结构化System Prompt设计（如思维链提示词）提升模型输出质量；2）优化FastGPT的引用模板与提示词协同设计，增强知识库问答效果；3）差异化调优两框架的工作流编排，FastGPT侧重COT推理和工具调用，Dify强调状态驱动和性能参数配置；4）提供避坑指南与最佳实践，如输出格式控制、记

摘要：企业知识库工具AnythingLLM和FastGPT的二次开发指南对比。AnythingLLM通过JavaScript插件实现自定义Agent技能，支持热加载和多文档格式检索；FastGPT则以TypeScript工作流节点扩展为核心，支持可视化流程编排和条件循环。两者分别适用于文档问答隔离场景（AnythingLLM）和复杂业务流程定制（FastGPT）。开发时需注意：技能返回值必须为字符