logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

第 13 章 Agent 智能体源码开发与行业工具调用

本文介绍了智能体(Agent)开发中的工具调用与多Agent协作实现方案。主要内容包括: 工具调用架构实现 设计了Tool和ToolRegistry类来管理工具注册与调用 提供了天气查询、网络搜索和数学计算等工具示例 实现了FunctionCallParser用于解析和执行模型输出中的工具调用 多Agent协作机制 定义了Agent基类,包含名称、角色和模型等属性 展示了提示词构建方法,指导模型如

文章图片
#windows#python
《DeepSeek 源码分析及企业应用实践》--前言

摘要 本书《DeepSeek 源码分析及企业应用实践》系统性地介绍了国产MoE大模型DeepSeek-V3/R1的技术架构、源码解析及企业级应用方案。全书分为六大部分: 基础架构:涵盖环境搭建、Transformer模块解析等入门内容 核心创新:深入分析MLA注意力、MoE专家系统、FP8量化等关键技术 开发实践:提供源码微调、推理引擎适配等二次开发指导 企业落地:详述私有化部署、合规设计、RAG

文章图片
#AIGC#人工智能
第 6 章 DeepSeek-R1 深度推理训练源码

摘要: 本章介绍DeepSeek-R1模型的深度推理训练源码,核心包括:1)Zero冷启动技术,无需标注数据即可启动强化学习(RL);2)两阶段RL流程(偏好模型训练+PPO策略优化);3)思维链输出控制,通过逐步推理提升复杂任务性能;4)小模型蒸馏与企业轻量化方案(裁剪、量化、蒸馏),平衡性能与效率。代码示例展示了训练器的关键实现,如RewardModelTrainer和Distillation

文章图片
#人工智能#深度学习
第 7 章 基于原生源码微调实战

LoRA微调实战摘要 LoRA是一种高效微调技术,通过冻结基座模型参数,仅训练低秩矩阵来适应下游任务。其核心思想是引入两个低秩矩阵A(d×r)和B(r×k),在原始权重W(d×k)基础上计算增量ΔW=BA,前向传播公式为y=Wx+BAx。这使参数量从d×k减少到r×(d+k)。 代码实现中,LoRAModule类包含A、B矩阵和缩放因子,初始化为小随机值和零矩阵。DeepSeekLoRA类为基座模

文章图片
#深度学习#python#机器学习
第 14 章 金融行业私有化AI落地案例

本章介绍了金融行业私有化AI落地案例,重点讲解了信贷风控问答系统的实现方案。该系统基于DeepSeek-V3的MoE架构,通过定制金融领域专家(包括基础风控、合规审核、行业分析、信用评估等)实现精准风险评估。系统流程包括数据采集、风控分析、MoE路由选择和风险等级判断。源码改造部分详细展示了金融领域MoE路由器的实现,通过关键词匹配增强路由决策,并加入负载均衡机制。该系统可自动处理贷款申请,输出低

文章图片
#金融#人工智能#AIGC
第 15 章 政务/制造业落地案例

本文介绍了基于DeepSeek-V3模型的政务审批智能问答系统实现方案。该系统利用128K长上下文处理能力,构建了完整的政策问答流程:1) 通过关键词和地区索引快速检索相关政策文档;2) 构建包含多篇政策内容的长上下文Prompt;3) 调用大模型生成专业回答并进行验证。系统架构包含问题预处理、意图识别、文档检索、答案生成等模块,特别注重政策引用的准确性和可验证性。代码示例展示了政策索引构建、长上

文章图片
#政务#人工智能#AIGC +1
nacos 2.2.2 +mysql8 yml中文启动失败解决

nacos yml 中文 springboot 启动失败

文章图片
#spring boot
第 12 章 企业 RAG 知识库与 DeepSeek 源码级集成

摘要 本章介绍了企业级RAG(检索增强生成)知识库与DeepSeek的深度集成方案。主要内容包括: 向量库集成:详细讲解了Milvus和FAISS两种向量数据库的源码级集成方法,包括索引创建、文档存储和检索过程,并对比了它们在分布式支持、持久化、性能等方面的差异。 缓存优化:提出RAG缓存设计方案,通过LRU缓存和TTL机制优化检索效率,减少重复计算,提升系统响应速度。 整体架构:阐述了RAG技术

文章图片
#python#开发语言#深度学习 +2
第 10 章 企业内网集群部署方案

文章摘要 本章详细介绍了企业内网部署DeepSeek-V3大模型的集群方案。10.1节提供了算力规划与成本测算,包括671B/33B/7B三种规模模型的硬件配置需求(GPU型号/数量/网络等),并通过Python类实现硬件/运维成本自动计算。10.2节给出完整的容器化部署方案:包含Dockerfile构建指南、依赖列表、K8s编排配置(Deployment/Service),支持GPU资源调度和持

文章图片
#人工智能#AIGC
第 4 章 MoE 混合专家完整源码解析(V3 核心)

摘要:DeepSeek-V3 MoE架构解析 DeepSeek-V3采用稀疏激活的MoE架构,总参数量671B,动态激活37B,实现高性能低成本。核心配置包括256路由专家、1共享专家,每token激活8专家,分8组并限制4组参与计算。路由算法采用两阶段选择(分组路由+专家选择)和负载均衡策略(偏置修正、分组限制、Sigmoid归一化)。MoE类实现专家并行计算,256专家均匀分布到16张GPU(

文章图片
#AIGC#人工智能#语言模型
    共 18 条
  • 1
  • 2
  • 请选择