
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
深度学习模型部署与优化核心技术摘要 将训练好的模型部署到生产环境面临三大挑战:模型体积大、推理速度慢、框架不兼容。本文系统介绍了三种关键技术: 量化:将模型从FP32转为INT8,体积缩小4倍,推理速度提升2-4倍,精度损失通常低于1%。 知识蒸馏:通过大模型(Teacher)指导小模型(Student),在参数量减少的情况下保持较高准确率。 ONNX导出:作为跨框架中间格式,支持PyTorch/
让初级小白明白llm wiki是什么,如何搭建自己的本地大模型有一个初步的了解
讲了小白如何学习ai
文章摘要: 大模型存在知识冻结和幻觉两大缺陷,RAG(检索增强生成)通过“开卷考试”机制有效解决:先检索相关文档再生成答案,无需重新训练模型。基础RAG包含向量化、向量数据库和检索生成三组件,进阶方案则通过混合检索、重排序、查询改写等技术优化效果。2026年主流趋势包括Agentic RAG(自主多步检索)和多模态RAG(支持图文)。实践建议从小规模起步,优先优化检索质量。RAG已成为LLM应用标
深度学习的发展历程可追溯至1958年的感知机算法,从模拟生物神经元(M-P模型)的数学函数出发,逐步演化为多层神经网络。关键突破包括: 感知机:首个可学习权重的模型,但受限于线性分类(如无法解决XOR问题); 多层网络:通过隐藏层实现非线性变换,分层提取特征(如边缘→部件→整体); 深度优势:更多层数带来层次化抽象能力,优于单纯增加神经元数量; 激活函数:如ReLU引入非线性,解决梯度消失问题,成
《深度学习训练三要素:正则化、归一化与学习率调度》 摘要:本文系统解析影响神经网络性能的三大关键技术:1)正则化技术(Dropout、权重衰减、数据增强)通过随机失活神经元、惩罚大权重和样本增强,有效防止模型过拟合;2)归一化方法(BatchNorm、LayerNorm)通过标准化层输入分布,解决内部协变量偏移问题,使深层网络训练更稳定;3)动态学习率调度策略(余弦退火、Warmup等)实现从粗调
《提示工程核心技术解析:从零样本到思维链》摘要 本文系统介绍了大模型提示工程的核心技术。研究表明,提示词质量对模型输出的影响甚至超过模型本身,优质提示可带来30-50%的性能提升。文章基于本地Qwen3模型,详细讲解了五种关键技术:零样本提示(直接任务描述)、少样本提示(提供示例)、思维链(分步推理)、结构化模板(角色-任务-格式)和系统提示(角色设定)。其中,"让我们一步步思考&quo
深度学习模型部署与优化核心技术摘要 将训练好的模型部署到生产环境面临三大挑战:模型体积大、推理速度慢、框架不兼容。本文系统介绍了三种关键技术: 量化:将模型从FP32转为INT8,体积缩小4倍,推理速度提升2-4倍,精度损失通常低于1%。 知识蒸馏:通过大模型(Teacher)指导小模型(Student),在参数量减少的情况下保持较高准确率。 ONNX导出:作为跨框架中间格式,支持PyTorch/
《提示工程核心技术解析:从零样本到思维链》摘要 本文系统介绍了大模型提示工程的核心技术。研究表明,提示词质量对模型输出的影响甚至超过模型本身,优质提示可带来30-50%的性能提升。文章基于本地Qwen3模型,详细讲解了五种关键技术:零样本提示(直接任务描述)、少样本提示(提供示例)、思维链(分步推理)、结构化模板(角色-任务-格式)和系统提示(角色设定)。其中,"让我们一步步思考&quo
DQN = Q-Learning + 神经网络 + 经验回放 + 目标网络——它让 RL 能处理图像等高维输入PPO = 策略梯度 + "每次不要改太多"的约束——它用 3 行核心代码解决了 RL 训练不稳定的根本问题PPO 是 2026 年最通用的 RL 算法——从 Atari 游戏到机器人控制到 ChatGPT 的 RLHF,都是它







