logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

模型优化与部署:量化、蒸馏与 ONNX

深度学习模型部署与优化核心技术摘要 将训练好的模型部署到生产环境面临三大挑战:模型体积大、推理速度慢、框架不兼容。本文系统介绍了三种关键技术: 量化:将模型从FP32转为INT8,体积缩小4倍,推理速度提升2-4倍,精度损失通常低于1%。 知识蒸馏:通过大模型(Teacher)指导小模型(Student),在参数量减少的情况下保持较高准确率。 ONNX导出:作为跨框架中间格式,支持PyTorch/

#深度学习#人工智能#开发语言 +1
LLM Wiki 完整指南:从零开始搭建智能知识库

让初级小白明白llm wiki是什么,如何搭建自己的本地大模型有一个初步的了解

#python#算法
RAG 技术全解析:让大模型学会“开卷考试“

文章摘要: 大模型存在知识冻结和幻觉两大缺陷,RAG(检索增强生成)通过“开卷考试”机制有效解决:先检索相关文档再生成答案,无需重新训练模型。基础RAG包含向量化、向量数据库和检索生成三组件,进阶方案则通过混合检索、重排序、查询改写等技术优化效果。2026年主流趋势包括Agentic RAG(自主多步检索)和多模态RAG(支持图文)。实践建议从小规模起步,优先优化检索质量。RAG已成为LLM应用标

#机器学习#人工智能
从感知机到神经网络:深度学习的起源

深度学习的发展历程可追溯至1958年的感知机算法,从模拟生物神经元(M-P模型)的数学函数出发,逐步演化为多层神经网络。关键突破包括: 感知机:首个可学习权重的模型,但受限于线性分类(如无法解决XOR问题); 多层网络:通过隐藏层实现非线性变换,分层提取特征(如边缘→部件→整体); 深度优势:更多层数带来层次化抽象能力,优于单纯增加神经元数量; 激活函数:如ReLU引入非线性,解决梯度消失问题,成

#深度学习#人工智能#开发语言 +1
深度学习训练技巧:正则化、归一化与学习率调度

《深度学习训练三要素:正则化、归一化与学习率调度》 摘要:本文系统解析影响神经网络性能的三大关键技术:1)正则化技术(Dropout、权重衰减、数据增强)通过随机失活神经元、惩罚大权重和样本增强,有效防止模型过拟合;2)归一化方法(BatchNorm、LayerNorm)通过标准化层输入分布,解决内部协变量偏移问题,使深层网络训练更稳定;3)动态学习率调度策略(余弦退火、Warmup等)实现从粗调

#人工智能#机器学习#深度学习 +1
提示工程:与大模型对话的“语法“

《提示工程核心技术解析:从零样本到思维链》摘要 本文系统介绍了大模型提示工程的核心技术。研究表明,提示词质量对模型输出的影响甚至超过模型本身,优质提示可带来30-50%的性能提升。文章基于本地Qwen3模型,详细讲解了五种关键技术:零样本提示(直接任务描述)、少样本提示(提供示例)、思维链(分步推理)、结构化模板(角色-任务-格式)和系统提示(角色设定)。其中,"让我们一步步思考&quo

#人工智能
模型优化与部署:量化、蒸馏与 ONNX

深度学习模型部署与优化核心技术摘要 将训练好的模型部署到生产环境面临三大挑战:模型体积大、推理速度慢、框架不兼容。本文系统介绍了三种关键技术: 量化:将模型从FP32转为INT8,体积缩小4倍,推理速度提升2-4倍,精度损失通常低于1%。 知识蒸馏:通过大模型(Teacher)指导小模型(Student),在参数量减少的情况下保持较高准确率。 ONNX导出:作为跨框架中间格式,支持PyTorch/

#深度学习#人工智能#开发语言 +1
提示工程:与大模型对话的“语法“

《提示工程核心技术解析:从零样本到思维链》摘要 本文系统介绍了大模型提示工程的核心技术。研究表明,提示词质量对模型输出的影响甚至超过模型本身,优质提示可带来30-50%的性能提升。文章基于本地Qwen3模型,详细讲解了五种关键技术:零样本提示(直接任务描述)、少样本提示(提供示例)、思维链(分步推理)、结构化模板(角色-任务-格式)和系统提示(角色设定)。其中,"让我们一步步思考&quo

#人工智能
DQN 与 PPO:深度强化学习

DQN = Q-Learning + 神经网络 + 经验回放 + 目标网络——它让 RL 能处理图像等高维输入PPO = 策略梯度 + "每次不要改太多"的约束——它用 3 行核心代码解决了 RL 训练不稳定的根本问题PPO 是 2026 年最通用的 RL 算法——从 Atari 游戏到机器人控制到 ChatGPT 的 RLHF,都是它

#python#深度学习#机器学习
    共 39 条
  • 1
  • 2
  • 3
  • 4
  • 请选择