登录社区云，与社区用户共同成长
邀请您加入社区
机器学习、深度学习、强化学习和迁移学习都是人工智能领域的子领域，它们之间有一定的联系和区别。下面分别对这四个概念进行解析，并给出相互对比、区别与联系以及应用场景案例分析。
本文深入剖析了RLHF（基于人类反馈的强化学习）技术，从零实现大模型对齐训练。核心内容包括：1）采用Bradley-Terry模型训练奖励模型，避免评分尺度问题；2）结合LoRA和PPO算法，在单卡RTX4090上完成Qwen2-7B的训练，显存占用仅20GB；3）通过KL约束和混合训练策略，使模型有用性提升37%、安全性提升52%。实验表明该方法显著优于传统SFT和全参数RLHF，为消费级硬件上
本文介绍了医学问答模型的微调流程，采用LoRA技术实现高效参数调整。流程包括数据预处理（将原始医学问答数据转换为特定格式）、模型配置（基于Qwen3-1.7B模型，设置LoRA参数覆盖关键网络层）、训练参数（批次大小1、学习率1e-4、训练2个epoch）以及实验跟踪（使用swanlab记录训练过程）。该方法能生成包含思考过程的专业医学回答，同时通过梯度检查点等技术降低显存占用。整体操作简单易行，
DeepSeek-V4-Flash 正式版通过仅重做后训练，在未改变13B激活参数结构的情况下，实现了9项Agent基准的显著提升，部分指标反超自家Pro版并逼近顶级闭源模型。其DeepSWE长程软件工程能力提升7.5倍至54.4分，终端操作达82.7分，安全攻防达76.7分。第三方评测显示其智能指数达50分（接近GPT-5.6的51分），前端代码竞技排名第3。成本仅为旗舰模型的1/90，但升级仅
你说"我喜欢上海" → 路由器判断：这话跟"地理"和"情感"相关 → 激活"地理专家"和"情感专家" → 他们加工后得出结论："这人可能也喜欢大城市"的意思：派 8 个（或更多）"阅读理解小工"同时看这句话，每人关注不同方面，最后把结论拼起来——比一个人看更全面。模型脑子里一堆数字，有的特别大有的特别小，直接往下传会"数值爆炸"。：重复惩罚 → 已经说过的词扣分 → 别让模型"我喜欢上海，我喜欢上
【大模型时代的三大奠基性突破】本文解析了奠定当前AI大模型发展的三大里程碑式研究：1. Transformer（2017）通过自注意力机制实现模型并行化训练，为规模化扩展奠定工程基础；2. BERT（2018）确立预训练-微调范式，使模型能力可迁移复用；3. GPT-3（2020）突破few-shot学习阈值，开创无需微调的prompt应用范式。这三项突破分别解决了模型可扩展性、能力可迁移性和使用
我们精心打造了覆盖人工智能核心赛道与新兴方向的高端研修班，包括：生成式AI、大模型与多模态技术开发、数字孪生核心技术、基于FPGA/嵌入式Linux的AI深度学习模型部署、深度强化学习、迁移学习、边缘计算与边缘智能、量子计算应用、大数据建模与分析挖掘、知识图谱与大模型应用、深度学习与图神经网络实践，以及具身智能开发与应用。课程注重理论深度与工程实战，由一线专家授课，助您快速掌握前沿技术、提升项目落
本系统是一套基于8051 系列单片机（AT89C51）的电机转速闭环控制方案，采用霍尔传感器测速 + PID 控制算法 + PWM 输出调速的经典控制结构，实现电机转速的实时采集、显示与精准调节。系统支持用户通过矩阵键盘设定目标转速，LCD12864 液晶实时显示当前转速、设定转速及 PWM 占空比，具备良好的人机交互能力。系统适用于小型直流电机恒速控制场景，如智能小车、风扇恒速、教学实验平台等，
vLLM 是伯克利开源的高性能 LLM 推理服务框架，核心是PagedAttention 分页注意力，借鉴操作系统虚拟内存管理 KV‑Cache，解决显存碎片化；搭配连续批处理 Continuous Batching，大幅提升 GPU 吞吐量与并发；主要用于线上 API、RAG、Agent 部署，不做模型训练。
核心课程包括：生成式AI与多模态、知识图谱与大模型、深度强化学习、迁移学习、深度学习与图神经网络、FPGA嵌入式AI、Linux嵌入式AI、边缘计算与智能、数字孪生、量子计算、大数据建模分析、具身智能。为助力技术从业者紧跟前沿、破解落地痛点，我们打造了涵盖十二大核心课程的研修班体系，覆盖AI、大数据、嵌入式、量子计算等领域，搭建理论到实践的学习桥梁。所有研修班以“技术落地”为核心，由行业专家授课，
Transformer 本质上是一个模型，即输入一个序列，输出也是一个序列，输出的长度由模型自己决定。Seq2seq 的典型应用场景应用场景说明语音识别将声音讯号转换为文字机器翻译将一种语言的文字转换为另一种语言语音翻译将声音讯号直接转换为指定语言的文字文本到语音合成（TTS）将文字转换为语音聊天机器人问答与对话生成句法分析将句法分析树转化为序列输出多标签分类每个对象可能同时属于多个类别，输出类别
本文介绍了NanoGPT-ZH项目，这是一个从零手工实现的中文GPT文本生成模型。项目采用纯PyTorch实现，不依赖任何Transformer库，完整实现了包括Token嵌入、位置编码、多头自注意力等核心组件。该模型专为中文优化，参数规模约7M，适合在个人电脑上训练。文章详细解析了Transformer架构，包括Decoder-Only结构、因果自注意力机制等技术细节，并提供了清晰的代码实现和数
RouteRAG通过"统一策略+两阶段奖励"将文本/图谱检索转化为端到端强化学习问题，让小模型能自主规划"何时查、查什么"。其统一动作空间和三段式检索引擎使模型可选择最优检索策略，两阶段训练先保证正确性再优化效率。实验显示，仅用1万条数据训练的小模型在多跳问答中性能超越同尺寸模型，甚至媲美GPT-4o-mini，大幅提升检索效率和准确性。
Transformer 是一种神经网络架构。我之前的文章里有提到，原始的模型有点像是记性非常不好的学生，无法记住短期信息；而Transformer就是帮助它们记忆的老师，让模型终于能够高效捕捉数据里的关联3.3 ChatGPT 在做什么（二）简单回顾：神经网络是一种非常有效的模型，用于分析复杂的数据类型，如图像、视频、音频和文本。但针对不同类型的数据，有不同类型的神经网络进行了优化。
文章分析了GPT大模型成功的关键因素：一是选择仅使用Decoder结构，将理解内化到生成过程中；二是坚持纯语言建模目标，始终使用Next Token Prediction；三是通过规模扩大，使模型表现出多任务能力和涌现能力。GPT-3的出现标志着语言模型从NLP工具转变为通用智能底座，工程范式也从"模型训练"转变为"Prompt编程"。前面已经写完了Transformer系列文章，现在有这么一个疑
本文系统梳理了视频生成领域的核心基础架构模型，包括T5、CLIP、DDIM、DiT等12种关键技术。这些模型在文本编码、图像生成、视频处理等环节各具特色：T5统一文本处理框架，CLIP实现图文跨模态理解，扩散模型(DDIM/LDM)提升生成质量，DiT/FiT通过Transformer架构优化计算效率。特别关注VideoGPT和ShareGPT4Video在视频生成领域的创新，前者结合VQ-VAE
ArcFlow 提出了一种新的少步蒸馏的解决思路：相较于 “把曲线拉直” 的 “蛮力”，不如顺应原本的模型特征空间，用参数去描述其复杂性。通过动量参数化和解析求解器，ArcFlow 避免了不稳定的对抗性目标函数和全参数训练，从而实现了更快的收敛速度和更高效的蒸馏过程。这为未来的高效生成模型研究提供了一个极具潜力的方向。
Qwen2.5-32B 全量微调：硬件门槛极高，适合有大规模集群、追求极限性能的场景。Qwen2.5-32B + LoRA 微调：硬件门槛适中，适合资源有限的情况。在效果与全量微调非常接近的情况下，显存需求降至1/4，是微调 32B 级别模型的首选方案。
transformer
——transformer
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
天工造物局
DeepSeek技术社区
亚马逊云科技技术品牌专区
AtomGit AI 社区
AI硬件创业社区
openEuler 社区
DAMO开发者矩阵
AI编程社区
CSDN-OPC开发者社区
智能体开发者社区
AI Agent技术社区
