智能体本质是大模型的函数调用能力，框架是对其的封装。LangGraph框架以State(状态)、Nodes(节点)、Edges(边)为核心，节点完成工作，边决定流向，State传递参数。支持顺序和并行节点执行，StateGraph保存中间结果，支持中断恢复。开发智能体需先理解运行机制，而非仅学习框架使用。

检索增强生成（RAG）的兴起改变了 AI 和搜索领域的范式，通过将向量搜索与生成模型的力量融合在一起。然而，这项技术并非没有局限性。所谓搜索增强生成，首先必须有搜索这一步，而搜索这一步有很多难点：向量召回准确率的提升很难，所以一般会考虑传统的BM25搜索和向量搜索一起进行搜索。但有时候依然效果不好，自己想要的没被召回来。

本文提供了一个使用 Hugging Face 🤗 Transformers 在任意多语种语音识别 (ASR) 数据集上微调 Whisper 的分步指南。同时，我们还深入解释了 Whisper 模型、Common Voice 数据集以及微调等理论知识，并提供了数据准备和微调的相关代码。

Transformer与注意力机制已经彻底改变了深度学习领域，为处理序列数据并捕捉长距离依赖关系提供了一种强大的方式。在本文中，我们将深入探讨Transformer的基本原理，以及注意力机制在提升模型性能和连贯性方面的重要性。

本文详细介绍了如何使用LLaMA-Factory微调多模态大模型Qwen2.5-VL，使其在垂直领域表现更专业。文章从环境准备、数据格式、配置训练到部署服务提供了完整技术方案，分析了该方法的优缺点，并展望了轻量化微调、多模态融合和端侧部署等未来趋势。通过微调，通用大模型可转变为特定行业的专业AI助手，降低AI应用门槛。

我们或多或少都听说LLM大模型是先“训练”出来，然后再用于“推理”，那怎么理解这个“训练”过程？是不是经常听说行业性场景中要使用垂域大模型，比通用大模型效果会更好，然后都说垂域大模型是“微调”出来的，那么什么是“微调”？和上面说的“训练”是什么关系？当你尝试去深入了解这些问题时，搜到的各种介绍是不是都有点深奥？看到预训练、后训练、监督微调、强化学习、低秩适应、奖励模型等一堆概念是不是有点懵逼？

在日常业务场景中，业界普遍使用 DeepSeek 全量版、阿里千问等大型语言模型。与此同时模型生态平台上，还存在大量轻量级模型，其参数规模仅为数 B 级别，甚至如 Qwen3 0.6B 这类更小规格的模型也有其生存空间，与 DeepSeek 671B 的全量版本形成非常大的差异。那么小型语言模型存在的价值和使用场景在哪里

近年来，人工智能（AI）的发展日新月异，从能与人对话的ChatGPT到能生成惊艳图片的Midjourney，AI似乎已经掌握了“看”和“说”的能力。然而，通往通用人工智能（AGI）的道路上，一个更艰巨的挑战摆在面前：如何让AI走出虚拟世界，进入物理世界，与环境真实互动——也就是“做”的能力。这便是具身智能（Embodied AI） 的核心。

在深度学习领域，尤其是自然语言处理（NLP）中，Transformer 架构已经成为了“标配”。它不仅被广泛应用于机器翻译、文本摘要、问答系统等任务中，还衍生出了像 BERT、GPT 等一系列非常成功的模型。然而，对于刚接触 Transformer 的人来说，最令人困惑的部分之一就是它的核心机制——注意力机制（Attention Mechanism） 。而注意力机制中又涉及三个关键词：Query（

大家对注意力机制多少都有所耳闻，毕竟在自然语言处理（NLP）和大型语言模型（LLM）领域，2017年，《Attention Is All You Need》这篇论文是里程碑式的存在；几乎所有的LLM都是基于注意力机制构建的，甚至最新的多模态或基于视觉的模型也在某种程度上都运用了它；今天，我们将深入探讨注意力机制。