一、基础概念层

名词解析
GPTOpenAI 开发的生成式预训练 Transformer 系列大语言模型，是 LLM 领域的标杆产品。
RAGRetrieval-Augmented Generation，检索增强生成。通过外挂知识库检索来增强 LLM 回答的准确性和时效性，解决模型"幻觉"问题。
Agent（智能体）能够自主感知环境、做出决策并执行动作的 AI 系统，可调用工具、规划任务、完成复杂目标。
多模态能够同时处理和理解多种数据类型（文本、图像、音频、视频）的 AI 模型。
SoraOpenAI 发布的文本生成视频大模型，可生成长达 60 秒的高质量视频。
Prompt（提示工程）通过精心设计的输入指令来引导大模型输出高质量结果的技术。
Function Calling大模型识别用户意图后，自动调用外部 API/函数来完成特定任务的能力。
MCP 协议Model Context Protocol，Anthropic 推出的开放标准协议，用于统一 AI 模型与外部数据源、工具的连接方式。

二、模型部署与推理层

名词解析
vLLM高性能 LLM 推理和服务框架，采用 PagedAttention 技术大幅提升 GPU 利用率。
SGLang结构化生成语言框架，用于高效控制和引导大语言模型的输出结构。
PagedAttentionvLLM 的核心技术，借鉴操作系统虚拟内存的页式管理，解决 KV Cache 显存碎片化问题。
华为昇腾华为自研的 AI 处理器（Ascend）及配套软件栈，国产替代 NVIDIA GPU 的算力方案。
DeepSeek V4DeepSeek 系列大模型的最新版本，以高性价比和强推理能力著称。
GPU 调度对 GPU 计算资源进行分配和管理的技术，涉及显存管理、任务排队、负载均衡等。
显存管理对 GPU 显存进行分配、回收和优化的技术，直接影响大模型推理的并发能力和成本。

三、训练与微调层

名词解析
LoRALow-Rank Adaptation，低秩适应。一种高效的模型微调方法，只训练少量低秩矩阵参数，大幅降低显存和计算开销。
QLoRAQuantized LoRA，在 LoRA 基础上引入 4-bit 量化，进一步降低微调所需的显存（可在消费级 GPU 上微调 65B 模型）。
蒸馏Knowledge Distillation，知识蒸馏。将大模型（教师）的知识迁移到小模型（学生），实现模型压缩和加速。
YOLOYou Only Look Once，经典实时目标检测算法，以速度快著称，广泛应用于工业质检、自动驾驶等场景。
Qwen-VL阿里巴巴通义千问系列的多模态视觉-语言模型，能理解图像内容并进行图文对话。

四、开发框架与工具层

名词解析
LangChain最流行的 LLM 应用开发框架，提供链式调用、工具集成、记忆管理等模块化组件。
LlamaIndex专注于数据索引和检索的 LLM 框架，擅长构建 RAG 系统和知识库问答。
AutoGen微软开源的多 Agent 协作框架，支持多个 AI Agent 之间对话协作完成任务。
HuggingFace全球最大的开源 AI 社区和平台，提供模型仓库、数据集、Transformers 库等基础设施。
Coze字节跳动推出的 AI Bot 开发平台，支持低代码方式快速搭建智能体应用。
Dify开源的 LLM 应用开发平台，支持可视化编排、RAG、Agent、工作流等功能。
Claude CodeAnthropic 推出的 AI 编程助手，基于 Claude 模型，可理解代码库并协助开发。
RocketMQ阿里巴巴开源的分布式消息队列，用于系统解耦、异步通信和流量削峰。

五、项目实战相关名词

名词解析
OpenManus开源的通用 AI Agent 框架，支持自主规划、工具调用和多步骤任务执行。
HermesAgent课程自研的多 Agent 协作系统，强调长期记忆、自进化和主从调度能力。
LLMWiki基于 LLM 的自进化知识库系统，融合结构化数据、双向链接和版本控制。
向量数据库专门存储和检索高维向量（文本/图像的嵌入表示）的数据库，是 RAG 的核心基础设施。
混合检索结合向量检索（语义匹配）和关键词检索（精确匹配）的复合搜索策略，提升 RAG 效果。
Spec CodingSpecification-driven Coding，基于规格说明的编码范式，AI 根据详细需求文档生成代码。
心跳唤醒分布式系统中定时发送心跳信号检测存活状态的机制，此处用于 Agent 的自主调度和状态管理。
4层颗粒度记忆课程设计的分层记忆架构，可能包括：对话级、会话级、用户级、全局知识级等不同时间跨度的记忆。

六、其他

名词解析
Git 版本控制分布式版本控制系统，用于代码和文档的变更追踪、协作开发和回滚管理。
双向链接笔记/知识管理中的链接方式，不仅 A→B，B 也能自动感知被 A 引用，形成知识网络。
# 人工智能
Logo
亚马逊云科技技术品牌专区

更多推荐

cover

基于大数据+Hadoop+深度学习的淘宝用户购物可视化与行为预测系统设计与开发

avatar 亚马逊云科技技术品牌专区
cover

基于大数据爬虫+Hadoop+深度学习的旅游推荐系统设计与开发

avatar 亚马逊云科技技术品牌专区

学Linux选学校：一线城市还是老家？

而二线城市很多机构的老师，自己都没进过大厂，技术停留在五年前的水平，甚至对着PPT照本宣科。而二线机构缺乏企业合作资源，项目案例永远是“搭建博客系统”“配置个LAMP环境”——这些在现在的云计算岗位面试中，连初筛都过不了。在一线城市学习，你接触的同学、老师、企业内推资源，都是二线城市没法比的。而老家机构的学员，最好的结果也就是去本地小公司做网管，月薪五六千，天花板肉眼可见。在IT培训这行干了快十年

avatar 亚马逊云科技技术品牌专区