1、基于 MCP 的 AI 应用技术架构全景图

MCP 已经成为业界的标准,基于 MCP 的 AI 应用技术已经在具体的业务场景落地实践,本文通过梳理基于 MCP 的 AI 应用技术架构的全景视图,让你全面了解 AI 应用技术的各个层次,从基础实施层、云原生层、模型层、应用技术层、应用架构层、到应用层,揭示基于 MCP 的 AI 应用技术如何在不同的层面上协同工作,推动产业应用的落地,基于 MCP 的 AI 应用技术架构全景视图如下所示

在这里插入图片描述

一、 基础设施层

AI 大模型的快速需要强大的基础设施来支撑,这包括了像 GPU、CPU、内存(RAM)、硬盘(HDD)和网络等重要的计算机部件。这些设备就像是 AI 大模型的“健身房”,为它们提供必要的算力和存储空间,让它们能够进行训练和推理。

1.1、 GPU(图形处理单元)的作用

GPU 针对并行计算进行了优化,非常适合深度学习以及执行复杂计算任务。与传统 CPU 相比,GPU 在处理大规模数据时具有显著优势,特别是在图像处理和神经网络训练领域。

1.2 、 CPU(中央处理单元)的重要性

CPU 作为通用处理器,承担了大部分的计算任务。虽然在并行处理方面不及GPU,但 CPU 在执行逻辑运算和控制任务时表现高效,构成了计算机系统的关键部分。

1.3 、 RAM(随机存取存储器)的功能

RAM 提供了计算过程中快速读写数据的临时存储空间。其主要职责是存放正在运行的程序和数据,使得 CPU 能够迅速访问这些信息,从而提升整体的计算效率。

1.4 、 HDD(硬盘驱动器)的角色

HDD 承担着存储大量训练数据和模型文件的任务。尽管其访问速度不及RAM,但 HDD凭 借较大的存储容量,成为长期保存数据的主要设备。

1.5 、 Network(网络)的角色

Network 为 AI 大模型的预训练、微调、推理、应用访问提供分布式的通信基础设施。

二、 云原生层

2.1 、 弹性伸缩层

基于 Docker 容器和 K8S 的弹性云原生架构,为 AI 大模型的预训练、微调、推理以及 AI 应用的部署,提供了高扩展、高可用的云环境,从而根据访问量的情况动态伸缩。

三、模型层

这一层主要由大语言模型、视觉-语言模型、小模型等构成。

3 .1 、 大语言模型(LLMs)

大语言模型的运用大语言模型,比如:DeepSeek R1,具备处理及生成自然语言文本的能力。这些模型通过海量训练数据学习语言规律,能够执行包括文本创作、翻译、摘要在内的多种自然语言处理任务。

3.2 、 视觉-语言模型的融合

视觉-语言模型就是把看的东西和说的话结合起来的一种智能模型。它不仅能看懂文字,还能认出图像和视频里的内容,甚至能创造出新的图像或视频。这种模型在给图片加标签、分析视频内容等方面特别有用。

3.3 、 智能文档理解的实现

智能文档理解技术通过解析文本和非结构化数据,实现对文档内容的深入理解。它能够自动抓取关键信息,执行文档的分类和提炼工作,从而为文档管理及信息检索提供智能化支持。

3.4 、 多模态检测与分类的技术

多模态检测和分类技术就是把好几种不同类型的数据,比如文字、照片、声音等,结合起来用。这样做可以让模型在分类和检测的时候更准确,更靠谱。这个技术已经在很多领域用上了,比如监控安全和看病诊断这些地方。

在这里插入图片描述

四、应用技术层

4.1 、 MCP 技术

MCP(Model Context Protocol)是由 Anthropic 公司提出的一种协议,旨在解决不同大语言模型(LLM)与不同外部工具集成的标准化问题。通过MCP,开发者能够以一种统一的方式将各种数据源和工具连接到 AI 大模型,从而提升大模型的实用性和灵活性。

在这里插入图片描述

目前,MCP 生态已经得到了广泛的支持,包括 Anthropic 的 Claude 系列、OpenAI 的 GPT 系列、Meta 的 Llama 系列、DeepSeek、阿里的通义系列以及 Anysphere 的 Cursor 等主流模型均已接入 MCP 生态。

第一、MCP 的架构设计

MCP 采用了客户端-服务器架构,主要包括以下几个核心组件:

在这里插入图片描述

1、MCP 主机(Hosts)

角色:这是需要访问数据的程序,例如Claude Desktop、各种IDE或AI工具。

功能:它们是MCP生态系统的入口点,负责向用户提供AI功能,并作为用户与AI模型之间的桥梁。

2、MCP 客户端(Clients)

角色:这些是协议客户端,负责维持与 MCP 服务器的1:1连接。

功能:它们处理通信细节,确保主机和服务器之间的数据传输顺畅,从而实现高效的数据交互。

3、MCP 服务器(Servers)

角色:这些是轻量级程序,每个服务器都通过标准化的 Model Context Protocol 暴露特定功能。

功能:服务器是 MCP 的核心,它们连接 AI 大模型与实际数据源,使模型能够访问和操作数据。

4、数据源

本地数据源:包括您计算机上的文件、数据库和服务,MCP 服务器可以安全地访问这些资源。

远程服务:通过互联网可用的外部系统(比如:通过 API),MCP 服务器可以连接这些系统,从而扩展模型的能力。

4.2 、 Agent(智能体)技术

Agent 智能体技术就是利用大模型的推理能力对任务进行规划拆解,并使用外部的工具完成一件复杂的任务。

在这里插入图片描述

4.3 、 RAG(检索增强生成)技术

RAG 技术融合了检索与生成两种方法,旨在提升信息生成的精准度。它利用检索到的相关信息来增强生成模型的效能,确保所生成内容的准确性与相关性。

4.4 、 大模型微调(Fine-tuning)

大模型微调技术就像是给模型做定制化的“训练”,让它能更贴合特定的工作需求。当模型在某个特定任务的数据上经过微调后,它在处理这类任务时的表现就会大幅提升,变得更加精准和高效。

4.5 、 提示词工程(Prompt Engineering)

提示词工程专注于设计高效的提示语,以优化模型的输出结果。通过精心设计的提示词,可以引导模型生成更加符合预期的内容,从而提升生成文本的质量。

4.6 、 思维链(Chain-of-Thought)技术

思维链技术模拟人类的思考过程,以增强模型的决策和推理能力。通过逐步推理和决策,该技术使得模型能够更有效地处理复杂问题,并做出更加合理的判断。

4.7 、 数据工程技术

在技术应用这一块,我们包括了数据的收集、整理、建立向量数据库和控制数据访问等整个数据处理过程。这些步骤确保了数据既准确又安全。这些基本工作对于训练模型和用模型做预测非常重要,它们可以帮助提高模型的效果和可信性。

五、应用架构层

5.1 、 工程技术架构

通过工程技术架构的设计解决 AI 应用高可用、高性能、高可靠。

5.2 、 业务架构

针对业务场景选择合适的业务架构类型(RAG 架构、AI Agent 架构等选型)。

5.3 、 云原生架构

解决 AI 应用弹性伸缩。

六、应用层

6.1 、 增量应用

AI 应用的增量应用主要分为 RAG 类应用、Agent 类应用。

6.2 、 存量应用

AI 应用的存量应用主要分为 OLTAP 类应用、OLAP 类应用。

普通人如何抓住AI大模型的风口?

领取方式在文末

为什么要学习大模型?

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

目前,开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景,其中,应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。
在这里插入图片描述

随着AI大模型技术的迅速发展,相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业:

在这里插入图片描述

人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!

最后

如果你真的想学习大模型,请不要去网上找那些零零碎碎的教程,真的很难学懂!你可以根据我这个学习路线和系统资料,制定一套学习计划,只要你肯花时间沉下心去学习,它们一定能帮到你!

大模型全套学习资料领取

这里我整理了一份AI大模型入门到进阶全套学习包,包含学习路线+实战案例+视频+书籍PDF+面试题+DeepSeek部署包和技巧,需要的小伙伴文在下方免费领取哦,真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

部分资料展示

一、 AI大模型学习路线图

整个学习分为7个阶段
在这里插入图片描述
在这里插入图片描述

二、AI大模型实战案例

涵盖AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,皆可用。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

三、视频和书籍PDF合集

从入门到进阶这里都有,跟着老师学习事半功倍。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

四、LLM面试题

在这里插入图片描述
在这里插入图片描述

五、AI产品经理面试题

在这里插入图片描述

六、deepseek部署包+技巧大全

在这里插入图片描述

😝朋友们如果有需要的话,可以V扫描下方二维码联系领取~
在这里插入图片描述

Logo

助力合肥开发者学习交流的技术社区,不定期举办线上线下活动,欢迎大家的加入

更多推荐