中国人工智能企业深度求索（DeepSeek）发布其开源AI模型DeepSeek-R1，性能对标OpenAI开发的GPT-o1正式版，一时之间各类相关的话题引爆国内外。本篇教程将在德承工控机GP-3100上完成DeepSeek-R1 AI模型的私有化部署，机器搭载的RTX 4090显存24G，可安装到DeepSeek-R1-14B这个版本，如果需要安装更高阶的DeepSeek-R1，则需要更高的显卡

随着 AI 技术的迅速发展，大规模数据的边缘运算需求正在持续攀升，不仅需要就近处理设备生成的海量数据，还需执行复杂的资料分析与机器学习任务，因此具备CPU与GPU协作能力的GPU工控机，成为了Edge AI时代的理想选择。加上CPU的协同运算，使其具备高性能的运算能力，依据不同的应用诉求，可搭配不同类型的GPU卡，如针对狭窄空间嵌入式应用的 SoM GPU、拥有高度灵活性的 MXM GPU 以及提

嵌入式电脑在如今的各行各业中几乎是无处不在，例如在繁忙的电商仓库中，AMR自动移动机器人可将出货物品自行搬运到指定的包装位置；路边的电动车充电桩不仅能给车辆供电，还提供监控、计费和金融交易服务；在畜牧场里的自动喂食设备，可根据每个栅栏内牛只的数量定时定量投喂，并提供饲主实时远程监控的功能。这些安装在各类设备内部的计算单元其实就是嵌入式电脑，广泛应用于制造、交通、仓储、物流、能源、农业和军事等领域，

随着 AI 技术的迅速发展，大规模数据的边缘运算需求正在持续攀升，不仅需要就近处理设备生成的海量数据，还需执行复杂的资料分析与机器学习任务，因此具备CPU与GPU协作能力的GPU工控机，成为了Edge AI时代的理想选择。加上CPU的协同运算，使其具备高性能的运算能力，依据不同的应用诉求，可搭配不同类型的GPU卡，如针对狭窄空间嵌入式应用的 SoM GPU、拥有高度灵活性的 MXM GPU 以及提

在 AI 深度学习领域，强大的算力支撑是模型训练与推理高效运行的关键。德承工控机 GP-3100 搭载双 NVIDIA 5070Ti 显卡的组合，凭借其独特的硬件优势与性能特点，为各类AI深度学习应用提供卓越的运算解决方案。

中国人工智能企业深度求索（DeepSeek）发布其开源AI模型DeepSeek-R1，性能对标OpenAI开发的GPT-o1正式版，一时之间各类相关的话题引爆国内外。本篇教程将在德承工控机GP-3100上完成DeepSeek-R1 AI模型的私有化部署，机器搭载的RTX 4090显存24G，可安装到DeepSeek-R1-14B这个版本，如果需要安装更高阶的DeepSeek-R1，则需要更高的显卡