登录社区云，与社区用户共同成长
邀请您加入社区
AI 大模型已经在具体的业务场景落地实践，本文通过梳理 AI 大模型技术架构的全景视图，让你全面了解 AI 大模型技术的各个层次，从基础实施层、云原生层、模型层、应用技术层、能力层、到应用层，如下图所示，揭示 AI 大模型如何在不同的层面上协同工作，推动产业应用的落地。AI 大模型技术发展离不开坚实的基础设施支持，涵盖了 GPU、CPU、RAM、HDD、Network 等关键硬件设施。这些硬件设备
本文介绍 GenAIInfra 的各个部分、具体功能、关键组件，还有实际应用案例。
通过以上步骤，您可以在Linux环境下成功部署vLLM并运行大模型服务。在实际操作中，可能需要根据具体的vLLM版本和模型文件进行调整和优化。后续的步骤3和步骤4将依赖于该服务进行测试，因此请务必不要关闭此终端窗口。下载成功后，模型文件会保存在./model/qwen2_5-1_5b-instruct文件夹下。本课程实验环境需与微调章节保持一致，确保在GPU环境下执行模型部署操作。如果你希望在后台
国内外众多工业软件企业及产品凭借深厚的技术底蕴与行业经验，为工业领域提供高效智能的解决方案，推动数字化转型与智能化升级。
无服务器架构通过按需付费、自动伸缩、无需服务器管理等优势，显著降低了云计算成本。通过参考上述资源，您将能够更深入地了解无服务器架构，并更好地应用它来优化您的云计算成本。无服务器架构（Serverless Architecture）是一种颠覆性的云计算执行模型，它允许开发者专注于编写和部署代码，而无需担心底层服务器基础设施的管理。这种架构以其按需付费、自动伸缩和简化部署等优势，在成本优化方面表现出色
一、envoy主入口的运行envoy 源码运行的主入口的运行流程我们看到envoy运行的主要核心入口在InstanceImpl::initialize，InstanceImpl::initialize到底做了什么呢？在源码里有了明确注释（很多功能工作中还没接触，所以也不知道是做什么用的）1.加载静态配置 解析yaml配置文件到bootstrap。注意envoy的bootstrap都对应的都是pro
今天,我们将揭示一个能够显著提升大语言模型输出质量的秘密武器，网络大神新出的一个系统提示词，思路独特，效果极好。1. prompt的核心设计理念 💡结构化思考:通过清晰的步骤分解复杂问题自我反思:不断评估和改进输出质量灵活性:鼓励尝试不同方法,避免思维定式 这种设计不仅提高了AI的输出质量,还让整个思考过程变得透明可见。2. prompt的魔法组成部分 🧩让我们一起来看看这个prompt的关键
Kubernetes 是一个容器编排平台，用于管理容器化应用程序。 它是用于自动化容器管理过程的重要部分，例如：容器复制、扩展、监控和调度。
今天我们主要讨论了微服务设计和拆分的难题。通过DDD战略设计可以建立领域模型，划定领域边界，解决微服务设计过程中，边界难以划定的难题。如果你的业务焦点在领域和领域逻辑，那么你就可以选择DDD作为微服务的设计方法！更关键的一点是，DDD不仅可以用于微服务设计，还可以很好地应用于企业中台的设计。如果你的企业正在做中台转型，DDD将会是一把利器，它可以帮你建立一个非常好的企业级中台业务模型。有关这点你还
本篇文章介绍如何在Windows本地部署Stable Diffusion Web UI，并且结合cpolar内网穿透实现公网环境远程访问。Stable Diffusion（简称SD）是AI绘画领域的一个核心模型，它目前也是一个完全开源的项目（模型、代码、训练数据、论文、生态等全部开源），可拓展性强、 出图效率高、 数据安全保障，这使得其能快速构建强大繁荣的上下游生态，并且吸引了越来越多的AI绘画爱
本次分为三个部分来分享。第一部分先介绍 AIGC 对软件研发的根本性影响，从宏观上介绍当下的趋势；第二部分将介绍 Copilot 模式，第三部分是未来软件研发 Agent 产品的进展。为什么我会提到 Copilot Agent，稍后我给大家讲解。
CNI 是容器网络接口 （Container Network Interface）的缩写。定义了容器运行时如何与网络插件进行交互，从而管理容器网络。只要开发者遵循 CNI 定义的规范就可以接入 kubernetes ，为 Pod 创建虚拟网卡、分配 IP 地址、设置路由规则等，这样就实现 “IP-Per-Pod” 网络模型。CNI 为网络插件定义了一些以系列通用接口，可以使容器运行时与多种不同的网
特斯拉自动驾驶系统每小时产生20TB边缘数据，时延要求低于50ms。中国移动5G边缘云实现ARPU值提升38%，华为云IEF平台将工业质检响应速度提升至15ms以内。ABI Research预测2026年边缘AI芯片市场规模达520亿美元，KubeEdge管理边缘节点数突破千万级，单节点资源开销仅为K8s的1/8。边缘计算正在重新定义云原生的地理边界，通过构建"中心-边缘-终端"三级智能体系，企业
我们基于低代码驱动的全配置型主数据平台是基于公司多年的企业数据治理规划咨询和主数据平台实施经验，根据企业主数据管理需求痛点，自主研发并推出的新型主数据管理平台。平台基于低代码底层引擎能力打造，底层集成组织引擎，流程引擎，集成引擎和低代码快速配置引擎，上层实现数据模型，数据流程，数据质量，数据分析，数据服务等能力。平台提供主数据采集、申请、变更、校验、审批、生效、分发等全生命周期管理。
报告摘要近来大语言模型（LLM）展示出强大的自然语言交互能力，为医疗健康助手走进人们的生活带来了希望。医疗健康场景通常较为复杂，智能系统需要有丰富的医疗健康知识，具备通过多个轮次对话了解用户意图，并给出专业、详实回复的能力。在交互能力之外，复杂的医疗健康场景往往还需要用户建模、文档分析、外部信息检索等多个功能支持。针对这一问题，讲者所在团队提出了面向医疗场景的行业大模型DISC-MedLLM，并提
构建容器安全体系的基本原则为了应对上述企业应用在容器化进程中的安全挑战，云服务商和企业应用安全管理运维人员需要携手共建容器应用安全体系：图 1 - ACK 容器服务安全责任共担模型1. 云服务供给侧对于，首先需要依托于云平台自身的安全能力，构建安全稳定的容器基础设施平台，并且面向容器应用从构建，部署到运行时刻的全生命周期构建对应的安全防护手段。
通过 Ollama、RKE2、Rainbond 与 GPU Operator 的高效组合，1 小时内即可完成 Deepseek 大模型的私有化部署。这仅仅是大模型私有部署的第一步，后续可依托 Rainbond 的快速开发能力，通过微服务构建、可视化编排等功能，轻松实现业务系统与大模型的深度集成，让企业在安全可控的本地化环境中，灵活调用大模型能力，加速 AI 应用落地。
4月17日，火山引擎发布了面向企业市场的豆包1.5・深度思考模型，同步升级文生图模型 3.0、视觉理解模型，并推出 OS Agent 解决方案及AI云原生推理套件，帮助企业更快、更省地构建和部署Agent应用。
合合信息不亏为扫描全能王，通用NLP信息提取技术挺厉害的
目录一、前言二、表达式计算框架概述2.1 规则引擎2.1.1 什么是规则引擎2.1.2 规则引擎用途2.1.3 规则引擎使用场景2.2 表达式计算框架2.2.1 表达式计算框架定义2.2.2 表达式计算框架特点2.2.3 表达式计算框架应用场景2.3 表达式计算框架与规则引擎异同点2.3.1 相同点2.3.2 不同点三、表...
人工智能转型，作为数字化转型的下一波浪潮，需要一把手下场支持，带领变革，因为企业级的人工智能应用既要考虑技术本身，又要考虑除了技术以外的其他要素，比如业务价值、人才、数据、合规和治理等方面，不是单独一个技术部门就能处理的事情，需要企业作为一个整体，统一规划，统一实施，有计划有目的的推广和收获价值，在整个生命周期里，做好管控。
Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地
华为云在本届大会上携云原生与AI技术创新成果与展览展示精彩亮相，与全球开发者探讨云原生 AI 基础设施、多集群编排调度、边缘 AI、流量治理等开源领域发展成果与产业应用。
1、概述zookeeper是一个开源的分布式的，为分布式框架提供协调服务的项目。从设计模式角度来理解：是一个基于观察者模式设计的分布式服务管理框架，负责存储和管理较为重要的数据，然后接受观察者的注册，一旦数据状态发生变化，zookeeper就将负责通知已经在zookeeper上注册的观察者（客户端）作出相同的反应。特点：zookeeper：一个领导者（leader），多个跟随者（follow）组成
公众号关注「奇妙的 Linux 世界」设为「星标」，每天带你玩转 Linux ！Kafka 是一个分布式、支持分区的、多副本的，基于 zookeeper 协调的分布式消息系统，它的最大的特性是可以实时处理大量数据以满足各种需求场景。如何将复杂的Kafka 命令行操作转化为GUI，加速应用开发和数据集成一直是我们需要的。今天给大家推荐一款一站式 Kafka 集群管控平台 -- Know Stre..
1.背景介绍大数据技术的发展已经进入了一个新的阶段——云原生大数据架构。云原生大数据架构将大数据处理技术与云计算技术相结合，为企业提供了更高效、可扩展、可靠的大数据处理能力。在这篇文章中，我们将深入探讨云原生大数据架构的实施与优化。1.1 大数据技术的发展大数据技术的发展可以分为以下几个阶段：传统大数据技术阶段：这一阶段的大数据技术主要基于传统的计算机集群和存储系统，包括Hado...
KubeSphere是一款面向云原生设计的开源项目，在目前主流容器调度平台Kubernetes之上构建的分布式多租户容器管理平台，提供简单易用的操作界面以及向导式操作方式，在降低用户使用容器调度平台学习成本的同时，极大降低开发、测试、运维的日常工作的复杂度。
运行命令出现 storage.googleapis.com 无法访问问题看到这位靓仔给出了方法，就是解析出地址然后替换host1. 访问：https://tool.chinaz.com/speedtest/storage.googleapis.com2. 获取ip，准备修改host然后我自己的是mac电脑参考了这位小哥的方法去修改host文件：1、通过 VI 编辑器修改 打开终端（应用程序——实
Pulsar可视化工具Manager安装使用
1.背景介绍分布式数据分析是现代计算机科学中一个重要的领域，它涉及到处理大量数据的分布式系统。Zookeeper是一个开源的分布式应用程序，它提供了一种可靠的、高性能的分布式协同服务。在这篇文章中，我们将讨论Zookeeper与分布式数据分析的实践，包括其背景、核心概念、算法原理、最佳实践、应用场景、工具和资源推荐以及未来发展趋势与挑战。1. 背景介绍分布式数据分析是指在分布式系统中处...
云原生下对持续交付（Continuous Delivery）是一种软件开发方法，旨在实现高质量、可靠且可持续的软件交付。它强调通过自动化的流程和工具链，使得软件的构建、测试和部署过程可以频繁地进行，并保持一致性和可靠性。下面是一个详细的示例代码，演示了持续交付过程中的构建和部署。# 示例代码：使用Jenkins进行持续交付 # Jenkinsfile pipeline {agent anystag
实现自定义Remote Storage需要用户分别创建用于支持remote_read和remote_write的HTTP服务。实现自定义Remote Storage需要用户分别创建用于支持remote_read和remote_write的HTTP服务。
云原生
——云原生
联系我们（工作时间：8:30-22:00）
400-660-0108 kefu@csdn.net
2048 AI社区
英特尔开发套件专区
工业软件创新暨开源峰会
MCP技术社区
DeepSeek技术社区
C站
永洪数据分析社区
华为开发者空间
AI Agent技术社区
