logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

GPU在空转,数据在沉睡:AI数据操作系统如何打通智能体时代的“任督二脉”

具体而言,由于数据不互通,数据汇集依赖副本创建和跨集群搬迁,耗时占60%-80%,PB级拷贝以周计,消耗性能且带来安全风险;在建设存储资源池时,由于无法评估原始数据的规模和后期业务扩张的速度,常分期建设且采用多厂商产品,且随着数据增多会逐步迁移到冷存储中,这就导致跨厂商、跨平台、跨地域数据不互通,形成数据孤岛,统一检索与调度困难。首先,全局编织在跨域、跨集群之上构建全局统一命名空间,生成各集群的全

#人工智能
五项第一!浪潮数据AI存储AS13000G7领跑MLPerf® Storage v3.0 核心场景

对应大模型训练的检查点读写场景,checkpoint读写效率直接决定长周期训练任务的运行稳定性与模型迭代效率。浪潮数据是国内分布式存储领域先行者,十年持续深耕云数基础设施建设,完成从传统分布式存储、全闪存储产品,到AI数据操作系统的技术演进,面向大模型训练推理、科学计算、行业智能体落地,提供算力存力一体化基础设施解决方案。对应HPC高性能计算中的医学影像三维分析场景,该模型测试中,单节点读带宽达2

#人工智能
浪潮数据AS13000G7拿下MLPerf推理场景多项第一:给大模型推理建一座记忆仓库

浪潮数据将持续深耕AI场景存储技术创新,面向大模型训练、推理、HPC等不同场景打磨专属存储能力,持续深化KV Cache场景的算法与引擎协同优化,为大规模生成式AI业务落地筑牢高性能存储底座。单节点、单U两个维度同时领先,对客户意味着两件事:单节点性能越强,在相同集群带宽的要求下,集群需要的存储节点就越少,采购与运维成本越低;就像企业的文件分级存放——正在处理的核心文件放桌面随手可取,近期常用的放

#人工智能
一次全网病毒扫描,让上千人办公停摆4小时——桌面云的安全困局怎么破?

操作系统、进程、端口、账号等资产统一采集、集中管理;浪潮数据旗下浪潮云海InCloud Access云桌面与EDR云内生安全的同底座原生融合架构,打破了安全与业务相互对立的困局——以轻量化防护、全域化管控、主动式防御,化解杀毒卡顿、威胁扩散、合规落地三大核心难题。这一优势在规模化场景下稳定保持——终端扩大到100台、500台、1000台时,传统模式升至32GB、160GB、320GB,而方案仅为。

#安全#网络
AI游刃有余 | 大模型推理告别排队!P/D分离优化的核心逻辑与实践

摘要: 大语言模型(LLM)推理分为计算密集的预填充(P)阶段和访存密集的解码(D)阶段,传统混批处理导致资源冲突,引发性能瓶颈。P/D分离方案通过持续批处理动态调度算力,结合页面化注意力(PagedAttention)优化KVCache内存管理,实现任务拆分与资源精准匹配。该方案尤其适配异构硬件环境,通过异构硬件池分别处理P/D任务,显著提升吞吐量和降低延迟。实测显示,异构集群部署下,P/D分离

文章图片
#人工智能#大数据#机器学习
AI游刃有余 | 浪潮云海InCloud AIOS KVCache卸载技术:突破大模型推理瓶颈,解锁长上下文算力潜能

摘要:Transformer大模型推理中,KVCache通过缓存Key/Value向量提升效率,但面临显存不足等问题。浪潮云海InCloudAIOS采用KVCache卸载技术,构建三级存储体系(GPU显存、CPU/NVMe、分布式存储)实现计算-存储解耦,结合智能元数据调度和动态复用机制,显著提升长上下文推理性能。实测显示,在10K tokens场景下首token响应时间降低93%,吞吐量提升10

文章图片
#人工智能#AI
细数VMware替代转型的多重挑战,浪潮云海InCloud AIOS构建新一代私有云完整能力

摘要: 国内企业加速VMware私有云替代,但面临自主可控不足、多云壁垒、容灾失衡等六大核心难题。浪潮云海InCloudAIOS通过多元适配、内生安全、AI智能进化三大能力,以五大技术创新突破传统云平台局限,实现国产化替代与能力跃升。其支持一云多芯全栈解耦、端到端AI原生、多云统一纳管、分级容灾、零信任安全及AgenticAI智能运维,全面对标并超越VMware,助力企业构建安全高效的新一代云原生

文章图片
#安全
浪潮云海InCloud Rail超融合:VMware vSphere+vSAN的理想演进之选

博通收购VMware后,企业面临订阅制变革带来的成本压力,推动IT架构升级需求。浪潮云海InCloudRail超融合方案凭借全栈技术创新,成为VMware的理想替代选择。该方案具有三大核心优势:支持"一云多芯"实现国产算力平滑迁移;开放生态兼容利旧硬件,释放性能潜力;采用全栈RDMA技术提供极致性能。IDC数据显示,2025年浪潮云海在中国市场出货量位居第二,金融行业排名第一,

文章图片
AI游刃有余 | 浪潮云海InCloud AIOS:异构算力“小时级”适配 打通智能生产力最后一公里

摘要:随着AI技术发展,企业面临算力适配滞后和生态兼容不足两大挑战。浪潮云海InCloudAIOS提出"分层解耦、开放兼容"理念,推出异构加速设备动态扩展方法和推理引擎快速适配框架,实现新算力小时级兼容和模型高效部署。该方案通过统一能力模型和标准化接口设计,解决了异构GPU管理和推理引擎适配难题,已成功支持千亿参数模型的快速部署。未来将持续优化性能,助力企业高效管理异构算力,推

文章图片
#人工智能#语言模型#AI
AI游刃有余 | 大模型推理告别排队!P/D分离优化的核心逻辑与实践

摘要: 大语言模型(LLM)推理分为计算密集的预填充(P)阶段和访存密集的解码(D)阶段,传统混批处理导致资源冲突,引发性能瓶颈。P/D分离方案通过持续批处理动态调度算力,结合页面化注意力(PagedAttention)优化KVCache内存管理,实现任务拆分与资源精准匹配。该方案尤其适配异构硬件环境,通过异构硬件池分别处理P/D任务,显著提升吞吐量和降低延迟。实测显示,异构集群部署下,P/D分离

文章图片
#人工智能#大数据#机器学习
    共 14 条
  • 1
  • 2
  • 请选择