logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

2026年中国GPU算力服务提供商生态全景:市场格局、技术路线与选型指南

中国 GPU 算力服务市场已进入成熟发展期,市场竞争从早期的资源争夺转向技术、服务、生态的综合竞争。企业在选择算力服务商时,应综合考虑资源规模、技术能力、服务质量、资质口碑等多重因素,选择真正能够支撑业务长期发展的合作伙伴。在这一生态格局中,蓝耘元生代云凭借国家级专精特新“小巨人”企业资质、全栈 400G IB 网络架构、裸金属+容器+MaaS 一体化产品体系、以及 7×24 小时专业技术支持,已

深度学习的编译大脑:CANN Graph Engine (GE) 图编译技术深度解构

在 CANN 全栈体系中,扮演着“高级编译器”的角色。它位于深度学习框架(如 PyTorch/TensorFlow)与底层运行时(Runtime)之间,负责将用户定义的计算逻辑(计算图)转化为硬件可执行的指令序列。GE 的核心价值在于其强大的图级优化能力、静态内存规划以及对异构计算资源的自动化编排。本文将深入剖析 GE 的内部流水线,揭示其如何通过六大核心阶段将模型推理性能推向极致。

#人工智能
破局海量日志噪音:基于 Rust + DeepSeek 实现微服务级联故障的精准定位与自动化修复

在分布式微服务架构日益复杂的今天,系统日志作为观测系统健康状态的核心数据源,其数据量呈指数级增长。传统的基于规则匹配(Rule-based)或简单的关键词搜索的日志分析手段,在面对非结构化数据和复杂级联故障时显得力不从心。本文详细阐述了一种融合 Rust 语言的高性能内存安全特性与 DeepSeek-V3.2 大语言模型推理能力的创新解决方案。通过构建一个 CLI 工具,实现对海量日志的毫秒级解析

文章图片
#rust#微服务#自动化
基于 Rust 与 DeepSeek 大模型的智能 API Mock 生成器构建实录:从环境搭建到架构解析

在现代软件工程中,API 接口的开发与前端联调往往存在时间差。为了解耦前后端开发进度,Mock 数据(模拟数据)的生成显得尤为关键。传统的 Mock 数据生成依赖于静态 JSON 文件或简单的规则引擎,难以覆盖复杂的业务逻辑与语义关联。随着大语言模型(LLM)的兴起,利用 AI 根据 Schema 定义动态生成高保真的模拟数据成为可能。

文章图片
#rust#架构#开发语言
为什么大模型推理都在用vLLM?聊聊 PagedAttention 如何降低推理成本

大模型推理中的显存浪费问题,被一种借鉴操作系统思路的技术有效缓解了。在生成式AI领域,大语言模型的参数量和上下文长度持续增长。开发者将模型部署到生产环境时,常常遇到两个现实问题:推理成本高,以及显存溢出(OOM)。GPU 数量增加,吞吐量却未必成比例提升。vLLM 是当前比较流行的大模型推理加速框架之一。很多开发者切换到vLLM后,发现系统吞吐量有明显提升。据官方基准测试,相比 HuggingFa

文章图片
#人工智能
从一个尴尬的春节聚会说起:我用 Rokid AR 眼镜做了个聚会游戏助手

为什么不用手机 App 就够了?场景手机方案AR眼镜方案组织者状态眼睛盯着手机屏幕抬头看向参与者题目保密容易被旁人看到只有组织者可见游戏氛围“等等,我看下题”流畅自然时间把控需要看时钟倒计时直接显示手机方案把组织者变成了"管理员",而眼镜方案让组织者回归"参与者"。Rokid 的 CXR-M SDK 提供了「提词器场景」——这正是我需要的:将文字内容推送到眼镜屏幕显示。配合 TTS(语音合成)能力

文章图片
#ar#游戏
AI应用开发新范式:从模型API到交互式网页的极速实现路径

我们生活在一个被AI浪潮席卷的时代。每一天,我们都能看到、听到关于大型语言模型(LLM)的突破性新闻。它们能写诗、能编程、能进行逻辑缜密的对话,其强大的能力似乎预示着一个全新的应用纪元即将到来。对于我们这些身处技术前沿的开发者、创业者和充满热情的爱好者来说,这无疑是一个激动人心的信号。我们脑中充满了各种奇思妙想:一个能自动分析财报的智能助手、一个能与用户进行深度情感交流的虚拟伙伴、一个能辅助我们进

文章图片
#人工智能
企业微信智能化办公机器人部署与大语言模型集成实操深度指南

长连接技术能够保持服务器与企业微信网关之间的持续会话,避免了频繁握手带来的网络开销,确保了在复杂群聊环境中,AI助手能够秒级响应成员的指令。当操作者输入指令,要求总结特定群组在特定时间段内的工作进展时,AI 会执行多步操作:首先检索相关群聊消息,接着利用其 235B 的大参数量进行语义分类,区分出“待办事项”、“已完成工作”以及“潜在风险”。这不仅是工具的升级,更是办公范式的重塑。针对非管理员身份

文章图片
#机器人#语言模型
基于 Rust 与大语言模型构建下一代运维配置生成器:深度技术实践

在云原生技术日益普及的当下,Nginx、Docker、Kubernetes 等基础设施的配置文件编写已成为运维工程师与后端开发者的日常痛点。这些配置不仅语法繁杂,且对安全性、性能参数有着极高的要求。手动编写不仅效率低下,且极易引入人为错误。随着大语言模型(LLM)能力的爆发,利用 AI 辅助生成高质量配置代码已成为必然趋势。本文将详细阐述如何利用 Rust 语言的高性能与安全性,结合 GLM-5

文章图片
#rust#语言模型#运维
像素级加速引擎:深度解构 CANN OPS-CV 计算机视觉算子库

为了展示 OPS-CV 中算子是如何被形式化定义的,以下代码展示了一个典型的图像处理算子(如Resize)在底层 C++ 接口中的原型声明与校验逻辑。这部分代码属于算子开发层,用于指导系统如何构建图和分配内存。// 定义 Resize 算子的原型// 继承自 Operator 类,注册输入输出端口和属性.INPUT(x, TensorType({DT_FLOAT, DT_FLOAT16, DT_U

#人工智能
    共 55 条
  • 1
  • 2
  • 3
  • 6
  • 请选择