logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

AI芯片的本质是什么?从计算图到物理执行单元的结构映射

AI芯片不是一种简单的加速器,而是面向神经网络结构重构出的系统级执行平台。本篇文章将回到AI芯片设计的原点,从计算图的结构与调度依赖出发,系统拆解AI模型如何转译为芯片中的物理执行路径。文章深入分析张量运算的硬件结构映射、MAC阵列的组织形式、调度控制器的图编排逻辑与缓存访问路径的优化策略,并讨论为什么AI芯片的核心设计哲学是“贴着模型图走”。通过构建完整的数据-结构-执行映射链条,为后续所有AI

文章图片
#人工智能
CPU、GPU、NPU 到底怎么分工?一图看懂现代算力三驾马车

这篇文章用一张系统结构图,把三者在 SoC / 服务器里的位置和职责讲清楚,再从**架构视角**梳理:谁负责“算”、谁负责“管”、谁负责“省电”,以及它们如何协同跑完一次 AI 任务。

文章图片
#人工智能#大数据
AI大模型重塑软件开发流程的全景概览:以 DeepSeek 等平台为代表的实战解析

随着 DeepSeek-Coder、CodeGeeX、Yi-Code 等国产 AI 编程模型的快速演进,大模型正深刻重塑传统软件开发流程。从需求识别、代码实现、测试验证,到交付运维的各个环节,AI 不再只是“助手”,而正在成为开发流程中可编排、可调用、可协作的“系统角色”。本文以 DeepSeek 等真实平台的工程实践为例,系统梳理 AI 大模型如何渗透进软件开发生命周期各阶段,带来工作流模式、角

文章图片
#人工智能#深度学习
Roofline 实战:算术强度、层级带宽与瓶颈定位(含 AXPY/GEMM 最小复现)

一张 Roofline 图就够把性能问题说清:横轴是算术强度,纵轴是实测性能;点贴斜线是带宽受限,贴水平线是计算受限。本文用可复现的 AXPY(带宽型)与 GEMM(计算型)做对照,给出统一的 FLOPs/Bytes 计数方法(含 FMA 与不同精度通道),并用层级 Roofline 把“被卡在哪一层内存”落到实处。配套三套主流工具的最小流程(Nsight Compute / Omniperf /

文章图片
#人工智能
NVIDIA Dynamo 实战手册:分布式推理的“调度器 + 路由器 + KV 管理 + 超低延迟通信”

这篇是给“要把推理跑到多机多卡,还想把成本压下去”的工程师看的 Dynamo 入门到实操。先把它和 Dynamo-Triton 的关系说清,再把四大组件(Planner、Smart Router、KV Cache Manager、NIXL)逐一拆开,解释为什么“**解耦 prefill 与 decode**”能让吞吐上去。然后给出**最小复现**:本机一条命令起前端 + SGLang 后端,cur

文章图片
#分布式#人工智能#GPU
Rust 工程起步实战:从环境搭建到 Cargo 工作空间

这篇作为专栏的开篇,目标是把“能跑、能测、能发”的最小 Rust 工程打通:从开发环境配置与目标平台选择开始,搭建一个可复用的 Cargo 工作空间,内置代码风格与静态检查、单元/集成测试与基准测试、分环境配置与日志追踪、发布优化参数,以及本地与容器化运行的闭环。文章提供每一步落地的目录结构与命令清单,读完即可直接在你的机器上初始化模板,并在后续项目中复用。

文章图片
#rust
零成本多态的边界:Rust Trait × 泛型 × 分发策略实战

围绕“抽象不牺牲性能”的目标,系统梳理 Rust 中三种常见分发路径:泛型单态化(静态分发)、`Box/Arc<dyn Trait>`(动态分发)与“枚举分发”。结合对象安全的判定规则与约束写法,解释为什么有些 API 无法被对象化,以及如何通过拆分接口、GAT、HRTB 等手段化解。针对“特化”这一热门话题,给出当前可用的稳定替代方案与工程落地模板,并用基准与火焰图对比不同分发策略的真实开销,帮

文章图片
#rust
看懂数据的那一刻:Rust 模式匹配的实战心法(match / if let / 解构)

把“值长什么样”写进代码本身,是 Rust 模式匹配带来的最大红利。本文围绕 `match`、`if let`、`while let` 与解构写法,给出可直接落地的套路:如何在枚举/结构体/元组/切片上做层层解构,何时用守卫与 `@` 绑定把条件收拢到一处,`or`-patterns 与切片模式在协议/日志解析中的价值,以及 `let-else` 在早退与错误处理里的清爽用法。配套的反例与重构建议

文章图片
#rust
HBM、DDR、LPDDR 到底差在哪?从手机到数据中心的一条内存带宽线

这篇文章从工程视角把 HBM、DDR、LPDDR 三种主流内存放在一张线上比较:谁在手机、平板、智能眼镜里扛流量,谁在服务器和 GPU 卡上扛带宽,它们在带宽、功耗、容量、封装和成本上的本质区别是什么。文章不会堆大量参数,而是通过 UML/架构图和几张对比表,讲清楚一件事:**在做 SoC/GPU/NPU 架构、AI 选型和性能分析时,应该怎样理解“内存这条短板”,以及不同内存形态各自适合什么场景

文章图片
#人工智能
搞懂AI芯片的本质:为什么它是AI时代的算力核心?

AI芯片作为人工智能系统的底层算力基础,正快速从数据中心延伸到边缘终端,成为支撑深度学习模型实时推理与高效部署的关键硬件平台。本文从系统工程角度出发,系统性剖析AI芯片的本质定义、结构构成、计算路径、数据流机制、运行时调度策略与性能评估方法,结合当前主流模型如Transformer的执行特征,深入解析其在不同场景下的部署形态与软硬协同机制。内容基于真实可落地的行业工程经验,构建一个完整、准确、清晰

文章图片
#人工智能
    共 61 条
  • 1
  • 2
  • 3
  • 7
  • 请选择