logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

深入解构 Runtime:异构计算任务的动态调度与执行引擎

在异构计算软件栈中,Runtime(运行时)扮演着承上启下的关键角色。向上,它为图引擎(GE)或应用层提供标准的 C/C++ API(如 ACL);向下,它通过系统调用与内核态的 Driver 交互,将逻辑上的计算任务转化为物理硬件可识别的指令流。Runtime 的核心职能在于以及。

#深度学习#transformer
Git 深度学习笔记:从初始化到核心操作机制解析

在现代软件开发中,版本控制系统是不可或缺的基石。Git 作为目前最主流的分布式版本控制工具,其强大的分支管理、历史追溯以及协作能力,极大地提升了开发效率。本文将基于实际操作流程,深入剖析 Git 从仓库初始化、配置管理、核心区域交互到版本回退与文件操作的完整链路,并重点探讨其背后的工作原理。

文章图片
#git
Docker Compose Ul:不用记命令也能管容器!cpolar新手友好的远程管理技巧 get√

Docker Compose UI 的主要作用是把 Docker Compose 的命令行操作变成可视化界面,通过点击、拖拽就能管理容器的启动、停止,查看实时日志,调整配置。它特别适合刚接触 Docker 的新手 —— 不用死记硬背docker-compose up这类命令,也适合团队协作场景,大家能直观看到服务依赖关系。优点很明显:操作门槛低,状态一目了然,改配置比直接改 YAML 文件快得多,

文章图片
#docker#java#dubbo
告别私有云使用局限!极空间+1Panel+cpolar联手打造全能可访问的家用存储方案

极空间作为家用 NAS 设备,核心功能围绕存储、备份展开,能满足家庭用户的基础数据存放需求,1Panel 则是轻量级的服务器管理面板,通过图形化界面简化 Linux 服务器运维,无需复杂命令行就能部署各类应用,二者适配人群主要是普通家庭用户、小型办公团队,优点在于操作门槛低,极空间无需额外装系统,1Panel 还能自动签发 SSL 证书、管理 Docker 应用,兼顾实用性与安全性。

文章图片
#php#开发语言
《告别数据泄露焦虑!我用节点小宝搭建了私有云盘,附免费抽NAS+会员活动!》

去年的一次网盘丢失事件,让我损失了大量重要文件。从那时起我就开始寻找更安全的数据存储方案。节点小宝的出现,正好解决了我的痛点。

文章图片
CANN ops-transformer 深度解析:针对大模型加速的高性能算子库实现、内核优化与内存管理机制

在大规模语言模型(LLM)重塑计算格局的当下,传统的通用算子库已难以满足 Transformer 架构对吞吐量与显存效率的极致渴求。应运而生,它不仅仅是算子的集合,更是 CANN 针对 Transformer 架构特性——高并发注意力机制、层归一化依赖及海量参数吞吐——进行的指令级与存储级重构。本文将深入剖析支撑这一核心库的六大技术支柱。

#transformer#深度学习#人工智能
解构 ops-transformer:面向万亿参数大模型的 NPU 加速原语

这种设计直接通过 NPU 的 MTE(数据搬运引擎)与 Vector/Cube(计算引擎)的流水线并行,掩盖了数据访问延迟。在处理每个分块时,算子在寄存器中维护局部的最大值(Max)和指数和(SumExp)。在 Transformer 架构主导的大模型时代,计算瓶颈已从单纯的 FLOPs(浮点运算次数)转移到了 Memory Wall(内存墙)。但在长时间生成过程中,这会导致严重的内存碎片。在大模

#transformer#深度学习#人工智能
深度剖析 ops-transformer:面向大模型的 NPU 加速库与极致性能优化

为了支持运行时的动态调整,算子使用特定的结构体在 Host 和 Device 之间传递 Tiling 参数。// Transformer 核心算子 Tiling 配置结构// 基础维度信息// 针对 NPU Cube Unit 优化的分块参数// M 轴分块大小 (如 128)// N 轴分块大小 (如 128)// K 轴分块大小 (如 64)// 内存地址偏移量,用于支持非连续 KV Cach

#transformer#深度学习#人工智能
破局大模型推理:基于 ops-transformer 的算力释放与显存精细化管理

在生成式 AI 的浪潮下,Transformer 架构已成为事实上的标准。然而,随着参数量突破千亿级以及上下文窗口(Context Window)的不断扩展,传统的算子实现已无法满足极致的推理性能需求。仓库作为 CANN 平台针对 Transformer 架构的深度优化算子集合,通过对底层硬件指令的精细编排、显存管理的重构以及计算流的融合,解决了 LLM 推理中的“显存墙”与“算力利用率”两大核心

#transformer#深度学习#人工智能
AI 已经能直接改设计稿了:Windows部署Penpot,接入Codex MCP实测

Penpot 就很适合拿来观察这件事。它本身是一套开源的 UI/UX 设计协作平台,可以在浏览器里完成界面、原型、组件和设计系统管理;通过现在提供的 MCP Server,又可以把 Codex、Cursor、Claude Code 等 AI Agent 接进来,让模型读取当前设计文件,并进一步创建页面、文本、图层、组件和样式。

文章图片
#人工智能
    共 101 条
  • 1
  • 2
  • 3
  • 11
  • 请选择