logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾 NPU 实战:Gemma 2 模型部署、多维度评测与性能优化全流程解析

随着大语言模型(LLM)技术的飞速发展,模型的规模与能力不断攀升,对底层计算硬件的性能和效率也提出了前所未有的挑战。Google 推出的 Gemma 2 系列模型,以其卓越的性能和开放的生态,成为了社区关注的焦点。与此同时,以昇腾(Ascend)NPU 为代表的国产 AI 计算硬件,凭借其独特的 Da Vinci 架构,在 AI 推理与训练领域展现出强大的竞争力。本文将详尽记录在昇腾 NPU 计算

文章图片
#昇腾#华为云
共绩算力:新一代AI算力云平台深度解析与模型部署实战教程

共绩算力平台通过其强大的高性能GPU资源池、高度弹性的资源管理模式以及对开发者极为友好的集成环境,显著降低了AI开发与部署的技术门槛和前期成本。本次实战教程完整地展示了该平台的全流程操作:从通过简洁的Web控制台快速创建一个配置完备的GPU云主机,到利用预置的Jupyter Lab环境无缝进入开发状态,再到通过命令行完成依赖安装、代码编写并成功运行一个先进的大型语言模型。整个过程清晰、流畅,证明了

文章图片
#人工智能
深探 openEuler 云原生基石:iSula 与 Kata Containers 安全容器的极致评测与性能剖析

摘要:随着云原生技术席卷全球,容器已成为现代化应用交付的标准。然而,传统容器基于共享内核的架构所带来的安全隐患,始终是悬在多租户、高安全等级场景下的“达摩克利斯之剑”。openEuler,作为面向数字基础设施的开源操作系统,其核心组件 iSula 容器引擎,通过对 Kata Containers 等安全容器运行时的原生支持,为这一难题提供了优雅而强大的解决方案。

文章图片
#云原生#安全#rpc
Bright Data CLI:面向开发者的网页数据获取工具

Bright Data CLI 将网页抓取的基础设施封装为终端命令,开发者无需关心代理池管理、验证码处理、浏览器渲染等底层实现。通过scrapesearchpipelinesbrowserscraper五个核心命令,覆盖了从简单页面抓取到 AI 自动化爬虫生成的完整流程。从我这几天的实际使用来看,它在启动成本和维护难度上相比传统方案有明显提升。特别是pipelines和scraper这两个功能,解

文章图片
一文详解Claude Opus 4.7:保姆级使用指南,附入口

2026年4月16日,Anthropic正式发布Claude Opus 4.7。Opus 4.7定价与 Opus 4.6持平,但新版分词器可能导致实际输入消耗的token增长0%-35%。另外,由于思考强度也比4.6高,也会耗费更多输出token。所以在实际体验上,Opus 4.7的总体成本会高一些。本指南将详细介绍Claude Opus 4.7的使用方法、实际发生了哪些变化,以及如何将它的新功能

文章图片
#人工智能
openclaw新手入门指南:一文看懂环境搭建、模型配置与 WebUI 远程访问

蓝耘 MaaS(Model as a Service)平台提供了兼容 OpenAI 协议的 API 接口,允许开发者通过标准化的 HTTP 请求调用高性能模型,如 DeepSeek-V3.2。此步骤中,底层操作系统已被封装,用户无需手动处理 Docker 容器配置或 Python 依赖环境,直接通过镜像实例化即可获得开箱即用的 OpenClaw 服务端。这种策略允许开发者先完成基础框架部署,随后通

文章图片
解构 Metadef:异构计算架构的通用图中间表示 (IR) 与元数据定义

除了标准的NCHW和NHWCmetadefNC1HWC0:专为向量计算单元设计的 5 维格式。FRACTAL_Z:专为矩阵乘法单元(Cube Unit)设计的重排格式。FRACTAL_NZ:用于特定内部传输的高效格式。这些枚举值的存在,使得 Graph Engine 能够在编译期推断出两个算子之间是否需要插入格式转换(TransData)节点,从而实现自动化的数据流优化。

#人工智能
跨越算力孤岛:深入解析 HComm 分布式通信库的高效互联架构

为了展示 HComm 如何在底层抽象复杂的网络环境,以下代码片段模拟了 C++ 头文件中对于通信域(Communicator)初始化的配置结构。这体现了底层库对于物理资源与逻辑分组的严格映射。// 通信链路类型枚举// 定义底层数据传输使用的物理通道LINK_PCIE_P2P = 0x01, // 节点内 PCIe 直连LINK_HCCS_RING = 0x02, // 片间高速互联环LINK_R

#分布式
Docker网络架构深度解析:从原理到实战

Docker 容器技术的普及改变了软件交付的方式,而网络作为容器化应用交互的基础设施,其重要性不言而喻。Docker 提供了多种网络驱动,以适应不同的应用场景。本文将深入剖析 Docker 的核心网络模式,包括 Bridge(桥接模式)、Host(主机模式)、Container(容器模式)以及 None(无网络模式),并结合实际操作案例,详细解读每一个网络配置环节及其背后的技术原理。Docker

文章图片
#docker#网络#架构
C++大模型SDK开发实录(一):spdlog日志封装、通用数据结构定义与策略模式应用

/ 消息结构:对应API中的message对象// 消息内容// 基础配置:所有模型通用的参数// 控制随机性// 控制长度// API配置:继承自Config,增加鉴权信息// 模型元数据:用于服务发现和状态检查// 会话结构:管理对话上下文// 消息历史这些结构体构成了SDK的数据骨架,Session对象将由在内存中维护,并由序列化到数据库中。

文章图片
#c++#数据结构#策略模式
    共 241 条
  • 1
  • 2
  • 3
  • 25
  • 请选择