logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾多机推理极速上手:10倍简化的 DeepSeek R1 超大规模模型部署

在昇腾 NPU 上部署超大规模模型,往往面临一个现实难题:目前主流的官方推理引擎 MindIE 的多机分布式推理虽然性能表现尚可,但配置流程异常复杂。从环境准备、配置初始化到参数细节调整,每一步都需要格外谨慎,否则极易因细节遗漏或配置错误而导致部署失败,问题定位也十分困难。 GPUStack 是一个

DeepSeek-OCR 本地部署实践(适合新手、windows环境)

上效果: 结论:windows官方示例仅可转换图片,linux下官方示例可转图片和PDF文件。 原因是转换PDF的代码用到了vllm,vllm仅可在linux系统下部署使用。(仅官方示例,如果自己编写代码进行PDF转图片,并处理多张图片的上下文语义,那么就没差别了) deepseek-ocr 官方库

拒绝“PPT 造芯”,边缘 AI 芯片 IP 厂商 Quadric 拿下 3000 万美元 C 轮

当半导体一级市场回归理性,资本不再为单纯的“算力堆叠”买单,而是开始寻找真正能“落地”的技术。1 月 15 日,硅谷通用神经网络处理器(GPNPU)IP 厂商\u0026#160;Quadric\u0026#160;正式宣布完成\u0026#160;3000 万美元(约合人民币 2.17 亿元)\u0026#160;的 C 轮融资。 本轮融资由 BEENEXT 管理的 ACCE

刚入职的AIops菜鸡,应该知道gang-scheduling和binpack调度吗?

如题,刚入职的AIOps菜鸡, 基于kubeflow做AI大模型训练和推理,本文记录了企业项目:[云原生AI算力平台] 在云原生的背景下,遇到了一些现实挑战和应对方式。 1. 可插拔的调度框架 k8s以可插拔的插件方式实现了调度能力,插件可以实现多个扩展点接口来执行更复杂或有状态的任务。 默认的调度

用纯.NET开发并制作一个智能桌面机器人(六):使用.NET开发一个跨平台功能完善的小智AI客户端

前言 前面几篇文章已经把机器人硬件控制部分的开发讲得差不多了,包括屏幕控制、舵机驱动、语音交互等功能。但是之前的外形太过简单,可动角度不够多,所以我就新改进了一个版本,叫VerdiBot(阿荫),详细视频介绍地址请点击链接。 ESP32社区最火的AI对话机器人非小智AI莫属了,所以为了让自己做的机器

C# 中的 Span 和内存:.NET 中的高性能内存处理

引言 现代 .NET 应用对性能的要求越来越高,尤其是在处理大数据、文件处理、网络通信和实时系统等场景下。传统的基于数组和字符串的内存处理方式常常会产生不必要的内存分配,这不仅增加了内存使用量,还会显著降低应用性能。 为了解决这些问题,C# 引入了 Span 和 Memory 这两种类型,它们提供了

[路由器] 红米AX6000 ImmortalWrt 18.06升级到24.10.2,配置npc

原有路由器是红米AX6000最开始图方便直接用了网友的ImmortalWrt18.06,其支持的OpenClash版本太低,不支持http协议。于是这次索性就直接升级一下ImmortalWrt到最新。 升级前 系统 主机名\tImmortalWrt 主机型号\tXiaomi Redmi Router A

从零开始搭建部署 Moltbot/Clawdbot 完整攻略

Moltbot(原名 Clawdbot)是 2026 年 1 月突然爆火的开源个人 AI 助手项目,由 Peter Steinberger(PSPDFKit 创始人)开发。 Moltbot 是一个把\u0026#160;本地算力 + 大模型 Agent 自动化\u0026#160;玩到极致的开发者效率工具。 Moltbot 目标是让 AI

重磅!Volcano发布AgentCube,构建AI Agent时代的云原生基础设施

重磅!Volcano发布AgentCube,构建AI Agent时代的云原生基础设施 云原生批量计算引擎 Volcano 社区全新子项目 AgentCube 现已正式发布。AgentCube的诞生基于 Volcano 在大规模高性能计算调度领域多年的生产实践积累,它将这种高并发、高吞吐的调度能力延伸

赋予 AI Agent “无限续航”:语义保护型上下文压缩技术解析

想象一下,你正在指挥一个超级聪明的AI助手(我们称之为Agent)帮你完成一项复杂任务,比如策划一次跨国旅行。一开始,它记得你的所有要求:想去哪些国家、预算多少、喜欢什么类型的酒店。但随着任务的进行,它需要查询航班、比较酒店、查看天气……每一次查询和思考都会增加它的“记忆负担”。 如果它“记性”不好

    共 503 条
  • 1
  • 2
  • 3
  • 51
  • 请选择