logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型推理成本每年降低10倍的秘密:一文了解vLLM、SGLang等6款主流推理引擎

大语言模型推理引擎的优化技术百花齐放,从底层内存管理到高层并行策略,各有侧重又相辅相成。这些技术最早由不同项目创新提出,现如今正逐步融合到主流的开源推理引擎中。对于开发者而言,理解并善用这些优化手段,将有助于在实际AI应用中以更低成本、更高效率部署强大的大语言模型。这场围绕LLM高效推理的持续演进,还将随着模型规模的扩大和新硬件的出现而不断前行。各项优化技术的交融与创新,终将推动大模型走向更加经济

文章图片
#人工智能
PPIO 上线 DeepSeek-OCR-2 ,支持一键私有化部署

PPIO 算力市场首发上线了 DeepSeek-OCR-2 部署模板,为开发者提供开箱即用的模型服务。DeepSeek-OCR-2 是 DeepSeek 团队最新发布的开源 OCR 模型。与传统 OCR 方案不同,该模型引入了 DeepEncoder V2 视觉编码器,并采用了“视觉因果流(Visual Causal Flow)”技术。这一架构改变使得模型能够基于语义逻辑理解文档结构,从而在处理多

文章图片
#人工智能
L20 实测,3090 vs L20 孰强孰弱?

NVIDIA L20 是一款针对中国市场的高性能GPU,基于 NVIDIA Ada Lovelace 架构开发,具有高性能和可扩展性,支持广泛的 AI 应用和模型训练任务。L20 的定位是全高全长的加速卡,适用于需要较高计算能力的场景。派欧算力云(www.paigpu.com) 推出全新 GPU 测评栏目,基于实际生产中的业务场景,为大家带来不同 GPU 的性能测评,我们将专注于为大家带来最前沿、

文章图片
#人工智能#云计算
PPIO 上线 GLM-4.7-Flash 模板 | 极速部署教程

在执行复杂智能体任务,GLM-4.7-Flash 在工具调用时指令遵循更强,并大幅提升了 Artifacts 与 Agentic Coding 的前端美感和长程任务完成效率。GLM-4.7-Flash 作为 GLM-4.7 旗舰系列的“极速版”,总参数量为30B,激活参数量为3B,为用户提供了一个兼顾性能与效率的新选择。PPIO 的算力市场模板致力于帮助企业及个人开发者降低大模型私有化部署的门槛,

文章图片
#人工智能#大数据
PPIO上线GLM-OCR:0.9B参数SOTA性能,支持一键部署

作为一款兼具“轻量化”与“高精度”的专业级 OCR 模型,GLM-OCR 以 0.9B 的参数规模,在 OmniDocBench V1.5 基准测试中取得了 94.6 分的 SOTA 表现,并在公式识别、复杂表格解析及信息抽取等高难度场景中展现出显著优势。目前,PPIO算力市场已上线几十个私有化部署模板,除了 GLM-OCR,你也可以将DeepSeek-OCR-2、 AutoGLM-Phone-9

文章图片
#人工智能
PPIO Agent 沙箱 × Claude Agent SDK :三步构建能写会跑的 Coding Agent

PPIO Agent 沙箱 与 Claude SDK 的集成为 AI Agent 开发提供了一种更高效、更自动化的工作流。它通过提供一个即时、隔离且可编程的执行环境,解决了传统 AI 编程中反馈链路过长和环境配置困难的核心问题。我们相信,这种让 AI Agent 能够直接与真实环境交互的模式,将是未来 AI 辅助软件开发的重要方向。

文章图片
#人工智能
PPIO×AionUI:告别繁琐配置,构建多智能体协作的 AI 工作台

AionUI 是由 iOfficeAI 团队打造的免费开源 AI 协作桌面应用,它不只是聊天客户端,更是一个 AI Cowork 平台,内置 AI Agent 安装即用,12 个专业助手覆盖 PPT 生成、Excel 处理、UI 设计等办公高频场景,同时集成 OpenClaw 等多代理模式,数据全部本地存储,安全可控。下载完成后,打开AionUI,在设置-模型界面中点击“添加模型”,模型平台选择P

文章图片
#人工智能#自然语言处理
PPIO上线MiniMax M2.7:一个深度参与迭代自己的模型

PPIO 平台在第一时间上线了 MiniMax M2.7 模型

文章图片
#人工智能
Agent 部署的终极答案?PPClaw 让 OpenClaw 告别“最后一公里”难题

在 AI Agent 落地的赛道上,“能落地、易落地”才是核心竞争力。PPClaw 只需一条命令部署,重新定义了 OpenClaw 的云端托管体验,无论是小团队快速试错,还是企业级稳定部署,都能轻松适配。现在,复制文中的安装命令,获取你的 PPIO API Key,快速拥有属于自己的 AI 沙箱环境,让 OpenClaw 真正落地到你的业务场景中,告别部署“最后一座山”,解锁 AI Agent 的

文章图片
#人工智能
Agent 部署的终极答案?PPClaw 让 OpenClaw 告别“最后一公里”难题

在 AI Agent 落地的赛道上,“能落地、易落地”才是核心竞争力。PPClaw 只需一条命令部署,重新定义了 OpenClaw 的云端托管体验,无论是小团队快速试错,还是企业级稳定部署,都能轻松适配。现在,复制文中的安装命令,获取你的 PPIO API Key,快速拥有属于自己的 AI 沙箱环境,让 OpenClaw 真正落地到你的业务场景中,告别部署“最后一座山”,解锁 AI Agent 的

文章图片
#人工智能
    共 126 条
  • 1
  • 2
  • 3
  • 13
  • 请选择