2 台 DGX Spark 用 vLLM TP=2 跑 DeepSeek V4 Flash 0731，公开配方给的单流是82 tok/s。但那是短提示下的解码速度。同一台集群，prompt 从 256 涨到 131,072，decode 只从 75.4 掉到 65.2，端到端吞吐却从 69.1 掉到 5.9，首字延迟涨 125 倍。本文拆开 prefill 与 decode 两笔账，并给一个能在你

拿到一台声称「开箱即用」的 DeepSeek V4 Flash 0731 本地部署，怎么确认它真的装好调通了？本文给 5 个数的验收清单：配置是否真生效、权重双节点是否完整、KV 池分到多大、decode 基线多少、边界兼容过没过。每个数给了通过标准（参考值来自我们自己机器上实测）、在哪查、不达标时怎么判断，文末附一个零依赖验收脚本，本机真实运行并贴了三段输出。

DeepSeek 8 月 6 日官宣拟整体上调 API 定价，涨幅较大；高峰时段（工作日9:00-12:00、14:00-18:00）计费已翻倍。同样日调用 2000 万 token、同样本地月成本，白天调用为主本地每月省 404 元，深夜为主 API 反而省 142 元——「什么时候用」比「用多少」更决定该不该本地。附零依赖成本速算脚本 + DeepSeek峰谷价目速查表，代你自己的数算出临界日

DeepSeek 8 月 6 日拟整体上调 API 定价，但这一轮是集体涨价：Kimi 输出价已到100 元每百万 token，智谱套餐最高涨超 260%。背后是全国日均 token 调用量两年从约 1000 亿涨到 140 万亿，涨了 1000 倍。而你的账单大头往往不是单价，是任务量——一次 Agent 任务等于上千次单轮对话。附零依赖速算工具 + 国产模型定价速查表，算清你的账单贵在哪。（1

DeepSeek 8 月 6 日官宣拟整体上调 API 定价，涨幅较大；高峰时段（工作日9:00-12:00、14:00-18:00）计费已翻倍。同样日调用 2000 万 token、同样本地月成本，白天调用为主本地每月省 404 元，深夜为主 API 反而省 142 元——「什么时候用」比「用多少」更决定该不该本地。附零依赖成本速算脚本 + DeepSeek峰谷价目速查表，代你自己的数算出临界日

本地部署的大模型，8 个人同时用，速度会变成 1/8 吗？我在 2 台 DGX Spark跑 DeepSeek V4 Flash 0731 上实测：8 并发总吞吐 284.80 tok/s，是 1 并发84.89 的 3.35 倍。不是 1/8（不是分蛋糕），也不是 8 倍（带宽有上限）。decode 是内存带宽 bound，加并发把闲置带宽用上了，所以整体反而更快；过了拐点（≈带宽/单流=3.3

拿到一台声称「开箱即用」的 DeepSeek V4 Flash 0731 本地部署，怎么确认它真的装好调通了？本文给 5 个数的验收清单：配置是否真生效、权重双节点是否完整、KV 池分到多大、decode 基线多少、边界兼容过没过。每个数给了通过标准（参考值来自我们自己机器上实测）、在哪查、不达标时怎么判断，文末附一个零依赖验收脚本，本机真实运行并贴了三段输出。

2 台 DGX Spark 用 vLLM TP=2 跑 DeepSeek V4 Flash 0731，公开配方给的单流是82 tok/s。但那是短提示下的解码速度。同一台集群，prompt 从 256 涨到 131,072，decode 只从 75.4 掉到 65.2，端到端吞吐却从 69.1 掉到 5.9，首字延迟涨 125 倍。本文拆开 prefill 与 decode 两笔账，并给一个能在你

744B 的 GLM-5.2 如何本地私有化落地?本文讲清用芯途异构 V2408 + 8×RTX Pro 6000D(672GB 聚合显存 / 3104 TOPS)承载 744B 权重与 1M 长上下文的算力账、标准 vLLM 部署流程与选型要点;数据全程本地闭环,三年综合成本据官方方案降约 78%。文中规格与成本数值均引用厂商官方方案文档。

多机多卡跑大模型，80% 时间不是花在推理上，而是卡在网卡选错、NCCL 握不上手、显存算不清。本文按"报错串→根因→可复现命令"整理成速查 FAQ：Gloo/NCCL 网卡指定、shm 与 P2P、CUDA OOM 显存反向估算、TP/PP 并行怎么切，示例是纯 50GbE 以太网桌面集群（无 IB、免高端交换机）。命令属官方/社区通用做法，硬件数值引白皮书口径，真机吞吐以实测为准。