每周AI工具/模型更新报告（2026年7月7日-7月14日）

一、开源模型发布

腾讯混元Hy3正式版开源，采用Apache 2.0协议
腾讯于7月6日发布混元大模型Hy3正式版并开源，采用MoE架构，总参数295B、激活参数21B，支持256K上下文长度，全球开发者可免费下载并免费商用。

Meta发布Muse Spark 1.1多模态推理模型
Meta于7月9日发布Muse Spark 1.1，支持100万token上下文长度，强化智能体任务规划、协同与执行能力，优化多智能体协作机制和工具调用性能。

DeepSeek系列模型持续迭代
DeepSeek团队在MoE架构、FP8混合精度训练、推理能力等方面持续突破，DeepSeek-V3拥有671B总参数，DeepSeek-R1通过强化学习实现推理能力质变。

二、推理引擎与工具更新

vLLM v0.25正式版发布，多硬件平台扩展
vLLM v0.25新增AMD/ROCm支持、推测解码支持Thinking Budget、KV Cache卸载与HMA混合内存分配器打通，性能优化涵盖采样速度、Embedding响应等十余项。

三、API与服务更新

全球免费大模型服务生态更新
2026年多家厂商调整免费策略：Cerebras提供免费推理服务（30 RPM/天100万Token），Groq免费层支持Llama 3.3 70B等模型，阿里云百炼新用户送7000万Token免费额度。

Meta Muse Spark 1.1定价策略激进
Meta采取激进定价，输入成本1.25美元/百万token，输出4.25美元/百万token，较主流闭源模型降低40%以上，工具调用评估得分88.1分超越Claude Opus 4.8。

四、核心能力对比分析

模型/工具 核心能力 上下文长度 开源/免费
腾讯混元Hy3 Agent能力提升20-30%，幻觉率下降超50% 256K Apache 2.0开源
Meta Muse Spark 1.1 多智能体协作、跨应用操作、代码开发 100万token API付费
vLLM v0.25 多硬件支持、推测解码加速、KV缓存优化 支持长上下文 开源引擎
DeepSeek-V3 FP8训练、MoE负载均衡、多Token预测 长上下文支持 开源

五、趋势总结

本周AI领域呈现三大趋势：开源模型持续释放，腾讯Hy3、DeepSeek系列等高质量开源模型降低开发者门槛；推理引擎多平台化，vLLM从NVIDIA扩展至AMD、Intel、IBM等多硬件平台；Agent能力成为竞争焦点，Meta、腾讯等厂商均将智能体协作、工具调用作为核心升级方向。免费服务生态方面，各厂商在保持免费层的同时调整配额策略，开发者需关注各平台最新政策变化。

参考来源

 

# 人工智能 # github
Logo
加入AMD AI开发者计划！

免费领 150 小时云算力，进群参与显卡、AI PC 幸运抽奖

更多推荐

cover

读懂 ROCm 分层：HIP → ROCr → libhsakmt 核心概念对照表

avatar AMD开发者中国社区

vLLM-Ascend 快速部署与调用指南

摘要：本文详细介绍了在国产昇腾（Ascend）AI处理器上部署vLLM推理服务的关键步骤和注意事项。首先强调了环境准备的重要性，包括操作系统版本、Python虚拟环境创建及昇腾版PyTorch的安装。随后讲解了Ascend驱动与CANN工具包的配置细节，以及如何正确设置环境变量。源码编译vLLM-Ascend时需指定编译标志，并处理可能出现的依赖问题。模型加载和服务启动阶段需调整显存管理和精度参数

avatar AMD开发者中国社区

Prompt 压缩与 KV Cache 复用：降低推理延迟的上下文窗口优化实践

Prompt 压缩解决的是"携带太多历史"的问题——通过去重、摘要和截断减少 Token 量 40%～70%。KV Cache 复用解决的是"重复计算相同前缀"的问题——通过 Prefix 匹配跳过已计算的 Prefill。两者结合可将多轮对话的推理延迟降低 50%～80%。建议在编排层集成 PromptCompressor 模块，在 vLLM 侧开启。监控两个核心指标：压缩率（偏高说明历史过长）

avatar AMD开发者中国社区