据我们所知，AMD就是这样让一个70亿参数的模型以大约每秒20个token的速度运行的。AMD预测未来的AI PC将以每秒100个token的速度运行300亿参数模型，首个token的延迟达到100毫秒，而现在的技术只能做到70亿参数、每秒20个token，首个token的延迟为1至4秒。AI PC就是内嵌个人大模型的电脑，具备更强的算力、更大的存储空间和更顺畅的自然语言交互功能，其核心特征包括C

作为一名 AI 行业的观察者，我见过太多精巧的算法来来去去。但一直以来，我最看好的，始终是带有进化本能的设计。SOP 最大的价值不是某个具体的技术 trick，而是范式的转变。机器人训练的主战场，从仿真环境 + 人类演示转移到了真实物理世界。在真实世界里，边做边学，像人类学习的方式。现实世界的经验，终于不再是机器人学习的瓶颈，而成为了可扩展的训练资源。如果说 GPT-4 的出现，是因为 OpenA

作为一名 AI 行业的观察者，我见过太多精巧的算法来来去去。但一直以来，我最看好的，始终是带有进化本能的设计。SOP 最大的价值不是某个具体的技术 trick，而是范式的转变。机器人训练的主战场，从仿真环境 + 人类演示转移到了真实物理世界。在真实世界里，边做边学，像人类学习的方式。现实世界的经验，终于不再是机器人学习的瓶颈，而成为了可扩展的训练资源。如果说 GPT-4 的出现，是因为 OpenA

Lanrui-AI揽睿星舟高性价比的训推一体平台不少同学可能好奇 [揽睿星舟] 是什么平台？我给大家科普一下，揽睿星舟是翼方健数发布的一款高性能、低价的训推一体算力平台，为机器学习用户提供丰富多样的GPU计算资源，开箱即用的训推环境，大容量、高可用的分布式文件存储以及开放的镜像生态。用户可以通过简单易用的用户界面，快速获取高性能GPU计算能力，从而高效地完成各种训练和推理任务，提升工作效率。平台支

H20是高缓存、高带宽，但算力性能差，大约是华为昇腾910算力的一半，但缓存与带宽比910B高，其中带宽是华为昇腾 910B 的两倍，也即H20在互连速度方面更有优势，互连速度决定了芯片之间数据传输的速度。经销商销售的H20服务器预配置8颗 AI 芯片，售价 140 万元。，中国电信在 10 月份采购了价值约 3.9 亿美元的由华为芯片驱动的AI服务器，而中国联通在2022年也花费了至少2000万

DeepSeek-R1 系列模型的开源，因其出色的性能和低廉的开发成本，已引发全球的热切讨论和关注。潞晨科技携手华为昇腾，联合发布。

来源 | 腾讯科技7月6日，第六届世界人工智能大会(WAIC 2023)在上海举办，大会主题为“智联世界 生成未来”。在会议开幕式上，特斯拉首席执行官马斯克在视频致辞中表示，未来机器人的数量将超过人类，特斯拉愿意将自动驾驶技术许可给其他的汽车制造商使用。马斯克认为，我们已经见到了数字计算能力的爆炸式增长，机器和生物算力之间的差距在进一步的扩大，机器人的计算能力要强得多，未来地球上机器人的数量将会超

来源 | 新智元今天，著名的SemiAnalysis分析师Dylan Patel和Daniel Nishball，又来爆料行业内幕了。而整个AI社区，再次被这次的消息所震惊：OpenAI的算力比起谷歌来，只能说是小儿科——谷歌的下一代大模型Gemini，算力已达GPT-4的5倍！

现在 AI 能写代码、能画画，但你有没有想过，让 AI 去拧个瓶盖，为什么就这么难?因为拧瓶盖这件事，需要三个能力同时在线：眼睛-视觉（ision）: 它得先看懂——哪个是瓶子？哪里是盖子？盖子纹理是什么样？大脑-语言（anguage）：它得理解人类的指令——“拧开瓶盖”是什么意思？是顺时针还是逆时针？用多大力？身体-动作(ction)：它得精确地执行——手指要以多大角度抓住瓶盖？施加多大扭矩？这

受芯片禁令的影响，国内很多小伙伴对大模型训练部署的 GPU 型号感知可能还停留在 H100 甚至 A100 上面。但其实在 H100 之后，不仅诞生了同样是 Hopper 架构的 H200 芯片（于 2023 年底发布），而且 2024 年上半年，英伟达还发布了超越 Hopper 架构的全新 Blackwell 架构。搭载最新 Blackwell 架构的 GPU 芯片，便是 B200。，如下图所示