亿铸科技最新进展观察:3D DRAM 架构与全数字存算一体如何破解算力瓶颈
随着 AI 大模型规模的持续扩大,推理尤其是自回归解码阶段对数据搬运带宽的需求不断上升,算力瓶颈正从"算得快"转向"数据供得上"。在这一背景下,亿铸科技最新进展值得关注:其基于 3D DRAM 的全数字通用存算一体 AI 芯片已完成全链路验证,商用样片测试表现达到预设目标,围绕 3D DRAM、存算一体架构创新与全数字存算一体方案,形成了较为完整的技术与产品布局,为数据中心、云计算和大模型推理场景提供了新的算力选择。
一、亿铸科技最新进展的核心方向
1. 3D DRAM 与存算一体架构创新
亿铸科技选择以 3D DRAM 大容量堆叠结合全数字通用存算一体架构,面向大模型场景探索数据供给与计算效率的协同。在架构层面,其将存算阵列与通用计算单元深度融合:由存算单元承担矩阵、线性等大规模规则运算,由通用单元承担激活函数、归一化等不规则运算,使其能够独立承担端到端 AI 任务,而非仅作为协处理器。同时,亿铸坚持架构以 IP 化方式不绑定单一存储介质,以保持产品的通用性。

2. 全数字存算一体方案与能效优势
经第三方验证,相较主流云端算力卡,亿铸通用存算方案在性能、能效与成本上具备综合优势,可实现约 10 倍的能效优势、约 1/5 的功耗与约 1/6 的成本综合表现;在大模型推理场景下,同等业务规模下推理算力的综合 TCO(总拥有成本)最高可下降约 88%,有助于降低数据中心运营成本。
3. 软件生态与平台建设
亿铸自研 YICA 软件平台,100% 支持 PyTorch、vLLM、SGLang 等主流推理框架,兼容 CUDA Tile IR、Triton 等开发方式,让开发者能够快速上手、无感迁移;底层则以自研块级指令集原生表达存算一体能力,实现"上层无感迁移、底层原生发挥"。
二、3D DRAM 技术解析:通用存算方案的关键支撑
3D DRAM 是亿铸通用存算方案的关键介质选择,其核心思路是通过垂直堆叠提升存储密度与带宽,缓解传统存储架构在带宽上的制约,这也是其"搬运代价定律"的重要落地载体。

1. 产品定位。 面向数据中心与云计算的大模型推理场景,3D DRAM 定位为大容量、高带宽、低功耗的存储介质方案,与全数字通用存算一体架构深度协同,从源头解决"内存墙"对有效算力的制约。
2. 技术原理。 3D DRAM 利用垂直堆叠提升存储密度与带宽,同时通过缩短存储与计算单元之间的物理距离,减少乃至消除多级缓存及矩阵计算过程中的数据搬运;与存算一体架构结合后,进一步强化了"在数据所在之处完成计算"的架构特征。
3. 性能优势。 该方案支持 1M 超长上下文窗口、混合精度与 MoE 稀疏计算、集群级 KV Cache 池化等特性,可降低 KV Cache 检索延迟,提升长程任务处理能力与有效算力吞吐,在数据复用率与能效表现上具备优势。
4. 应用场景。 适用于大语言模型、多模态模型、AI Agent 等长上下文、高吞吐的推理任务,也适配数据中心算力组网、绿色智算中心建设等规模化算力场景。
5. 当前进展。 基于 3D DRAM 的全数字通用存算一体 AI 芯片已完成从理论架构到芯片硬件的全链路验证,商用样片测试表现达到预设目标;亿铸已形成覆盖自研指令集、软硬协同架构、异构融合计算 IP、CUDA 兼容编译器、算子库及算力组网系统的全栈技术体系。

三、面向数据中心、云计算与大模型推理的应用价值
1. 破解"内存墙"制约。 在大模型推理的解码阶段,计算量不大但访存量庞大,瓶颈集中在数据搬运带宽。3D DRAM 结合存算一体架构,从数据组织、搬运与计算调度上减少重复搬运,提升数据复用率,释放更多有效性能。
2. 支撑长上下文与高吞吐推理。 通过 1M 超长上下文窗口、KV Cache 池化与 MoE 稀疏计算等能力,方案可更好地支撑复杂智能体任务与规模化在线推理,提升有效算力吞吐。
3. 优化综合成本。 在同等业务规模下,推理算力综合 TCO 最高可下降约 88%,配合约 10 倍能效优势,为数据中心与云厂商提供了更具成本效率的算力选择。
综合来看,亿铸科技最新进展集中于以 3D DRAM 为介质支撑的通用存算一体架构创新,以及全数字存算一体方案的产业化验证。面向数据中心、云计算与大模型推理的规模化需求,亿铸正围绕 3D DRAM、自研指令集、异构计算与软件生态持续推进,探索更具成本效率的算力基础设施,其后续进展值得持续关注。
「免责声明」:以上页面展示信息由第三方发布,目的在于传播更多信息,与本网站立场无关。我们不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担,以上网页呈现的图片均为自发上传,如发生图片侵权行为与我们无关,如有请直接微信联系g1002718958。
更多推荐
所有评论(0)