logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

本体论(Ontology)的重启

本体论在AI中作为知识的“骨架”,通过定义概念、属性与关系,解决大模型的“幻觉”、推理不可解释、私有数据孤岛及智能体任务执行等问题。结合大模型与本体论的神经符号AI,融合了感性认知与理性规则,正成为通向通用人工智能的关键路径。

#人工智能#知识图谱
解构非 GPU 算力平台的大模型推理之困:华为昇腾 910 承载 MoE 与多模态服务的现场研究

香港中文大学发布研究报告探讨了在华为昇腾(Huawei Ascend) 平台上部署大型混合专家模型(MoE) 和多模态模型 推理任务的实际挑战。尽管该平台可作为传统GPU的替代方案,但研究指出其软件栈成熟度不足,在运行复杂工作负载时存在算子覆盖缺失、并行机制脆弱以及低层内核故障等显著局限。作者记录了为了维持系统正常运行而必须进行的源码级修补与功能限制,并详细分析了硬件在大规模推理中的性能瓶颈。报告

#人工智能#深度学习#华为
不学新本领,只做对选择:ReasonMaxxer 揭示大模型推理的“无强化学习”新范式

南加州大学(University of Southern California, USC)和美国陆军研究实验室(DEVCOM Army Research Laboratory, DEVCOM ARL)联合研究指出,的本质并非让模型习得新技能,而是。通过对不同模型及其RL算法的令牌级分析,研究发现RL仅修改了约,且这些修改精准集中在上。通过仅针对这些特定位置进行微调,模型能够以找回RL带来的大部分性

#人工智能#算法#机器学习 +1
锁不住的“内心戏”:大模型加密推理独白的重放漏洞与安全反噬

大型语言模型(LLM)API中存在的一项重大架构漏洞,即加密推理痕迹在不同会话、用户及同一供应商的模型间具有全兼容性。攻击者利用这种兼容性,将强力模型的加密推理块注入到防御较弱的廉价模型中,从而强制其以明文形式解码并提取核心推理过程。这种被称为“推理窃取”的手段不仅能规避知识产权保护,导致专有技术的模型蒸馏,还可能诱发严重的隐私泄露。通过对公开日志的抓取,研究人员成功还原了大量敏感个人信息和API

#人工智能#安全#网络
困在局部最优的“自我改良”:AI后训练的策略路径依赖与能力天花板

研究报告通过对**大规模LLM后训练轨迹**的实证分析,揭示了AI智能体在自动化研发中的关键瓶颈。研究者将能力划分为**执行层面**与**策略层面**,发现智能体虽然擅长编写代码、调试和优化超参数,但其高层训练策略往往在项目初期便已**固化**。即便引入了**实验记录**、**外部知识库**以及**人工引导**等干预措施,智能体依然倾向于在错误或低效的初始路径上进行局部微调,而非根据实验反馈主动重

#人工智能
解构非 GPU 算力平台的大模型推理之困:华为昇腾 910 承载 MoE 与多模态服务的现场研究

香港中文大学发布研究报告探讨了在华为昇腾(Huawei Ascend) 平台上部署大型混合专家模型(MoE) 和多模态模型 推理任务的实际挑战。尽管该平台可作为传统GPU的替代方案,但研究指出其软件栈成熟度不足,在运行复杂工作负载时存在算子覆盖缺失、并行机制脆弱以及低层内核故障等显著局限。作者记录了为了维持系统正常运行而必须进行的源码级修补与功能限制,并详细分析了硬件在大规模推理中的性能瓶颈。报告

#人工智能#深度学习#华为
解构非 GPU 算力平台的大模型推理之困:华为昇腾 910 承载 MoE 与多模态服务的现场研究

香港中文大学发布研究报告探讨了在华为昇腾(Huawei Ascend) 平台上部署大型混合专家模型(MoE) 和多模态模型 推理任务的实际挑战。尽管该平台可作为传统GPU的替代方案,但研究指出其软件栈成熟度不足,在运行复杂工作负载时存在算子覆盖缺失、并行机制脆弱以及低层内核故障等显著局限。作者记录了为了维持系统正常运行而必须进行的源码级修补与功能限制,并详细分析了硬件在大规模推理中的性能瓶颈。报告

#人工智能#深度学习#华为
破壁与重构:hls4ml 如何跨越软硬件鸿沟,开启FPGA深度学习新时代

是一个开源的软件平台,旨在将复杂的自动化转化为可部署在或硬件上的高效代码。该工具通过其支持 PyTorch 和 TensorFlow 等主流框架,并兼容 AMD、Intel 及 Siemens 等多家厂商的硬件编译器。它特别针对科学研究和工业应用中对、低功耗及有限资源的需求进行了深度优化。平台集成了和等协同设计技术,显著降低了硬件占用并提升了推理速度。目前,该工具已广泛应用于、自动驾驶、量子计算及

#重构#fpga开发#深度学习
到底了