logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

昇腾与昇思原生,助力智谱打造自主创新大模型体系!

CodeGeeX4在训练过程中,调用昇腾原生的融合算子,利用昇思MindSpore AI框架的提供的多维混合分布式并行能力,通过对流水交织并行、tensor模型并行的优化,解决内存瓶颈、降低计算空泡、提升通信效率,实现“计算、网络、存储”协同优化,对比同等规模参数的模型,训练效率20%提升,加速模型的迭代创新。其中,代码生成大模型CodeGeeX4的新版本基于昇腾AI与昇思AI框架训练,依托昇腾与

文章图片
#人工智能#深度学习
华为中国合作伙伴大会 | 基于昇思MindSpore打造的CodeGeeX邀你现场自动编程

比如,CodeGeeX团队发现矩阵乘法的计算时间占比仅为22.9%,大量时间被用于各类其它算子,因此实现了一系列算子融合,包括单元素算子融合、层归一化算子融合、FastGelu与矩阵乘法融合、批量矩阵乘法与加法融合等;作为昇腾AI生态中的一员,基于昇思MindSpore AI框架打造的CodeGeeX将展示AI辅助编程,现场可体验CodeGeeX的核心3大功能:代码生成与智能补全、代码解释、代码翻

文章图片
#人工智能
周六开讲!昇思技术公开课大模型专题·第六讲代码预训练课程预告

代码大模型被认为是ChatGPT的重要构成部分,通过代码预训练能过在代码生成,补全能力外,提高模型的逻辑推理能力。清华大学知识工程实验室研发的CodeGeeX大模型是国内唯一基于全国产软硬件平台的代码大模型,基于昇腾+MindSpore实现了不逊于国外代码大模型的能力,想要了解更多代码大模型的知识,记得本周六。我们邀请到了来自清华大学知识工程实验室,同时是代码生成模型CodeGeeX主要作者之一的

文章图片
#人工智能
2023年度总结|昇思MindSpore开源社区携手产业伙伴和开发者,使能百模千态,繁荣生态

上线问界M9,支撑小艺实现全车免唤醒,听声识人;在原生支持大模型领域,基于昇思MindSpore孵化、支持的重磅大模型超过30个,包括华为云盘古大模型3.0、中科院自动化所紫东太初2.0全模态大模型、面壁智能CPM-Bee、智谱AI CodeGeex大模型、云从科技从容大模型等领先成果,部分大模型已经在金融、制造等行业发挥重要价值。昇思MindSpore开源社区联合南方电网人工智能基础设施运营中心

文章图片
#开源
运用物理信息神经网络求解流体力学方程

Navier-Stokes方程,作为流体力学中最有名的方程,是计算流体力学中最亟待解决的问题。在大多数情况下,Navier-Stokes方程都没有理论解析解,因此数值解成为解析流体问题的主要手段。在过去的几十年中,随着计算机技术和硬件的发展,计算流体力学也取得了巨大的进步。但是仍然有相当多的流体场景无法直接通过数值模拟计算得到,例如高雷诺数的湍流场景,复杂边界系统,多相流动等。因此现在有很多科学家

文章图片
#神经网络#算法#人工智能
6小时完成Llama 3.1-8B适配并开源!MindSpore Transformers大模型套件使能开发者创新

大模型开发套件MindSpore Transformers基于MindSpore内置的并行技术和组件化设计,构建了大模型训练、微调、评估、推理、部署的全流程开发套件,支持业内主流的Transformer类预训练模型和SOTA下游任务应用,可以帮助用户轻松的实现大模型训练和创新研发。推理部署上,代码拉取、权重下载、权重转换步骤与微调一致,实现权重一键转换,推理结果显示,基于MindSpore Tra

文章图片
#深度学习#人工智能#算法
技术干货 | 一文弄懂差分隐私原理!

图1 随机算法在邻近数据集上的概率差分隐私有两个重要的优点:差分隐私假设攻击者能够获得除目标记录以外的所有其他记录信息,这些信息的总和可以理解为攻击者能够掌握的最大背景知识,在这个强大的假设下,差分隐私保护无需考虑攻击者所拥有的任何可能的背景知识。差分隐私建立在严格的数学定义上,提供了可量化评估的方法。因此差分隐私保护技术是一种公认的较为严格和健壮的隐私保护机制。

文章图片
#人工智能#算法#神经网络
技术干货 | AlphaFold/ RoseTTAFold开源复现(1)—推理复现

最近AlphaFold开源,比较火,项目组也尝试进行复现,有些经验给大家分享一下,包括推理复现、训练复现、分布式训练复现等,今天先介绍一下推理的复现。蛋白质结构预测背景与问题描述蛋白质几乎参与所有生命现象,从催化化学反应的酶、到对抗病毒的抗体、以及作为信号物质的胰岛素。决定蛋白质功能的是由氨基酸序列折叠形成三维结构,各种蛋白质相互结合从而去影响生命现象。因此有“序列决定结构,结构决定功能”的说法。

文章图片
#人工智能#机器学习#深度学习
MindSpore Quantum量子计算深圳聚会 诚邀您参加,名额有限,在校学生优先,速来报名!

等内容,诚邀各位老师和学生莅临现场,一起深入交流和探讨最前沿的量子技术,感受课堂以外的量子编程体验和乐趣!o 如果你是一位对开源社区充满热情的开发者,我们会帮你完成第一个社区PR的提交。o 如果你是一位想要接触量子计算的极客,我们给你提供软硬结合的必备知识。o 如果你是一位关注最新技术的量子爱好者,我们带你了解前沿的技术成果。在南方科技大学举行。

文章图片
#量子计算
社区月报 | 基于昇思MindSpore的昆仑万维Skywork-13B正式开源,“空天•灵眸 时空预测”基础模型正式上线

在人工智能分论坛,昇思MindSpore工程师钟源珂分享了昇思MindSpore开源创新实践及昇思大模型平台架构设计,昇思MindSpore将持续秉承“开发者第一,技术优先”开源理念,与开发者、伙伴共建AI框架开源新生态,打造人工智能的创新之源。截至10月底,昇思MindSpore面向全球开发者,凝聚产业力量,持续打造人工智能创新之源。,未来,昇思MindSpore AI框架将持续致力于打造人工智

文章图片
#开源
    共 299 条
  • 1
  • 2
  • 3
  • 30
  • 请选择