logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

多模态大模型轻量化

当这些模态经过同一层时,主导模态的大幅激活值会主导平滑因子的计算,导致非主导模态的激活被过度平滑(信号被压制),引发严重的量化误差。回顾了PTQ在LLMs中的常用方法:RTN(四舍五入)、AWQ(激活感知权重量化)、GPTQ(基于二阶近似的层重建)、SmoothQuant(平衡激活与权重的范围)。后训练量化(PTQ)是一种有效的加速技术,可以降低内存占用并加速推理。简单地为每个模态计算独立的平滑因

#人工智能#网络#前端
多模态大模型轻量化

当这些模态经过同一层时,主导模态的大幅激活值会主导平滑因子的计算,导致非主导模态的激活被过度平滑(信号被压制),引发严重的量化误差。回顾了PTQ在LLMs中的常用方法:RTN(四舍五入)、AWQ(激活感知权重量化)、GPTQ(基于二阶近似的层重建)、SmoothQuant(平衡激活与权重的范围)。后训练量化(PTQ)是一种有效的加速技术,可以降低内存占用并加速推理。简单地为每个模态计算独立的平滑因

#人工智能#网络#前端
2023蓝桥杯真题c++省A

比赛的时候,脑袋要清晰一点,当时写幸运数这道题都感觉没在用脑子思考,花了特别多时间。

文章图片
#蓝桥杯#c++#算法
visual studio 2022 上传c++项目至github

点击visual studio 右下方的添加到,再点击GIT。

文章图片
#github#vscode#ide
c++第10章·泛型程序设计与c++标准模板库

泛型程序设计的基本概念类型T必须具备3个功能:1.类型T的变量之间能够比较大小2.类型T必须具有公有的复制构造函数3.类型T的变量之间可以用 = 赋值概念、模型容器顺序容器将一组具有相同类型的元素以严格的线性形式组织起来vectordeque(类似queue,但是可以在队列头增加元素,队列尾删除元素。deque 容器中存储元素并不能保证所有元素都存储到连续的内存空间中)list关联容器set、mu

文章图片
#c++
将个人项目从github desktop上传至github

将之前的项目提交到github上创建仓库填写仓库信息打开编辑器导入项目文件将项目文件添加至更改中直接拖拽到相应区域即可暂存更改commitPublishPublish repository

文章图片
#github#git
github(desktop)使用教程(三) 【保姆级】{desktop tutorial repository,创建分支,编辑文件,保存修改,commit,publish to github}

此篇详解如何用github desktop创建一个仓库首先点击creat a tutorial(指导性的) repository成功后的界面(这里我试过几次才成功,如果出现问题就仔细阅读错误提示,然后操作,再继续尝试),点击箭头指示的部分创建分支点击new branch,创建一个分支(这里为了演示,我创建了test分支)编辑文件按照右侧提示进行下一步——编辑文件,点击open editor,使用另

文章图片
#github#git
github·使用教程(一)【保姆级】{创建仓库,创建分支作出更改和commit,pull request,merge pull request}

初识github刚开始接触,完全不会用,连最基本操作都不会的小白。看了网络上一些教程,但是仍然不是很清晰(仍然懵逼){如果你也是这样,你可以认真阅读我的文章,我从纯小白开始不断摸索}创建仓库虽然其他的,我都不会,但先从这一步开始吧,一步一步来。关于创建仓库首先,左上角(new repository)进入如下界面repository name——仓库名字Description——关于这个仓库的一些简

文章图片
#github
github使用教程(二)【保姆级】{github desktop教程,github desktop的安装和配置}

下载github desktop下载github desktop(不选择Git,因为这个对于我这个初学者还有点复杂)官方下载地址:GitHub Desktop | Simple collaboration from your desktopgithub desktop setup点击这个程序,登录你的github账号即可下载Git因为使用github desktop必须要下载并配置Git才行Git

文章图片
#github
ERNIE 5.0 Technical Report论文解读

本报告介绍——一款原生自回归基座模型,专为文本、图像、视频与音频的统一多模态理解与生成而设计。模型基于与,所有模态以统一的目标从零开始联合训练。为解决多样化资源约束下的规模化落地难题,ERNIE 5.0采用创新的:单次预训练即可习得一组具备不同深度、专家容量与路由稀疏度的子模型,可在内存或时延受限场景下,灵活实现性能、模型规模与推理时延的权衡。此外,我们系统性攻克了强化学习在统一基座模型上的规模化

#kotlin#开发语言#android +2
    共 17 条
  • 1
  • 2
  • 请选择