logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

如何搭建一个属于自己的本地大模型

在根目录下,创建\models\publisher\Repository路径,将gguf后缀的模型放置到路径下,即可在LMStudis工具看到我们的模型。downloads.json会出现一条下载记录,下载记录中配置的地址为huggingface.co,我们全部替换为hf-mirror.com。是是最近非常火爆的一个人工智能社区,里面有海量的开源大模型。今天我用最通俗的方式带领大家尝试在本地搭建起

文章图片
#语言模型#经验分享#人工智能
大模型命名中的B是什么意思

字母"B"通常代表“Billion”,即“十亿”。这是模型训练中所使用到参数的数量。例如,GPT-3模型有175B个参数,这里的“175B”就是表示该模型有1750亿个参数。参数越多,代表模型训练的越复杂,模型的能力也就越强。通常1B,意味着需要1G以上的内存,7B需要8G以上的内存才能成功运行大模型。

#语言模型#经验分享#人工智能
大模型命名中的B是什么意思

字母"B"通常代表“Billion”,即“十亿”。这是模型训练中所使用到参数的数量。例如,GPT-3模型有175B个参数,这里的“175B”就是表示该模型有1750亿个参数。参数越多,代表模型训练的越复杂,模型的能力也就越强。通常1B,意味着需要1G以上的内存,7B需要8G以上的内存才能成功运行大模型。

#语言模型#经验分享#人工智能
huggingface.co大模型无法下载

downloads.json会出现一条下载记录,下载记录中配置的地址为huggingface.co,我们全部替换为hf-mirror.com。

#代理模式
大模型命名中的B是什么意思

字母"B"通常代表“Billion”,即“十亿”。这是模型训练中所使用到参数的数量。例如,GPT-3模型有175B个参数,这里的“175B”就是表示该模型有1750亿个参数。参数越多,代表模型训练的越复杂,模型的能力也就越强。通常1B,意味着需要1G以上的内存,7B需要8G以上的内存才能成功运行大模型。

#语言模型#经验分享#人工智能
到底了