1B和1G的大小基本一致，所以我们记作B和G相等。但是，1B模型参数对应多少G内存和参数的精度有关。如果是全精度训练(fp32)，一个参数对应32比特，也就是4个字节，参数换算到显存的时候要乘4，也就是1B模型参数对应4G显存。如果是fp16或者bf16就是乘2，1B模型参数对应2G显存。数据类型 每1B参数需要占用内存。

2个算法先跑一下.基本能拿到一个能看的结果. 速度都很快. 基本30秒内跑完.基本上来就用sklearn的随机森林, 和xgboost库.然后再考虑其他的特征工程, 深度学习等等..

【代码】大模型结构化输出json, 最新方法更方便。

【代码】大模型量化版本。

【代码】免费智普大模型调用。

【代码】langchain框架 日志记录大模型输入输出。

【代码】大模型json输出的系统提示词。

服务器显卡比较紧张所以这里gpus设置为0。

可以做任务领取五千万token的api调用.还可以用升腾910b微调模型.

https://yiyibooks.cn/arxiv/2412.03104v3/index.html