H1会场内，蹦跶着各种尺寸各种形态的机器人，宇树科技的机器狗翻着跟头到处卖萌，逐际动力双足机器人摇头晃脑到处溜达，达闼的美人鱼机器人翩翩起舞，穹彻智能的机械臂在叠衣服、削黄瓜。今年模型层的入场券已经从万卡集群向着十万卡集群演进，但迭代速度依然不如人意，GPT-4发布一年多，GPT-5迟迟不能面世，Sora从现货变成期货，应用落地仅能稍稍提效，远达不到重塑商业模式的效果。据智能超参数统计，截止8月底

H1会场内，蹦跶着各种尺寸各种形态的机器人，宇树科技的机器狗翻着跟头到处卖萌，逐际动力双足机器人摇头晃脑到处溜达，达闼的美人鱼机器人翩翩起舞，穹彻智能的机械臂在叠衣服、削黄瓜。今年模型层的入场券已经从万卡集群向着十万卡集群演进，但迭代速度依然不如人意，GPT-4发布一年多，GPT-5迟迟不能面世，Sora从现货变成期货，应用落地仅能稍稍提效，远达不到重塑商业模式的效果。据智能超参数统计，截止8月底

论文：https://arxiv.org/pdf/2403.14608大模型能力不断增强，同时参数也在不断加大。受限于计算资源，传统的全参数微调方法可能会显得力不从心，因此需要探索更高效的微调策略，此时参数高效微调（PEFT）技术应运而生。PEFT 提供了一个高效的针对预训练模型的下游任务适配手段，其通过固定大部分预训练参数并微调极少数参数，让大模型轻装上阵，迅速适配各种下游任务，让大模型变得不再