在对lora参数做merge的时候报错大概率是版本没有不对。

1.动态学习率global_step=tf.Variable(0,trainable=False)# 动态变化的学习轮数，初始值为0,且过程中不可被训练learning_rate=tf.compat.v1.train.exponential_decay(0.45,global_step,10,0.96)# 动态学习速率# 初始值0.45，每10轮调整一次，每次乘以0.962.调整优化器cross_

最近在艰难的啃食机器学习，没有什么基础，又想把每一句都弄懂，这里和大家分享下，中间有一部分因为版本不同（小白用的3.0，书上好像2.0），已经做了修正。还留有一些疑问没有想明白，希望可以和大家交流下：1）书上的plotTree.totalW=float(getNumLeafs(inTree))作为全局变量使用，但是我的程序识别不出来它是全局变量，所以我的办法是在plotTree中又重新定义了一遍p

大模型训练策略

解说了caffe、tensorflow、paddle深度学习框架