logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

pandas:dropna()

对于DataFrame:data.dropna()#默认删除包含缺失值的行data.dropna(how = 'all')# 传入这个参数后将只丢弃全为缺失值的那些行data.dropna(axis = 1)# 丢弃有缺失值的列(一般不会这么做,这样会删掉一个特征)data.dropna(axis=1,how="all")# 丢弃全为缺失值的那些列data...

pytorch Bert模型冻结指定层参数进行训练

由于bert模型具有12层,参数量达一亿,bert模型做微调有的时候就需要只训练部分参数,那么就需要把其他的参数冻结掉,固定住,又能微调bert模型,还能提高模型训练的效率。这个就需要用到parameter的requires_grad的属性,来冻结和放开参数。首先我们看看bert模型的具体参数有那些:bert.embeddings.word_embeddings.weight torch.Size

#pytorch#bert#自然语言处理
到底了