logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

paddle-gpu是否可用

在.bashrc 文件里加上。

文章图片
#paddle
windows ssh连接linux系统

3、复制公钥文本内容添加到服务器端.shh目录下的authorized_keys中。2、即可生成公私钥于C:\Users\Administrator.ssh目录下。4、修改本地.ssh目录下的config文件 ,如下。1、在本机terminal生成公钥私钥文件。下面步骤可实现不用密码快捷连接。5、再次链接时直接输入。

文章图片
#linux#windows#ssh
LoRA微调技术文档

LoRA(Low-Rank Adaptation)是一种适用于预训练模型的微调方法,旨在通过自适应的低秩参数学习,提高模型在特定任务上的性能。LoRA 技术可以应用于各种自然语言处理(NLP)任务,如文本分类、命名实体识别、语义分割等。

文章图片
#人工智能#深度学习#机器学习
表示崩塌(representation collapse)

表示崩塌(representation collapse)是自监督学习,特别是对比学习中的一个关键问题。

#人工智能
BERT推理显存爆满?7个实用技巧教你快速优化!显存优化的最佳实践指南

即使是在推理阶段,也可以将输入数据分成较小的批次(batch),这样每次推理只处理较少的数据,从而减少显存占用。具体来说可以减小 batch size,逐步降低直到显存能够容纳。BERT 的显存占用与输入序列的长度直接相关。可以尝试裁剪输入文本,使得序列长度减少。特别是对很长的文本,可以设置合理的最大长度(如128或256),从而减少计算需求。虽然主要用于训练,但在推理时可以通过减少内存开销来节省

文章图片
#bert#人工智能#深度学习
ROUGE指标介绍

ROUGE(Recall-Oriented Understudy for Gisting Evaluation,面向提要评估的召回导向替工)是一组用于评估摘要质量的指标。通过将生成的摘要与参考摘要进行比较,ROUGE可以衡量自动摘要系统的性能,特别在自然语言处理领域中非常受欢迎。

#人工智能
tokenizer.apply_chat_template 用法

是 Hugging Face Transformers 库中的一个方法,用于将一系列聊天消息格式化为模型所需的输入字符串。方法的主要作用是确保输入格式与模型训练时的格式一致。这对于模型的性能至关重要,因为不一致的输入格式可能导致性能下降。属性,将聊天消息格式化为模型所需的输入格式,以确保模型能够正确理解和处理输入的聊天内容。需要注意的是,在较新的 Transformers 版本中,属性,将上述聊天

文章图片
#java#前端#服务器
linux虚拟机共享文件建立及找不到共享文件夹解决

【代码】linux虚拟机共享文件建立及找不到共享文件夹解决。

文章图片
#linux#运维#服务器
到底了