logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型训练评估参数设置

这个错误表明你设置了 metric_for_best_model="eval_accuracy" ,但在评估过程中并没有计算 accuracy 指标。可用的评估指标只有: ['eval_loss', 'eval_runtime', 'eval_samples_per_second', 'eval_steps_per_second', 'epoch']。

#python#深度学习#人工智能
ollama的若干实践

方法 1:手动检查最新版本并下载 访问 Ollama 的 GitHub Releases 页面:打开方法 2:使用官方安装脚本(推荐该脚本会自动检测系统架构并下载最新版本 安装完成后,运行 ollama pull llama3 测试方法 3:使用 AppImage(免安装)如果仍然无法下载,可以直接使用安装完成后查看ollama版本。

文章图片
#AIGC
lobechat调用ollama模型,服务连接失败

如果ollama服务中没有可用的模型,需要ollama run加载模型。

#服务器#运维
vllm推理实践

报错:仍然报GPU内存不足。可以获得输出结果:完整代码2. vllm的chat模式推理报错如下:分析问题:修复1:使用 tokenizer.apply_chat_template 转换 messages将改为:成功输出:修复2:直接构造字符串 prompt(手动模板)将:改为:输出:

#java#前端#服务器
嵌入式Qtwebkit移植

具体步骤如下:1、下载源码包,包名为:Qtlibraries 4.8.5 for Linux/X11 (230 MB),下载路径如下:http://qt-project.org/downloads2、解压将压缩包拷贝到 linux 系统中的任意目录下,然后进行解压,解压命令:tar -zxvf qt-ever

hugging face与modelscope下载模型与数据

方法1:使用 --cache-dir 指定下载目录方法2:使用 --local-dir 指定下载目录。

#人工智能
excel中文显示乱码

问题描述:linux系统生成的utf8编码的excel在linux系统下的windows虚拟机中显示正常,但在windows系统中就出现了乱码,如下:分析问题:实验1:改为ANSI编码实验2:改为大端编码实验3:改为utf8编码转换前后没有不同。修改字符集后:修改字符集后编码如上更加乱了。实验4:对ex...

到底了