logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从UndefinedMetricWarning: Recall is ill-defined and being set to 0.0 due to no true samples推测更佳指标计算方式

文章摘要:在处理样本不平衡数据集时,评估指标计算方式会影响结果准确性。常见问题是当批次中全是负样本时,会导致召回率分母为0而无法计算。研究发现两种计算方式存在差异:1)先计算批次指标再求均值时,遇到除0异常会导致整体指标偏低;2)先累积所有预测结果再计算指标则不受影响。文中通过示例展示了两种方法的结果差异(0.67 vs 0.5),并指出精确度计算也会遇到类似问题。建议采用先累积后计算的方式,或设

#深度学习
自定义 BERT 分类模型时,由于未使用 pooler 层导致的分布式训练梯度同步失败问题解决方法

摘要: 在使用分布式数据并行(DDP)训练BERT模型时出现梯度同步错误,原因是模型最后一层参数未被使用。该问题源于代码直接取倒数第二层的[CLS]标记作为输出,导致最后一层参数不参与loss计算而缺乏梯度。解决方法是在DDP包装模型时设置find_unused_parameters=True参数,使框架自动跳过未使用的参数。该解决方案可确保梯度同步正常进行,同时保持模型原有的功能实现。(146字

#bert#分类#人工智能
在企业微信中配置聊天机器人使它调用本地部署的大模型接口

说明:本示例采用的后端框架是 Python 的 FastAPI。个人主体的第三方应用的回调,ReceiveId是一个空字符串。第三方事件的回调,表示suiteid。注意:需要下载一个库,它用于加密解密。企业应用的回调,表示corpid。

文章图片
#机器人
外网中转服务器下的内网 nginx 配置

内网里有一个 GPU 服务器,因为比较昂贵,不能在公网开放任何端口,只有开启了 VPN 才可以在内网访问它的所有端口。但是又希望这个主机上部署的大模型向外提供服务,因此设置了一个。,内外网两个服务器做了 ip 映射,外网中转服务器开放了网站的前后端两个端口仅此而已。此时,访问外网的端口,等同于通过 VPN 访问了内网服务器对应端口。

#服务器#nginx#运维
VS Code 终端无法激活 conda 或 pdm 环境,始终进入系统默认的 python 解释器中

摘要:在zsh配置中,重复添加/usr/local/bin到PATH环境变量会导致Python环境选择问题。建议注释掉~/.zshrc中的export PATH=$PATH:/usr/local/bin,因该路径已默认存在。环境变量优先级从左到右,可通过临时修改或编辑配置文件调整路径顺序。当前环境变量可通过echo $PATH查看,注意路径重复问题可能源于未知配置。

#conda#python#git
外网中转服务器下的内网 nginx 配置

内网里有一个 GPU 服务器,因为比较昂贵,不能在公网开放任何端口,只有开启了 VPN 才可以在内网访问它的所有端口。但是又希望这个主机上部署的大模型向外提供服务,因此设置了一个。,内外网两个服务器做了 ip 映射,外网中转服务器开放了网站的前后端两个端口仅此而已。此时,访问外网的端口,等同于通过 VPN 访问了内网服务器对应端口。

#服务器#nginx#运维
在企业微信中配置聊天机器人使它调用本地部署的大模型接口

说明:本示例采用的后端框架是 Python 的 FastAPI。个人主体的第三方应用的回调,ReceiveId是一个空字符串。第三方事件的回调,表示suiteid。注意:需要下载一个库,它用于加密解密。企业应用的回调,表示corpid。

文章图片
#机器人
在企业微信中配置聊天机器人使它调用本地部署的大模型接口

说明:本示例采用的后端框架是 Python 的 FastAPI。个人主体的第三方应用的回调,ReceiveId是一个空字符串。第三方事件的回调,表示suiteid。注意:需要下载一个库,它用于加密解密。企业应用的回调,表示corpid。

文章图片
#机器人
在企业微信中配置聊天机器人使它调用本地部署的大模型接口

说明:本示例采用的后端框架是 Python 的 FastAPI。个人主体的第三方应用的回调,ReceiveId是一个空字符串。第三方事件的回调,表示suiteid。注意:需要下载一个库,它用于加密解密。企业应用的回调,表示corpid。

文章图片
#机器人
在企业微信中配置聊天机器人使它调用本地部署的大模型接口

说明:本示例采用的后端框架是 Python 的 FastAPI。个人主体的第三方应用的回调,ReceiveId是一个空字符串。第三方事件的回调,表示suiteid。注意:需要下载一个库,它用于加密解密。企业应用的回调,表示corpid。

文章图片
#机器人
到底了