
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
前端请求超时截断,axios timeout设置未生效情况记录
前端请求超时截断,axios timeout设置未生效情况记录

linux 大文件/文件夹传输工具
scp、rsync 文件传输

大模型部署之GPU查询及切换
1、查询当前机器GPU使用情况。

codellama模型部署(待补充)
Code Llama 是一个基于的大型代码语言模型系列,在开放模型、填充功能、对大输入上下文的支持以及编程任务的零样本指令跟踪能力中提供最先进的性能。我们提供多种风格来覆盖广泛的应用程序:基础模型 (Code Llama)、Python 专业化 (Code Llama - Python) 和指令跟随模型 (Code Llama - Instruct),每个模型都有 7B、13B 和 34B 参数。

大模型部署避坑指南--OSError: Unable to load weights from pytorch checkpoint file for
If you tried to load a PyTorch model from a TF 2.0 checkpoint, please set from_tf=True.

大模型部署避坑指南之: undefined symbol: cublasLtGetStatusString,version libcublasLt.so.11
大模型部署避坑指南之: undefined symbol: cublasLtGetStatusString,version libcublasLt.so.11

如何写prompt?prompt收集
看到优秀的 prompt 都好想试试效果,暂时做个记录📝,等有时间做个效果对比💪。
一个简答的意图识别Agent
【代码】一个简答的意图识别Agent。
大模型部署之GPU查询及切换
1、查询当前机器GPU使用情况。








